Valores propios y resolución de un sistema dependiente de parámetro

Apartado a) [1,75 puntos] Determina los valores de $m$ para los que el sistema es compatible indeterminado. El sistema $$A\,X=mX$$ es equivalente a $$(A-mI)X=0,$$ donde $$A=\begin{pmatrix}5&-2&-3\\2&0&-2\\3&-2&-1\end{pmatrix},\quad X=\begin{pmatrix}x\\y\\z\end{pmatrix}.$$ Un sistema homogéneo es **compatible indeterminado** (tiene infinitas soluciones no nulas) cuando $$\det(A-mI)=0.$$

Apartado a) [1,75 puntos] Determina los valores de $m$ para los que el sistema es compatible indeterminado. Calculamos $$A-mI=\begin{pmatrix}5-m&-2&-3\\2&-m&-2\\3&-2&-1-m\end{pmatrix}.$$ Su determinante (desarrollando por la primera fila) es: $$\begin{align*} \det(A-mI)&=(5-m)\begin{vmatrix}-m&-2\\-2&-1-m\end{vmatrix}-(-2)\begin{vmatrix}2&-2\\3&-1-m\end{vmatrix}+(-3)\begin{vmatrix}2&-m\\3&-2\end{vmatrix}\\ &=(5-m)\bigl(m(m+1)-4\bigr)+2(4-2m)+(-3)(-4+3m). \end{align*}$$ Simplificando: $$(5-m)(m^2+m-4)+(8-4m)+(12-9m)$$ $$=(5-m)(m^2+m-4)+20-13m.$$ Ahora expandimos: $$(5-m)(m^2+m-4)=5(m^2+m-4)-m(m^2+m-4)$$ $$=5m^2+5m-20-(m^3+m^2-4m)=-m^3+4m^2+9m-20.$$ Sumando $20-13m$: $$\det(A-mI)=-m^3+4m^2-4m=-m(m^2-4m+4)=-m(m-2)^2.$$ Entonces: $$\det(A-mI)=0\iff -m(m-2)^2=0\iff m=0 \text{ o } m=2.$$ Conclusión: **$m=0$ o $m=2$**.

Apartado b) [0,75 puntos] Para $m=2$ resuelve el sistema, si es posible. Tomamos $m=2$: $$(A-2I)X=0,$$ con $$A-2I=\begin{pmatrix}3&-2&-3\\2&-2&-2\\3&-2&-3\end{pmatrix}.$$ El sistema es: $$\begin{cases} 3x-2y-3z=0,\\ 2x-2y-2z=0,\\ 3x-2y-3z=0. \end{cases}$$ La primera y la tercera ecuación son iguales. Simplificamos la segunda dividiendo por 2: $$x-y-z=0\Rightarrow x=y+z.$$ Sustituimos en la primera: $$3(y+z)-2y-3z=0\Rightarrow (3y-2y)+(3z-3z)=0\Rightarrow y=0.$$ Entonces $x=z$. Soluciones: $$\boxed{(x,y,z)=(t,0,t),\quad t\in\mathbb{R}.}$$ (Para una solución no nula, basta tomar $t\ne 0$.)