Ayuda, no se cómo hacerlo

Observa que tienes un sisema con tres ecuaciones lineales y de primer grado, con tres incógnitas.

a)

Planteas la expresión del determinante del sistema (recuerda que sus elementos son los coeficientes que multiplican a las incógnitas), y queda:

D =

1 ............ 1 ............ 1

1 ............ k ............ 1 

k ............ 0 ........... -3,

a continuación desarrollas este determinante (nosotros lo hacemos según su primera fila), y queda:

D = 1*(k*(-3) - 1*0) - 1*(1*(-3) - 1*k) + 1*(1*0 - k*k),

ahora resuelves expresiones en los términos, distribuyes en el segundo término, y queda:

D = -3*k + 3 + k - k²,

aquí reduces términos semejantes, ordenas términos, y queda:

D = -k² - 2*k + 3;

luego, planteas la condición para las raíces de este determinante, por lo que igualas a cero y queda:

-k² - 2*k + 3 = 0,

que es una ecuación polinómica cuadrática, cuyas soluciones son:

k₁ = 1,

k₂ = -3.

Luego, para valores del parámetro "k" que sean distintos de 1 y también de -3, tienes que el sistema es compatible determinado y admite solución única.

Luego, pasas a estudiar el sistema para cada uno de los dos valores remarcados, que son las raíces del determinante del sistema, por medio de Método de Gauss.

1)

Planteas la expresión de la matriz ampliada para k₁ = 1, y queda:

1 ............ 1 ............ 1 ................ 3

1 ............ 1 ............ 1 ................ 3

1 ............ 0 ........... -3 ................ 6, 

a continuación a la segunda fila le restas la primera, a la tercera fila le restas la primera, y queda:

1 ............ 1 ............ 1 ................ 3 

0 ............ 0 ............ 0 ................ 0

0 ........... -1 ........... -4 ................ 3,

aqui multiplicas por -1 en la tercera fila, a continuación permutas las dos últimas filas, y queda:

1 ............ 1 ............ 1 ................ 3 

0 ............ 1 ............ 4 ............... -3

0 ............ 0 ............ 0 ................ 0,

a continuación a la primera fila le restas la segunda, y qeuda:

1 ............ 0 ........... -3 ................ 6

0 ............ 1 ............ 4 ............... -3 

0 ............ 0 ............ 0 ................ 0, 

que es la matriz ampliada reducida y escalonada equivalente por filas, por lo que planteas el sistema de ecuaciones equivalente y queda (observa que cancelamos términos nulos):

x - 3z = 6, y de aquí despejas: x = 6 + 3z,

y + 4z = -3, y de aquí despejas: y = -3 - 4z,

0 = 0, que es una Igualdad Verdadera, 

por lo que puedes concluir que el sistema es Compatible Indeterminado, y que la expresión general de sus infinitas soluciones es:

x = 6 + 3z,

y = -3 - 4z,

z ∈ R;

2)

Planteas la expresión de la matriz ampliada para k₂ = -3, y queda:

.1 ............ 1 ............ 1 ................ 3

.1 ........... -3 ............ 1 ................ 3

-3 ............ 0 ........... -3 ................ 6, 

aquí divides en la tercera fila por -3, y queda:

1 ............ 1 ............ 1 ................ 3 

1 ........... -3 ............ 1 ................ 3 

1 ............ 0 ............ 1 ............... -2  

a continuación a la segunda fila le restas la primera, a la tercera fila le restas la primera, y queda:

1 ............ 1 ............ 1 ................ 3 

0 ........... -4 ............ 0 ................ 0

0 ........... -1 ............ 0 ............... -5,

aqui divides por -4 en la segunda fila, multiplicas por -1 en la tercera fila, y queda:

1 ............ 1 ............ 1 ................ 3 

0 ............ 1 ............ 0 ................ 0

0 ............ 1 ............ 0 ................ 5,

a continuación a la primera fila le restas la segunda, a la tercera fila le restas la segunda, y queda:

1 ............ 0 ............ 1 ................ 3

0 ............ 1 ............ 0 ................ 0 

0 ............ 0 ............ 0 ................ 5, 

que es la matriz ampliada reducida y escalonada equivalente por filas, por lo que planteas el sistema de ecuaciones equivalente y queda (observa que cancelamos términos nulos):

x - z = 3, y de aquí despejas: x = 3 + z,

y = 0,

0 = 5, que es una Igualdad Falsa, 

por lo que puedes concluir que el sistema es Incompatible y no tiene solución.

Espero haberte ayudado.