Há diversas formas para resolver um sistema linear 3x3. Em Álgebra Linear aprende-se alguns métodos, mas como não sei qual o nível da resposta que você quer, vou falar aqui uma forma usando o que se aprende no Ensino Médio.
Uma solução que funciona bem para esse caso em específico é a seguinte:
1 - Multiplica a primeira equação por -1
-x-4y-7z=-2
2x+3y+8z=2
5x+y-z=8
2 - Soma as três equações e você já elimina as variáveis y e z, e encontra x.
= (-x+2x+5x)+(-4y+3y+y)+(-7z+8z-z)=(-2+2+8…
= 6x + 0y + 0z = 8
= x=8/6=4/3
3 - Substitui o valor de x no sistema e você vai ter um sistema de duas variáveis, daí é só escolher qualquer duas das equações e resolver como você resolveria qualquer sistema de equações de duas variáveis.
O resultado final será:
x=4/3
y=10/11
z= -14/33
BOA NOITE
