Se a reta 5x + b(x - 5) = 0 é tangente à circunferência x²+ y² = 9, temos que o valor de b é 15/2 (acredito que tenha algo errado no enunciado ou nas alternativas).
Para chegar a essa resposta deve-se saber o conceito de reta tangente e de circunferência.
É uma reta que intercepta uma curva em apenas um ponto.
É uma curva dada pela fórmula (x - xo)² + (y - yo)² = R², onde R é o raio da circunferência e (xo,yo), o centro da circunferência.
Com base nesses conceitos, podemos assumir que a circunferência dada tem centro (0,0) e raio 3, logo, seus pontos extremos em x são -3 e 3.
Com relação à reta, temos que trata-se de uma reta paralela ao eixo y, visto que ela não depende dos valores de y:
(5 + b)x = 5b
x = 5b/(5 + b)
Se ela é paralela ao eixo y, a única forma dela ser tangente à circunferência seria ela interceptar a circunferência em seus pontos extremos x = -3 e x = 3.
Como é dito na questão que b>0, temos que x>0, logo, para essa reta, x=3.
Temos então:
3 = 5b/(5 + b)
15 + 3b = 5b
15 = 2b
b = 15/2
Aprenda mais sobre reta tangente aqui:
https://brainly.com.br/tarefa/38174228
