Determine o valor de k:

Determine o valor de k para que o triângulo de vértices A (3,-2), B (1, 6) e C (k, 1) seja retângulo em C.

Tive dúvida nessa questão na hora de aplicar bhaskara, minhas raízes sempre ficam negativas. Achei que poderia ser algum erro nas equações da reta, mas já as conferi várias vezes.

Uma resolução por vetores:
Para o triângulo ser retângulo em C, os vetores CA e CB devem fazer 90º, ou seja, seu produto escalar deve ser zero.
[latex] \overrightarrow{CA}\cdot \overrightarrow{CB}=0\rightarrow (3-k,-2 -1)\cdot(1-k, 6-1)=0
(3-k)(1-k) -15=0 \rightarrow k^2-4k-12=0 \therefore k = 6 \: ou \:k=-2 [/latex]
Uma outra maneira é encontrando a medida de cada lado, devendo obedecer a relação de pitágoras, sendo AB a hipotenusa:
[latex] \overline{AB}^2=\overline{AC}^2+ \overline{BC}^2
2^2+(-8 )^2=(3-k)^2+(-3)^2+(1-k)^2+5^2
34=9-6k+k^2+1-2k+k^2\rightarrow 2k^2-8k-24=0
k^2-4k-12=0 [/latex]
Que gera o mesmo resultado.

Uma 3ª forma é comparar a declividade das retas.

AC _|_ BC. ===> m_AC = -1/m_BC ........(1)

m_AC = (1-(-2))/(k-3) = 3/(k-3) ........(2)

m_BC = (1-6)/(k-1) = -5/(k-1) .........(3)

(2) e (3) em (1) -----› 3/(k-3) = (k-1)/5 -----› k² - 4k - 12 = 0