enunciado está errado amigão... do lado direito da expressão os x não deveriam estar ao quadrado, temos:
[tex3]6x+8\sqrt{(1-x)(1+x)}=5(\sqrt{1+x}+\sqrt{1-x})[/tex3]
primeiramente, lembre-se que [tex3]\begin{cases}
cos2\alpha = 2cos^2\alpha - 1\rightarrow \sqrt{1+cos2\alpha}=\sqrt{2}cos\alpha
\\
cos2\alpha = 1-2sen^2\alpha \rightarrow \sqrt{1-cos2\alpha}=\sqrt{2}sen\alpha
\end{cases}[/tex3]
agora vamos começar a brincadeira com a substituição: [tex3]x=cos2\alpha [/tex3]
[tex3]6cos2\alpha+8\sqrt{1-cos2\alpha}\sqrt{1+cos2\alpha}=5(\sqrt{1-cos2\alpha}+\sqrt{1+cos2\alpha})[/tex3]
usando a relação mencionada acima temos:
[tex3]6cos2\alpha+8\sqrt{2}sen\alpha\ \sqrt{2}cos\alpha=5(\sqrt{2}sen\alpha+\sqrt{2}cos\alpha)[/tex3]
dividindo tudo por 2:
[tex3]3cos2\alpha+8sen\alpha\ cos\alpha=5\left(\frac{\sqrt{2}}{2}sen\alpha+\frac{\sqrt{2}}{2}cos\alpha\right)\\
\frac{3}{5}cos2\alpha+\frac{4}{5}sen2\alpha = \frac{\sqrt{2}}{2}sen\alpha+\frac{\sqrt{2}}{2}cos\alpha
[/tex3]
pelo nível da questão, vou considerar que você já imagina meu próximo passo e entenderá sem nenhum desenho de triângulo
considerando [tex3]\theta[/tex3]
o menor ângulo do triângulo pitagórico:
[tex3]sen\theta\ cos2\alpha+cos\theta \sen2\alpha=sen45\degree cos\alpha + sen\alpha\ cos45\degree
\\
sen(\theta +2\alpha ) = sen(45\degree+\alpha )\\
\alpha = 45\degree-\theta
\\
cos2\alpha = cos(90\degree-2\theta ) = sen2\theta = 2sen\theta\ cos\theta = 2\frac{3}{5}\frac{4}{5}
\\
cos2\alpha = x = \frac{24}{25}
[/tex3]
ele quer a soma, portanto
[tex3]p+q = 24+25 = 49[/tex3]