解説：
余弦定理：
$$ AB^2= CA^2+CB^2-2\cdot CA \cdot CB \cdot \cos{\angle{C}} $$
\(120^\circ\)のときの三角比
$$ \begin{eqnarray}
\sin{120^\circ} &=& \frac{\sqrt{3}}{2} \\
\cos{120^\circ} &=& – \frac{1}{2} \\
\tan{120^\circ} &=& – \sqrt{3} \\
\end{eqnarray}$$
$$ \begin{eqnarray}
AB^2 &=& CA^2 + CB^2 -2 \times CA \times CB \times \cos{\angle{C}} \\
AB^2 &=& 5^2 + 3^2 -2 \times 5 \times 3 \times \cos{120^\circ} \\
\cos{120^\circ}&=& -\frac{1}{2}なので、\\
AB^2 &=& 25 + 9 +2 \times 5 \times 3 \times \frac{1}{2}\\
AB^2 &=& 25+9 +15 = 49 \\
AB &=& \pm 7\\
& & ABは長さなので正の値であるので、\\
AB &=& 7\\
\end{eqnarray}$$
以上。