Ta có: \(\sin 3x-\cos x=0\)
\(\Leftrightarrow \sin 3x=\cos x\)
\(\Leftrightarrow \sin 3x=\sin (\dfrac{\pi}{2}-x)\)
\(\Leftrightarrow \left[ \begin{array}{l} 3x = \dfrac{\pi}{2}-x+k2\pi ,k \in \mathbb{Z}\\3x= \pi-(\dfrac{\pi}{2}-x)+k2\pi ,k \in \mathbb{Z}\end{array} \right. \)
\(\Leftrightarrow \left[ \begin{array}{l} x = \dfrac{\pi}{8}+k\dfrac{\pi}{2} ,k \in \mathbb{Z}\\x=\dfrac{\pi}{4}+k\pi ,k \in \mathbb{Z}\end{array} \right. \)
Trong đoạn \(\left[ { -\frac{{\pi }}{2} ;\frac{{3\pi }}{2}} \right]\), với \(x=\dfrac{\pi}{8}+k\dfrac{\pi}{2}\) ta có 4 giá trị là \(-\dfrac{3\pi}{8}\), \(\dfrac{\pi}{8}\), \(\dfrac{5\pi}{8}\) và \(\dfrac{9\pi}{8}\) ứng với các giá trị \(k=-1\), \(0\), \(1\) và \(2\) trong đó \(\dfrac{9\pi}{8}\) là giá trị lớn nhất.
Với \(x=\dfrac{\pi}{4}+k\pi\) ta có 2 giá trị là \(\dfrac{\pi}{4}\) và\(\dfrac{5\pi}{4}\) ứng với các giá trị \(k=-1\), \(0\) và \(1\) trong đó \(\dfrac{5\pi}{4}\) là giá trị lớn nhất.
Vì \(\dfrac{5\pi}{4} > \dfrac{9\pi}{8}\) nên \(\dfrac{5\pi}{4}\) là nghiệm lớn nhất của phương trình trong \(\left[ { -\frac{{\pi }}{2} ;\frac{{3\pi }}{2}} \right]\)
Đáp án: C.