+) Ta có: \(P(x)\) chia hết cho \(x + 1 \Leftrightarrow P(-1)=0\)
\(\Leftrightarrow m.(-1)^3 + (m - 2).(-1)^2 - (3n - 5).(-1)\)
\(- 4n=0 \)
\( \Leftrightarrow -m + m - 2 + 3n - 5 - 4n = 0\)
\(\Leftrightarrow -n-7=0\)
\( \Leftrightarrow n+7=0\) (1)
+) Lại có: \(P(x)\) chia hết cho \(x - 3 \Leftrightarrow P(3)=0\)
\(\Leftrightarrow m.3^3 + (m - 2).3^2 - (3n - 5).3 - 4n=0 \)
\(\Leftrightarrow 27m + 9(m - 2) - 3(3n - 5) - 4n = 0\)
\(\Leftrightarrow 27m + 9m - 18 - 9n + 15 - 4n = 0\)
\(\Leftrightarrow 36m-13n=3\) (2)
Từ (1) và (2), ta có hệ phương trình ẩn \(m\) và \(n\).
\(\left\{\begin{matrix} n+7 = 0 & & \\ 36m - 13n = 3 & & \end{matrix}\right. \Leftrightarrow \left\{\begin{matrix} n = -7 & & \\ 36m -13.(-7)= 3 & & \end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} n = -7 & & \\ 36m = -88 & & \end{matrix}\right. \Leftrightarrow \left\{\begin{matrix} n = -7& & \\ m = \dfrac{-22}{9}& & \end{matrix}\right.\)
Vậy \(m=\dfrac{-22}{9},\ n=-7\).
