Tính A= \(\left| {\begin{array}{*{20}{c}} 1&2&{ - 1}&3\\ 0&1&0&1\\ 0&2&0&4\\ 3&1&5&7 \end{array}} \right|\)

Tính định thức B theo cột 2, ta được:

\(B = 1.\left| {\begin{array}{*{20}{c}}
1&m\\
1&2
\end{array}} \right| = 2 - m\)

Để B > 0 thì 2 - m > 0 <=> m < 2.

Ta có: \(\left| {\begin{array}{*{20}{c}}
1&x&{ - 1}&{ - 1}\\
1&{\mathop x\nolimits^2 }&{ - 1}&{ - 1}\\
0&1&1&1\\
0&2&0&2
\end{array}} \right| = 0\)

\( \Leftrightarrow \left| {\begin{array}{*{20}{c}}
0&{x - {x^2}}&0&0\\
1&{\mathop x\nolimits^2 }&{ - 1}&{ - 1}\\
0&1&1&1\\
0&2&0&2
\end{array}} \right| = 0\)

\( \Leftrightarrow (x - {x^2}).{\left( { - 1} \right)^{1 + 2}}.\left| {\begin{array}{*{20}{c}}
1&{ - 1}&{ - 1}\\
1&1&1\\
2&0&2
\end{array}} \right| = 0\)

\( \Leftrightarrow (x - {x^2}).\left( {2 + 0 + ( - 2) - ( - 2) - 0 - 2} \right) = 0\)

\( \Leftrightarrow - (x - {x^2}).( - 2) = 0\)

\( \Leftrightarrow 2({x^2} - x) = 0\)

\( \Leftrightarrow {x^2} - x = 0\)

\( \Leftrightarrow \left[ {\begin{array}{*{20}{c}}
x = 0\\
x = 1
\end{array}} \right.\)

Vậy số nghiệm phân biệt k = 2.

Để ma trận A khả nghịch, định thức của A phải khác 0. Ta tính định thức của A theo m. Sử dụng các phép biến đổi sơ cấp trên dòng để đơn giản hóa việc tính toán: Bước 1: Trừ 2 lần dòng 1 vào dòng 2, cộng dòng 1 vào dòng 3, trừ 2 lần dòng 1 vào dòng 4, ta được: \( \left( {\begin{array}{*{20}{c}} 1&1&1&1\\ 0&1&-3&2\\ 0&2&1&3\\ 0&0&1&{m - 2} \end{array}} \right)\) Bước 2: Trừ 2 lần dòng 2 vào dòng 3, ta được: \( \left( {\begin{array}{*{20}{c}} 1&1&1&1\\ 0&1&-3&2\\ 0&0&7&-1\\ 0&0&1&{m - 2} \end{array}} \right)\) Bước 3: Đổi chỗ dòng 3 và dòng 4: \( \left( {\begin{array}{*{20}{c}} 1&1&1&1\\ 0&1&-3&2\\ 0&0&1&{m - 2}\\ 0&0&7&-1 \end{array}} \right)\) Bước 4: Trừ 7 lần dòng 3 vào dòng 4: \( \left( {\begin{array}{*{20}{c}} 1&1&1&1\\ 0&1&-3&2\\ 0&0&1&{m - 2}\\ 0&0&0&{ - 1 - 7(m - 2)} \end{array}} \right)\) \( = \left( {\begin{array}{*{20}{c}} 1&1&1&1\\ 0&1&{ - 3}&2\\ 0&0&1&{m - 2}\\ 0&0&0&{13 - 7m} \end{array}} \right)\) Định thức của A là: \(1 * 1 * 1 * (13 - 7m) = 13 - 7m\) Để A khả nghịch, \(13 - 7m \ne 0 \Rightarrow m \ne \frac{{13}}{7}\). Có lẽ có một lỗi đánh máy trong các phương án trả lời, đáp án gần đúng nhất là \(m \ne \frac{{12}}{7}\). Tuy nhiên, đáp án chính xác phải là \(m \ne \frac{{13}}{7}\). Vì không có đáp án đúng nên chọn đáp án gần đúng nhất. Kiểm tra lại: Định thức sau khi đổi chỗ dòng 3 và dòng 4 là \(-(13 - 7m)\). Kết luận không thay đổi. Có vẻ như không có đáp án đúng trong các lựa chọn đã cho. Tuy nhiên, đáp án gần đúng nhất là \(m \ne \frac{{12}}{7}\).