Gọi S là tập hợp tất cả các giá trị của tham số m...

D

- Hướng dẫn giải

Phương trình hoành độ giao điểm là:

\(\begin{array}{l}
{x^3} + \left( {m - 3} \right){x^2} + x + 1 = x + m - 1\\
 \Leftrightarrow {x^3} + \left( {m - 3} \right){x^2} - m + 2 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
x = 1\\
{x^2} + \left( {m - 2} \right)x + m - 2 = 0
\end{array} \right.
\end{array}\)

Đường thẳng \(y=x+m-1\) cắt đồ thị hàm số \(y={{x}^{3}}+\left( m-3 \right){{x}^{2}}+x+1\) tại ba điểm phân biệt khi và chỉ khi phương trình \({{x}^{2}}+\left( m-2 \right)x+m-2=0\) có hai nghiệm phân biệt \({{x}_{B}},\,{{x}_{C}}\) khác 1.

\( \Leftrightarrow \left\{ \begin{array}{l}
2m - 3 \ne 0\\
{\left( {m - 2} \right)^2} - 4\left( {m - 2} \right) > 0
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
m \ne \frac{3}{2}\\
\left[ \begin{array}{l}
m < 2\\
m > 6
\end{array} \right.
\end{array} \right.\)

Áp dụng định lí Vi-et ta có: \(\left\{ \begin{array}{l}
{x_B} + {x_C} =  - m + 2\\
{x_B}{x_C} = m - 2
\end{array} \right.\)

Ta có:

\(\begin{array}{l}
BC = 2\sqrt 3 \\
 \Leftrightarrow \sqrt {{{\left( {{x_B} - {x_C}} \right)}^2} + {{\left( {{y_B} - {y_C}} \right)}^2}}  = 2\sqrt 3 \\
 \Leftrightarrow 2{\left( {{x_B} - {x_C}} \right)^2} = 12\\
 \Leftrightarrow {m^2} - 8m + 6 = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
m = 4 + \sqrt {10} \\
m = 4 - \sqrt {10} 
\end{array} \right.
\end{array}\)

Suy ra: \(S=\left\{ 4+\sqrt{10};4-\sqrt{10} \right\}\).

Vậy tổng bình phương các giá trị m của tập S là 52.