Câu hỏi:

Ta có :

\(\cos ^{2} 2 x+2(\sin x+\cos x)^{3}-3 \sin 2 x+m=1-\sin ^{2} 2 x+2(\sin x+\cos x)^{3}-3 \sin 2 x+m\)

Đặt \(t=\sin \mathrm{x}+\cos x, t \in[-\sqrt{2} ; \sqrt{2}]\)

\(\Rightarrow t^{2}=(\sin \mathrm{x}+\cos x)^{2} \Leftrightarrow t^{2}=\sin ^{2} x+2 \sin x \cos x+\cos ^{2} x=1+\sin 2 x\)

\(\Rightarrow \sin 2 x=t^{2}-1\)

Khi đó ta được: \(1-\left(t^{2}-1\right)^{2}+2 t^{3}-3\left(t^{2}-1\right)+m=1-\left(t^{2}-1\right)\left(t^{2}+2\right)+2 t^{3}+m\)

Xét \(h(t)=1+2 t^{3}-\left(t^{2}-1\right)\left(t^{2}+2\right)=-t^{4}+2 t^{3}-t^{2}+3\)

Ta có \(f^{2}(x) \leq 36, \forall x \Leftrightarrow|h(t)+m| \leq 6 \Leftrightarrow\left\{\begin{array}{l}h(t)+m \leq 6 \\ h(t)+m \geq-6\end{array} \Leftrightarrow\left\{\begin{array}{l}h(t) \leq 6-m \\ h(t) \geq-6-m\end{array}\right.\right.\)

Xét hàm số \(h(t)=-t^{4}+2 t^{3}-t^{2}+3\) trên đoạn \([-\sqrt{2} ; \sqrt{2}]\)

\(h^{\prime}(t)=-4 t^{3}+6 t^{2}-2 t \Rightarrow h^{\prime}(t)=0 \Leftrightarrow\left[\begin{array}{l}t=0 \\ t=1 \\ t=\frac{1}{2}\end{array}\right.\)

Ta có bảng biến thiên :

Khi đó

\(\left\{\begin{array}{l}h(t) \leq 6-m \\ h(t) \geq-6-m\end{array} \Leftrightarrow\left\{\begin{array}{l}\operatorname{Max}_{t \in[-\sqrt{2}, \sqrt{2}]} h(t) \leq 6-m \\ \operatorname{Min}_{t \in[-\sqrt{2}, \sqrt{2}]} h(t) \geq-6-m\end{array} \Rightarrow\left\{\begin{array}{l}3 \leq 6-m \\ -3+4 \sqrt{2} \geq-6-m\end{array} \Rightarrow\left\{\begin{array}{l}m \leq 3 \\ m \geq-3-4 \sqrt{2}\end{array}\right.\right.\right.\right.\)

\(\Rightarrow m \in\{-8 ;-7 ;-6 ;-5 ;-4 ;-3 ;-2 ;-1 ; 0 ; 1 ; 2 ; 3\}\)

Đồ thị hàm số \(y=f^{\prime}(x)\) đi qua các điểm \(O(0 ; 0), A(-1 ; 0), B(1 ; 0)\) nên tọa độ các điểm đó thỏa mãn phương trình hàm số \(y=f^{\prime}(x)\)

Ta có hệ phương trình: \(\left\{\begin{array}{l}c=0 \\ -1+a-b+c=0\\ 1+a+b+c=0\end{array} \Rightarrow\left\{\begin{array}{l}a=0 \\ b=-1 \\ c=0\end{array}\right.\right.\)

\(\Rightarrow f^{\prime}(x)=x^{3}-x\)

Đặt \(g(x)=f\left[f^{\prime}(x)\right] \Rightarrow g^{\prime}(x)=f^{\prime \prime}(x) \cdot f^{\prime}\left[f^{\prime}(x)\right]\)

\(g^{\prime}(x)=f^{\prime \prime}(x) \cdot f^{\prime}\left[f^{\prime}(x)\right]=\left[\left(x^{3}-3\right)^{3}-\left(x^{3}-x\right)\right]\left(3 x^{2}-1\right)\)

\(=x\left(x^{2}-1\right)\left(x^{3}-x+1\right)\left(3 x^{2}-1\right)\)

Dễ thấy \(g^{\prime}(x)=0\) có 7 nghiệm phân biệt, tất cả đều là nghiệm đơn nên hàm số có 7 cực trị.

Xét hàm số \(y=f\left(x^{2}-5\right)\)

Ta có \(: y^{\prime}=2 x \cdot f^{\prime}\left(x^{2}-5\right), y^{\prime}=0 \Rightarrow\left[\begin{array}{l}x=0 \\ x^{2}-5=-4 \\ x^{2}-5=-1 \\ x^{2}-5=2\end{array} \Rightarrow\left[\begin{array}{l}x=0 \\ x= \pm 1 \\ x= \pm 2 \\ x= \pm \sqrt{7}\end{array}\right.\right.\)

Các nghiệm của phương trình \(y^{\prime}=0\) đều là nghiệm bội lẻ, do \(y^{\prime}(3)=6 . f^{\prime}(4)>0\), ta có bảng xét dấu \(y^{\prime}\) :

Từ bảng xét dấu ta có hàm số nghịch biến trên các khoảng: \((-\infty ; \sqrt{7}),(-2 ;-1),(0 ; 1),(2 ; \sqrt{7})\).

Tập xác định : \(D=\mathbb R\)

Ta có: \(y^{\prime}=x^{2}-m x+2 m\)

Vì \(a=1>0\) nên hàm số đã cho nghịch biến trên 1 đoạn khi và chỉ khi phương trình \(y^{\prime}=0\) có hai nghiệm phân biệt \(\Leftrightarrow \Delta>0\)

\(\Delta=m^{2}-8 m>0 \Leftrightarrow\left[\begin{array}{l}m<0 \\m>8\end{array}\right.\)

Gọi \(x_{1}, x_{2}\) là nghiệm của phương trình \(y^{\prime}=0\), theo định lí Viet ta có: \(\left\{\begin{array}{l}x_{1}+x_{2}=m \\ x_{1} \cdot x_{2}=2m\end{array}\right.\).

Hàm số đã cho nghịch biến trên đoạn có độ dài là 3

\(\begin{align}& \Rightarrow\left|x_{1}-x_{2}\right|=3 \Leftrightarrow\left(x_{1}-x_{2}\right)^{2}=9 \Leftrightarrow x_{1}^{2}+x_{2}^{2}-2 x_{1} x_{2}=9 \\& \Leftrightarrow\left(x_{1}+x_{2}\right)^{2}-4 x_{1} x_{2}=9 \\& \Rightarrow m^{2}-8 m=9 \Leftrightarrow\left[\begin{array}{l}m=-1 \\m=9\end{array}\right.\end{align}\)

Kết hợp với điều kiện nghiệm ta thấy cả hai giá trị của \(m\) đều thỏa mãn yêu cầu bài toán.

Tập xác định: \(D=(-\infty ; 1) \cup(1 ;+\infty)\)

Ta có : \(y^{\prime}=\frac{2}{(1-x)^{2}}>0, \forall x \in D\)

\(\Rightarrow\) Hàm số đồng biến trên các khoảng xác định.