Câu hỏi:

Ta có: $\overrightarrow{BA}.\overrightarrow{BC} = BA.BC.cos\widehat{ABC}$
Trong tam giác vuông ABC, ta có: $cos\widehat{ABC} = \frac{AB}{BC} = \frac{c}{\sqrt{b^2+c^2}}$
Do đó: $\overrightarrow{BA}.\overrightarrow{BC} = c.\sqrt{b^2+c^2}.\frac{c}{\sqrt{b^2+c^2}} = c^2$

Gọi $AB = x$. Theo đề bài, $AC = 2x$.\nTa có công thức tính diện tích tam giác $S = \frac{1}{2} \cdot AH \cdot BC = \frac{1}{2} \cdot 2 \cdot 2\sqrt{3} = 2\sqrt{3}$.\nÁp dụng công thức Heron, gọi $p$ là nửa chu vi tam giác, ta có $p = \frac{x + 2x + 2\sqrt{3}}{2} = \frac{3x + 2\sqrt{3}}{2}$.\nDiện tích tam giác $S = \sqrt{p(p-a)(p-b)(p-c)} = \sqrt{\frac{3x + 2\sqrt{3}}{2} \cdot \frac{x + 2\sqrt{3}}{2} \cdot \frac{-x + 2\sqrt{3}}{2} \cdot \frac{3x - 2\sqrt{3}}{2}}$\n$S^2 = \frac{1}{16} (9x^2 - 12)(12 - x^2)$\n$(2\sqrt{3})^2 = \frac{1}{16} (9x^2 - 12)(12 - x^2)$\n$12 = \frac{1}{16} (108x^2 - 9x^4 - 144 + 12x^2)$\n$192 = 120x^2 - 9x^4 - 144$\n$9x^4 - 120x^2 + 336 = 0$\n$3x^4 - 40x^2 + 112 = 0$\nĐặt $t = x^2$ ($t > 0$), ta có $3t^2 - 40t + 112 = 0$\n$\Delta' = 20^2 - 3 \cdot 112 = 400 - 336 = 64$\n$t_1 = \frac{20 + 8}{3} = \frac{28}{3} \Rightarrow x_1 = \sqrt{\frac{28}{3}} = \frac{2\sqrt{21}}{3}$\n$t_2 = \frac{20 - 8}{3} = 4 \Rightarrow x_2 = 2$\nVậy $AB = 2$ hoặc $AB = \frac{2\sqrt{21}}{3}$.

Ta có $\overrightarrow{AM} = \overrightarrow{AC} + \overrightarrow{CM}$ và $\overrightarrow{BC} = \overrightarrow{AC} - \overrightarrow{AB}$.
Vì M là trung điểm BC nên $\overrightarrow{CM} = -\frac{1}{2}\overrightarrow{BC}$.
$\overrightarrow{AM}.\overrightarrow{BC} = (\overrightarrow{AC} - \frac{1}{2}\overrightarrow{BC}).\overrightarrow{BC} = \overrightarrow{AC}.\overrightarrow{BC} - \frac{1}{2}|\overrightarrow{BC}|^2$
$= \overrightarrow{AC}.(\overrightarrow{BA} + \overrightarrow{AC}) - \frac{1}{2}a^2 = \overrightarrow{AC}.\overrightarrow{BA} + |\overrightarrow{AC}|^2 - \frac{1}{2}a^2$
$= b.c.cos(180 - A) + b^2 - \frac{1}{2}a^2 = -bc.cosA + b^2 - \frac{1}{2}a^2$
Theo định lý cosin: $a^2 = b^2 + c^2 - 2bc.cosA \Rightarrow bc.cosA = \frac{b^2 + c^2 - a^2}{2}$
Do đó $\overrightarrow{AM}.\overrightarrow{BC} = -\frac{b^2 + c^2 - a^2}{2} + b^2 - \frac{1}{2}a^2 = \frac{-b^2 - c^2 + a^2 + 2b^2 - a^2}{2} = \frac{b^2 - c^2}{2}$.

Áp dụng định lý cosin trong tam giác ABC, ta có:
$BC^2 = AB^2 + AC^2 - 2 * AB * AC * cos(A)$
$7^2 = 5^2 + 8^2 - 2 * 5 * 8 * cos(A)$
$49 = 25 + 64 - 80 * cos(A)$
$80 * cos(A) = 40$
$cos(A) = 40 / 80 = 1/2$
=> A = 60 độ

Ta có $\widehat{ABC} = 180^\circ - 30^\circ - 75^\circ = 75^\circ$.
Do đó tam giác $ABC$ cân tại $A$, suy ra $AB = AC = 4$.
Diện tích tam giác $ABC$ là:
$S_{ABC} = \dfrac{1}{2}AB.AC.\sin{\widehat{BAC}} = \dfrac{1}{2}.4.4.\sin{30^\circ} = \dfrac{1}{2}.16.\dfrac{1}{2} = 4$.