B

- Hướng dẫn giải

Ta có

 \(\begin{array}{l}{a^{{x^2}}} = {\left( {ab} \right)^2} \Rightarrow {x^2} = {\log _a}{\left( {ab} \right)^2} = 2\left( {1 + {{\log }_a}b} \right)\\ \Rightarrow x = \sqrt {2 + 2{{\log }_a}b} \\{b^{{y^2}}} = {\left( {ab} \right)^2} \Rightarrow {y^2} = {\log _b}{\left( {ab} \right)^2} = 2\left( {1 + {{\log }_b}a} \right)\\ \Rightarrow x = \sqrt {2 + 2{{\log }_b}a} \end{array}\)

Đặt \(t = {\log _a}b\,\,\,\left( {t > 0} \right)\) ta được \(P = 4\sqrt {1 + t} + \sqrt {2 + \frac{2}{t}} \)

Xét hàm số 

\(\begin{array}{l}f(t) = 4\sqrt {1 + t} + \sqrt {2 + \frac{2}{t}} \,\,\,\,\,\left( {t \in \left( {0;\,\, + \infty } \right)} \right).\\f'(t) = \frac{2}{{\sqrt {1 + t} }} - \frac{1}{{{t^2}\sqrt {2 + \frac{2}{t}} }};\,\,f'(t) = 0 \Leftrightarrow \frac{2}{{\sqrt {1 + t} }} - \frac{1}{{{t^2}\sqrt {2 + \frac{2}{t}} }} = 0\\ \Leftrightarrow 2{t^2}\sqrt {2 + \frac{2}{t}} = \sqrt {1 + t} \\ \Leftrightarrow 4{t^4}\left( {2 + \frac{2}{t}} \right) = 1 + t \Leftrightarrow 8{t^4} + 8{t^3} - t - 1 = 0 \Leftrightarrow t = \frac{1}{2}\end{array}\)

Bảng biến thiên của hàm số f(t)

Từ bẳng biến thiên suy ra \(\min P = \mathop {\min }\limits_{\left( {0; + \infty } \right)} f(t) = 3\sqrt 6 \in [6;10)\,\,\,khi\,\,\,\left\{ \begin{array}{l}{\log _a}b = \frac{1}{2}\\x = \sqrt 3 \\y = \sqrt 6 \end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}a = {b^2}\\x = \sqrt 3 \\y = \sqrt 6 \end{array} \right.\)