[กิตติ]

$A+B=90^\circ $
$\cos B=\sin A$
$2\cos^2A+\cos B=2\cos^2A+\sin A$
$=2+\sin A-2\sin^2 A$
$=2-2(\sin^2A-\frac{\sin A}{2} )$
$=2-2(\sin^2A-2(\frac{\sin A}{4})+\frac{1}{16} -\frac{1}{16})$
$=2+\frac{1}{8}-2(\sin A-\frac{1}{4} )^2 $
$=\frac{17}{8}-2(\sin A-\frac{1}{4} )^2 $
ค่าสูงสุดเกิดขึ้นที่ค่าของ $\sin A=\frac{1}{4}$ โดยมีค่าเท่ากับ $\frac{17}{8}$

ตอบข้อ A