อันนี้เป็นความเห็นของผมนะครับ รอผู้รู้จริงมาตอบดีกว่า
จากโจทย์ตั้งสมการได้เป็น
$x^3-3x^2+8x+7=(x^2+ax+b)Q(x)+10$
$x^3-3x^2+8x-3=(x^2+ax+b)Q(x)$
สรุปว่า $x^2+ax+b$ หาร $x^3-3x^2+8x-3$ ลงตัว
ดีกรีของ $Q$ ต้องเป็น 1
ให้ $Q(x)=px+q$ บังคับว่า $p=1$
กระจายแล้วเทียบสัมประสิทธิ์ ได้ระบบสมการ
$a+q=-3$
$aq+b=8$
$bq=-3$
จะเห็นว่าเป็นระบบสมการ 4 ตัวแปร
จับบวกกันจะได้ $a+b=\frac{2-q}{q+1}$
$q$ ไม่ได้มีค่าเดียวทำให้ $a+b$ ไม่ได้มีค่าเดียว