จาก \(f(f(x-y)) = f(x)f(y) - f(x) + f(y) - xy \cdots (0)\)
แทน \(y = 0 : f(f(x)) = f(0)f(x) - f(x) + f(0) \cdots (1)\)
สมมติให้ \(A = f(0)f(x) \Rightarrow f(\frac{A}{f(0)}) = A - \frac{A}{f(0)} + f(0) \)
สมมติให้ \(z = \frac{A}{f(0)} \Rightarrow f(z) = f(0)z - z + f(0)\)
ดังนั้น \(f(x) = (c-1)x + c \quad ; c = f(0) \cdots (2) \)
ต่อไปจะหาค่า c
แทน x = 0 ลงใน (1) : \( f(f(-y)) = f(0)f(y) - f(0) + f(y) \cdots (3) \)
จาก (2) เราจะได้ว่า \( f(-y) = -(c-1)y + c \)
ดังนั้น \(f(f(-y)) = (c-1)[-(c-1)y + c] + c = -(c-1)^2y + c^2 = L.H.S \,ของ\, (3)\)
แต่ R.H.S. ของ (3) คือ : \(c[(c-1)y + c] - c + (c-1)y + c = (c^2 - 1)y + c^2 \)
L.H.S ของ (3) = R.H.S ของ (3) : \( -(c-1)^2 = c^2 - 1 \Rightarrow c(c-1) = 0 \Rightarrow c = 0 \quad หรือ \quad c = 1 \)
จาก (2) ถ้า c = 0 แล้ว f(x) = -x เมื่อตรวจคำตอบใน (0) จะพบว่าจริง
จาก (2) ถ้า c = 1 แล้ว f(x) = 1 เมื่อตรวจคำตอบใน (0) จะพบว่าเท็จ
นั่นคือ f(x) = -x เป็นคำตอบเดียวเท่านั้น
