Solution ของผมยาวกว่าของคุณจูกัดเหลียงอีก 5555 แต่ก็อยากลองมาแชร์หน่อยครับ
ก่อนอื่นเราเห็นอยู่แล้วแน่ ๆ ว่า $\boxed{f(x)=0 \ \forall x \in \mathbb{R}}$ เป็นคำตอบหนึ่งแน่ ๆ ดังนั้นเรามาดูคำตอบในกรณีอื่นกันครับ นั่นคือ มีจำนวนจริง $t$ ที่ทำให้ $f(t) \not= 0$
แทน $x=0$ และ $y=t$ ในสมการตั้งต้น $f(0)f(t)=0$ ซึ่งจาก $f(t) \not= 0$ ดังนั้น $f(0)=0$
แทน $y=-1$ ในสมการตั้งต้น จะได้ \begin{align*} xf(x)+f(x^2)f(-1) &= 0 &-(1)\end{align*} เมื่อแทน $x=t$ ซึ่งไม่เท่ากับ $0$ ลงใน (1) ก็จะได้ว่าเป็นไปไม่ได้ที่ $f(-1)=0$ ดังนั้น $f(-1)\not=0$
แทน $x=-1$ ใน (1) และผลจากบรรทัดที่แล้วจะได้ $f(1)=1$
แทน $x=1$ ใน (1) และผลจากบรรทัดที่แล้วจะได้ $f(-1)=-1$ จากนั้นนำไปแทนค่าใน (1) จึงได้ทันทีว่า \begin{align*}f(x^2)=xf(x)\end{align*} จากนั้นนำไปแทนค่าในสมการตั้งต้น ทำให้ได้ว่า
\begin{align*}xf(x+xy) = xf(x) + xf(x)f(y)\end{align*} หรือก็คือ \begin{align*}f(x+xy) &= f(x)+f(x)f(y) \end{align*} สำหรับ $x\not=0$
แต่หากพิจารณาดูดี ๆ จะพบว่าเมื่อ $x=0$ จะได้ว่าสมการนี้ยังเป็นจริงอยู่ จึงสรุปได้ว่า \begin{align*}f(x+xy) &= f(x)+f(x)f(y) &-(2) \end{align*} เป็นจริงสำหรับทุกจำนวนจริง $x,y$
แทน $y=x-1$ ในสมการ (2) และใช้ผลที่ได้มาก่อนหน้าคือ $f(x^2)=xf(x)$ จะได้ \begin{align*}xf(x) = f(x)+f(x)f(x-1)\end{align*} นั่นคือ $f(x) = 0$ หรือ $f(x-1)=x-1$ อย่างใดอย่างหนึ่ง
พิจารณาถ้ามี $u \not= 0$ ที่ทำให้ $f(u)=0$ เพียงเราแทน $x=u$ และ $y=\frac{z}{u}-1$ ในสมการ (2) จะได้ว่า $f(z)=0$ สำหรับทุกจำนวนจริง $z$ ซึ่งจะขัดแย้งกับที่สมมติไว้แต่ต้น
ดังนั้น $f(x)=0$ ก็ต่อเมื่อ $x=0$
ทำให้ได้ว่า $f(x-1)=x-1$ สำหรับ $x \not= 0$ หรือก็คือ $f(x)=x$ สำหรับ $x \not= -1$
เมื่อนำมาผนวกกับที่ได้มาก่อนหน้าคือ $f(-1)=-1$
จึงได้ว่า $\boxed{f(x)=x \ \forall x \in \mathbb{R}}$ เป็นเพียงคำตอบเดียวในกรณีนี้
หลังจากตรวจคำตอบก็ได้ว่าสมการนี้มีเพียงสองคำตอบดังที่ได้กล่าวมาคือ $f(x)=0 \ \ \forall x \in \mathbb{R}$ และ $f(x)=x \ \ \forall x \in \mathbb{R}$