หาค่า $f(0)$ ได้ไม่ยากว่า $f(0)=0,2$
กรณี $f(0)=2$ จะได้ $f(f(x))=f(x)+2x-2$
เเทน $y=1$ ในสมการาเริ่มต้นได้ว่า $f(x+f(x+1))=x+f(x+1)$ take $f$ ได้ว่า
$$f(x+f(x+1))+2(x+f(x+1))-2=f(f(x+f(x+1)))=f(x+f(x+1))$$
เเก้สมการไม่ยากจะได้ว่า $f(x)=2-x$
กรณี $f(0)=0$ จะได้โดยง่ายว่า $f(f(x))=f(x)$ เเละพิสูจน์ได้ไม่ยากว่า ไม่มี $a\not=0$ ที่ $f(a)=0\rightarrow f(1)\not=0$
พบว่า เเทน $x,y$ ด้วย $f(y)-x,x$ ตามลำดับได้ว่า
$$f(f(y)-x+f(y))+f(x(f(y)-x))=2f(y)-x+xf(f(y)-x)$$
จากนั้นเเทน $x$ ด้วย $f(x+y)-x$ ในสมการข้างบน เเละบวกด้วย $f(xy)+yf(x)$ทั้งสองข้าง
$$yf(x)+\Big(f(xy)+f(x+f(x+y))\Big)+f(x(f(x+y)-x))=\Big(x+f(x+y)+yf(x)\Big)+f(xy)+(f(x+y)-x)f(x)$$
ตัดค่าที่อยู่ในวงเล็บใหญ่จากสมการเดิมเเละ เเทน $x$ ด้วย $f(x+y)$ จะได้ว่า $yf(x+y)=f(yf(x+y))$ จากนั้นเเทน $x$ ด้วย $x-y$ จะได้ $yf(x)=f(yf(x))$
จากนั้นเเทน $x,y$ ด้วย $1,\dfrac{y}{f(1)}$ ตามลำดับ จะได้ $f(x)=x$
ปล.ตอนนี้คิดได้ข้อเดียวก็ดีใจเเย่เเล้วครับ
ปล2. ผมงงโจทย์ข้อ 6 อ่ะครับ $N$ นี่เกี่ยวไรด้วย