Mình thử bài này tí:
Đầu tiên, cho $a=b=c=0 $, ta có $3f^2(0)=6f^2(0) $ và do $f(0) \in \mathbb{Z} $ nên $f(0) = 0 $.
Cho $c=0 $ thì $f^2(a)+f^2(b) = 2f(a)f(b) $ suy ra $f(a)=f(b) $ hay $f(n)=f(-n) $ với mọi số nguyên n.
Cho $a=b=n, c = -2n, n \in \mathbb{Z}^+ $ thì
$2f^2(n)+f^2(2n) = 4f(n)f(2n)+2f^2(n) $ hay
$f^2(2n) = 4f(n)f(2n) \Leftrightarrow f(2n)(f(2n)-4f(n))=0 $ với mọi số nguyên dương n.
Ta xét 2 trường hợp:
- Nếu $f(2n) = 0 $ với mọi $n \ge 0 $ thì ta xét
$a=1, b=2n-1, c= -2n $, ta có:
$f^2(1)+f^2(2n-1)= 2f(1)f(2n-1) $, suy ra $f(1)=f(2n-1) $ với mọi $n $.
Đặt $f(1)=m $, ta được một hàm số thỏa mãn đề bài là:
$f(n)=m $ với $n $ lẻ và $f(n)=0 $ nếu $n $ chẵn.
- Nếu tồn tại $n_0 $ sao cho $f(2n_0) \neq 0 $ thì $n_0>0 $ và $f(2n_0)=4f(n_0) $.
Chọn $a=n_0, b=2n_0,c=-3n_0 $ thì
$f^2(n_0)+f^2(2n_0)+f^2(3n_0)=2f(n_0)f(2n_0)+2f(2n_ 0)f(3n_0)+2f(3n_0)f(n_0) $ hay
$9f^2(n_0)+f^2(3n_0) =10f(n_0)f(3n_0) $. Suy ra
$f(3n_0)=f(n_0) $ hoặc $f(3n_0)=9f(n_0) $.
Đến đây mình đang nghĩ tiếp, dự đoán là cần chứng minh không xảy ra $f(3n_0)=f(n_0) $ và với $f(3n_0)=9f(n_0) $ thì có thể hàm số là $f(n)=kn^2 $ với k là hằng số nguyên.
[Edit] Xét theo kiểu bạn Harry Potter ở trên để ra được $f(2)=4f(1) $ thì khỏe rồi, do không nghĩ đến chuyện quy nạp nên mình cứ xét tổng quát. Tuy nhiên, bài này mình nghĩ là thực sự không mới cho một kì thi như IMO.
[RIGHT][I][B]Nguồn: MathScope.ORG[/B][/I][/RIGHT]