น่าสนใจดีนะครับ การหาวิธี ม.ต้น จริงๆโจทย์คงตั้งใจจะให้สังเกตว่าเมื่อจำนวนเหลี่ยมเพิ่มขึ้นเรื่อยๆ พื้นที่จะมากขึ้น
ก็จะได้ $A<B<C$ ซึ่งได้คำตอบไม่ยากครับ
อย่างไรก็ตาม การใช้ความรู้แค่ ม.ต้น ก็อาจจะยังไม่พอที่จะพิสูจน์ข้อสังเกตนี้
โจทย์จึงเปลี่ยนไปเป็นให้พิสูจน์ตัวนี้แทน $\dfrac{A}{25}<\dfrac{B}{11}$ ซึ่งจะสามารถพิสูจน์โดยวิธี ม.ต้นได้ครับ
ก่อนอื่นสังเกต ว่าเราจะสามารถบรรจุรูป 7 เหลี่ยมด้านเท่ามุมเท่า ลงในรูป 21 เหลี่ยมด้านเท่ามุมเท่าได้
จะพบว่าพื้นที่ 21 เหลี่ยมเป็น $\dfrac{21}{2}l^2\sin\dfrac{2\pi}{21}$
ดังนั้นจะได้ $\dfrac{A}{21}<\dfrac{1}{2}l^2\sin\dfrac{2\pi}{21}$
และพื้นที่ 18 เหลี่ยมเป็น $\dfrac{18}{2}l^2\sin\dfrac{2\pi}{18}$
จะได้ $\dfrac{B}{18}=\dfrac{1}{2}l^2\sin\dfrac{2\pi}{18}$
แต่ $\sin\dfrac{2\pi}{18}>\sin\dfrac{2\pi}{21}$
จะได้ $\dfrac{A}{21}<\dfrac{B}{18}$
และจะได้ผลตามนี้ด้วย $\dfrac{A}{25}<\dfrac{A}{21}<\dfrac{B}{18}<\dfrac{B}{11}$
จึงสามารถพิสูจน์ที่โจทย์ถามได้ครับ
(แต่ถ้าสอบอยู่ก็คงไม่มีใครมาพิสูจน์น่ะครับ)