ใช่แล้วครับ sqrt(n) = O(n/log n) ครับ
ลองใช้ limit ดูจะพบความจริงที่น่าสนใจหลาย ๆ ปรการ เช่น
n^a = O(n/log n) เมื่อ a < 1 ครับ (ในทางกลับกัน n/log n = O(n^a) เมื่อ a >= 1 ครับ)

ผมอาจจะพูดไม่ครบน่ะครับ ไอ้ c กับ n ที่ผมบอกไปตอนต้น หมายถึงว่า ถ้าเราหา c และ n ที่สอดคล้องกับเงื่อนไขได้ เราก็จะได้ความสัมพันธ์ทันที (for some c,n)
เช่น
n^2 + n <= 2*n^2 เมื่อ n >= 1 เพราะฉะนั้นจะได้ว่า n^2 + n = O(n^2)
ในที่นี้ c = 2 เป็นต้น