Lưu Bá Ôn là người huyện Thanh Điền (nay là huyện Văn Thành), tỉnh Chiết Giang. Nhờ siêng học, đam mê đọc sách, ông sớm làu thông kinh sử, văn chương, binh pháp và thiên văn. Đương thời có câu khen ông là: Thông binh pháp ai hơn Tôn Võ – Giỏi thiên văn phải kể Lưu Cơ.
Truyền thuyết kể lại rằng, Chu Nguyên Chương lên ngôi ở Nam Kinh, lập nên triều đại nhà Minh, chuẩn bị thưởng cho các công thần, họ hàng và bạn bè. Ông thấy người có công chỉ chiếm số ít, còn bạn bè thân thiết lại nhiều, nếu tính cả đến những người quen biết sơ sơ thì đông vô kể.
– Chu nguyên Chương cảm thấy việc này thật khó nghĩ. Một ngày Lưu Bá Ôn khuyên Chu Nguyên Chương nên đi ra ngoài cho khuây khỏa. Rồi dẫn ông đến một ngôi đền Thành Hoàng náo nhiệt nhất. Khi vào đền, Chu Nguyên Chương nhìn thấy có rất nhiều người đang chắp tay khấn phật xung quanh điện chính. Trên tường có treo một bức tranh vẽ một người có mái tóc tết lại thành từng búi nhỏ nhìn rối như tổ quạ trên mỗi búi tóc đó lại đội một cái mũ.
Đọc thêm: Khéo dùng ngòi bút để cứu người
– Chu Nguyên Chương mang theo nỗi lòng day dứt về cung. Lưu Bá Ôn lúc này mới nói với ông:
Thưa bệ hạ, thần nghĩ bức tranh đó thật tuyệt vời, tác giả của bức họa này muốn bẩm báo với bệ hạ: ”Sau khi xây dựng đất nước phải ngăn chặn ngay việc: các quan không được làm loạn! ”.
– Thì ra người vẽ bức tranh đó chính là Lưu Bá Ôn. Chu Nguyên Chương liền nói: Tốt, tốt lắm, trẫm hiểu ra rồi, từ nay về sau, trẫm sẽ đích thân quyết định việc triều chính.
