Với bản tính cương trực, liêm chính, Lưu Bá Ôn mặc dù đã về ở ẩn và không muốn tiếp xúc với quan lại, nhưng ông không hoàn toàn có thể bỏ ngoài những sự việc chướng tai gai mắt của cuộc đời. Một lần ông thấy bọn đào binh Minh Dương nổi loạn tại Đạm Dương, giết người cướp của, tàn hại bá tánh trong khi bọn quan lại địa phương sợ bị trách tội nên không dám báo cáo tình hình. Thế là Lưu Bá Ôn đã nhờ con trai mình là Lưu Liễn viết tấu chương gửi cho triều đình yêu cầu trừng trị bọn chúng.
Thế nhưng phe cánh của Hồ Duy Dung trong triều đã lợi dụng việc này để viết một tấu chương vu cho Lưu Bá Ôn tội âm mưu xây mộ tại Đạm Dương để lợi dụng vương khí ở đây mưu chuyện bất chính và sai Tuần Kiểm ty chiếm đất, xua đuổi dân chúng để lấy đất xây mộ, khiến dân chúng nổi loạn. Chu Nguyên Chương nghe qua rất bực tức nên đã hạ chiếu chỉ cắt hết bổng lộc của họ Lưu. Biết là có người muốn hại mình, nhưng trước tình hình phe đảng của Hồ Duy Dung chiếm lĩnh triều đình, Lưu Bá Ôn không thể tự thanh minh cho mình mà buộc phải đến "nhận lỗi" trước mặt Chu Nguyên Chương để tránh họa sát thân. Chu Nguyên Chương thấy vậy nên cũng bỏ qua không truy cứu nữa.
Sau lần đó, Lưu Bá Ôn dọn về ở hẳn tại kinh đô và đóng cửa ở lỳ trong nhà, không tiếp xúc với ai để tránh tạo cớ cho Hồ Duy Dung vu hại. Tuy nhiên, trước tình hình thời cuộc ngày càng tồi tệ, nhất là khi biết Hồ Duy Dung đã được vua thăng lên làm Thừa tướng, Lưu Bá Ôn buồn rầu mà chẳng bao lâu sinh bệnh. Ông nói: Hồ Duy Dung lên làm Thừa tướng, chắc chắn sẽ sinh đại họa, quốc gia sẽ gặp đại loạn, sinh linh lại phải chịu tai ương. Nếu lời nói của tôi không ứng nghiệm, thì đó chính là đại hồng phúc của bá tánh nhân dân. Trái lại, nếu lời nói của tôi ứng nghiệm, thì cuộc sống của đông đảo chúng sinh biết làm sao đây?
Câu nói đó lọt đến tai khiến Hồ Duy Dung càng căm tức và quyết tâm trù dập Lưu Bá Ôn. Quá phẫn uất trước nạn quyền thần lộng hành, bệnh tình của ông càng lúc trở nên nguy kịch. Chu Nguyên Chương thấy thế không khỏi thương cảm nên đã đích thân viết biểu văn gửi đến Lưu Bá Ôn và phái sứ giả hộ tống ông trở về quê nhà. Có điều, bệnh của Lưu Bá Ôn không hề thuyên giảm và chỉ một tháng sau đó (năm 1375) ông qua đời, hưởng thọ 64 tuổi. Có thuyết cho rằng Hồ Duy Dung đã sai thầy thuốc của mình mang độc dược đến hại chết Lưu Bá Ôn. Vì trước lúc Lưu Bá Ôn chết, ông nói rằng khi uống thuốc của Hồ Duy Dung mang đến thì thấy trong bụng có một vật cứng như đá, to bằng nắm tay.
Dù bị hãm hại và bạc đãi, Lưu Bá Ôn vẫn một lòng trung thành với triều đình nhà Minh. Lúc lâm chung, Lưu Bá Ôn đã gọi các con trai Lưu Liễn, Lưu Cảnh đến và đưa tác phẩm "Thiên văn thư" cho Liễn cùng một bản tấu chương bàn luận về thế sự, phương pháp trị nước cho Cảnh. Ông dặn Liễn và Cảnh rằng Hồ Duy Dung chuyên quyền bạo ngược thể nào cũng gặp tai họa. Vì vậy sau khi Hồ Duy Dung và phe đảng bị diệt trừ thì Liễn và Cảnh hãy đem bản tấu chương cùng "Thiên văn thư" đến dâng cho Chu Nguyên Chương.
Đúng như Lưu Bá Ôn dự đoán, khi Hồ Duy Dung và bè đảng nắm hết quyền hành, lộng quyền phách lối, nên bị Chu Nguyên Chương nghi ngờ. Nghi án Lưu Bá Ôn bị hạ độc cũng được cho điều tra lại. Trước tình hình đó, Hồ Duy Dung đã âm mưu làm phản nhưng bị bại lộ, thế là ông ta cùng toàn bộ phe đảng bị Chu Nguyên Chương xử tử. Lúc này, Chu Nguyên Chương lại nhớ đến Lưu Bá Ôn. Lưu Liễn và Lưu Cảnh nhân cơ hội đó đã vào cung, dâng "Thiên văn thư" cùng bản tấu chương của cha mình cho nhà vua. Nhận thấy tâm huyết của vị lão thần trung thành, Chu Nguyên Chương cảm động nói:
- Khi Lưu Bá Ôn còn sống, cả triều đình đều là bọn phe đảng, chỉ riêng có một mình ông ấy là không theo chúng, nên mới bị chúng hạ độc.
Để tri ân lòng trung thành và những đóng góp to lớn của Lưu Bá Ôn, năm 1380, Chu Nguyên Chương đã hạ lệnh cho con cháu của Lưu Cơ được hưởng tước lộc truyền từ đời này qua đời khác, đó là tước Thành ý Bá.
Theo các sử gia đương thời, Lưu Bá Ôn là bậc văn võ song toàn, là nhà mưu lược có một không hai vào thời ấy và cũng là bậc văn thần khai quốc hàng đầu của nhà Minh ở Trung Quốc ngày xưa. Và điều mà hậu thế ngày nay còn kính phục ở ông là triết lý "quan bức, dân phản". Vâng, điều ấy không ai có thể phủ nhận, vì thời nào và ở đâu cũng vậy, nếu quan lại mà hà hiếp, tham lam và tàn bạo thì ở đó dân chúng ắt sẽ nổi lên làm phản. Vì nhân dân mới chính là những người làm nên lịch sử, đẩy thuyền đi cũng là nước, mà làm lật thuyền cũng là nước và sức dân còn mạnh hơn sức nước.
Chưa hết, hậu thế còn biết đến Lưu Bá Ôn là một nhà thiên văn học, nhà địa lý tài ba. Trong con mắt của các thầy phong thủy thời đó, Lưu Bá Ôn là bậc thầy về thần cơ diệu toán, là nhân vật để lại dấu ấn trong lịch sử phong thủy của Trung Quốc và thế giới. Tiếc rằng, một "thần nhân" như vậy mà cũng không hiểu số phận cũng như kết cục cuộc đời của mình, để đến nỗi cuối đời bị bất hạnh, thậm chí bị đầu độc mà chết? Thế mới biết, thuật phong thủy không cứu nổi con người, thầy địa lý cũng không cứu nổi chính mình, mà chỉ có những ai ở hiền mới gặp lành mà thôi.