Trong bối cảnh lịch sử nhiều biến động dữ dội đương thời, giới sĩ đại phu, nhất là các cựu thần nhà Lê có những phương cách ứng xử khác nhau. Riêng Đỗ Lệnh Thiện, ngay từ đầu đã lựa chọn con đường ẩn cư, trở thành một kẻ ẩn phu để giữ trọn khí tiết của mình. Đó là sự lựa chọn nhất quán của ông. Triều Lê được ông quan niệm là “quốc” sụp đổ, rồi cha mẹ, người vợ trẻ mà ông yêu thương nối nhau qua đời… Đỗ Lệnh Thiện rơi vào cảnh “quốc phá gia vong”, sống ẩn cư nơi đất khách. Các triều đại mới lần lượt thay thế nhau, thời thế đã đổi khác nhưng ông vẫn luôn quan niệm mình là kẻ bề tôi côi cút của triều Lê… Do đó, mặc dù sống trên đất nước mình, nhưng ở Đỗ Lệnh Thiện có tâm thái của một kẻ lưu lạc. Ông đem tất cả suy tư, tình cảm bi thiết của mình thể hiện qua thơ ca, tập hợp thành một tập thơ đầy cảm xúc, lấy tên là Kim Mã ẩn phu cảm tình lệ tập.
Qua tập thơ, người đọc thấy được tâm sự cá nhân của Đỗ Lệnh Thiện, đồng thời hiểu hơn về tâm thái kẻ sĩ và lịch sử xã hội Việt Nam giai đoạn cuối thế kỉ XVIII - đầu thế kỉ XIX.