Hòa ước Giáp Tuất 1874 ra đời, chủ yếu nhằm chính thức hóa một thực tế đã diễn ra từ năm 1867, đó là công nhận quyền kiểm soát của Pháp trên toàn bộ Nam Kỳ lục tỉnh.
Mặt khác, Pháp trả lại các thành trì đã chiếm đóng tại miền Bắc và được tự do thông thương trên thủy lộ sông Hồng. Vào lúc này, đạo quân Cờ Đen dưới quyền Phó lãnh binh Lưu Vĩnh Phúc tiếp tục truy kích đạo quân Cờ Vàng của Hoàng Sùng Anh. Tháng 8 âm lịch 1874, họ Lưu được nhà vua thăng Lãnh binh, hàm chánh tam phẩm. Hai tháng sau, vua y lời tâu của Thống đốc đại thần Hoàng Tá Viêm, thăng Lưu Vĩnh Phúc lên chức Phó Đề đốc, hàm tòng nhị phẩm, ngang với Tham tri (Thứ trưởng), Tuần phủ (Tỉnh trưởng tỉnh nhỏ) (Đại Nam thực lục - Tập 8 - sđd, trang 67, 77).
Có thể nói vào thời điểm này, Lưu Vĩnh Phúc là cánh tay phục vụ đắc lực bậc nhất của Hoàng Tá Viêm tại nhiều tỉnh miền Bắc. Song song với việc tìm diệt đạo quân Cờ Vàng, quân Cờ Đen còn có những hoạt động khiến thực dân Pháp lo lắng. Họ kiểm soát dọc theo sông Hồng, dùng vũ khí ngăn chặn hay uy hiếp tinh thần nhiều người Pháp thông thương trên thủy lộ này khiến Soái phủ Nam kỳ rất bức xúc.
Trước tình thế đó, Thống đốc dân sự đầu tiên của Nam Kỳ là Le Myre de Vilers quyết định dùng áp lực quân sự để phá thế bế tắc giữa hai bên. Ông ta cử đại tá Henri Rivière dẫn vài trăm quân đi tàu ra Bắc vào đầu tháng 4./882. Việc tiếp xúc giữa Rivière và các quan chức Việt Nam đứng đầu là Tổng đốc Hà Nội Hoàng Diệu không dẫn đến kết quả mong muốn, viên đại tá Pháp cho rằng phía Việt Nam không có thiện chí giải quyết vấn đề và quyết định tấn công thành Hà Nội vào ngày 25/4/1882. Thêm một lần nữa, chỉ sau mấy tiếng đồng hồ chiến đấu, thành lại rơi vào tay giặc.
Hơn một tháng sau, lịch sử tái diễn. Ngày 19/5/1883, đại tá Pháp Henri Rivière cũng bị quân Cờ Đen khiêu chiến và phục kích giết chết tại ô Cầu Giấy, nơi đại úy Francis Garnier đã gục ngã cách đó 10 năm.
Cũng như Garnier, sau khi bị tử thương tại ô Cầu Giấy, đại tá Henri Rivière bị quân Cờ Đen cắt mất đầu cùng với 29 sĩ quan, binh lính Pháp, bỏ vào giỏ treo nơi công cộng cho mọi người chứng kiến và sau đó đem vùi lấp ở đâu không thấy các tài liệu lịch sử Việt Nam nói đến.
Mãi về sau, người ta mới phát hiện được trong hồi ký của Bonnal, nguyên Công sứ Pháp tại Hà Nội, một đoạn mô tả chi tiết quá trình khai quật đầu và thi thể của Henri Rivière. Đoạn hồi ký này là phần phụ lục của tác phẩm Correspondance politique du commandant Rivière au Tonkin (Avril 1882 - Mai 1883) (Thư từ chính trị của viên tư lệnh Rivière tại miền Bắc, tháng 4/1882 - 5/1883) do André Masson tập hợp, chú thích và xuất bản cùng lúc tại Hà Nội và Paris năm 1933.
Ngày 17/9/1883, tức gần 4 tháng sau ngày Rivière tử trận, Bonnal được lệnh chứng kiến cuộc khai quật tử thi đầu tiên với tư cách viên chức hộ tịch. Theo sự chỉ dẫn của một số giáo dân Thiên chúa giáo khu vực phủ Hoài Đức, họ đã đến làng Kẻ Mai thực hiện cuộc đào tìm. Chỉ sau vài nhát cuốc, họ phát hiện một chiếc hộp bằng cây sơn đen tình trạng còn tốt. Viên bác sĩ Masse trong đoàn khai quật đã tự tay bật nắp chiếc hộp và những người chứng kiến nhìn thấy giữa lớp đất sét đỏ là một chiếc đầu người đã thối rữa một phần thịt.
Căn cứ vào những lọn tóc dài đã ngả màu hoa râm (Henri Rivière chết năm 56 tuổi). Họ nhận ra đúng là chiếc đầu của Rivière. Trong hộp cây, còn có những đốt xương bàn tay, chứng tỏ 2 bàn tay của Rivière cũng bị chặt đứt, bỏ chung với đầu lâu. Sau đó, đoàn khai quật moi tìm từ lớp sình của một khu ruộng, tìm được 28 chiếc đầu lâu khác đã bị quân Cờ Đen vứt đi sau thời gian trưng bày.
20 ngày sau, Bonnal tiếp tục cho tìm thi thể còn lại của Rivière. Trong biên bản ngày 8/10/1883, ông ta mô tả khá tỉ mỉ kết quả khai quật và một dấu hiệu cho phép khẳng định đã tìm được thi thể của Riviere, đó là 2 chữ H.R. thêu trên tấm vải che ngực và những cánh tay đã bị cắt mất bàn tay. Tất cả được cho vào một chiếc quan tài bằng cây rất dày, phủ vôi bột và chở về Hà Nội (Correspondance... - sđd, trang 261-264).
Sau một buổi lễ được tổ chức tại nhà thờ tạm của đoàn truyền giáo Pháp tại Hà Nội, đầu cùng thi thể của Henri Rivière và của các sĩ quan, binh sĩ dưới quyền được cải táng ở nghĩa trang dành cho người Pháp ở thành phố này.