Vào thập niên 1980 Liên Xô đồn trú một lực lượng lớn quân trên lãnh thổ Cộng hòa Dân chủ Đức (tức Đông Đức) và các nước Đông Âu (xét chủ yếu về mặt chính trị chứ không phải địa lý) như Hungary, Ba Lan, và Tiệp Khắc. Lực lượng này bao gồm khoảng nửa triệu binh sĩ (chưa tính hàng trăm ngàn nhân viên dân sự), hơn 9.000 cỗ xe tăng, 5.800 khẩu pháo, 12.000 xe chiến đấu, 1.700 máy bay quân sự cánh cố định, và 700 máy bay trực thăng, cũng như các hệ thống tên lửa chiến thuật.
Những thay đổi căn bản diễn ra khi đó bên trong đời sống chính trị Liên Xô và sau đó là ở các quốc gia mới độc lập ở Đông Âu đã làm đứt gãy hệ thống quan hệ được xác lập từ lâu giữa Moskva và các đồng minh trong khối Hiệp ước Warsaw (Vác-sa-va), khiến cho khối này đứng trước nguy cơ tan rã.
Dựa trên tinh thần của công cuộc cải tổ (perestroika), chính sách giải giáp và cách tiếp cận thân thiện với phương Tây khi đó, ban lãnh đạo Liên Xô đã chú ý tới các yêu cầu của các đồng minh trong khối Hiệp ước Warsaw về rút quân khỏi lãnh thổ các nước này.
Kết quả là, trong các năm 1989-1990, Liên Xô đã thảo luận và nhất trí với từng nước về cách thức, thời điểm, và thời gian việc rút quân này diễn ra.
Các đơn vị của Tập đoàn quân phía Nam (với 70.000 lính) bắt đầu rời khỏi Hungary vào tháng 6/1989.
Tư lệnh lực lượng này, Tướng Matvey Burlakov nhớ lại: “Việc rút quân với Tập đoàn quân phía Nam thì cũng dễ thôi. Liên Xô vẫn còn đó. Ukraine cách đó không xa, chúng tôi chỉ việc tới biên giới và qua đó đã là quê hương. Dĩ nhiên binh sĩ rất háo hức được về nhà. Tại ngũ ở Liên Xô thì dễ chịu hơn là tại Hungary. Trên thực tế chúng tôi không để họ rời khỏi doanh trại. Họ chỉ được phép tới Budapest, rồi quay thẳng về doanh trại”.
Việc rút Tập đoàn quân Trung tâm (gồm 92.000 binh sĩ) từ Tiệp Khắc bắt đầu vào ngày 26/2/1990 và diễn ra qua 3 giai đoạn trong thời gian 18 tháng.
Khi đoàn xe tăng quân đội Xô viết khởi hành từ thị trấn Frenstat ở Bắc Moravia để trở về Liên Xô, có hàng trăm nhà báo từ khắp nơi trên thế giới tụ tập về đây. Đại tá về hưu Stanislav Pogorzel của quân đội Tiệp Khắc nhớ lại: “Họ cứ tưởng rằng người dân Tiệp Khắc sẽ chửi rủa và ném cà chua thối vào các binh sĩ Liên Xô. Ngược lại chỉ có cảnh tụ tập rất cảm động, với một ban nhạc, những bông hoa, và những lời tạm biệt ấm áp”.
Tập đoàn quân phía Bắc (45.000 lính) rút khỏi Ba Lan, việc này bắt đầu từ ngày 8/4/1991 và kết thúc vào tháng 9/1993 (khi Liên Xô đã không còn tồn tại). Những nhân sự cuối cùng rời khỏi Ba Lan đã trở thành quân nhân của Liên bang Nga chứ không còn là của Liên Xô nữa.
Lực lượng quân sự đông đảo nhất và được vũ trang tốt nhất của Liên Xô ở Đông Âu là Tập đoàn quân phía Tây, đóng ở Đông Đức.
Năm 1990, lực lượng này gồm hơn 300.000 quân nhân, 200.000 nhân viên dân sự, 5.000 xe tăng, và 1.700 máy bay. Việc tái bố trí một lực lượng đông như vậy trở thành cuộc tái triển khai lực lượng lớn nhất trong lịch sử quân sự diễn ra thời bình.
Khi nhận được lệnh rút quân, tư lệnh tập đoàn này Tướng Boris Snetkov đã từ chối tuân thủ cấp trên. Vị chỉ huy thứ 15 này của tập đoàn thắc mắc sao lại giải tán tập đoàn khi mà Nguyên soái Zhukov đã lập ra nó.
Do kháng lệnh này, Tướng Boris Snetkov đã bị cách chức và thay thế bằng Tướng Matvey Burlakov, người trước đó đứng đầu Tập đoàn quân phía Nam.
Việc rút quân Xô viết khỏi Đức được hoàn tất vào năm 1994 (khi Liên Xô đã tan rã được vài năm). Ban lãnh đạo Nga và Đức đã quyết định kỷ niệm sự kiện này. Vào ngày 31/3, trước sự hiện diện của Tổng thống Nga Boris Yeltsin và Thủ tướng Đức Helmut Kohl, binh sĩ Đức và Nga cùng nhau đặt vòng hoa tưởng niệm tại Đài tưởng niệm Chiến tranh Xô viết tại công viên Treptower.
Tướng Burlakov tự hào nhớ lại: “Trong 49 năm binh sĩ chúng tôi đồn trú ở Đức, chúng tôi chưa bao giờ hăm dọa ai, chúng tôi cũng chẳng sợ ai cả. Là tập đoàn đông nhất của quân đội Liên Xô và Nga, Tập đoàn phía Tây đã hoàn thành nhiệm vụ lịch sử là bảo vệ hòa bình và ổn định ở châu Âu. Không thể biết trật tự thế giới hậu Thế chiến sẽ ra sao nếu không có quân Liên Xô đóng ở Đức, Tiệp Khắc, Hungary và Ba Lan”.