Walter Nicolai sinh ngày 1/8/1873 tại thành phố Braunschweig. Bố ông là sĩ quan quân đội Phổ từng tham gia 3 cuộc chiến tranh thống nhất nước Đức - với Đan Mạch, Áo và Pháp; còn mẹ ông sinh ra trong gia đình nông dân. Năm 1893, tốt nghiệp trung học, Walter Nicolai vào học trường Thiếu sinh quân, sau khi tốt nghiệp, ông được phong quân hàm trung úy quân đội Đức. Cuộc đời binh nghiệp của ông bắt đầu bằng việc phục vụ tại trung đoàn bộ binh Phổ ở Gottingen. Năm 1900, ông trở thành sĩ quan tùy tùng của viên tiểu đoàn trưởng. Cùng năm, Walter Nicolai kết hôn với con gái của trung đoàn trưởng và chung sống hơn 30 năm cho đến khi bà qua đời.
Từ năm 1901 đến năm 1904, Walter Nicolai học tại Học viện Quân sự của Bộ Tổng tham mưu ở Berlin. Là một trong những học viên xuất sắc nhất, sau khi tốt nghiệp, ông được phong quân hàm Trung úy. Ở Học viện, ông học tiếng Anh, tiếng Pháp và tiếng Nga. Sau đó, cùng với các sĩ quan trẻ, ông được dự định cử đến Nhật Bản để nghiên cứu diễn biến của Chiến tranh Nga - Nhật bắt đầu vào tháng 2/1904. Nhưng chuyến đi không thành do kế hoạch của Bộ chỉ huy Đức thay đổi. Tầm nhìn của Bộ chỉ huy hướng về phía Nga, nước đang khôi phục sức mạnh quân sự sau thất bại trong cuộc chiến ở Viễn Đông. Berlin quyết định tăng cường hoạt động tình báo trên biên giới Đức và lãnh thổ phía tây của đế quốc Nga.
Mùa xuân năm 1906, Walter Nicolai được thăng hàm đại úy và chuyển sang biên chế chính thức của Bộ Tổng tham mưu. Sau đó, ông được cử đến Đông Phổ tham gia hoạt động tình báo quân đội. Bộ Tổng tham mưu cho rằng việc thay đổi tình hình chính trị đòi hỏi phải tăng cường hoạt động tình báo chống lại Nga bằng cách sử dụng nguồn lực của các đơn vị quân đội đồn trú trên biên giới với Đức. Tháng 6/1906, Walter Nicolai đảm nhận chức vụ sĩ quan tình báo tại trụ sở quân đoàn ở Konigsberg (nay là thành phố Kalinigrad của Liên bang Nga). Walter Nicolai được giao nhiệm vụ đẩy mạnh hoạt động tình báo ở khu vực biên giới Đông Phổ với Nga. Ông được hành động độc lập và chỉ chịu trách nhiệm trước ban lãnh đạo của Bộ Tổng tham mưu.
Biến đồn tình báo Konigsberg thành trụ sở điều phối và thu thập thông tin tình báo khu vực, trong một thời gian ngắn, Walter Nicolai đã thành lập mạng lưới tình báo hiệu quả ở khu vực biên giới. Công việc của ông đạt kết quả tốt và được đánh giá cao.
Năm 1912, Waltter Nicolai trở lại Berlin. Tháng 3/1913, với cấp bậc thiếu tá, ông được bổ nhiệm làm Cục trưởng Cục Tình báo III b thuộc Bộ Tổng tham mưu, phạm vi quyền hạn của bộ phận này được mở rộng đáng kể khi xuất hiện thủ trưởng mới. Cục III b đứng đầu toàn bộ hệ thống tình báo và phản gián trong quân đội, và điểm mới là bắt đầu tham gia hoạt động tình báo chính trị, đồng thời tác động đáng kể đến tiến trình các sự kiện trong chiến tranh. Ông cũng được giao nhiệm vụ thiết lập quan hệ với các tùy viên quân sự Đức ở các nước Châu Âu, và giám sát các đại sứ quán nước ngoài ở Berlin.
Vì Cục III b không chỉ là cơ quan tình báo quân đội mà còn là cơ quan tình báo và phản gián quân sự - chính trị quốc gia, nên làm việc ở đây không chỉ các sĩ quan mà còn cả các nhân viên dân sự giỏi ngoại ngữ và am hiểu tình hình chính trị nội bộ các nước đang giao tranh với Đức.
Cục III b còn tham gia các hoạt động phân tích và tuyên truyền. Cơ cấu của nó gồm cả Phòng Báo chí Quân đội, chịu trách nhiệm kiểm soát báo chí và xử lý các tài liệu được đăng tải trên các phương tiện truyền thông nước ngoài, kiểm duyệt thông tin báo chí trong nước và tuyên truyền ở nước ngoài. Việc xử lý các tài liệu in ấn nước ngoài được đặc biệt chú ý. Tất cả thông tin được các chuyên gia phân tích tỉ mỉ, sau đó biên soạn thành những bản tin khá dày dặn và cung cấp cho các cơ quan quân đội và chính phủ.
Vì hoạt động tình báo chiến thuật trên các mặt trận nằm dưới sự chỉ huy trực tiếp của các đơn vị quân đội, Walter Nicolai đã thành lập các cơ quan đại diện của mình tại các sở chỉ huy của họ. Nhiệm vụ của các cơ quan này là thu thập thông tin chiến lược mà Bộ Tổng tham mưu quan tâm và trao đổi thông tin với bộ chỉ huy mặt trận. Công việc này, như Walter Nicolai về sau viết, đã làm mất lòng một số tướng lĩnh quân đội, những người rất nghi ngờ về hoạt động của các nhân viên trong bộ phận của ông, coi họ là những điệp viên không mong muốn.
Tuy nhiên, người đứng đầu cơ quan tình báo lại nghĩ khác, ông coi hoạt động của các sĩ quan của mình là yếu tố quan trọng nhằm vô hiệu hóa hiện tượng "tô hồng" trong báo cáo của các đơn vị quân đội gửi cho Bộ Tổng tham mưu. Sau này, trong các tác phẩm của mình, Walter Nicolai nhiều lần nhấn mạnh rằng ông coi một trong những nguyên nhân chính khiến Đức thất bại trong chiến tranh là "thiếu sự tương tác cần thiết giữa giới lãnh đạo quân sự, chính trị của đất nước và cơ quan tình báo". Walter Nicolai đã xây dựng được một mạng lưới tình báo hiệu quả, gồm hàng trăm điệp viên hoạt động ở nhiều nước Châu Âu, trong đó có Nga.
Nhân viên nổi tiếng nhất của Cục III b là Elisabeth Schragmuller - nữ sĩ quan duy nhất của quân đội Đức đã thực hiện thành công các chiến dịch tình báo ở Ý, Bỉ, Hà Lan, Pháp, Thụy Sĩ, Anh và trở thành người lãnh đạo Trung tâm Tình báo Đức ở Antwerpen (Bỉ). Trong một thời gian ngắn, Cục III b cũng đã thành lập lưới tình báo ở các quốc gia trung lập: Thụy Sĩ, Hà Lan, Thụy Điển và Đan Mạch. Các cơ sở tình báo Đức cũng được đặt tại Geneva, Amsterdam, Stockholm và Copenhagen để liên lạc với mạng lưới này.
Một số nhà nghiên cứu cho rằng khi hoàn thiện công tác tình báo ở các nước Châu Âu, Walter Nicolai đã đánh giá thấp Hoa Kỳ như một kẻ thù tiềm tàng trong cuộc chiến tranh thế giới và không quan tâm đúng mức đến việc thành lập mạng lưới điệp viên ở nước này. Có thể, sở dĩ như vậy là vì trong hồi ký của mình, ông không viết nhiều về hoạt động của Cục III b ở lục địa Mỹ. Cụ thể, David Kahn khẳng định rằng người đứng đầu cơ quan tình báo Đức "chuyển sự chú ý sang Hoa Kỳ như một lĩnh vực hoạt động chỉ vài tháng trước khi nước này tham chiến vào tháng 4/1917". Tuy nhiên, một số nhân viên của phái đoàn ngoại giao Đức ở Mỹ lúc bấy giờ nói rằng tình báo Đức đã thành lập một lưới tình báo rất năng động ở Mỹ, thậm chí tuyển mộ được các điệp viên thân cận với giới quan chức cao cấp của chính phủ Mỹ.
Có giá nhất trong số này là Muriel White, con gái của nhà ngoại giao Mỹ nổi tiếng Henry White, một trong những người bạn của Tổng thống Woodrow Wilson. Không rõ khi nào và vì lý do gì mà Muriel White kết hôn với một đại tá quân đội Đức và bắt đầu hợp tác với tình báo Đức. Nhưng các nhà nghiên cứu cung cấp nhiều bằng chứng cho thấy với tư cách là một điệp viên, bà gặt hái được nhiều thành công. Trong các tài liệu bà gửi tới Berlin, ngoài các báo cáo được soạn thảo trên cơ sở các cuộc trò chuyện mà bà tình cờ nghe được giữa bố bà và các quan chức cấp cao ở Washington, thảo luận về những lựa chọn khác nhau để tăng cường quan hệ với Đức trong thời gian chiến tranh đang diễn ra, còn có các bản sao những bức thư đóng dấu "tuyệt mật" mà bố bà nhận được từ các chính khách của các nước Châu Âu đang có chiến tranh với Đức.
Theo nhận xét của Walter Nicolai, "Tình báo Đức chú ý đến việc tổ chức tuyên truyền chính trị ở Hoa Kỳ với mục đích kín đáo tác động tới dư luận Mỹ và thu hút người Mỹ về phía Đức". Những nhiệm vụ này được giao cho các nhân viên của đại sứ quán Đức. Để thực hiện điều đó, ở Berlin, người ta thành lập một bộ phận đặc biệt chuyên chuẩn bị các tài liệu tuyên truyền và gửi sang Mỹ. Sau đó, Đại sứ quán Đức chuyển chúng cho các tòa soạn báo Mỹ để công bố, với sự trợ giúp của các nhà báo Mỹ làm việc vì lợi ích của Đức.
Sau khi Đức thất trận và trong nước xuất hiện các sự kiện cách mạng, Walter Nicolai buộc phải nghỉ hưu với quân hàm đại tá.
Trong những năm 1920, Walter Nicolai viết hai cuốn sách về cuộc đời và sự nghiệp quân sự của mình, trong đó ông mô tả chi tiết các chiến dịch bí mật của Đức trước và trong Thế chiến thứ nhất. Đây là những tác phẩm nghiêm túc và đáng tin cậy về tình báo quân đội. Trong những năm học ở trường Thiếu sinh quân, Walter Nicolai thường ghi nhật ký, trong đó ông mô tả các sự kiện mà ông tham gia và liên tục hệ thống hóa chúng, đồng thời thu thập các tài liệu liên quan đến cá nhân ông và gia đình ông. Kết quả là ông đã xây dựng được một kho tài liệu phong phú về tổ chức và hoạt động của tình báo Đức.
Những cuốn sách của ông không chỉ trình bày nhiều nguyên tắc hoạt động tình báo mà còn cung cấp những tư liệu lịch sử thực tế rất có giá trị. Giá trị của chúng còn thể hiện ở chỗ phần lớn các tài liệu về hoạt động của cơ quan tình báo Đức trong Thế chiến thứ nhất đã bị tiêu hủy vào cuối năm 1918.
Dưới thời kỳ Đức Quốc xã, Walter Nicolai công tác tại hội đồng chuyên gia của Viện Nghiên cứu lịch sử nước Đức mới. Những tuyên bố về việc ông làm việc cho cơ quan tình báo Đức Quốc xã trong Thế chiến thứ hai, được công bố trong một số tác phẩm của các nhà báo, là không đúng sự thật.
Năm 1945, sau khi chiến tranh kết thúc, Walter Nicolai tự nguyện ở lại vùng lãnh thổ Đức bị quân đội Liên Xô chiếm đóng. Ông được Ủy ban An ninh Quốc gia Liên Xô đưa đến Moscow để thẩm vấn. Tuy nhiên, do trong thời kỳ Đức Quốc xã, ông không có quan hệ gì với ban lãnh đạo Đế chế thứ ba, nên ông không thể khai báo điều gì đặc biệt thú vị với các nhân viên tình báo Liên Xô. Tháng 2/1947, Walter Nicolai bị đột quỵ và qua đời ngày 4/5 cùng năm. Ông được an táng tại nghĩa trang Donskoye ở Moscow trong một ngôi mộ tập thể.