Tuổi thơ tám, mười tuổi ông đã xa quê. Mười tám tuổi ông lên chiến khu Hòa Mỹ rồi ra học ở Nghệ An, đỗ Trường đại học Bách Khoa Hà Nội khóa 1. Học tự nhiên nhưng ông làm thơ nhiều và nghiệp văn của ông đi rất thoáng. Ông có thơ in báo rất sớm với bút danh Dao Ca, Đỗ Hữu. Về sau ông lấy tên thật hy vọng qua làn sóng của Đài Tiếng nói Việt Nam, những người thân ở miền Nam biết được ông còn sống. Quả nhiên có người đọc báo, nghe đài thấy có nhắc đến ông, cả họ hàng bà con mới biết ông đang sống ở miền Bắc. Năm 1951, khi mới mười lăm tuổi, đang là học sinh Trường Quốc Học Huế, ông đã có hai bài thơ “Hải Vân” và “Rừng chiều” in trong giai phẩm “Nhân loại” phát hành tại Hà Nội. Tiếp đó có thơ trên báo “Đời mới”, “Mới”, “Thẩm mỹ”... Năm 1953-1954 thường xuyên cộng tác với tuần báo “Nhân loại” do thi sĩ Đông Hồ và Mộng Tuyết chủ biên. Ngay khi mới xuất hiện, ông đã có những câu thơ được bạn viết cùng thời thán phục: “Người có theo tôi lên dốc nắng/Nhìn xem hoa rải sắc trên đường/Chiều nay gió thổi buồn ghê lắm/Lá đổ sau lưng một trận vàng”…
Bài thơ đầu tiên Nguyễn Xuân Thâm in trên Báo Văn Nghệ năm 1960 là “Núi đá Cánh Diều”. Những năm 1964 và 1965, NXB Văn Học cho in tập thơ “Sức Mới” để tập hợp và khẳng định lớp nhà thơ trẻ ra đời, đã chọn thơ ông. Năm 1967, tập “Thơ chống Mỹ cứu nước, 1965-1967” do Chế Lan Viên tuyển chọn, tác giả nào được in trong tuyển thì vinh dự vô cùng. Có tám nhà thơ trẻ dạo ấy được in hai bài trong tập, như: Thái Giang, Xuân Quỳnh, Bằng Việt, Lưu Quang Vũ, Phạm Ngọc Cảnh, Văn Thảo Nguyên, Hoài Anh và Nguyễn Xuân Thâm. Hai bài thơ “Rông chiêng” và “Cái chết của em Dần” của ông là hai bài thơ ám ảnh. Đặc biệt, hình tượng em Dần chết vì bom giặc thả vào lớp học, khi trong túi áo em còn hai củ khoai chưa kịp ăn như những nét dao sắc cứa vào tâm trí người đọc…
Rồi ông được cử đi làm chuyên gia giáo dục ở Ăng-gô-la. Xứ sở châu Phi nóng như lửa và nhiều ruồi vàng khiến ông ủ bệnh. Đi xét nghiệm, thì hay ông bị ung thư vào giai đoạn cuối. Vậy mà ông bình tĩnh, lặng lẽ chiến đấu với tử thần đến cơ hội cuối cùng. Ông chấp nhận mổ cắt đi nửa trên hàm trái, chiếu xạ gia tốc và dùng nấm linh chi như một liệu pháp sinh tử. Không biết là cơ duyên hay bởi ý chí chiến đấu của ông, một năm sau, ông dần khỏi bệnh. Những khối u trên cằm dần biến mất. Những ngày chống chọi với bệnh tật hiểm nghèo ấy, ông đã viết như chạy đua với cái chết. Tập thơ “Tìm trầm” của ông ra đời trong bối cảnh đặc biệt đó. Nó là tập thơ được giải thưởng của Hội Nhà Văn Việt Nam năm 2002.
Năm 2003, ông cho ra mắt tập “Thơ với tuổi thơ” (NXB Kim Đồng). Năm 2009, ông cho xuất bản tập “Chợt nhớ sâm cầm”. Trong một bài thơ viết về xứ Huế, thơ ông dồn lên niềm khắc khoải: “Tôi trở về/Em khóc bên dòng sông/Chiều như bao chiều Huế/Mây bay trên những cửa thành…”
Nhà thơ Trần Phương Trà kể: Hồi đó làm biên tập chương trình Tiếng thơ, Trần Phương Trà đã thu thanh nhiều bài thơ của Nguyễn Xuân Thâm. Bài Cheo Reo do nghệ sĩ Châu Loan trình bày là một trong nhiều bài được phát thanh nhiều lần với mấy câu mở đầu:
Cheo Reo
Thưa thớt những buôn nghèo
Những Ma Chen, Ma Thít
Voi đi trong lũng hẹp.
Người Cheo Reo như cây mì...
Nhà văn Đỗ Chu kể, ấn tượng nhất của Nguyễn Xuân Thâm đối với ông là hình ảnh nhà thơ hai tay đút túi quần, giọng Huế nhẹ nhàng đọc mấy câu thơ lúc nghe nhạc Trịnh: “Nhà ai Khánh Ly hát/ thảng thốt trời xanh trên mái nhà thờ”.
Thơ ông hay nhưng cái duyên bạn đọc không nhiều. Nhà thơ Chế Lan Viên từng phải kêu lên: “Thơ có lắm bài hay, nhưng nào ai biết đến đâu”…
Năm 1964, Báo Lao Động tổ chức cuộc thi thơ rất sôi động. Nhiều cây bút lừng danh cũng dự thi. Ban giám khảo toàn là các nhà thơ cự phách như Chế Lan Viên, Xuân Diệu, Huy Cận... Vậy mà chùm thơ ông được xét giải cao. Chính nhà thơ Chế Lan Viên thông báo cho ông bài thơ “Đảo con gián” được giải nhất, cả hội đồng chấm thi đều nhất trí cho điểm cao. Năm 1996, tập thơ thiếu nhi “Con gà đất bảy màu” của ông được NXB Kim Đồng trao giải thưởng.