1875년 오스트리아-헝가리 제국의 지배를 받던 체코 프라하의 독일계 가정에서 태어났다. 1985년 국립 프라하대학교에 입학했고 문학과 철학 등을 공부했다. 이듬해 뮌헨대학교에서 예술사, 미학 등을 수학했고, 뮌헨에서 루 안드레아스 살로메를 만났다. 열아홉 살 때 첫 시집 『삶과 가곡』(1894)을 자비로 출간했고, 『가신봉폐』(1895), 『꿈의 왕관을 쓰고』(1897), 『강림절』(1898) 등 낭만주의 경향의 시집들, 이탈리아 여행기 『피렌체 일기』(1898), 체코 독립운동을 다룬 단편집 『프라하의 두 이야기』(1899), 로댕의 예술철학을 담은 『오귀스트 로댕』(1903)과 이때의 영감으로 완성한 『신시집』(1907) 등을 펴냈다. 1901년 로댕의 제자 클라라 베스트호프와 결혼했고, 클라라와 헤어진 후 로마에 머물며 20세기 문학에서 가장 중요한 작품 중 하나로 손꼽히는 반자전적인 시적 소설 『말테의 수기』(1910)를 완성했다. 1911년, 두이노성에서 겨울을 보내며 1차 세계대전의 영향과 우울증으로 완성에 십 년이 걸린 만년의 대작 『두이노의 비가』(1923)를 쓰기 시작했다. 말년에 스위스의 뮈조트성에 머물며 폴 발레리 등과 교유했고, 1926년 백혈병으로 발몽요양소에서 눈을 감았다.
