선수 시절 후반기인 1939년에 대뇌와 척수의 운동신경 세포가 파괴되어 근육이 점점 힘을 잃어가는 근위축성 측색 경화증으로 은퇴하였고, 2년 뒤인 1941년에 서른 일곱 살의 젊은 나이로 사망하였는데 훗날 이 병은 그의 이름을 따서 ‘루 게릭 병’이라는 별칭으로도 불리게 되었다.
1939년 시즌 중 은퇴를 선언하고 그 해 7월 4일 양키 스타디움에서 ‘세상에서 가장 행복한 사람’이란 제목의 유명한 은퇴 연설을 남겼다. 이 날 양키스 구단은 게릭의 등번호 4번을 영구 결번으로 지정하였는데 이것은 메이저 리그 야구 최초의 영구 결번이다.