1969년 고등학교 3학년 때 3선 개헌 반대 시위를 주도해 무기정학을 당했다. 대학 입학 직후 학생운동에 투신해 1971년 10월 제적됐고 노동운동을 하다가 1973년 10월 복학했지만 1974년 민청학련 사건에 연루돼 또 제적됐다. 1993년 9월 서울대에서 시국사건 관련자 복학 조치로 3학년 2학기로 복학했고 남은 39학점을 이수해 1994년 8월 29일 24년 만에 졸업했다. 이 당시 김문수가 꼬박꼬박 수업에 출석하자 교수가 "오지 않아도 됩니다. 시험 때만 오면 됩니다."라고 했지만 꾸준히 출석하여 A학점을 받았다고 한다.

본래 매우 유명한 운동권 지도자 출신이었다. 유명한 정도가 아니라 무려 20년 이상을 노동운동에 투신하며 활동한, 그야말로 1980년대 노동운동을 대표하는 전설이다. 이 시절 운동권을 논할 때 김문수는 꼭 언급되고 넘어간다. 그 시절 노동운동가들 대다수가 김문수를 따르거나 혹은 김문수가 이끌던 조직과 깊게 연계되어 활동하던 사람들이었으며, 당시 김문수는 노동운동계의 김근태라고 볼 만큼 절대적인 인물이었고 수많은 노동운동 후배들의 흠모와 존경을 받던 인물이다.

1학년 때 훗날 국회의원이 되는 5년 선배 심재권의 권유로 서울대학교 학생운동 서클 중 하나였던 후진국 사회연구회에 들어가 학생운동을 시작했고, 2학년 때 김근태에 의해 공활을 경험하고 노동운동에 관심을 갖게 된다. 김문수는 1970년대 초중반까지는 학생민주화운동과 노동운동을 병행했는데, 스스로 회고하기를 당시 진로 방향을 제대로 못 잡았다고 한다. 그러다가 노동운동에만 전념하기로 하고 공장에 위장취업 후 노동조합을 만들면서 1980년대에 전설적인 노동운동가가 되었다.

그의 얼굴 한 번 못 본 신인급 노동운동가 청년들도 입소문으로 퍼진 '노동투쟁 신화 김문수'의 파란만장한 전설들을 들으며 존경했다고 하니 그 위상을 미루어 짐작할 수 있다. 실제로 대학 제적 후 스스로 공장에 위장취업하여 한일도루코 노조위원장을 지내면서 밑바닥부터 노동운동을 한 인물이다. 대학생들의 위장취업이 본격적으로 시작되는 시기가 1980년대다. 1980년대의 대학생들, 특히 노동운동계에 뛰어든 20대 젊은이들에게 김문수는 절대적인 전설이었다. 당시 김문수의 연설 내용을 그대로 적은 필본이 돌아다니곤 했다고 하는데, 그 연설을 못 본 사람들이 자기들끼리 필본을 돌려보면서 눈물을 흘리는 경우들도 흔히 있었다고 할 정도.

........

서울대학교 상과대학 경제학과 재학 중이던 1970년 제8회 행정고등고시에 합격하여 경제관료로 근무했다. 1970년 12월 8일 관세청 가격조사담당관실 사무관으로 공직 생활을 시작했다.

....

  1977년 미국으로 유학, 1979년 6월에 하버드 대학교 대학원에서 경제학 석사 학위(MA)를 취득하였으며 귀국 후 1980년 서기관으로 승진했다. 상공부로 자리를 옮겨 미주통상과장을 맡던 1982년에 한 번 더 미국으로 유학, 1984년 6월에 하버드 대학교 대학원에서 경제학 박사 학위(Ph.D.)를 취득했다. 귀국 후 다시 상공부에서 과장으로 근무하다가 1989년에 부이사관으로 승진해 현재 중소벤처기업부의 전신이라고 할 수 있는 상공부 중소기업국의 국장을 맡았다.