1821년 충남 청양(靑陽) 화성면 농암리에서 출생하였다. 본관은 경주이며 아명(兒名)은 양업(良業), 관명(冠名)은 정구(鼎九)이다. 아버지는 최경환, 어머니는 이성례이며 기해박해 때 모두 순교하였다.
1836년(헌종 2) 프랑스 신부 모방(Maubant)에게 최방제(崔方濟), 김대건(金大建)과 함께 신학생으로 선발되었다. 중국으로 돌아가는 신부를 따라 12월 28일 책문(柵門)에 도착하였고 샤스탕(Chastan) 신부의 도움으로 1837년 6월 7일 마카오 파리 외방전교회 극동 대표부에 도착하였다. 임시로 설치된 조선신학교에서 사제가 되기 위한 공부를 하였다. 1844년 12월 10일 김대건과 함께 신학교를 졸업하고 부제(副祭)가 되었다. 사제 서품을 먼저 받고 페리올 주교와 함께 조선으로 입국하였던 김대건 신부가 병오박해로 체포되어 순교하자 최양업 부제는 조선으로 입국하지 못하고 홍콩으로 이동하였다.
1847년 프랑스함대를 따라 조선으로 향했지만 배가 좌초되어 전라북도 고군산군도(선유도)에 상륙하였다가 상하이로 다시 돌아갔다. 1849년 상하이[上海]에서 마레스카(F. Maresca) 주교의 집전(執典)으로 신품(神品)을 받고 조선 천주교 사상 두 번째의 신부가 되었다.
조선으로 귀국하기 위해 백령도까지 갔으나 약속된 배가 오지 않아 다시 중국으로 돌아갔다. 이후 요동에서 중국인을 대상으로 사목활동을 전개하다 13년만에 홀로 조선으로 귀국하였다. 최양업 신부는 전국에 흩어져 있는 교우촌 신자들을 위한 순방을 하였는데 1850년부터 1861년까지 프랑스 선교사들이 접근하기 어려운 지역을 맡아 사목활동을 전개하였다.
경신박해가 일어나자 경상도 울주군 상북면 이천리에 숨어지내다 베르뇌(S.F. Berneux) 주교에게 사목활동 보고를 위해 서울로 가던 중 문경에 있는 교우촌에서 과로로 사망하였다.