조선 후기에는 강학(講學)을 통해 화엄(華嚴) 등이 중시되며 교학이 선(禪)과 함께 주요한 전통을 이루었다. 이는 17세기에 선과 교를 겸수하는 승려 교육과정과 선·교·염불을 함께 닦는 삼문(三門) 수행 체계가 성립된 것에서 기인한다. 그런데 최상의 수행방안인 간화선(看話禪)의 권위를 내세워 선종의 우위를 주장하며 그 정체성을 회복하려는 움직임이 일어났다. 그리고 그에 대한 반론이 나오면서 19세기 선 논쟁이 촉발되었다. 선 논쟁의 단초는 백파 긍선(白坡亘璇, 1767~1852)에 의해 마련되었다. 그는 원래 강학에 정통했지만 40대 중반부터 선 수행에 전념하며 선의 우월성을 강조했다. 그리고 진정한 깨달음을 위해서는 조사선(祖師禪)을 실천해야 한다고 주장했다. 그는 『선문수경(禪文手鏡)』에서 선을 조사선·여래선(如來禪)·의리선(義理禪) 3종으로 차등적으로 구분했다. 가장 뛰어난 조사선과 다음의 여래선은 틀을 벗어난 격외(格外)의 선임에 비해, 교학을 포함한 의리선은 문자와 언어의 이해에 빠진 것이라고 해서 가장 낮은 단계로 보았다. 또한 삼처전심(三處傳心), 임제(臨濟)의 삼구(三句) 등을 3종 선에 대비시켰고, 선문 5종을 임제종(臨濟宗)―운문종(雲門宗)―조동종(曹洞宗)―위앙종(潙仰宗)―법안종(法眼宗) 순으로 순서를 매겼다. 이에 대해 초의 의순(草衣意恂, 1786~1866)은 『선문사변만어(禪門四辨漫語)』를 써서 반박 논지를 펼쳤다. 그 요지는 선을 수직적으로 구분함은 잘못이며, 사람을 기준으로 조사선과 여래선, 법을 잣대로 격외선과 의리선으로 나눌 수 있지만 이는 단지 편의적인 분류일 뿐 우열이나 차등은 없다고 보았다. 다시 말해 조사의 격외선과 여래의 의리선은 부처의 마음(선)과 말(교)로서 근본에서 다르지 않다는 주장이다. 이후 우담 우행(優潭禹行, 1822~1881)은 『선문증정록(禪門證正錄)』에서 의순을 지지하며 조사선=격외선, 여래선=의리선의 구도를 다시금 확인했다. 한편 설두 봉기(雪竇奉琪, 1824~1889)는 『선원소류(禪源溯流)』를 써서 “교외별전(敎外別傳)의 선의 논지 외에 종류별로 요약 가능한 선에 대한 해석이 있다.”라고 하여 조사인 긍선의 설을 옹호했다. 선 논쟁의 마지막을 장식한 것은 진하 축원(震河竺源, 1861~1926)의 『선문재정록(禪門再正錄)』이었는데 여기서는 기존 논쟁의 문제점과 한계를 지적하며, 교를 의리선에 넣어 선에 배정한 것은 잘못이고 3종선 모두 ‘교외(敎外)’의 선이라고 보았다. 19세기의 선문 논쟁은 조사선의 선과 화엄의 교가 동등한 위상을 가지게 되면서 비롯된 것이었다. 선의 우위를 주장한 백파 긍선은 임제종과 조사선의 정통성을 강조한 것이고, 초의 의순은 선과 교의 근원적 일치를 주장한 것이다. 이처럼 선문 논쟁은 형식상으로는 선을 분류하고 우열을 논한 것이었지만 결국 선과 교의 관계를 어떻게 볼 것인가에 대한 입장 차이에서 비롯되었다. 그리고 이는 ‘임제종과 간화선’, ‘화엄과 선교겸수’의 이중구조에서 만들어진 구도였다.