19세기에는 선을 분류한 후 그 우열을 따지고 특징을 논한 선문 논쟁이 100년 가까이 펼쳐졌다. 이는 선과 교를 아우르는 이력과정과 강학을 통해 화엄을 정점으로 한 교학 전통이 선과 함께 양대 축을 이룬 것과 밀접한 관련이 있다. 선과 교의 병행 속에서 선종의 우월성을 내세우고 그 정체성을 회복하려는 시도와 그에 대한 반론으로 점화된 것이 선 논쟁이었다. 그 발단은 백파 긍선(白坡亘璇, 1767~1852)이 선을 3종으로 분류한 삼종선을 주장한 데서 시작되었다. 선 논쟁의 불씨를 지핀 백파 긍선은 선과 교를 함께 배우고 강학 교육에 힘쓰다가 40대 중반 이후 오로지 선에만 전념했다. 그는 진정한 깨달음을 얻으려면 문자에 얽매이고 이해를 중시하는 교를 버리고 선을 행해야 한다고 주장했다. 그는 선뿐 아니라 교학의 화엄(華嚴)에도 정통했고 계율도 잘 지켰다. 그렇기에 추사 김정희가 써준 그의 비문 제명도 ‘화엄종주 대율사 대기대용(大機大用)’이었다. 하지만 그는 선, 그중에서도 조사선(祖師禪)의 신봉자였고, 선종의 여러 종파 가운데 조선불교의 법통이 연원을 두었고 간화선(看話禪) 수행법을 내건 임제종(臨濟宗)이 최고의 단계라고 보았다. 긍선은 『선문수경(禪文手鏡)』 외에도 『선요사기(禪要私記)』, 『선문염송사기(禪門拈頌私記)』, 『선문오종강요사기(禪門五宗綱要私記)』 등 주로 선종에 대한 주석서를 지었다. 『선문수경』에서는 수행자의 능력에 따라 선을 조사선, 여래선(如來禪), 의리선(義理禪) 3종으로 차등화하여 구분하였다. 이 삼종선 가운데 가장 뛰어난 조사선과 다음 단계의 여래선이 틀을 벗어난 격외(格外)의 선임에 비해, 교학을 포함한 의리선은 문자와 언어의 이해에 빠진 낮은 차원의 것으로 보았다. 결국 선과 교의 차별성을 주장하기 위해, 조사선과 여래선을 격외선에 넣음으로써 교학을 여래선에서 배제하고 가장 낮은 의리선에 배정한 것이었다. 긍선은 선을 차등적으로 구분한 삼종선 개념을 확립하기 위해 부처가 가섭(迦葉)에게 선을 전한 방법인 삼처전심(三處傳心), 임제종의 개조 임제 의현(臨濟義玄)의 3구, 살활(殺活)과 기용(機用) 등 다양한 개념을 활용해 삼종선에 대비시켜서 설명했다. 또한 선종 5가 가운데 임제종을 조사선의 최고 수준에 비정했고, 다음으로 운문종(雲門宗)·조동종(曹洞宗)·위앙종(潙仰宗)·법안종(法眼宗)의 순서로 보았다. 여기서 법안종은 선교겸수의 가풍을 가졌고 그렇기에 교학과 관련이 깊다는 이유로 제일 아래에 위치시킨 것이다. 긍선의 이러한 새로운 주장에 대해 초의 의순(草衣意恂, 1786~1866)은 『선문사변만어(禪門四辨漫語)』에서 사람의 능력 차이를 가지고 선을 수직적으로 차등화함은 잘못이라고 비판했다. 그는 사람을 기준으로 조사선과 여래선, 법을 잣대로 격외선과 의리선으로 나눌 수 있지만, 이는 편의상의 분류이지 양자 사이에 우열이나 본질적 차이는 없다고 보았다. 조사의 격외선과 여래의 의리선은 부처의 마음(선)과 말(교)로서 근본적으로 다르지 않다는 것이다.