말이나 문자로 논할 수 있는 격식, 법식 등 세간의 척도를 넘어선 선법을 말한다. ‘격(格)’은 규격, 법칙, 법식, 격식 등 언어문자(言語文字)에 의해 규정된 세간적인 유위법을 뜻하며, 언어문자에 의해 규정되는 격식을 넘어선 격외의 선법은 분별로 헤아릴 수 없는 실상에 기초한다. 학인이 조주(趙州) 선사에게 ‘조사가 서쪽에서 온 뜻(祖師西來意)’을 묻자, 조주가 ‘뜰 앞의 잣나무(庭前栢樹子)’라 답한 이 문답을 『선가귀감(禪家龜鑑)』에서 격을 벗어난 선지[格外禪旨]의 예로 든 경우가 있다. 『벽암록(碧巖錄)』의 “격외구를 알아차린다면 하나를 들어 줘도 세 가지를 알 것이다.”, “납자라면 평상시에 격외의 경지에서 마음을 발휘할 줄 알아야 비로소 본분종사(本分宗師)라 불릴 만하다.”라는 구절 등에 격외의 뜻이 잘 드러나 있다. 격외선은 글자에 구애받지 않는 불립문자(不立文字), 부처가 설법한 가르침 외에 따로 전한 교외별전(敎外別傳), 바로 사람의 마음이 부처임을 가리키는 직지인심(直指人心), 성품을 바로 보아 성불하는 견성성불(見性成佛)을 표방하는 선이다. 또한 격외선은 당나라 때 6조 혜능(慧能, 638~713)에 의해 확립된 조사선(祖師禪)을 일컫기도 한다. 우리나라에 혜능의 남종선을 전한 이는 신라 말기의 도의(道義) 선사이며, 그 이후 많은 선사가 중국의 선법을 받아들이고 전래하여 한국의 선을 발전시켜 왔다. 특히 조선 후기에 이르러 백파 긍선(白坡亘璇, 1767~1852)과 초의 의순(草衣意恂, 1786~1866) 사이에 선 논쟁이 일어났다. 백파는 『선문수경(禪文手鏡)』에서 의리선(義理禪)·여래선(如來禪)·조사선의 삼종선(三種禪)을 주장하였다. 백파는 임제삼구(臨濟三句) 가운데 제1구는 조사선, 제2구는 여래선, 제3구는 의리선이라고 하여 근기에 따른 차별을 강조하였다. 이에 대해 초의는 『선문사변만어(禪門四辯漫語)』를 통해 의리선은 여래선이며, 조사선은 격외선이라는 이종선(二種禪)을 주장하였다. 초의는 조사선과 여래선을 우열이 아닌 비교적 동등한 입장에서 이들의 관계를 논하였다. 이러한 논쟁은 문파를 이루어 1900년대 초에 이르기까지 1세기 동안 계속되었다. 한국의 선은 기본적으로 의리(義理)보다는 언어문자를 초월한 격외의 선을 중시한다고 할 수 있는데, 이러한 전통은 간화선에 대한 강조로 나타났다. 고려 말 보조 지눌(普照知訥)에 의해 간화선의 사상이 정립된 이후 한국의 간화선은 활구(活句)에 대한 참구를 강조하면서 어떠한 교리적 이해나 의리를 거부하는 격외의 선풍을 확립하였다.