선사 무염(無染, 800~888)이 신라 문성왕 대(839~857) 성주사(聖住寺, 충남 보령군 소재)에서 선법을 펼치기 위해 개창한 문파이다. 선종의 한 문파이므로 성주산(聖住山) 선문(禪門) 또는 성주산 선파(禪派)라고 한다. 무염은 태종무열왕의 8세손으로 법호가 광종(廣宗)이고, 시호가 대랑혜(大郞慧)이다. 일찍이 출가하여 설악산 오색석사에 머물다가 부석사로 가서 『화엄경』을 공부하였다. 821년(헌덕왕 13)에 당(唐)으로 유학하여 마조 도일의 제자인 마곡 보철(麻谷寶澈)에게 지도를 받았는데, 사람들이 동방대보살이라며 존경하였다. 845년(문성왕 7)에 귀국하여 남포(충남 보령군) 오합사(烏合寺)에 자리 잡고, 경문왕과 헌강왕의 국사가 되어 선법을 펼쳤다. 무염은 소위 ‘무설토(無舌土) 법문’을 펼쳤다. 그는 교(敎)를 응기문(應機門)‧언설문(言說門)‧정예문(淨穢門)으로 하고, 선(禪)은 정전문(正傳門)‧무설문(無說門)‧부정불예문(不淨不穢門)으로 나누었는데, 이 중에 선법을 무설토라고 하였다. 이 ‘무설토론(無舌土論)’에 대해서 학계에서는 실아(實我)의 발견을 강조하는 개인주의적 경향을 지닌 것으로 이해하기도 하고, 교종보다 선을 우위에 두는 입장을 취하였다고 해석하기도 한다. 무염의 제자를 살펴보면, 대통(大通, 816~883)은 중국에서 징허(澄虛)의 지도를 받고 귀국하여 월광사(月光寺)에서 선법을 폈다. 심광(深光)은 영각사(靈覺寺)에서 선풍(禪風)을 날렸고, 현휘(玄暉, 897~941)는 심광의 제자로 중국에서 도건(道乾)의 지도를 받고 귀국하여 정토사에서 선법을 펼쳤다. 여엄(麗嚴, 862~930)은 무염의 제자이면서 동시에 심광의 제자로 중국에서 도응(道膺)의 지도를 받고 귀국 후 보리사(菩提寺)에서 선법을 펼쳤다. 무염 문하에 제자가 2천여 명 배출되었다는 것으로 보아 성주산문의 영향이 매우 컸으리라 짐작된다. 다만, 제자들의 자세한 내력을 알 수 없다는 점과 대부분 중국에서 선법을 다시 받아 왔다는 점에서, 순수한 성주산파 선사라고 말하기 어려운 점이 있다.