음서제(蔭敍制)는 고위 관료의 친족을 과거시험 없이 관직에 임명하는 제도다. 고려는 초기부터 5품 이상 관리의 자제에게 문음(門蔭)으로 관리가 될 수 있는 특권을 부여해 귀족사회의 성립 기반을 닦았다.

음서제는 고려 7대 왕인 목종 때 기록에서 처음 등장한다. 이 제도는 고려시대 전 시기를 통해 일반화돼 귀족의 자손은 이 통로를 거쳐 관리에 등용되고 가문의 덕택으로 고관까지 오른 경우가 많았다. 고려시대에 음서는 과거와 쌍벽을 이루는 관리 등용의 양대 기둥이었다.

이처럼 음서제가 고려 사회에 뿌리를 깊게 내릴 수 있었던 것은 당시 사람들의 관념에 음서제가 큰 저항 없이 수용되었기 때문이다. 고려시대 사람들에게는 생업을 무사하게 다음 세대로 계승하는 것이 중요했다. 이를 구현하는 것이 위민정치(爲民政治)를 추구하는 국왕의 소임이었고, 주요 관료 등 관리층(官吏層)도 신민(臣民)의 일원으로 그 대상이었다.

그러나 사회 상층부를 구성하는 관리층을 무조건 대를 이어 계승시킬 수는 없었다. 이에 관리(官吏)의 소임(所任)을 설정하고, 그들이 쌓은 실적을 공(功)으로 삼아 공헌이 충분히 쌓이면 음(蔭)이 생성되어 후대로 전해지도록 했다. 국왕은 이런 ‘음’을 토대로 직(職)을 수여했다. 관료 등 사회 상층부가 ‘음’을 생성하기 위해 자신의 업무에 충실하게 하는 장치가 담겨 있었던 것이다.

하지만 이런 의도에도 불구하고 초기에는 음서제를 시행하는 데 제약이 적지 않았다. 초기 문음 출신들은 문한(文翰)·학관(學館)직을 맡을 수 없었다. 이에 따라 권력 핵심부에 들어갔어도 과거에 급제하지 못한 전원균이나 김방경 같은 사람들은 급제하지 못한 것을 한으로 여겼다고 전해진다.

하지만 고려 후기로 갈수록 음서제는 편법으로 운영되고 인사행정의 난맥상과 결부되면서 변질되고 확장되기에 이른다. 특히 무신정권과 몽골 간섭기를 거치면서 정치 기강이 문란해지고 인사행정의 난맥상이 두드러지게 된다.

<고려사>는 이에 대해 “권신이 사사롭게 정방을 설치한 때부터 인사행정이 뇌물에 의해 이뤄졌고, 전법(銓法, 인사관리법)이 크게 무너지고 과목(科目)에 의한 취사(取士, 과거로 선비를 뽑는 일)도 범람해 흑책(黑冊)의 비방과 분홍(粉紅)의 비난이 일시에 전파돼 고려의 업(業)은 드디어 쇠했다”고 평가했다.

문장 속 ‘흑책(黑冊)의 비방’에서 ‘흑책’은 아동들이 두꺼운 종이에 검게 칠하고 기름을 먹여 글씨 연습을 하던 연습장을 가리킨다. 새로운 인사 명단에 권문세가들이 뇌물을 받고 서로 지우고 고쳐 쓰다 보니 붉은색(朱色)과 검은색(黑色)을 분별하기 어려웠다 하여 이를 풍자한 말이다.

‘분홍(粉紅)의 비난’이란 표현은 과거시험 합격자를 공정하게 선발하지 않고 세도가의 젖비린내 나는 아동을 주로 뽑은 사실에서 비롯되었다. 당시 아동들이 분홍 옷을 즐겨 입은 것을 빗대어 깍아내린 표현이다. 아동이라 부른 것은 13&sim;14세의 명문가 자녀들이 다수 과거에 합격한 탓도 있었지만, 배움과 학문의 수준이 과거에 합격할 만한 수준이 되지 못했음에도 부정 선발된 것을 비꼬는 의미도 있었다.

여기에 특권 신분층 자손들은 초음직(初蔭職)으로 출발, 수월하게 과거에 급제해 합법적으로 신분을 세탁할 기회도 주어졌다. 이에 따라 음서 출신자의 약 40%가 과거에 합격하면서 한 단계 높이 올라갈 수 있었다.

고려 후기가 되면, 고려 사회를 지배하는 권문세족(權門世族)은 14세기경에는 고려 전기부터 내려온 문벌귀족 가문과 무신정권 시대 무장으로 득세한 가문, 무신의난 이후 능문능사(能文能使)한 신관인층(新官人層)으로 대두한 세력, 대원 관계 속에서 신흥 세력으로 등장한 집안 등으로 재편되게 된다.

이에 따라 충선왕이 복위한 해(1308)에는 왕실과 혼인할 수 있는 15개 가문이 ‘재상지종(宰相之宗)’으로 지정된다. 왕실과 신부를 교환할 수 있는 가문으로 경주 김씨·파평 윤씨·경원 이씨·청주 이씨·해주 최씨·평양 조씨 등 15개 귀족 가문을 선발해 명단을 반포한 것이다.

그리고 이들 지배 세력들은 고위 관직을 차지하고 음서제를 이용해 자손에게 벼슬을 시키면서 대대로 자신들의 지위를 유지했다. 또 왕실 및 벌족들과 중첩되는 혼인을 맺어 혈연 범위를 한정시키면서 가문의 중요성을 내세우기도 했다. 이들은 새로운 귀족으로 친원 성향이 강했고, 경제적으로는 대토지 소유자인 농장주인 것으로 평가된다.

음서직의 값어치가 점점 올라가는 것도 주목되는 현상이다. 당초 음서직은 과거보다 못하게 여겨졌지만 고려 후기에 이르면 음서직의 위계가 크게 높아져 과거가 부럽지 않을 수준이 된다.