유럽연합(EU)이 세계 최초로 마련한 포괄적 성격의 인공지능(AI) 규제법의 시행이 확정됐다. EU 27개국으로 구성된 교통·통신·에너지이사회는 지난달 21일(현지 시간) 벨기에 브뤼셀에서 열린 회의에서 ‘AI법(AI Act)’을 최종 승인했다. 모든 입법 절차가 마무리됨에 따라 관보 게재를 거쳐 이달부터 단계적으로 효력이 발생한다. 전면 시행은 2026년 중반 이후부터다. EU의 AI 규제법 초안이 나온 것은 2021년이었다. 이듬해 챗GPT를 비롯한 생성 AI가 본격적으로 등장하고, 기술 부작용에 대한 우려가 확산하면서 입법 과정에 속도가 붙었다.
EU, 세계 첫 포괄적 AI 규제법 승인
이 법은 AI의 위험도를 네 단계로 나눠 차등 규제하는 방식을 쓴다. 사회에 부정적 영향을 끼칠 여지가 클수록 엄격한 통제를 받는다. 의료, 교육, 선거, 핵심 인프라, 자율주행 등에 사용하는 AI 기술은 고위험 등급에 포함됐다. 이들 분야에서는 사람이 AI 사용을 반드시 감독해야 한다.
인권 침해 요소가 있는 일부 기술은 EU 내 사용이 원천 금지된다. AI를 활용해 개인별 특성과 관련한 데이터를 수집해 점수를 매기는 소셜 스코어링(social scoring), CCTV에서 얼굴을 무작위로 수집해 데이터베이스를 구축하는 행위 등이 대표적이다.
법 집행기관이 실시간 원격 생체인식 시스템을 쓰는 것 역시 규제 대상이다. 강간, 테러 등의 중대 범죄 예방과 용의자 수색에 예외적으로 활용할 수 있지만 사법 당국의 승인을 받아야 한다. 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI를 뜻하는 범용 AI(AGI)를 개발하는 기업에는 ‘투명성 의무’가 적용된다. EU 저작권법을 반드시 준수해야 하고, AI 학습 과정에 사용된 콘텐츠를 명시해야 한다.
기업이 이 법을 어겼을 때 받게 되는 제재는 상당히 강력하다. 전 세계 매출액의 최대 7%를 과징금으로 부과할 수 있다. EU는 집행위 연결 총국 산하에 ‘AI 오피스’를 신설함으로써 AI 규제법 집행을 총괄하도록 할 계획이다. AI 기술 진화가 급속도로 이뤄지면서 세계 곳곳에서 부작용을 최소화하기 위한 규제 제정에 속속 나서고 있다. 올 3월 유엔총회에서는 AI의 안전한 사용에 관한 국제적 합의를 시급히 마련해야 한다는 내용의 결의를 회원국 만장일치로 채택했다. 법적 강제성이 없다곤 하지만 국제사회가 비슷한 문제의식을 공유하고 있음을 보여줬다는 평가다.
美·日도, 유엔서도…“AI 부작용 막자”
미국에서는 조 바이든 대통령이 작년 10월 AI 모델이 국가안보, 경제, 건강상 위험을 초래할 경우 기업이나 개발자가 연방정부에 이를 통지해야 한다는 내용을 골자로 하는 행정명령에 서명했다. 일본 정부도 최근 전문가 회의를 열어 AI의 안전성 확보를 위한 법률 규제 검토를 시작했다. 이전까지 일본 정부는 AI 개발 촉진을 중시하고 기업 자율을 강조하는 입장이었다. 그러나 국제적 흐름에 보조를 맞출 필요성이 있다는 판단에 따라 기조를 바꿔가고 있다는 분석이다.
