생성형 인공지능 Getty Images Bank지난 9월 실시한 교육과정평가원 모의고사에서는 국어 영역에 ‘생성형 인공지능’ 관련 지문이 출제됐죠. 수능에서는 9월 모의고사에 나온 주제와 비슷한 내용이 출제된 사례가 종종 있습니다. 9월 모의고사에서 파생할 수 있는 인공지능 개념을 알아두면 좋겠죠. 어떤 개념들이 파생될 수 있는지 정리해드릴게요. 생성형 인공지능은 무엇일까요. 새로운 결과물을 보여주는 AI를 말합니다. 배운 내용을 조합해서 새로운 글을 쓰고 그림을 그리고 음악을 작곡할 수 있죠. AI가 수많은 책과 인터넷 내용을 학습해요. 이를 토대로 미로에서 길을 찾듯, 다음 따라올 말을 찾아내요.
마치 바둑을 둘 때 다음 수를 어떻게 둬야 할지 고민하는 AI처럼요. 어떤 말이 어울릴까? 하고 생각하는 겁니다. 이런 과정을 초고속으로 반복하면서 최적의 표현을 찾아가요. 즉 사실을 이해하는 게 아니라, 확률적으로 가장 그럴듯한 말을 이어 붙이는 기술인 겁니다. 정보를 모으는 방법은 두 가지입니다. 학습된 지식을 꺼내 쓰는 방식입니다. 이미 AI가 외우고 있는 것이죠. 점점 학습량이 늘어나면서 학습된 지식도 방대해지고 있어요. 여기에 실시간 검색으로 내용을 더해요. 최신 정보를 인터넷에서 스스로 찾아 정리하는 식이죠. 그런데 문제가 있어요. AI가 정리한 내용을 믿을 수 있느냐는 겁니다. 100% 믿을 수 없죠.
그래서 검증 방법을 동원해요. 다중 검증 전략이라는 방식입니다. 우선 같은 사실을 서로 다른 출처에서 확인해요. 정부 통계 사이트에서 찾은 정보가 언론 기사에도 자주 등장했다면, ‘참’으로 정보를 판단하는 식이죠. 숫자가 나온다면 그 숫자를 다양한 방식으로 다시 검색해봐요. 그리고 다르게 언급된 부분이 많다면 신뢰도가 낮다고 보고 노출하지 않죠. 이 방식은 확률적으로 맞는 정보를 보여주는 것입니다. 문제는 잘못된 정보가 널리 퍼져 있을 경우 AI도 잘못된 정보를 참으로 판단할 수 있다는 것입니다. 그래서 AI는 ‘환각’을 일으켜요. 뻔뻔한 거짓말을 진짜인 것처럼 말하는 사례가 생기죠.
시간이 지나면서 그럴 확률은 더욱 낮아지고 있지만, 어디까지나 확률적 문제입니다. 재밌는 사실은 내가 어떻게 AI에 지시하느냐에 따라 AI가 일하는 방식이 달라진단 겁니다. AI에 명령하는 걸 ‘프롬프트’라고 하는데, 프롬프트를 지시받은 AI는 질문의 의도를 파악하고, 검색한 다음 자신이 검색한 정보 중 무엇을 우선시할지 정해요. 그다음 그 정보들을 어떻게 표현할지 정리합니다. 그 때문에 어떤 키워드를 어떤 표현으로 지시했고, 어떤 조건을 걸었는지 등에 따라 답변은 천차만별이 될 수 있습니다. 따라서 프롬프트를 잘 사용하는 것이 AI 시대에 AI를 잘 활용하는 방법이 됩니다. 예를 들어 범위를 지정할 수 있어요.
‘최근 1년’, ‘한국 기준’ 등으로 시간과 지역을 한정하면 정확성이 높아져요. 전문 용어를 안다면 이를 넣는 것도 좋아요. 고유명사를 뚜렷하게 제시하면 검색 범위가 좁아지거든요. 블로그를 제외하라든지 신뢰성이 낮다고 판단될 내용은 빼달라고 요청하는 것도 방법입니다. 가장 좋은 방법은 역할을 부여하는 겁니다. 일종의 역할 놀이 같은 거죠. 예를 들어 “넌 고등학교 선생님이야”라고 역할을 부여하면 그에 따라 필요한 정보를 탐색하죠. 또 예시를 주면 AI가 훨씬 좋은 정보를 만들어낼 수 있어요. 어떤 글의 스타일을 보고 비슷한 내용으로 만들어달라는 식이죠. 제일 안 좋은 건 모호한 표현입니다.
“최근 출시된 게임 정리해줘”, “최근 인기 있는 아이돌이 누구야” 등의 프롬프트는 시기도 범위도 불투명해 정확하지 않을뿐더러 주관적 의견으로 채워진 답변일 가능성을 높이죠. 생성형 AI는 분명 좋은 도구입니다. 하지만 본질적으로 정보를 검증하는 방법론이 한계를 갖고 있어요. AI의 정보를 무조건 믿을 것이 아니라 출처를 확인하고 스스로 정보를 검증해보는 습관이 필요합니다. NIE 포인트
