AI의 시대…사실과 거짓 구분하기 어려워졌다

프린트

오피니언 ㅣ 키워드이슈 AI의 시대…사실과 거짓 구분하기 어려워졌다 챗GPT, 딥페이크, 알고리즘…‘진실성의 위기’ 가짜 뉴스 심각㊤

기사입력2024-04-06 00:00

지난해 11월, 미국의 사전출판사 메리엄웹스터가 2023년을 상징하는 단어로 ‘Authentic(진짜의)’를 선정했다. 이는 인공지능(AI)과 딥페이크 등이 발전하며, 객관적 사실과 가짜 정보 간의 경계가 점점 모호해지는 시대상을 반영한 것이다. 메리엄웹스터는 단어 조회수와 검색량 증가 데이터를 바탕으로 매년 올해의 단어를 선정하는데, 2023년 ‘Authentic’의 검색량이 급격히 증가했다고 밝혔다.

한편 영국의 케임브리지 사전은 2023년을 상징하는 단어로 ‘Hallucinate(환각을 일으키다, 거짓 정보를 제공하다)’을 선정했다. 여기서 환각이란 챗GPT와 같은 생성형 AI가 잘못된 정보를 내놓는 것을 의미한다. 케임브리지 대학 측은 “환각이라는 단어의 새로운 의미가 사람들이 AI에 관해 논의하는 이유와 밀접한 관련이 있다고 생각해 2023년의 단어로 선정했다”고 밝혔다.

유명 사전출판사에서 주목한 것처럼, AI가 널리 쓰이면서 사실과 거짓 정보를 구분하기가 점점 어려워지고 있다. 어떤 영상을 보았는데 그 영상이 실제 있었던 일을 보도한 것인지, 아니면 AI를 이용해 만든 가짜 영상인지 좀처럼 믿기 어려운 것이 작금의 시대상이다. 인터넷에 널리 퍼지고 화제가 된 내용이라 믿었는데, 알고 보니 가짜 뉴스였던 일도 자주 일어난다.

현대사회에서 정보의 진실 여부를 가리기 점점 어려워지는 이유는 무엇일까? 주로 기술의 발전과 미디어의 변화에 초점을 맞춰, 그 원인을 살펴보고 대안을 모색해본다.

◇정보의 홍수 속에서 가려지는 ‘진실’=진실은 왜 위기를 맞이했고, 거짓은 어떻게 힘을 얻을까.

그 배경이 된 원인 중 하나로 정보의 과부하를 들 수 있다. 디지털 시대에는 수많은 정보가 물밀듯이 쏟아진다. 이런 상황에서는 사용자가 각각의 정보에 일일이 시간과 노력을 들여 주의 깊게 확인하기 어렵다. 같은 내용을 두고 서로 다른 주장을 하는 정보 역시 넘쳐나는 만큼, 무엇을 믿어야 할지 명확히 판별하기 어렵다. 자극적인 내용으로 점철된 가짜 뉴스는 주목받기 쉬운 반면, 흥미를 끌지 못하는 중요한 사실은 묻히기 쉽다는 것도 문제다.

이런 상황에서 소셜미디어의 확산은 정보의 진위 여부를 가리지 않고 무분별하게 확산하는 운동장이 되었다. 소셜미디어는 정보를 빠르게 확인하고 공유하기 좋은 수단인데, 최근에는 소셜미디어에서 각종 뉴스를 소비하는 사례가 늘고 있다. 그러나 페이스북이나 인스타그램 등에서 유통되는 각종 뉴스와 정보들은 출처가 제대로 기입되어 있지 않은데다, 잘못된 내용도 많다.

최근 딥페이크 기술이 사기나 성범죄에 악용되면서 수많은 피해자가 생기고 있고, 정치적 편향이나 가짜 뉴스 생성에 악용돼 사회적 논란이 커지고 있다. <이미지=이미지투데이>

인터넷의 익명성도 하나의 원인으로 작용한다. 인터넷은 사용자가 익명으로 활동할 수 있는 공간이다. 물론 인터넷의 익명성은 누구나 의견을 자유롭게 표출할 수 있도록 한다는 순기능이 있지만, 역기능도 있다. 가짜 정보를 만들거나 접근하기에 쉬워진 반면, 이를 최초로 만들거나 유포한 사람이 누구인지 확인하거나 책임을 묻기는 어렵다.

◇AI 발전은 어떻게 거짓을 확산시키는가=이같은 상황에서 등장한 생성형 AI는 진실과 거짓 여부를 분별하기 더욱 어렵게 한다는 부작용을 낳았다. 생성형 AI란 인공지능의 한 유형으로, 주어진 입력 데이터를 바탕으로 새로운 콘텐츠를 만들거나 특정 작업을 수행하는 서비스를 말한다. 챗GPT와 같이 궁금한 점을 물으면 텍스트로 답변을 내놓는 AI, 미드저니와 같이 이미지를 만들어주는 AI 등이 대표적이다.

이러한 생성형 AI는 사용자가 다양한 정보와 지식을 손쉽게 접하고, 다양한 문제를 해결하거나 업무 효율을 높이도록 도움을 준다. 다만, 생성형 AI는 가장 사실과 거짓을 구분하지 못하는 만큼 자칫 잘못된 대답을 생성한다는 문제가 있다.

AI는 사람처럼 ‘사고’하거나 ‘판단’하는 능력이 없다. 사용자가 질문하면 AI는 학습한 데이터에서 관련 정보를 추출하고 조합해 적절한 응답을 자동으로 생성한다. AI가 학습한 빅데이터는 웹사이트, 책, 논문, 뉴스 기사 등 다양한 곳에서 가져온 정보로 구성돼 있다. 그런데 이 수많은 정보에는 잘못된 내용도 섞여 있다. AI가 학습한 데이터에 오류가 섞여 있거나 학습 데이터가 불완전할 경우, 잘못된 내용을 사실인 양 대답할 수도 있다. 이를 ‘환각(Hallucination)’이라 한다. 하지만 방대한 양의 빅데이터를 일일이 모두 검증해 학습시키는 것은 현실적으로 불가능하다.

챗GPT와 같은 생성형 AI가 잘못된 내용을 답했는데, 사용자가 이를 제대로 확인하지 않고 섣불리 받아들인다면 가짜 정보가 확산될 수 있다. 잘못된 정보를 생산해내는 속도 역시 사람보다 AI를 이용하는 것이 더 빠르다. 또한 생성형 AI가 잘못된 내용을 답했는데, 그것이 진짜인 양 널리 퍼지고, 그렇게 퍼진 정보가 다시 AI 학습에 쓰이는 과정이 반복될 우려도 있다. 이럴 경우 AI가 더욱 오염된 결과물을 산출할 수도 있다.

딥페이크(Deepfake) 역시 가짜 뉴스를 진짜로 믿게 하는 요인으로 작용하고 있다. 딥페이크는 AI 기술을 사용해 사람의 이미지를 사진과 영상 등에 합성하는 기술을 뜻한다. 딥페이크를 이용하면 어떤 사람의 얼굴을 다른 사람의 얼굴로 바꿀 수 있고, 또는 어떤 사람이 말한 것과 다른 사람이 말한 것을 뒤섞어 가짜 동영상이나 오디오를 만들어낼 수 있다. 기술이 고도화되면서 최근에는 진짜와 구별하기 어려운 수준으로 발전했다. 이러한 딥페이크는 영화를 비롯한 창작물 제작에 유용하다는 순기능이 있지만, 사용자가 악의를 갖고 이용할 경우 문제가 될 수 있다. 최근에는 딥페이크 기술이 사기, 성범죄에 악용되면서 수많은 피해자가 생기고 있고, 정치적 편향이나 가짜 뉴스 생성에 악용돼 사회적 논란이 커지고 있다.

한편, 알고리즘 시스템도 거짓 정보의 확산을 부추길 우려가 있다. 알고리즘은 사용자가 관심을 기울일 만한 정보를 추천해준다는 편의성이 있다. 다만 알고리즘이 추천하는 정보 중에도 가짜 정보가 있을 것이다. 그런데 사람들은 자신의 가치관이나 신념, 선입견에 부합하는 정보를 더욱 쉽게 믿고 받아들이며 그 외의 정보는 무시하는 경향이 있다. 이를 ‘확증편향’이라 한다. 만약 사용자가 비판적으로 정보를 분별하지 않을 경우, 알고리즘으로 추천된 가짜 정보를 더욱 쉽게 수용할 수 있다. 이렇게 받아들인 내용은 다시 사용자의 인식과 판단에 영향을 끼칠 수 있다. 중기이코노미 안수영 기자