기술속도만큼 빠르게 피해자 보호·범죄 예방을

프린트

기술미래 ㅣ HIT! 이 기술 기술속도만큼 빠르게 피해자 보호·범죄 예방을 AI로 만드는 디지털 신기루 ‘딥페이크’ 혁신과 위협의 기로에 서다㊦

기사입력2024-08-05 00:00

안수영 기자 (syahn@junggi.co.kr) ㅣ다른기사보기

최근 기술의 발달로 누구나 손쉽게 딥페이크 영상을 만들 수 있게 됐다. 문제는 딥페이크가 남발돼 거짓 정보가 늘어날 경우, 어떤 정보를 신뢰해야 할지 사회적 혼란이 초래될 수 있다.

가짜 정보의 범람…중요한 진실과 실존 인물을 가린다

현대사회에서 인간은 온라인을 통해 수많은 정보를 접하고 다양한 의사결정을 내린다. 그런데 온라인상에 잘못된 정보가 넘쳐난다면, 현실을 제대로 인식하는 데 어려움을 겪을 수 있다. 거짓과 진실을 구분하는 데 어려움을 겪다 보면, 결국 모든 정보에 대한 신뢰 하락으로 이어질 수 있다. 딥페이크로 만들어진 가짜 정보는 자극적으로 시선을 끄는 내용이 주를 이루는데, 이 때문에 우리가 꼭 알아야 할 중요한 정보가 밀려나서 잊혀질 수도 있다. 사회적으로 공론화해야 할 사안에 구성원들의 공감과 합의를 이끌어내기가 더욱 어려워질 수 있다. 때문에 딥페이크 기술이 고도화, 상용화될수록 ‘탈진실의 시대’, ‘진실의 종말’로 접어든다는 지적도 있다.

딥페이크 기술로 인해 진실뿐만 아니라 실존하는 사람의 존재가 가려질 우려도 있다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에서 딥페이크 기술을 이용해 손석구의 어린 시절 모습을 아역 배우의 얼굴에 덧씌워 구현했다. 물론 주연 배우와 꼭 닮은 아역이 등장한 만큼 영화의 몰입감을 높이는 데 도움이 되었다는 평가도 있다. 그러나 아역 배우가 자신의 얼굴을 알릴 기회를 빼앗긴다는 논란도 일었다. 앞으로도 딥페이크 기술은 콘텐츠 제작업계에서 보다 널리 활용될 것으로 예상된다. 만약 딥페이크 사용과 관련해 배우에게 충분한 보상을 지불한다면 납득할 여지가 있다. 하지만 업계에서 힘이 없는 무명 배우의 얼굴에 딥페이크를 씌우는 일이 자주 일어난다면, 당사자는 얼굴 없는 배우로 전락하고 자신의 경력을 입증하기 점점 어려워질 수 있다.

피해자 보호·범죄 예방…기술속도만큼 신속하게 마련을

딥페이크로 인한 문제가 점점 심각해지자, 최근에는 딥페이크를 판별하는 요령도 공유되고 있다. 얼굴과 몸이 자연스럽게 이어져 있는지, 턱과 입이 움직이는 모습이 어색하지는 않은지, 얼굴은 정교하지만 손가락 등 세부적인 부분에 오류는 없는지 살펴보라는 내용이 주를 이룬다. 하지만 기술이 빠르게 발전하는 만큼 이 같은 약점은 금세 사라질 수 있다. 따라서 타인에게 피해를 줄 수 있는 딥페이크 영상의 확산을 억제하고, 진짜 정보가 제대로 유통되고 신뢰할 수 있는 환경을 구축하는 것이 필요하다.

먼저 딥페이크 콘텐츠를 탐지하는 기술을 고도화하는 방안을 들 수 있다. 현재 많은 기업들이 인공지능을 이용해 가짜 사진과 영상을 식별하는 기술을 개발하고 있다. 사진이나 영상에 디지털 워터마크(식별 표시)를 삽입하도록 하는 방법도 있다. 미국은 지난해 10월 딥페이크 영상, 사진, 음향에 워터마크를 의무화하는 행정명령을 시행했다. 유럽연합(EU)은 지난해 12월 AI로 생성한 모든 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰다. 최근 유튜브는 개인정보보호 가이드라인을 바탕으로 생성형 AI를 활용해 제작된 콘텐츠를 삭제 요청하도록 정책을 변경했다. 유튜브 고객센터에는 ‘내 외모나 음성과 유사하게 AI로 생성되거나 합성된 콘텐츠 신고’라는 항목이 새롭게 마련됐다.

타인에게 피해를 줄 수 있는 딥페이크 영상의 확산을 억제하고, 진짜 정보가 제대로 유통되고 신뢰할 수 있는 환경을 구축해야 한다. 피해자를 보호하고 범죄를 예방하기 위해 기술발전 속도만큼 신속하게 대책을 마련해야 한다. <이미지=이미지투데이>

딥페이크 성범죄와 관련한 법적 조치를 보완하는 것도 중요하다. 현행법에 따르면, 딥페이크 음란물을 만들었더라도 유포할 목적 없이 보관용이었다고 발뺌하면 사실상 처벌하기 어렵다. 이에 디지털 성범죄에 관한 양형 기준을 높이고, 타인을 능욕하는 콘텐츠는 시청 및 소지만으로도 처벌하는 근거 조항을 마련해야 한다는 의견이 제기되고 있다. 영국의 경우 딥페이크로 음란물을 만들면 유포 여부와 관계없이 형사 입건돼 상한선이 없는 벌금형을 받을 수 있으며, 영상물이 외부에 유포됐다면 징역형으로 처벌받는다. 또한 해외에 서버를 둔 플랫폼에 딥페이크 음란물을 유포할 경우 가해자를 찾기가 쉽지 않고, 혐의를 입증하기가 까다롭다. 이러한 허점을 보완하려면 정부 차원에서 국제적인 협력을 맺고, 딥페이크로 인한 범죄 예방에 공동 대응하는 것이 필요하다.

피해자 보호를 위한 조치도 절실하다. 이에 여성가족부는 딥페이크 음란물을 탐지한 후 온라인 사업자에게 삭제할 것을 자동 요청하는 시스템을 2025년까지 구축하기로 했다. 아울러 디지털성범죄피해자지원센터(디성센터)를 비롯해 서울, 부산, 인천, 경기 등 일부 지자체와 ‘삭제 지원 시스템’을 연계해 피해자 지원을 강화한다.

아울러 대중에게 딥페이크 기술과 잠재적 위험성을 알리고, 가짜 정보를 식별할 수 있도록 ‘미디어 리터러시’ 교육을 강화할 필요가 있다. 특히 딥페이크와 관련해 10대를 대상으로 한 예방교육이 필요하다. 방심위에 따르면, 전국 성적 허위 영상물 유포 피의자 수는 2021년 78명이었으나 2023년에는 120명으로 늘었다. 그중 10대 피의자는 51명에서 91명으로 2배 가까이 늘었다. 10대의 경우 딥페이크 영상을 제작하고 공유하는 것이 범죄라는 인식이 부족할 수 있으므로, 처벌보다는 인식 개선에 초점을 맞출 필요가 있다. 자신이 딥페이크 범죄의 피해자가 됐을 경우 117 학교폭력 신고센터를 이용하는 등 대처방법도 널리 알려야 한다. 아울러 노인과 장애인 등 디지털 취약계층을 대상으로 딥페이크에 관해 교육해, 사기 피해를 입지 않도록 예방하는 것이 필요하다.

예술, 교육, 시뮬레이션 제작…긍정적 쓰임새도 많아

최근에는 악의적으로 쓰는 사례가 많아 부정적인 인식이 짙지만, 딥페이크 자체가 잘못된 기술은 아니다. 어떤 기술이든 제품이든 긍정적인 면이 있는데, 딥페이크도 잘 활용하는 방안에 관해 논할 수 있다.

우선 딥페이크 기술을 이용하면 누구나 다양한 영상작품을 저예산으로 만들 수 있다. 고인이 된 배우의 모습을 복원하거나 특정 배우가 여러 역할을 수행하는 장면을 만들 때도 유용하다. 지난해 12월 JTBC 드라마 ‘웰컴투 삼달리’에서는 국민 MC 송해를 딥페이크 기술로 구현해 등장시켰는데, 사전에 유족의 동의를 받아 진행한 것으로 알려졌다. 제주도의 경우 지난 3월 전국 지자체 최초로 AI 아나운서 ‘제이나'를 도입해 도정 홍보에 활용하고 있다. 아울러 딥페이크로 역사적 인물의 모습을 재현한다면 박물관과 미술관 등에서 교육 효과를 높일 수 있다.

또한 딥페이크 기술을 재난예방 분야에 도입한다면 긍정적인 효과를 거둘 수 있다. 예를 들어 지진, 홍수, 산사태, 산불 등의 자연재해를 딥페이크를 통해 생생하게 구현한다면, 사람들이 실제 상황에서 어떤 일이 일어날지 보다 잘 이해할 수 있다. 일반인은 물론 소방관, 응급구조대원이 다양한 상황을 가상으로 경험하고 훈련한다면, 실제 재난 상황에서 더욱 효과적으로 대응하고 구체적인 대안도 마련할 수 있을 것이다.