사람과 대화·공감하는 AI는 어떻게 발전해갈까

프린트

기술미래 ㅣ HIT! 이 기술 사람과 대화·공감하는 AI는 어떻게 발전해갈까 데이터 수집에 대한 사회적 논의가 필요한 때

기사입력2022-05-29 22:33

안수영 기자 (syahn@junggi.co.kr) ㅣ다른기사보기

“아리아, 공영 주차장 알려줘”

“빅스비, 그 노래 제목 뭐야?”

애플의 시리, 갤럭시의 빅스비, SK텔레콤의 누구, KT의 기가지니, 네이버의 클로바…어느덧 우리의 일상에 자연스럽게 자리잡은 음성인식 인공지능(AI) 비서들이다. 예전에는 사용자의 질문에 정형화된 답을 하는 것에 그쳤다면, 이제는 마치 친구처럼 대화를 할 만큼 완성도가 높아졌다. 현재 음성인식 AI는 얼마나 고도화됐고, 우리에게 어떤 편의를 가져다 줄 것인지, 음성인식 AI 기술의 발전 속에 가려진 윤리적 문제는 무엇이 있는지, AI 기술이 어떻게 발전해 나가야 할지 방향성을 탐색한다.

◇사람처럼 대화하고 공감하는 AI 시대=초창기 음성인식 AI는 “잘 알아듣지 못했어요”라는 답답한 반응을 보이곤 했다. 당시 음성인식 AI는 사용자가 한 말을 정확하게 알아듣고 사용자의 명령을 수행하는 것에 초점을 두고 있었다. 하지만 최근에는 여기서 한층 더 발전했다. 사용자와의 대화를 통해 사용자의 기분을 고려하고, 사용자의 마음에 공감한다. 꼬리에 꼬리를 물고 사용자와 복잡한 대화를 이어가며 전문적인 문제까지 해결해주는 단계로 나아가고 있다.

지난 5월 11일 열린 ‘구글 I/O 개발자 컨퍼런스 2022’에서 구글은 AI 비서인 구글 어시스턴트의 ‘룩 앤 톡(Look and Talk)’ 서비스를 공개했다. 이는 “헤이 구글”과 같은 명령어를 말할 필요가 없으며, 사용자가 혼잣말을 하는지 자신에게 이야기를 건네는 것인지 뉘앙스를 구분할 수 있다. AI가 사용자의 의중을 파악할 정도로 고도로 발달한 것이다.

최근의 음성인식 AI는 사용자와의 대화를 통해 사용자의 기분을 고려하고, 사용자의 마음에 공감한다. 꼬리에 꼬리를 물고 사용자와 복잡한 대화를 이어가며 전문적인 문제까지 해결해주는 단계로 나아가고 있다. <이미지=이미지투데이>

SK텔레콤은 지난 16일 원스토어와 구글플레이 스토어에 AI 비서 ‘에이닷(A.)’의 오픈베타 버전을 공개했다. 에이닷은 캐릭터 설정으로 인공지능을 시각화한 앱으로, 사용자와 대화를 하며 취향을 파악하고 사용자의 기분과 감정에 맞춘다. 사용자에게 먼저 “밥 먹었어? 오늘 기분 어때?” 등의 대화를 먼저 걸기도 한다. 이는 그 동안 선보였던 AI 스피커 ‘누구’보다 한 단계 더 진화한 것이다.

KT는 초거대 AI를 개발하고 있으며 연내 상용화할 예정이다. 초거대 AI란 대용량의 정보를 스스로 학습해 인간처럼 종합적인 추론을 할 수 있는 차세대 AI를 뜻한다. KT는 초거대 AI를 통해 사용자의 감성까지 공감할 수 있도록 구현할 예정이다. 육아와 법률 등 전문적인 분야에서도 AI가 사람처럼 연속 대화가 가능하도록 ‘멀티턴 전문 상담’ 서비스를 개발한다.

◇AI는 왜 사람을 닮아갈까=정보화 시대를 거치며 많은 사람들이 정보를 쉽고 빠르게 얻거나 업무를 간편하게 처리하는 것에 익숙해지면서, 기술에 그 이상의 가치를 바라게 됐다. 신속과 편의보다 더 깊은 만족을 줄 수 있는 궁극적 가치는 ‘공감과 이해’다. 나와 가장 닮은 존재가 나를 가장 잘 이해해 줄 확률이 높다.

첨단 기술의 영역으로 손꼽히는 로봇과 인공지능이 인간을 닮은 형태로 발전하는 것은 바로 이런 이유에 기인한다. 이에 많은 기업들이 공감하고 위로할 줄 아는 AI를 통해 삶을 보다 풍성하게 만들고자 한다.

인간처럼 공감과 위로, 이해를 할 수 있는 AI들은 인간의 근원적인 고독과 돌봄의 영역에 도전한다. 이미 고령 사회에 접어들었고 1인 가구가 폭발적으로 늘어나고 있는 시대, 혼자 사는 이들과 공감대를 나누거나 돌봄 서비스를 제공할 인력은 절대적으로 부족한 상황이다. AI는 인간의 말벗이 되어주거나, 사용자에게 꼭 맞는 건강 관리를 도와주기도 한다. 응급 상황에서 AI의 도움으로 목숨을 건질 수도 있다.

실제로 독거노인이 AI 스피커와 이야기를 나누는 비율이 그 아래 나이대 사람보다 3배 이상 높다는 연구 결과도 있다. AI 스피커에 “살려줘”, “도와줘”라고 외쳐서 AI가 긴급 상황 여부를 파악하고, 자동으로 119와 연결하는 시스템도 구축됐다.

◇음성 AI는 고객의 데이터를 먹고 자란다=하지만 음성인식 AI가 발전을 거듭하는 과정에서, 반복되는 논란이 있다. AI는 방대한 양의 자료, 즉 빅데이터를 학습하고 분석하며 이를 바탕으로 판단이나 예측을 한다. 여기서 빅데이터로 활용되는 자료는 실제 사람이 만든 데이터다. 문제는 빅테크 기업들이 고객의 음성 데이터를 빅데이터로 활용한다는 점이다.

펜실베이니아대학교의 교수 조셉 터로우가 쓴 ‘보이스 캐처 - 지금 당신의 목소리가 팔리고 있다’는 음성 AI 산업에 숨겨진 데이터 수집 문제에 관해 지적한다. 고객센터에 전화를 걸면 “서비스 품질 향상을 위해 통화 내용은 녹음되며…”라는 멘트를 들을 수 있다. 그런데 서비스 품질 향상이라는 표현은 상당히 두루뭉술하다. 고객센터와 전화하는 동안 이야기하는 수많은 개인정보가 기업의 이윤 창출에 쓰일지도 모른다. 또한 기업 콜센터의 AI가 고객의 감정을 분석하고, 서비스를 이탈할 우려가 있는 고객에게만 이득이 되는 서비스를 부여할 가능성도 배제할 수 없다.

음성 AI는 아니지만 텍스트 기반의 AI 챗봇을 표방했던 스캐터랩의 ‘이루다’도 2021년 개인정보 유출 논란에 시달렸다. 스캐터랩은 자사의 대화분석 서비스인 ‘연애의 과학’, ‘텍스트앳’, ‘진저’ 등을 통해 수집한 사용자들의 대화 약 100억 건을 바탕으로 이루다 서비스를 만든 것으로 밝혀져 논란이 됐다.

기술의 개발에 앞서 현재 AI 발전의 기반이 되는 고객의 데이터는 과연 어떻게 수집되고 있는지, 기업은 고객에게 어떻게 동의를 얻고 명확하게 고지할 것인지, 수집한 데이터는 어떻게 다루며 보호할 것인지, 수집하는 데이터의 적정 범위는 어떠해야 하는지 폭넓은 사회적 논의가 필요하다. AI가 궁극적으로 인간을 위한 기술이라면, 그 기술을 개발하는 방식 또한 사람을 위하는 방향을 택해야 할 것이다. 기술이 발전하는 속도만큼 윤리적인 가이드라인 또한 시급하게 마련돼야 할 때다. 중기이코노미 안수영 기자