통제되지 않는 AI가 세상에 나왔을 때 그 피해는

프린트

상생파트너 ㅣ 스타트업·TIPS 통제되지 않는 AI가 세상에 나왔을 때 그 피해는 생성형AI 급성장 예상되지만, AI가 가져올 리스크 대책 필요

기사입력2023-06-16 12:43

채민선 기자 (iscra79@junggi.co.kr) ㅣ다른기사보기

#1. 생성형AI 스타트업 뤼튼테크놀로지는 누구나 인공지능(AI) 도구를 만들 수 있는 차세대 포털을 개발하고 있다. 뤼튼테크놀로지의 ‘넥스트 AI 포털’은 ▲챗(chat·대화) 플랫폼 ▲뤼튼 스튜디오·스토어 ▲플러그인 등으로 구성되는데, 인공지능 기술을 활용해 다양한 분야의 콘텐츠를 자동으로 생성해주는 서비스를 제공한다는 것이다. 뤼튼으로 생성한 콘텐츠들은 블로그나 SNS, 마케팅 자료 등 다양한 용도로 활용할 수 있다고 했다.

#2. 2019년 생성형AI로 창업을 한 라이언로켓은 이미지생성 AI플랫폼 Pokeit과 나만의 가상얼굴을 만들 수 있는 버추얼 페이스 앱 베리미를 서비스하고 있다. 또, 최근에는 웹툰 및 웹소설 제작에 활용할 수 있는 이미지 생성AI를 선보였다. 이 서비스를 활용하면 기존의 웹툰 제작방식보다 10배 이상 효율적인 콘텐츠 제작이 가능하다고 한다.

한국엔젤투자협회는 15일 TIPS SUMMIT 창업기업의 생성형AI 활용법 행사를 개최했다. ©중기이코노미

챗GPT의 등장 이후, 이처럼 스타트업계에서는 생성형AI에 대한 관심이 높아지고 있다. 생성형AI는 단순한 대화부터 논문·기사작성, 이미지 창작, 영상제작 등 그 활용방안이 무궁무진하다. 전세계는 AI 주도권을 잡기 위해 치열하게 경쟁하고 있으며, 국내에서도 AI를 기반으로 한 창업 열풍이 일고 있다. 최근 한국을 방문한 샘 알트만 OpenAI 대표는 한국의 스타트업과 만난 자리에서 “향후 몇 년은 인터넷 개발 이후 가장 좋은 시기”라며 “창업의 적기”라고 주장하고 있다.

스탠더드앤드푸어스에 따르면, 전세계 생성형AI 시장규모는 올해 37억 달러를 넘어설 것으로 보이며, 향후 5년 연평균 58% 성장해 2028년에는 363억5810만 달러 규모가 될 것으로 추정된다.

◇글로벌 기업, AI리스크팀 정비=음병찬 ARMILLA AI 총괄은 한국엔젤투자협회가 15일 개최한 TIPS SUMMIT에서 ‘스타트업 생성형AI 활용백서’라는 주제발표에서, “생성형AI가 올해 초 발표되고 이 기술이 우리의 미래를 바꾸고 결정하는 중요한 포인트가 될 것으로 기대를 모으고 있다”며, “그러나 인간의 삶을 더욱 풍족하게 하기 위해 도입되는 기술이 우리 삶에 안좋은 영향을 끼치지 않는지 고민해야 되고 많은 사회적 합의가 필요하다”고 강조했다.

생성형AI는 수많은 지식 업무와 창작 업무의 생산성을 높여주고 있지만, 이와더불어 AI윤리 문제 또한 화두가 되고 있는 것이다. 통제되지 않는 AI가 세상에 나왔을 때 그로인한 피해는 상상보다 클 수 있기 때문이다.

이에 따라 세계 각국은 개인정보, 데이터 사용, 통제 등을 논의하고 있다. 단적인 예로 이탈리아 정부는 자국민의 개인정보 유출이 우려된다는 이유로 챗GPT의 잠정 차단을 결정하기도 했다. AI를 적극적으로 도입하고 있는 글로벌 기업 역시 AI리스크팀을 정비하고 있다.

음병찬 총괄은 생형형AI를 기반으로 창업을 준비하는 기업이라면 AI리스크에 대한 준비를 철저히 해야 한다고 조언했다. 기업 스스로 AI 윤리 체크리스트를 마련하고 그에 부합하는지 확인하는 것도 한 방법이다.

<그래픽=채민선 기자> ©중기이코노미

◇AI윤리 체크리스트 활용 부터=산업통상자원부 국가기술표준원은 ‘AI윤리 국가표준(KS)’를 제정해 발표하기도 했다. AI제품을 개발하고 서비스하는 과정에서 고려해야 하는 윤리적 문제를 검토할 수 있는 점검서식이나 작성사례 등을 제공하기 위해서다.

AI윤리 KS는 ▲데이터수집 ▲데이터 전 처리 ▲AI디자인 ▲서비스 제공시 ▲서비스 제공 후 등 단계별로 발생할 수 있는 윤리적 문제를 스스로 점검해볼 수 있도록 구성돼 있다. 아울러 투명성·공정성·무해성·책임성·사생활보장성·편익성 등 10가지 윤리항목을 토대로, 개발자·서비스제공자·사용자 등의 측면에서 점검할 수 있는 체크리스트도 있다.