AI 위험 요소 줄이기 위해 각국 AI 규제법 도입

프린트

오피니언 ㅣ 키워드이슈 AI 위험 요소 줄이기 위해 각국 AI 규제법 도입 AI 활용기업, 데이터 활용 규제 등 관련 법 위반 리스크 체크

기사입력2024-08-16 09:00

채민선 기자 (iscra79@junggi.co.kr) ㅣ다른기사보기

인공지능(AI) 기술이 환경·건강·공공·금융·모빌리티·농업 등 다양한 분야에서 활용되며 긍정적인 사회·경제적 효과를 가져올 것으로 기대되고 있지만, 그 이면에 오류·지식재산권 침해 등 위험요소도 있어 주요국에서는 AI 규제법을 도입하고 있다. 이에따라 AI를 활용하는 기업은 데이터 활용 규제 등 관련 법 위반 리스크를 예방하기 위한 모니터링 등 선제적 노력이 필요하다.

한국무역협회가 최근 발표한 ‘AI 규제 주도권 확보를 위한 글로벌 경쟁 및 시사점’ 보고서에서, 정혜영 수석연구원은 생성형 AI는 미디어·엔터테인먼트를 시작으로 자동차·운송·금융·헬스케어 분야에서 다양하게 활용되고 있으며, 향후 점유율이 빠르게 확산될 것으로 예상했다. 하지만 생성형 AI 등장 이후 부정적 요인때문에 주요국들은 앞다퉈 AI 규제에 나서고 있다며, AI 활용 기업은 각국의 규제를 모니터링 하는 등 선제적인 노력이 요구된다고 했다.

AI의 발전으로 사용자 안전과 기본권 위협 우려

글로벌 AI 시장 규모는 2023년 1359억 달러에서 2030년 8267억 달러로 연평균 29.4% 성장할 것으로 전망된다. 미국은 가장 큰 AI 시장 규모를 가지고 있으며 이어 중국, 독일, 영국, 일본 순이고 한국은 10위 규모다. 국내 AI 시장은 2023년 46억 달러 규모에서 2023년까지 연평균 18.7% 성장해 153억 달러 규모로 8위에 오를 전망이다.

구글, 마이크로소프트, 아마존, X 등 빅테크들은 가장 발전된 생성형 AI를 개발하기 위해 경쟁하고 있다.

하지만 AI가 이처럼 빠르게 발전하면서 제품·서비스에 내장된 AI 기술이 사용자의 안전과 차별금지, 표현의 자유, 인간의 존엄성, 개인정보보호 등 기본권을 위태롭게 할 수 있다는 우려도 커지고 있다.

<그래픽=채민선 기자> ©중기이코노미

챗봇이 보고서에 가짜 각주를 삽입하는 등 거짓말, 조작, 환각 등을 일으킬 수 있고, 생성형 AI는 정치인과 연예인의 딥페이크 이미지와 동영상을 제작할 수 있어 사기·기만·허위정보 확산에 활용될 우려도 있다. 그런가 하면 AI가 많은 노동자를 대체하며 불평등을 확대하고 사회적 결속력 악화를 야기하거나, 정치적으로 악용돼 시민의 정치적 자율성을 침해하고, 민주주의를 훼손하는 등의 부작용도 우려된다. 또, 빅테크 기업들이 AI 모델을 훈련시키는데 저작권이 있는 텍스트와 이미지를 사용한다는 비난도 받고 있다.

빅테크는 비판과 감시속에서 AI 기술을 발전시키기 위해 경쟁해야 하고, 각국 정부는 혁신을 저해하지 않으면서도 AI를 규제해야 하는 압박에 직면했다고 보고서는 진단했다.

사용자 보호하고, 우위 선점하려는 독자규범 제정

주요국들은 글로벌 디지털 경제에 대한 영향력을 확대하고 AI 우위를 차지하기 위해 경쟁적인 비전을 내놓고 있다.

◇EU, 위험 기반 포괄적 규제=EU는 AI를 파괴적 잠재력을 지닌 디지털 혁신으로 간주해, 빅테크에만 맡기기보다 정부가 개입해 개인의 기본권을 보호하고, 사회의 민주적 구조를 보존하며, 디지털 경제의 혜택을 공정하게 분배하고자 한다.

이를 위해 EU는 ▲개인정보를 보호하는 ‘일반데이터보호규정(GDPR)’ ▲빅테크 등 디지털 게이트키퍼의 지배력을 축소하고 경쟁을 보호할 의무를 부과하는 ‘디지털시장법’ ▲온라인 플랫폼이 호스팅하는 콘텐츠에 대한 책임을 지는 규정을 마련한 ‘디지털서비스법’ 등을 통해 권리 중심의 디지털 규제를 시행하고 있다. 또한 EU집행위원회가 2021년 발의한 세계 최초의 포괄적 AI 규제인 ‘AI 법안(AI Act)’은 올해 5월 EU이사회의 최종 승인을 받으며 2026년 발효 예정이다.

◇미국, 자발적 준수에 의존=다수의 빅테크 기업을 보유한 미국은 AI 규제에 대한 정부의 역할이 제한적이며, 가이드라인과 모범사례 등 기업의 자발적 준수를 중시하고 있다. AI를 경제성장 촉진 및 기술·군사적 우위 확보와 기회로 삼아 규제의 대상보다는 경제·지정학적 우위의 수단으로 봤기 때문이다.

미국의 시장 중심 정책은 부를 창출하고 기술발전을 촉진했지만, 빅테크를 규제하지 못한 대가 또한 부각되고 있다. 디지털 광고 기술을 독점함으로써 경쟁업체에 피해를 주는 등 시장지배력을 반복적으로 남용하고 사용자 개인정보 착취에 관한 폭로 확산으로 빅테크에 대한 불신이 확산되고 있다.

이에따라 바이든 행정부는 지난해 7월 7개 주요 AI 기업들로부터 안전하고 투명한 AI 기술개발을 위해 자발적 조치를 약속받은 데 이어, 8월에는 8개 기업으로부터 자발적 약속을 추가로 확보했다. 또한 10월에는 AI를 규제하는 첫 행정명령을 발표하며, 국가안보·건강·안전을 위협하는 규제 의지를 표명했다.

<그래픽=채민선 기자> ©중기이코노미

◇중국, 신속하고 반복적 규제=중국은 AI 개발을 위한 포괄적인 계획의 일환으로 가장 먼저 AI를 규제한 국가로, 국가의 통제를 유지하면서 기술혁신을 장려하는데 중점을 두고 있다. 중국 정부는 알고리즘 추천서비스, 딥페이크, 생성형 AI에 관한 규범을 각각 2021년, 2022년, 2023년 통과시키며 새로운 AI 이슈별 규제를 신속히 도입했다. 중국은 EU처럼 AI를 포괄적으로 규제하기 보다 새로운 AI 관련 이슈에 대해 단편적인 규칙을 신속하게 제정하고 지속적으로 수정하고 있다.

중국 정부는 지난해 7월 7개 부처 공동으로 생성형 AI에 대한 세계 최초의 규제인 ‘생성형 AI 서비스 관리 잠정방법’을 발표하고 한 달 뒤 전격 시행했다. 잠정방법은 ▲생성형 AI의 건전한 발전 ▲표준화된 적용 추진 ▲국가안보 및 사회 공공이익 수호 ▲권익보호를 목표로 기술개발 촉진, 준수의무 등을 명시하고 있다. AI에 대한 중국의 접근법은 개인에 대한 피해를 줄이고 사회 안정과 국가 통제를 유지하는 동시에 AI 분야의 글로벌 리더십을 확보해 규제 논의에 영향을 미치는데 초점을 맞추고 있다.

리스크 예방 위한 모니터링과 관리체계 구축을

보고서는 생성형 AI 등장 이후 주요국들은 앞다퉈 AI 규제에 나섰으나, AI 기술은 국경을 넘어 전 세계적으로 영향을 미치기 때문에 국제협력이 필요하다고 강조했다. 그러나 AI 리스크 규제를 위한 국제협력은 추진력을 얻고 있지만, 국가별로 상이한 견해와 목표가 규범 간 상호운용성을 저해하고 있다고 했다.

또한, AI 활용 기업은 데이터 관련 법 위반 리스크 예방을 위해 각국의 규제를 모니터링 하는 등 선제적인 노력이 요구된다고 했다. AI는 데이터 활용을 전제로 하기 때문에 데이터 보안사고에 근본적으로 취약해 이로인해 비즈니스 전반에 리스크를 내포하고 있어 전사적 차원에서 사전 리스크 관리체계를 구축해야 한다는 것이다.

이와 더불어 법률이나 행정명령 등 AI에 대한 규율을 시도하고 있는 주요국 추세를 고려할 때, 국내에서도 AI에 대한 법률을 제정하려는 시도가 지속될 것으로 예상된다고 했다. 중기이코노미 채민선 기자