세상의 모든 이슈

AI, 규제와 혁신 갈림길에 서다

#AI#AI윤리#개인정보보호법

인공지능(AI) 챗봇 ‘이루다’가 많은 이슈와 숙제를 남기며 3주 만에 서비스를 중단했다. 짧은 시간이었지만 우리 사회와 AI산업에 던진 메시지는 결코 작지 않다. 이번 사례를 계기로 AI 벤처에 베팅한 벤처캐피탈(VC)들 역시 인간과 AI기술과의 근원적 관계를 돌아보며, 향후 투자 방향을 깊이 고민해야 할 것이다.

글. 이광호 더벨 기자

인공지능과 함께하는 디지털 대전환

바야흐로 ‘포스트 코로나’시대다. 우리 사회 전반에 비대면화가 일상화되는 등 디지털화가 급속도로 진행되고 있다. 코로나19가 디지털 전환의 촉매제로 작용하면서 경제 생태계가 급변하는 중이다. 이제는 소비자나 기업 모두에게 디지털화는 필수다. 정부 차원에서도 디지털 뉴딜 정책을 통해 새로운 시대를 대비하고 있다.

디지털 대전환기를 관통하는 기술은 인공지능(AI)이다. AI를 중심으로 한 4차 산업혁명 기술들의 융합이 그 어느 때보다 중요해졌다. AI는 기존의 데이터를 활용해 효율화를 이루는 동시에 신산업을 통해 일자리와 부가가치를 창출한다. 기술 고도화에 따라 생활, 의료, 금융 서비스 및 자율주행차 등 산업 전반에 걸쳐 빠르게 적용되고 있다.

‘이루다’가 쏘아올린 AI 윤리

AI 기술에 대한 관심이 높아지는 가운데 최근 AI 챗봇 ‘이루다’가 대중을 매료시켰다. 개발사 스캐터랩은 빅데이터를 활용해 스스로 학습하는 ‘딥러닝’기술을 바탕으로 이루다 서비스를 선보였다. 자체적으로 보유한 카카오톡 대화 100억 건과 라인 대화 10억 건을 중심으로 제법 사람다운 대화를 이끌어내는 데 성공했다.

상담 수준에 머물렀던 기존 챗봇과 달리 일상적인 대화를 할 수 있다는 입소문이 퍼지면서 뜨거운 반응을 일으켰다. 하지만 예기치 못한 문제가 발생했다. 이루다가 20대 여성의 인격을 설정한 점을 두고 일부 이용자들이 점차 성적인 대화를 유도했다. 음담패설을 캡처한 뒤 인터넷 커뮤니티에 공유하는 사례가 늘면서 AI 차별·혐오 논란이 불거졌다.

이루다는 출시 2주 만에 75만 명이 사용할 정도로 큰 인기를 끌었지만 여론의 뭇매를 맞고 자취를 감췄다. 여기에 서비스 개발에 이용된 데이터를 불법으로 수집한 것 아니냐는 의혹까지 불거졌다. 정부 산하 개인정보보호위원회는 스캐터랩이 개인정보보호법을 위반했는지에 대한 조사에 착수했다. 일부 이용자들은 개인정보 유출 집단소송에 참여했다.

스캐터랩은 사회적인 요구 수준에 부합하도록 이루다 알고리즘을 전면적으로 수정하기로 했다. 이를 위해 우선 이루다의 대화 훈련에 사용한 학습용 문장 데이터 1억 건을 모두 폐기하기로 결정했다. 이용자들로부터 획득한 카카오톡 대화록 기반 데이터 100억 건에 대해서도 원하면 삭제할 수 있는 서비스를 제공했다.

AI 규제, 깊어지는 VC의 고민

이번 논란은 규제로 이어질 조짐이다. 업계에서는 정부가 2차 개정에 돌입한 개인정보보호법(개보법)이 ‘유럽연합(EU) GDPR’수준으로 대폭적으로 강화될까 우려하고 있다. GDPR(General Data Protection Regulation)은 EU가 2016년 제정해 2018년부터 시행하고 있는 개인정보 보호 규정이다. GDPR에는 우리나라 개보법과 달리 훨씬 강한 규제 조항들이 많다.

GDPR은 기업에는 정보 프라이버시 보호 평가를 시행하도록 강제한다. 관련 법령을 어겼을 경우 기업에 부과되는 과징금은 최대 2000만 유로(약 267억 원) 또는 글로벌 전체 매출액의 4%다. 구글은 개인정보 제공 동의 절차에 문제가 있다는 이유로 프랑스에서 과징금 5000만유로(약 680억 원)라는 처벌을 받기도 했다.

더불어 방송통신위원회는 이용자와 사업자 대상 교육·컨설팅을 지원하고 AI윤리규범 등을 구체화해 관련 제도개선을 추진하기로 했다. 중장기적으로는 이용자에게 피해를 야기한 AI서비스의 책임소재와 권리구제 절차 등이 포괄될 수 있도록 기존의 법체계를 정비해 나간다는 방침이다. 당국의 이 같은 움직임에 AI 업계는 술렁이고 있다.

관련 규제가 늘어날 경우 혁신의 걸림돌로 작용할 수 있다는 우려가 나온다. 윤리 문제도 중요하지만 시장이 위축되는 방향으로 흘러가면 안 된다는 지적이다. 이번 논란으로 AI 벤처 대표들은 핵심인력인 개발자들의 이탈 여부에 주목하고 있다. 현재로선 좋은 인력을 유지하거나 추가로 유인할 요인이 부족하다.

AI 벤처에 베팅한 벤처캐피탈(VC)들의 고민도 커지고 있다. 국내 AI 기술은 아직 걸음마 단계다. VC들은 가능성과 역량을 보고 투자한다. 이루다 사태로 인해 투자기업 출구전략과 후속투자 여부 등이 불투명해졌다. 규제 일변도 접근에서 벗어나 AI산업을 한 단계 더 발전시킬 방안이 절실한 때다. 시행착오 없는 혁신은 없다.

※ 본문의 견해와 주장은 필자 개인의 것이며, 한국벤처투자의 공식적인 견해와 다를 수 있습니다.

< PREV NEXT >
구독하기 구독하기
목록보기목록

연관게시물

뉴스레터 21-06

Startup Trend

2021.03.15

애드테크, 광고의 본질은 변하는가

뉴스레터 20-15

Zoom-in Venture

2020.11.13

비대면 시대의 No.1 글로벌 교육 플랫폼으로 거듭나는

뉴스레터 20-15

Startup Trend

2020.11.13

스마트시티의
‘스마트’함은 무엇인가

뉴스레터 20-11

세상의 모든 이슈

2020.09.18

캡스톤3호벤처투자조합 양도, 그 뒷이야기

뉴스레터 20-10

Startup Trend

2020.09.04

국내 바이오 스타트업
...현황은