‘이루다’ 논란에 ‘AI 리스크’ 전용보험 필요

인공지능(AI) 챗봇 ‘이루다’가 혐오 발언과 개인정보 유출 등으로 논란이 일면서 기업들의 ‘AI 리스크’를 보장하는 전용보험이 필요하다는 주장이 제기됐다.

지난 18일 김윤진 보험연구원 연구원은 ‘AI 리스크와 전용보험의 필요성’ 보고서에서 최근 여러 기업들이 AI 기술을 도입·활용하면서 AI 리스크에 특화된 AI 전용보험의 개발이 요구되고 있다고 밝혔다.

이루다는 스캐터랩이 만든 AI 챗봇이다. 스캐터랩은 연애 분석 앱인 ‘연애의 과학’ 이용자들의 카카오톡 데이터를 수집해 이루다를 개발했다. 이 과정에서 이용자 개인정보 이용 동의를 제대로 받지 않아 개인정보보호법을 위반했다는 의혹이 불거졌다. 또 일부 이용자의 혐오 발언을 이루다가 학습해 사회적 문제로 번졌다. 스캐터랩은 지난 15일 이루다 서비스를 종료했다.

보험업계는 이같이 AI 기술이 발전함에 따라 개인과 기업에 미치는 부정적 결과인 ‘AI 리스크’에 주목하고 있다. AI 리스크 가운데 ‘경제적리스크’를 보장하는 AI 전용보험 개발이 시급한 것이다.

미국의 브루킹스연구소(Brookings Institution)에 따르면 AI로 인한 리스크는 위험 발생 형태에 따라 수행리스크, 보안리스크, 통제리스크, 경제적리스크, 사회적리스크, 윤리적리스크 등으로 분류된다.

김윤진 연구원은 “‘수행리스크’와 ‘윤리적리스크’는 정책당국 및 관련 기관의 AI 활용 가이드라인 마련 등의 자체적인 노력으로 관리되고 있다”면서 “하지만 ‘경제적리스크’에 해당하는 신체 상해, 브랜드 훼손, 물적 손해는 사이버 보험에서 보장하지 않기 때문에 이를 보장하기 위한 AI 전용보험의 개발이 요구된다”고 주장했다.

현재 국내에서 판매하고 있는 사이버(Cyber)보험은 AI 리스크 중 ‘보안리스크’에 해당하는 데이터 및 보안 관련 위험만을 보장하고 있어, AI 알고리즘 결함으로 인한 신체 상해와 브랜드 훼손 등의 물적 손실은 보장받을 수 없다.

김 연구원은 “기업의 AI 기술 도입이 초기 단계이기 때문에 관련 데이터가 충분하지 않은 것이 AI 전용보험 개발의 걸림돌로 지목된다”며 “다만 보험사는 AI 산업의 급속한 확장으로 인한 AI 리스크 보장 수요에 대응해 AI 전용보험의 보장 범위를 단계적으로 확대할 필요가 있다”고 말했다.