[뉴스락] AI 오작동으로 인한 사고가 다수 목격되면서 기업들의 AI 리스크 대응을 위해 관련 보험을 개발해야 한다는 주장이 나왔다.

18일 보험연구원은 이 같은 내용의 ‘AI 리스크와 전용보험의 필요성’ 리포트를 발표했다.

최근 AI 기술을 활용하는 기업이 증가하면서 기업의 생산성과 효율성 측면에서 AI 활용의 긍정적 효과가 부각되고 있다.

컨설팅 회사 맥킨지(McKinsey) 등은 AI 기술을 도입함으로써 기업의 생산성은 약 54% 향상했고 사업비는 44%가량 절감돼 비용 효율성이 증대됐다고 평가했다.

하지만 AI로 인한 새로운 형태의 사고가 발생하면서 AI 실패에 대한 우려가 제기되고 있다.

미국에서는 승차 공유 업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 상해를 입고 사망한 사건이 발생했다.

국내에서는 스타트업이 개발한 챗봇 ‘이루다’가 잘못된 알고리즘 데이터를 학습하면서 성차별 및 사회적 약자 혐오 발언을 해 논란이 됐고 해당 회사는 서비스를 잠정 중단했다.

김윤진 보험연구원 연구위원은 “‘AI 리스크’가 △기술 수행 △정보 보안 △경제·사회 △윤리 등 여러 측면에서 이미 현실화되고 있어 AI 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상 된다”고 밝혔다.

이에 따라 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다.

국회입법조사처는 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우의 피해 보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험 제도 도입을 검토해 볼 필요가 있다고 주장한 바 있다.

현재 판매되고 있는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만을 보장하고 있다.

때문에 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없어 AI 전용보험의 개발이 중요해졌다.

미국과 영국 기반 보험회사 라 플라야(La playa)는 IT 기술, 예술, 임상시험 등 특수 전문분야에 특화된 보험회사로, AI 실패로 인한 배상 책임 및 사이버 위험 담보를 통합한 AI 보험을 개발해 판매하고 있다.

라 플라야는 담보위험 예시로 원격수술로봇 해킹으로 인해 환자가 신체상해를 입은 경우의 피해 보상을 제시했다.

한국의 경우 에이스손해보험이 첨단 기술 배상책임보험을 선보였다.

이 보험은 AI를 포함한 다양한 첨단 기술로 인해 초래되는 제품·서비스 실패에 대한 기술 배상책임과 영업·생산물 배상 책임 등을 담보로 구성해 유무형의 위험을 보장한다.

김윤진 보험연구원 연구위원은 “기업의 AI 기술 도입이 초기에 불과하기 때문에 AI 리스크 관련 사고 빈도 및 심도 데이터가 충분하지 않아 AI 전용 보험 개발에는 시간이 필요할 것으로 보인다”며 “보험회사는 AI 산업의 급속한 확장으로 인한 AI 리스크 보장 수요에 대응해 AI 전용보험의 보장 범위를 단계적으로 확대할 필요가 있다”고 설명했다.