AI 기술 기업이 범한 무분별한 개인정보 처리 제재 첫 사례
카카오톡 대화 중 개인정보 삭제 및 암호화 조치 전혀 안해
정보주체 인지 및 미동의 사실 등 추가 위반사실 확인

(사진=셔터스톡)

개인정보보호위원회는 오늘 열린 제7회 전체회의에서 스캐터랩이 행한 '이루다' 관련 개인정보 보호법위반행위에 총 1억 330만원의 과징금과 과태료를 부과하며, 시정 조치할 것을 명령했다.

개인정보가 포함됐던 챗봇 서비스인 '이루다'를 개발한 스캐터랩은 AI 기술 기업이 범한 무분별한 개인정보 처리를 제재한 첫 사례다.

기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스를 위해 이용하는 것을 제한한 사례로, AI 개발과 서비스 제공 시 올바른 개인정보 처리 방향을 제시했다.

조사 결과, 스캐터랩은 카카오톡으로 수집한 대화 내용을 자사 앱 서비스인 '텍스트앳'과 '연애의 과학'에 작년 2월부터 1년 동안 AI '이루다' 개발과 운영에 이용한 것으로 확인됐다.

약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여 건을 이용했으며, 서비스 운영 과정에서 20대 여성의 카카오톡 대화문장 약 1억 건을 응답 DB로 구축했다. 이 중 한 문장을 선택해 '이루다'가 발화할 수 있도록 개발했다. 

'이루다'는 알고리즘 학습 과정에서 카카오톡 대화 중 공개되는 이름과 전화번호, 주소 등 개인정보를 삭제하거나 암호화하는 조치를 전혀 취하지 않은 것으로 밝혀졌다. 

또한, 스캐터랩 개발자들은 코드 공유와 협업 사이트 깃허브(Github)에 작년 10월부터 올해 1월까지 이름 22건(성은 미포함)과 지명정보(구·동 단위) 34건, 성별, 대화 상대방과의 관계(친구 또는 연인) 등이 포함된 카카오톡 대화문장 1,431건과 함께 AI 모델을 게시했다.

가명정보를 불특정 다수에게 제공, '특정 개인을 알아보기 위해 사용될 수 있는 정보'를 포함했기 때문에 개인정보 보호법 제 28조 제 2항 '기술적·관리적 조치 미이행으로 인한 개인정보 누출' 위반한 것이라고 판단했다.

개인정보위는 지난 1월 12일 언론보도를 통해 조사에 착수했고, AI 개발과 서비스 제공 과정에서의 개인정보 처리현황과 법리적·기술적 쟁점에 대해 산업계, 법·학계, 시민단체 의견을 수렴, 본 건이 국민과 산업계에 미치는 영향을 고려해 이 같은 결정을 내린 것으로 알려졌다.

윤종인 개인정보위 위원장은 "전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다"고 전했다.

챗봇 AI '이루다' 개발과 운영에 카카오톡 대화가 이용될 것에 대해 이용자가 예측할 수 없는 손해를 입을 우려가 있기 때문에 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것이라고 판단했다.

이용자가 로그인시 '신규 서비스 개발' 등 개인정보처리방침에 동의했지만 '이루다' 같은 '신규 서비스 개발'을 목적으로 카카오톡 대화내용 등 개인정보 이용하는 것을 이용자가 동의한 걸로 보기는 어려웠다고 전했다.

조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고, 이에 대한 동의를 받지 않은 사실 등 추가 위반사실도 확인했다.

AI타임스 이하나 기자 22hnxa@aitimes.com

[관련기사] [이루다 대책 토론회]①제2의 이루다는 없다...AI 기업이 해야 할 일 3가지

[관련기사] [이루다 대책 토론회]②전문가들 "정부, 이것부터 해야"...정부가 해야 할 일 3가지

키워드 관련기사
  • 이신행 중앙대 교수 "온라인상 혐오 발언, 맥락 데이터 기반 AI로 잡을 수 있다"
  • 드러난 보수편향 네이버 뉴스 편집 AI알고리즘...공정성 논란 불붙나
  • 네이버·카카오, AI 윤리 대책 앞다퉈 발표...이루다 사건 대응 성격