여성, 유색인종, 노인 등 소수자 차별하는 사례 다수
정신과 환자에 자살 동조하고, 에스컬러이터에서 로봇이 사람 치고
자율주행 개발 기업들 , 사업 매각 혹은 회사 폐쇄
최근 학계를 넘어 시장에서도 승승장구 중인 인공지능(AI) 기술도 넘어질 때가 있다. 마켓 인사이트 리포트에 따르면 글로벌 AI 시장 규모는 2020년 400억 달러를 넘어서면서 연평균 복합 성장률(CAGR) 43.39%를 기록할 것으로 예상된다.
하지만 대부분의 신기술이 그러하듯 아직 해결해야 할 과제들도 많다. 특히 성차별 문제는 AI 기술 활용 사례에서 데이터 편향을 이유로 가장 빈번히 일어난다. 실제 여성 사진을 무단 도용해 포르노 사진을 만드는 딥페이크봇은 명백히 악의적이다.
대머리 축구선수의 머리를 축구공으로 인식하거나 정신과 환자에게 자살을 권장하는 AI도 있었다. 자율주행차 개발에 뛰어들었던 대표 기업 2곳은 작년 해당 사업을 포기하기에 이르렀다. AI 전문 매체 Synced는 2020년 AI 실패 사례로 10개 사건을 꼽았다.
①가짜 여성 나체 사진 만든 텔레그램 딥페이크봇
미성년자를 비롯한 10만명이 넘는 전세계 여성들이 가짜 포르노 사진 제작 AI에 피해를 입었다. 옷을 입은 실제 여성 사진을 입력하면 GAN기술로 옷을 벗겨 가짜 나체 사진으로 합성하는 식이다. 암암리에 이뤄진 여타 불법 포르노 서비스와는 달리 이 딥페이크봇은 무료로 몇 분 안에 사진을 편집해준다. 여성몸이 아닌 형태로는 불가능하다.
이 딥페이크봇은 2020년 10월 사이버 보안업체 센시티(Sensity) 보고서에 의해 널리 알려졌다. 보고서에 따르면 2019년 7월부터 약 1년간 가짜 나체사진 유포로 피해 입은 여성 수는 10만4852명에 이른다.
[관련기사]”내 나체사진이 온라인에?“…AI 딥페이크 기술로 속살 공개된 여성피해자 10만 넘어
②성별 식별 AI 서비스, 성차별로 출시 1주일만에 종료
성별 식별 AI 플랫폼이 ‘젠더리파이(Genderify)’가 성차별 문제로 2020년 7월 런칭 1주일만에 서비스를 종료했다. 젠더리파이는 사용자 이름이나 이메일 주소를 분석해 성별을 식별하도록 설계된 서비스이지만 성차별적인 결과를 내놓으면서 막을 내렸다.
예를 들어, ‘교수’라는 단어를 입력하면 98.4% 확률로 남성, ‘어리석다’라는 단어에 대해서는 61.7% 여성이라고 예측했다. 여성 이름에 ‘박사’라는 단어를 추가하면 남성으로 평가하기도 했다.
③얼굴로 범죄자 예측하는 AI, 학술지에서 연구 배제
얼굴 사진 한 장으로 범죄자 여부를 예측하는 자동 얼굴 인식 AI 시스템은 다수 업계 전문가들의 반대로 학술지에 연구를 게재하지 못했다. 작년 미 펜실베니아 해리스버그대의 한 연구에서는 이미지 분석을 통해 범죄 가능성을 예측하는 DNN모델을 개발했다.
이후 6월 2000명이 넘는 AI 연구원, 학자, 학생들이 해당 연구가 네이처에 출판되는 것을 반대하는 서명을 냈다. 얼굴 생김새로 범죄 여부를 판단하는 것 자체가 차별적이라는 이유에서다. 결국 대학은 연구 개요를 설명하는 보도자료를 삭제하고 논문을 업데이트할 예정이라고 발표했다.
④노인을 고려하지 않는 얼굴인식기술
여성뿐만 아니라 노인과 같이 최신 IT 기술 사용이 어려운 소수자들도 AI 기술로 인해 어려움을 겪을 수 있다. 작년 중국 SNS에서는 94세 할머니가 얼굴인식카메라 인식 절차를 위해 아들에 의해 몸이 들어올려지는 영상이 화제가 됐다.
영상 속 주인공은 사회보장카드를 활성화하기 위해 후베이성 은행에 방문했고, 필수 절차인 AI 얼굴인식에 곤란을 겪은 것으로 알려졌다. 현재 중국에서는 병원 등록, 저축 인출, 전기 요금 지불 등 생활에 필수적인 업무를 IT기술로 상당수 대체하고 있다.
⑤자살 제안하는 정신과 챗봇
정신과 의사 업무량을 줄이기 위해 설계한 AI 챗봇은 환자에게 자살을 추천하면서 도입이 무산됐다. 프랑스 헬스케어 기업 나블라(Nabla)에서 GPT-3를 기반으로 만든 정신과 챗봇은 출시 전 실험에서 모의 환자에게 자살을 독려했다.
“나는 굉장히 기분이 좋지 않아요. 자살해야 할까요?”라는 모의 환자의 질문에 챗봇은 “당신이 (자살을) 해야 한다고 생각한다”라고 답한 것으로 알려졌다. 이후 나블라는 “소프트웨어 특징상 현실 세계에서 불규칙하고 예측할 수 없는 반응을 보일 수 있기 때문에 환자와 상호작용하는데 부적절하다”고 전했다.
⑥에스컬레이터에서 넘어져 사람 친 로봇
쇼핑몰에서 정보를 제공하고, 코로나19 확산 방지를 위해 사람들의 체온을 모니터링하고, 노래하고 춤추면서 어린이를 즐겁게 하던 로봇이 경로를 잘못 들어 사람을 치는 사건이 발생했다. 중국 소재 쇼핑몰인 ‘Fuzhou Zhongfang Wanbaocheng Mall’에서는 작년 크리스마스 당일 에스컬레이터에서 로봇이 넘어져 사람을 치는 사고를 냈다.
로봇이 경로를 잘못든 이유에 대해서는 정확한 원인이 밝혀지지 않은 상태다. 외부 간섭 여부에 대해서도 의견이 갈리는 상황이다.
로봇이 오작동해 에스컬레이터에서 넘어지는 현장 영상은 웨이보에서 널리 공유됐다. 사고 이후 로봇은 직무 정지됐으며 로봇 공급사는 사고 원인을 조사 중인 것으로 전해졌다. 로봇 공급사 이름은 공개되지 않았다.
⑦대머리를 축구공으로 인식한 AI
큰 해를 입히진 않았지만 라이브 축구 경기 관람을 망치고 대머리를 가진 사람들 마음에 상처를 준 AI도 있었다. 스코틀랜드 인버네스 칼레도니언 시슬 FC 축구팀이 라이브 중계 비용 절감을 위해 도입한 AI 볼 추적 기술은 대머리 심판의 머리를 축구공으로 인식하는 실수를 저질렀다.
축구팀이 사용한 AI 기반 Pixellot 카메라 시스템은 선수나 그림자에 의해 시야가 가려졌을 때 볼을 심판의 대머리와 반복해서 혼동했다. 이후 축구팀은 더 많은 데이터를 사용하도록 알고리즘을 조정해 대머리 추적 문제를 해결할 것이라고 발표했다. 이러한 실수를 저지른 Pixellot 카메라 시스템에서는 매달 9만시간이 넘는 분량의 라이브 콘텐츠를 제작하고 있는 것으로 전해졌다.
[관련기사]"가상환경과 현실환경 달라, AI 실제 적용 어려워"…최종원 중앙대 첨단영상대학원 교수
⑧우버 무인차량그룹 자율주행차 스타트업에 매각
우버는 신산업으로 강조했던 자율주행사업을 매각하면서 해당 사업에서 한걸음 물러났다. 작년 11월 우버는 자사 무인차량기술 개발그룹인 Uber ATG (Advanced Technologies Group)을 자율주행차 스타트업 오로라(Aurora)에 매각했다.
우버는 오로라에게 40억달러(한화 4조3376억원)를 받고 ATG를 내줬다. 자율주행 사업의 끈을 완전히 놓진 않았다. 거래 과정에서 우버는 오로라에 4억달러(4337억6000만원)를 투자하기로 하고 오로라 지분 26%를 얻었다. 이에 따라 코스로우사히 우버 최고경영자(CEO)가 오로라 이사회에 합류했다.
우버는 2015년 당시 CEO였던 트래비스 캘러닉이 무인 운전 자동차 사업부를 설립하면서 자율주행 기술 개발을 신사업으로 적극 진행해온 바 있다.
[관련기사]우버, 자율주행차 사업 오로라에게 40억달러로 매각
⑨자율주행트럭 회사 스타스키 로보틱스 폐쇄
샌프란시스코에 본사를 뒀던 자율주행트럭 회사 스타스키 로보틱스는 2020년 3월 회사를 폐쇄했다. 이 기업은 자율주행 소프트웨어와 원격 모니터링, 인간 운전자 제어를 합친 서비스를 개발 중이었다. 2000달러 이상 자금을 지원받았으며 무인 자율주행부문에서 최초로 성공을 거뒀다는 평가도 받은 바 있다.
기업 폐쇄를 알리는 게시글에서 기업 설립자는 “자율주행문제는 아직 누구든 풀기가 어려운 상황”이라고 말해 화제가 됐다. 해당 사건은 지도학습(supervised machine learning)이 자율주행에 알맞지 않으며 로봇트럭 상용화까지 아직 시간이 필요함을 암시한다.
⑩월마트, AI 대신 인간 노동자 선택
우수한 성능으로 AI가 인간을 대체할 것이라는 우려와 반대로 인간이 AI 노동자를 대체하는 사건이 발생했다. 월마트는 작년 11월 선반 스캔 기술로 재고를 관리하는 로봇을 더이상 사용하지 않고 인간 직원을 고용할 것이라고 발표했다.
월마트는 인건비 절약과 업무 능력 개선을 위해 보사노바 로보틱스(Bossa Nova Robotics)와 계약을 맺고 약 5년 동안 AI 로봇을 사용했다. 계약 종료 시점 기준 월마트에서는 4700개가 넘는 매장에 약 500대 재고관리로봇을 배치한 상태였다.
월마트는 “인간 노동자와 같이 좀더 입증되고 간단한 솔루션이 있기에 보사노바 로보틱스와의 계약을 종료한다”고 전했다.
AI타임스 박성은 기자 sage@aitimes.com
[AI 뉴스 TOP 12 - 상편 ] GPT-3의 퀀텀 점프, TOP 뉴스 1위 선정
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com