퓨 리서치센터·엘론대학교 공동 실시
개발자·기업대표·연구원 등 602명 대상
응답자 68%, “10년 지나도 윤리정립 어려워”
“10년 후에도 AI윤리는 완전하게 정립될 수 없을 것이다”. 미 여론조사기관 퓨 리서치센터와 엘론대학이 공동으로 설문조사를 실시한 결과 응답자 가운데 68%가 이같이 전망했다.
두 기관은 AI 개발자를 비롯해 기업대표, 정책입안자, 연구원 등 602명의 전문가를 대상으로 단 한 가지 질문을 던졌다. ‘2030년 즈음, 사회 모든 분야에서 폭넓게 사용되는 AI시스템이 과연 윤리적 원칙에 기반할 것인가?’였다. 여기에 과반이 넘는 사람들이 장밋빛 미래보다 우려를 나타낸 것이다.
퓨 리서치센터는 16일(현지시간) 공식 홈페이지에 설문조사에 참여한 이들 중 35명의 의견을 게재했다. 데이나 보이드 마이크로소프트(MS) 연구원은 “대부분 IT 대기업은 표면적으로만 공정성과 편향제거에 대해 논할 뿐, 그 자신들에게 데이터 정의에 대한 책임이 있다는 사실은 멀리한다”고 꼬집었다.
보이드 연구원의 발언은 최근 페어 아이작 코퍼레이션(FICO)이 미국 내 C급 AI 리더 100명을 대상으로 벌인 설문조사를 연상케한다. FICO는 조사 결과를 실은 보고서에서 기업 임직원들의 AI윤리 문제에 대한 인식이 엔지니어나 개발자들에 비해 상당히 낮다고 밝혔다.
[관련기사] 미 기업 임원들의 AI윤리를 대하는 태도 ‘구멍 쑹쑹’...절반 이상 인식 부족 보여
벤 슈나이더 메릴랜드대 컴퓨터공학부 교수이자 휴먼&컴퓨터 랩 소장은 “AI에게 윤리는 더욱 ▲책임 ▲공정성 ▲투명성 ▲책임성 ▲설명 가능한 ▲신뢰할 수 있는 ▲탄력적인 ▲안전 등 다양한 키워드가 요구되고 있다”고 말했다. 그러나 “소프트웨어 엔지니어링이나 조직 관리, 독립적 감독 등 만드는 과정에서 실제 소비할 때와의 격차를 해소하려면 더욱 세밀한 부분까지 도덕적 윤리가 스며들어야 한다”고 강조했다.
슈나이더 교수의 주장은 “사용자 입장에서 시스템을 제어할 수 있는 장치가 마련돼야 한다는 것”이다. 그러나 이를 위한 규제정립은 제자리 걸음이고, 그 사이 다양한 AI 기반 상품화가 출시되고 있다. 그는 이러한 세태가 오히려 10년 뒤인 2030년에는 더욱 강화될 것으로 내다봤다.
중국과의 패권 경쟁이 심화되면서 머지않은 미래 윤리가 뒷전이 될 수도 있다고 예측한 전문가도 있다. 에이미 웹 ‘퓨처 투데이 인스티튜트’ 창립자는 “현재 중국이 5G와 모바일 영역을 빠르게 확장시키고 있다”며 “이웃국가인 한국, 일본, 인도 등 친미국가가 세계에 제공할 뛰어난 기술을 보유하고 있지만 순식간에 중국이 이를 앞지를 수 있다”고 말했다.
이어 웹은 “미국 입장에서는 이같은 ‘잘못된 질서’를 바로잡기 위해서라도 첨단 기술 경쟁에서 더욱 빠르고 혁신적인 제품을 내놓으려 할 것”이라며 “이 사이 기술이 조장하는 편향, 차별에 관한 법적 제재는 확립되지 않은 상태일 것”이라고 덧붙였다.
근본적인 질문에 물음표를 던지는 전문가도 있었다. 미디어 칼럼니스트이자 뉴욕대 교수인 더글라스 러쉬코프 씨는 “왜 AI가 도덕적 원리에 의해 개발되는 최초의 기술이어야 하나”며 그 자신은 처음부터 AI와 윤리의 결합이 모순이라고 생각했다고 밝혔다.
이유는 “AI가 인간의 상태를 개선하기 위해서가 아닌 돈을 벌려는 기업들에 의해 개발되고 있기 때문”. 시작부터 상업적 목적으로 등장하는 기술에 인간사회 규범을 정립하는 ‘윤리’라는 단어는 어울리지 않다는 것이 그의 주장이다.
퓨 리서치센터는 “각 기업마다 성격이 다르듯 AI윤리 구현에도 각기 다른 의미가 부여된다”며 “이를 통합하는 큰 틀의 AI윤리 제정이 절실하다”고 촉구했다.
IT 매체 벤처비트 역시 “고객 기대치부터 규정, 규범과 일치하는 AI 개발·사용은 법안 뿐”이라며 FICO, 보스턴칼리지 등 최근 여러 기관에서 실시한 AI윤리 관련 설문조사가 대중들에게 더욱 큰 관심을 받아야 한다고 강조했다. 전문가 사이에서도 이견이 보이는 AI윤리에 대해 소비자들에게 ‘생각거리’를 제시한다는 이유에서다.
AI타임스 박혜섭 기자 phs@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com