실제 얼굴과 AI 합성 얼굴을 구별하는 실험 수행
얼굴 사진 AI 합성 여부 구별은 사실상 불가능
사람들이 가짜 사진을 더 신뢰한다는 것도 확인
범죄에 악용될 우려...피해 줄일 안전 장치 필요
사람들은 인공지능(AI)이 만든 가짜 얼굴과 실제 얼굴을 구별할 수 없으며, 가짜 얼굴을 오히려 더 신뢰한다는 연구 결과가 나왔다. 가짜 얼굴이 딥페이크와 같은 범죄에 악용될 우려가 커져 이를 방지하기 위한 안전 장치의 필요성이 제기된다.
영국 랭커스터 대학과 미국 버클리 캘리포니아 대학의 연구진은 참가자들을 대상으로 AI가 만든 합성 얼굴과 실제 얼굴을 구별하게 하는 실험을 수행하고 결과를 미국 국립과학원회보(PNAS)에 게재했다. 결론은 합성으로 생성된 얼굴이 사진처럼 매우 사실적일 뿐 아니라 실제 얼굴과 거의 구별할 수 없으며 심지어 더 신뢰받을 수 있다는 것이다.
연구진은 실제 사진 400장과 AI로 합성한 사진 400장을 준비했다. 첫 번째 실험에서는 참가자 315명에게 800장의 사진 중 128장을 뽑아 실제인지 합성인지 구별하게 했다. 그 결과 정확도는 48.2%로 나타났다. 두 번째 실험에서는 새로운 참가자 219명에게 AI가 만든 합성 얼굴을 구별하는 방법을 가르쳐 주고 동일한 실험을 진행했고 59% 정확도를 얻었다. 구별 방법 인지여부와 관계없이 참가자들은 진짜와 가짜 얼굴을 절반 정도 밖에 구분하지 못했다. 이는 실제 사진과 합성사진을 거의 구분하지 못했다는 것으로 해석된다.
세 번째 실험에서는 참가자 223명에게 800장의 사진 중 128장을 뽑아 1(매우 신뢰할 수 없음)에서 7(매우 신뢰할 수 있음)까지 점수를 주도록 했다. 그 결과 합성한 얼굴의 평균 신뢰도가 4.82로 실제 얼굴에 대한 평균 신뢰도 4.48보다 더 높았다. 여성이 남성보다 신뢰도가 높았으며 인종간의 차이는 크지 않은 것으로 나타났다. 연구진에 따르면 합성된 얼굴은 평균적인 얼굴과 비슷하기 때문에 사람들이 더 신뢰할 가능성이 크다.
연구진은 “실험 결과 AI 합성 얼굴은 실제 얼굴과 사실상 구별되지 않으며 오히려 더 신뢰할 수 있는 만큼 딥페이크와 같은 합성 편집물로 인한 피해를 줄이기 위해 안전 장치를 병행해서 개발할 것을 권장한다”고 말했다.
AI타임스 박찬 위원 cpark@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com