동의없는 이미지 업로드는 계속 금지

트위치 스트리머 NymN은 달리2로 자신의 얼굴을 목욕하는 WWE 레슬러 이미지와 합성했다. (사진=트위터)
트위치 스트리머 NymN은 달리2로 자신의 얼굴을 목욕하는 WWE 레슬러 이미지와 합성했다. (사진=트위터)

오픈AI의 이미지 생성 프로그램 '달리2(DALL-E 2)'를 이용해 사람의 얼굴 이미지도 생성할 수 있게 됐다. 오픈AI는 그동안 이를 이용한 악용을 방지하기 위해 얼굴 이미지 생성을 금지해 왔다. 

가디언은 22일(현지시간) 오픈AI가 '달리2' 사용자에게 사람의 얼굴 사진 생성 및 업로드를 허용하는 발표를 했다고 보도했다. 

오픈AI는 달리2를 처음 공개할 당시에는 얼굴 생성을 완전히 금지했었다. 이후 유명인이나 공인을 포함한 특정 인물로 얼굴 이미지 생성을 제한하는 것으로 완화했다가 이번에 완전히 허용한 것이다. 

하지만 앞으로도 생성한 얼굴 이미지의 주인공이 동의하지 않으면 사진 업로드는 계속 금지한다.

오픈AI는 사용자의 성적, 정치적, 폭력적 콘텐츠 생성 방지 기술을 개선해 피해 가능성을 최소화해 이번에 얼굴 생성 기능을 완전 개방할 수 있었다고 설명했다.

이에 따라 앞으로는 의사가 얼굴 수술을 앞둔 환자에게 수술 결과를 미리 확인할 수 있도록 하거나 영화 관계자들이 제작 속도를 높이기 위해 합성한 장면을 제작하는 데 '달리2'를 유용하게 활용할 수 있게 될 전망이다.

AI 이미지 전문가 마누엘 세인슬리는 달리2를 이용해 원본에 없는 모자나 선글래스를 착용한 이미지를 생성했다. (사진=트위터)
AI 이미지 전문가 마누엘 세인슬리는 달리2를 이용해 원본에 없는 모자나 선글래스를 착용한 이미지를 생성했다. (사진=트위터)

한편 이번 오픈AI의 완화 조치는 다른 이미지 생성 AI인 '스테이블 디퓨전'에 대한 견제로 해석된다는 분석도 나오고 있다. 

앞서 이마드 모스타크 스테빌리티AI CEO는 "사진 합성이 윤리적이거나 합법적인지 여부는 궁극적으로 사용자의 책임"이라며 스테이블 디퓨전을 아무런 제약 없이 공개했다. 

박찬 위원 cpark@aitimes.com

[관련기사]DALL-E 2의 편향 감소 및 안전성 향상

[관련기사]DALL-E2 이용자 확대하고 유료화도 추진한다

키워드 관련기사
  • DALL-E 2의 상업적 사용 … 법적 문제 없나?
  • DALL-E와 경쟁할 이미지 생성 AI 또 등장
  • 인공지능이 만들어낸 실감나는 3D 얼굴들