제 41차 유네스코 총회에서 오픈 사이언스 등 권고 2개 채택
“‘권고’는 ‘협약’보다는 약하지만, ‘선언’보다는 구속력이 있다”
인공지능 윤리 권고, AI 윤리에 대한 최초의 세계적 표준될 것
지난 23일 프랑스 파리 유네스코 본부에서 제41차 유네스코총회가 열렸다. 이 총회에서 193개 회원국은 ‘유네스코 오픈사이언스 권고’와 ‘유네스코 인공지능 윤리 권고’를 채택했다.
이번 유네스코의 권고안은 모든 회원국이 AI의 건강한 발전을 위해 필요한 공통의 가치와 원칙의 규정을 골자로 하고 있다. 유네스코는 이 두 가지 권고안을 제정하기 위해 지난 2년간 회원국 및 다양한 이해관계자의 의견을 수렴했으며, 이번에 열린 41차 총회에서 만장일치로 채택하기에 이르렀다.
AI의 윤리적 발전에 필요해
지난 25일 유엔 뉴스(UN News)는 유네스코 193개 회원국이 인공지능 윤리에 관한 첫 번째 글로벌 협약을 채택했다고 보도했다.
유네스코에 따르면, 지난 23일 파리에서 열린 제 41차 유네스코 총회에서‘유네스코 인공지능 윤리 권고’ 및‘유네스코 오픈사이언스 권고’ 두 가지 권고안을 채택했고 회원국들은 이를 수용했다는 것이다.
인공지능은 항공편 예약부터 운전자 없는 자동차 운전까지 일상생활에 존재하고, 암 검진 등 전문 분야나 장애인의 포용적 환경 조성을 돕는 데도 활용된다.
AI는 기후 변화 및 세계 기아와 같은 글로벌 문제와 싸우는 것을 도울 뿐만 아니라 정부와 민간 부문의 의사 결정을 지원하고 있다.
한편, 유네스코는 이 AI 기술이 ‘전례 없는 도전’을 불러오고 있다고 경고하고 있다.
“우리는 성별과 인종적 편견의 증가, 프라이버시, 존엄성 및 대리인에 대한 중대한 위협, 대량 감시의 위험, 법 집행 시, 신뢰할 수 없는 AI 기술의 사용 증가를 목격하고 있다”고 유네스코는 성명에서 밝혔다.
또 “지금까지 이러한 문제에 대한 해답을 제공하는 보편적인 기준이 없었다”고 덧붙였다. 이를 고려해 채택된 권고안은 인공지능의 윤리적 발전을 위해 필요한 법률 인프라 구축의 안내가 핵심이다.
오드리 아줄레이(Audrey Azoulay) 유네스코 사무총장은 “세계에는 인공지능이 인류에게 혜택을 줄 수 있는 규칙이 필요하다.”며, “AI 윤리 권고안이 주요 해답”이라고 주장했다.
그것은 협약 국들에게 그들의 수준에 인공지능에 대한 윤리를 적용할 책임을 부여하면서 최초의 글로벌 규범적 프레임워크를 설정한다는 것이다.
그는 또“유네스코 193개 회원국이 이행하는 것을 지원하고, 그 진행상황과 관행에 대해 정기적으로 보고해 줄 것을 요청할 것”이라고 말했다.
“수백만 명의 사람들에게 영향을 미치는 결정은 공정하고, 투명하며 논쟁의 여지가 있어야 한다. 이 새로운 기술들은 불평등 증가와 환경 위기와 같은 오늘날 우리 세계의 주요한 문제들을 해결하도록 도와야 하며, 그것들을 심화시키지 말아야 한다”라고 유네스코 사회 및 인간 과학 부국장인 가브리엘라 라모스(Gabriella Ramos)는 말했다.
AI 윤리에 관한 글로벌 규범
지난 25일 앨런 튜링 연구소(Alan Turing Institute)는 자사 웹사이트에서 데이비드 레슬리(David Leslie) 박사가 제41차 유네스코 총회에서 인공지능 윤리를 위한 국제 협약에 대해 발표했다고 전했다.
앨런 튜링 연구소는 대영 도서관에 본부가 있는 국립 데이터 과학 및 인공지능 연구소다.
총회에 앞서 열린 인공지능 윤리 권고 발족식에서 앨런 튜링 연구소의 윤리 테마 책임자인 레슬리 박사는 권고안을 발표했다. 웹사이트의 내용에 따르면, 이 행사는 오드리 아줄레이(Audrey Azouley) 유네스코 사무총장이 “이 권고안은 실질, 범위, 정확도 면에서 전례가 없는 것”이라고 밝히면서 시작됐다.
그는 또 “이 권고안은 193개 회원국들이 채택할 예정이며, 처음으로 인공지능 윤리에 관한 글로벌 규범적 틀을 제공한다”고 밝혔다.
레슬리 박사는 “유네스코가 이 지침을 발표한 것은 이 연구소의 역사에 있어 또 하나의 놀라운 업적이 될 것”이라고 주장했다.
그는 또 “인간 존엄성, 사회적 경제적 정의, 환경 번영, 모든 생물과 상호 생물권의 연결성 등 원칙적인 탐색 방향이 절실히 필요한 글로벌 AI 혁신 생태계를 위한 나침반을 제공하는 가치와 원칙을 제시한다”고 전했다.
아울러, 공공, 민간 및 제3부문에 걸친 이해관계자들이 이러한 가치와 원칙을 실천할 수 있는 운영 프레임워크를 제공하는 일련의 정책 권고안을 제시했다.
권고안의 주요 내용을 살펴보면 다음과 같다.
레슬리 박사에 따르면, 인공지능은 더 나은 사회를 위한 거대한 가능성을 가지고 있다. 인공지능의 혁신은 이미 의료와 운송에서 교육과 식량 공급에 이르기까지 필수적인 상품과 서비스의 제공을 극적으로 개선하고 있다.
인공지능 기술이 발전함에 따라, 언젠가는 AI가 인류의 가장 어려운 과학 문제를 해결하고, 가장 시급한 과제에 직면할 수 있도록 도울 수 있다는 희망이 있다.
인공지능의 엄청나게 선한 잠재력은 해를 끼칠 수 있는 잠재력과 일치하며, AI 시스템이 우리 삶의 모든 영역에 침투하는 것은 정당한 우려를 낳는다. 이는 기관 및 사회적 연결 상실, 고착된 편견과 차별, 생체 환경 손상 및 데이터 무결성, 개인 정보 보호 및 보안과 관련된 우려에 이르기까지 다양하다.
또한 AI 기술의 확산은 거버넌스, 보증 및 감독에 대한 의문이 증폭되는 계기가 된다.
이에 유네스코는 선과 악을 가리지 않고, AI의 변화력을 인정해 인공지능 윤리에 관한 규범적 틀을 확립하기 위한 글로벌 대화를 시작했고, 유네스코 193개 회원국이 2년간의 협의 끝에 사상 최초의 글로벌 인공지능 윤리 권고안을 채택했다.
마지막으로, 레슬리 박사는 “튜링의 윤리 테마 리드가 이 역사적인 행사의 일부였다는 것에 기쁘다”는 입장을 밝혔다.
권고안, 어느 정도 구속력 갖춰
유네스코 한국위원회는 지난 23일 프랑스 파리 유네스코 본부에서 개최된 제41차 유네스코 총회에서‘유네스코 오픈사이언스 권고’와 ‘유네스코 인공지능 윤리 권고’가 채택됐다고 전했다.
한경구 유네스코 한국위원회 사무총장은 “‘권고’는 국제법인 ‘협약’보다는 약하지만, ‘선언’보다는 구속력이 있다”고 밝혔다.
또 코로나로 인한 과학 분야 국제 협력이 강조되고, 또한 인공지능 이용이 급격히 늘어나는 이때에 193개 유네스코 회원국이 합의해 국제 지침을 채택한 것은 상당한 의미를 지닌다고 평가했다.
유네스코 한국위원회에 따르면, 유엔 체계 안에서 유일하게 윤리적, 지적 성찰을 도모하는 기구로, 이 두 가지 권고를 제정하기 위해 지난 2년간 회원국 및 다양한 이해관계자의 의견을 수렴했으며, 이번에 열린 41차 총회에서 만장일치로 채택하기에 이르렀다.
과학기술의 빠른 발전은 인류가 직면한 다양한 문제를 극복하는 데 큰 도움을 줄 것으로 기대되고 있지만, 동시에 윤리, 인권, 안보 등의 측면에서 예상치 못한 편견과 불평등이 생길 수 있다는 우려 또한 커지고 있다.
이에 각국이 ‘유네스코 AI윤리 권고’를 채택하게 됨에 따라 AI 개발과 관련된 윤리적 과제에 대응하고, 사생활과 자율성의 가치와 안전과 안보의 가치가 신중하게 균형을 맞출 수 있도록 AI 윤리에 대한 최초의 세계적 표준으로 기능하게 됐다는 것이다.
또 한국위원회는 AI를 비롯한 디지털 기술의 발달은 오픈사이언스로의 전환을 불러왔으며, 디지털 기술의 발달은 과학계 내에서만 이루어지던 연구를 개방하고, 더 다양한 사회구성원들의 참여 및 활용을 가능케 했다고 밝혔다.
특히, 코로나 19 극복에도 오픈사이언스는 큰 역할을 했는데, 지난해 3월 유네스코에서 주관한 ‘코로나 19와 오픈사이언스’ 웨비나에는 전 세계 122개국 정부 관계자들이 참여해 코로나 19 극복을 위한 전 지구적 과학협력과 이를 위한 국제협력 방안을 모색했다.
한국에선 정병선 과학기술정보통신부 1차관이 참석, 한국의 코로나 19 위기 대응 경험 공유와 치료제 개발을 위한 국제 사회 협력을 강조하기도 했다. 이처럼, 과학계를 중심으로 코로나 19 관련 연구 정보와 데이터를 공개・공유하고, 이 과정에서 글로벌 공동 연구 등이 이뤄지면서 백신 및 치료제의 개발을 앞당겼다고 평가했다.
한편, 팬데믹과 기후변화 등 더 이상 혼자만의 연구로 해결하기 어려운 글로벌 난제의 등장 속에서‘유네스코 오픈사이언스 권고’의 채택은 더욱 의미가 있다는 분석이다.
특히 유네스코 오픈사이언스 권고에서는 ‘다양성’과 ‘포용성’을 핵심 가치로 추구하며, 서로 다른 언어, 문화, 환경적 이해를 바탕으로 한 다양한 지식, 생산체계, 활동과의 융합을 추구한다.
아울러, 권고의 실천 주체를 정부에 한정하지 않고, 연구를 직접 수행하는 연구자, 이를 활용 및 전파하는 출판사, 교육가, 개방적 연구 활동을 지원하는 기술자, 소프트웨어 개발자, 공학자, 일반 대중 등 다양한 주체들을 핵심 실천 주체로 장려한다.
따라서 AI 기술과 오픈사이언스를 통한 가능성이 곳곳에서 확인되고 있지만, 글로벌 차원의 혜택을 충분히 누리기 위해서는 이에 맞는 윤리적 접근과 공통의 지침이 필요하다.
한경구 사무총장은 “과학 분야 유네스코 권고 중 ‘과학 및 과학 연구자에 대한 권고’ 이후로 2개의 권고가 더 채택돼서 기쁘다.”며, “이는 전 세계적인 과제 해결을 위한 과학의 중요성을 보여주는 사례”라고 강조했다.
또 그는 “이 권고들이 전 지구적으로 공통의 이해를 도모하고, 실천을 추동하는 역할을 할 것으로 기대된다”고 밝혔다. 특히 정기적으로 이행 보고서를 제출해야 되는 등 어느 정도의 구속력을 갖춘 유네스코 권고를 통해 회원국이 공통의 실천 규범을 발전시켜 나간다는 점에서 의의가 있다고 평가했다.
한편, 유네스코 한국위원회는 올해 유네스코 AI윤리 및 오픈사이언스 권고 관련 이해를 돕기 위해 해설서를 펴내고, 영상 시리즈를 제작한 바 있다.
AI타임스 조행만 객원기자 chohang5@kakao.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com