DeepMind가 「AI의 윤리」를 연구하는 「DeepMind Ethics&Society(DMES)」를 설립
구글 산하의 딥마인드가, 인공지능(AI)기술이 안는 다양한 윤리적 문제를 해결하기 위한 연구 부문 「DeepMind Ethics&Society(DMES)」를 설립했습니다. 앞으로 AI의 진화와 활용에는 윤리적인 문제 해결이 불가결하다고 하는 판단입니다.
DeepMind Ethics & Society | DeepMind
바둑 챔피언을 타파한 AI 「AlphaGo(알파고)」 개발로 알려지는 DeepMind가 AI의 윤리에 관한 문제를 연구하는 부문 DMES를 시작했습니다. DMES에는 AI개발의 전문가뿐만 아니라, 옥스포드 대학교가 저명한 철학자 닉 교수들 연구자 6명이 「DeepMind Research Fellows」라고 하는 입장으로 참가하고, AI기술과 윤리에 관한 논의와 연구를 합니다.
AI에 휘감기는 윤리적인 문제로서 유명한 것이 「자동운전차는 긴급시에 어느쪽의 인명을 우선시켜야 할까?」라고 하는 문제입니다. 차내에서 운전하는 드라이버 목숨을 지키기 위해서, 보행자를 사망시키는 것이 용서되는 것인가? 아니면, 수많은 사람을 구하기 위해서는 드라이버의 죽음을 감수해야 하는 것인가? 이라고 하는 궁극의 선택을 묻는 논의입니다.
그 외에도, 형사사법 시스템에 AI를 받아들이는 것으로 인권의 보장이 해쳐질 지 모른다라고 하는 논의도 있습니다. 예를 들면, 미국에서는 형사사법 시스템에 있어서, 형사피고인의 도망 리스크를 산출하거나, 가석방의 결정 재료로 하거나, 총범죄의 가해자가 되는 리스크가 높은 인물을 리스트화하거나 하는데 AI기술을 활용하고 있습니다. 그러나, AI가 판단하면 바이어스(치우침)이 생기는 것이 알려져 있는 중에서, 형사사법의 판단을 AI에 맡기러 하는 것으로 인권침해가 일어나지 않겠는가라고 하는 걱정이 있습니다.
AI기술이 경제발전에 행하는 중요성은 누구라도 인정하는 바입니다만, AI가 가지는 영향력이 크기 때문에, 그 취급을 둘러싸서는, AI는 인류를 멸망시킬 지 모른다라고 하는 AI위협론을 만들어 낼 만큼입니다. AI기술을 인류공유의 지식으로서 활용하기 위해 발전시키기 위해서는, 윤리적인 제한의 필요성을 호소하는 목소리는 나날이 강해지고 있다고 말할 수 있습니다.
AI위협론이 일부로 속삭여지는 중, 더 범용성이 높은 AI 개발에 착수한 DeepMind는 영국 국민보건 서비스(NHS)와 제휴해서 의료비 삭감에 대응했습니다만, 환자 160만명의 진료 데이터에 액세스권이 보고되면 「개인정보보호의 관점에서 문제가 있다」 「데이터 취득 방법에 관한 법적근거가 의문이다」라고 하는 비판이 쇄도하고, 환자가 데이터 제공을 거부할 수 있는 옵션을 추가 해야 하는 상황에 몰리는 등, AI와 인권에 관한 문제에 직면하고 있습니다.
그런 민감한 문제를 안는 AI기술입니다만, 연구를 더욱 전진시키기 위해서는, AI와 윤리에 관한 다양한 문제 해결은 피해서는 지나갈 수 없는 길이다라고 생각한 DeepMind가, AI와 윤리에 관한 연구 성과를 발표하고, 또 다른 연구자와 제휴해서 이 문제를 공동 연구하기 위해서, 개발 부문과는 독립한 조직으로서 설립한 것이 DMES라고 하는 것입니다.
DeepMind는 자기 사명을 「지성에 의해 세계를 더 좋은 것으로 하는 것」이라고 정하고 있어, AI기술의 개발은 그 유력한 수법에 하나입니다. 그 때문에, AI개발에 있어서는 개방적인 연구와 조사를 실시해 갈 책임이 DeepMind에는 있는 것. 그리고, 독자적인 연구뿐만 아니라 다른 연구자와 공동 연구를 하는 것을 예정하고 있는 DMES는, AI가 현실사회에 주는 영향에 대해서 논의하는 기초를 제공하는 것이 설립한 목적. DMES의 Harding 공동 리더는 「AI가 사회에 도움이 되는 기술이면, 사회가 우선적인 사항에 활용하면서도, 걱정을 해소하는 형식으로 개발하지 않으면 안됩니다」라고 진술하고 있습니다.
이미 DeepMind의 DMES에는, 옥스포드 인터넷 연구소 디지털 윤리 연구소(Delab), 바스 대학교 정책연구소(IPR), 뉴욕 대학교, 영국 공동 정책연구소(IPPR), 레버 웰·센터(CFI), 영국 왕립 협회 등, 영국·미국의 연구시설이 파트너로 이름을 늘어놓고 있어, 「AI와 윤리」에 관한 논의를 깊게 하고, AI연구 발전에 기여하기 위해 연구에 열을 올립니다. DMES는 2018년 전반에 첫 연구논문을 발표할 예정입니다.