「자율적 살인병기」 AI활용을 금하는 서약서에 엘론 머스크나 DeepMind 창업자, 저명한 AI연구자들 2500명이상이 서명

「자율적 살인병기」 AI활용을 금하는 서약서에 엘론 머스크나 DeepMind 창업자, 저명한 AI연구자들 2500명이상이 서명

인류가 직면하는 리스크를 완화하는 활동을 하는 비영리조직 「Future of Life Institute(FLI)」가, 인공지능(AI)을 살인병기에 활용하는 것을 피해야 한다고 하는 서약서 「Lethal Autonomous Weapons Pledge」를 발행하고, SpaceX 엘론 머스크CEO나 DeepMind 공동창업자인 데미스 하사비스씨들, AI개발에 종사하는 총총한 사람들이 서명을 했습니다.

 

FLI는 AI에 의한 살륙 병기가 만들어 내는 것은 인류에게 위협이다고 해, 자율적으로 인간을 살상하는 능력을 가지는 병기나 무기 개발을, 개발자가 자주적으로 억제해야 한다고 하는 제언했습니다. 지금은 없는 스티븐 호킹 박사도 FLI의 취지에 찬동하고, AI 병기의 전용에 경종을 울리고 있었습니다.

 

FLI는 군사 시스템에 있어서의 AI 역할이 점점 중요성을 늘어나는 중에서, 시민, 정책 입안자, 국가 지도자 등이, AI 활용을 「허용할 수 있는 분야」라고 「허용할 수 없는 분야」로 구분하는 긴급할 필요성이 있다고 생각하고 있습니다. 구체적으로는, 사람을 살상하는 병기가 「인간의 개입 없이」 머신 자율적인 판단에 의해 사람을 죽인다고 하는 것은 용서되어서는 안되고, 이러한 자율적 살상 병기는 핵무기나 생물 화학 병기 등과 같이, 사용뿐만 아니라 개발 자체를 규제 해야할 것이며, AI기술자는 이러한 병기개발에 AI를 이용해 서는 안된다고 생각하고 있습니다.

자율적 살상 병기를 규제하는 국제적인 규칙이 없는 가운데, FLI는 정부나 각국 리더 행동을 기다릴 일 없이, AI개발자 등 AI기술에 종사하는 비정부조직이나 민간 기업, 기술자가 목소리를 올리는 것으로, AI 군사이용을 제약하려고 할 목적을 위해, Lethal Autonomous Weapons Pledge를 발행했습니다.

Lethal Autonomous Weapons Pledge에 찬동한 사람이나 조직에 대해서는 이하 페이지로 확인할 수 있습니다.

 

데미스 하사비스씨, 셰인 레그(Shane Legg)씨, 무스타파 술레이만(Mustafa Suleyman)씨 DeepMind 공동창업자를 비롯하고, 이전부터 AI위협론을 외치는 엘론 머스크씨, Google Research 제프리 딘 모건(Jeffrey Dean Morgan)씨, 캘리포니아 대학교 버클리교 스튜어트 러셀(Stuart Russell) 교수들을 포함하는 2512명과 조직 172개가 Lethal Autonomous Weapons Pledge에 서명했습니다.

FLI대표 Max Erik Tegmark 박사는, 「나는 AI의 리더들이 논의해서 행동에 옮기고, 정치가들이 지금까지 실행할 수 없었던 정책을 실행하려고 하는 것에 흥분하고 있습니다」라고 말하고, 서명자 총의로서 「자율적으로 인간을 살상하는 병기에 관한 국제 관습만들기」를 정부나 지도자들에게 요구했습니다.