「실리콘 밸리가 세상 종말을 야기한다」라고 「낙관 주의자」인 빌 게이츠마저 우려하고 있다

「실리콘 밸리가 세상 종말을 야기한다」라고 「낙관 주의자」인 빌 게이츠마저 우려하고 있다

AI에 의해 유명여배우와 포르노 무비를 합성하는 「페이크 포르노」 탄생으로 보아도 아는 듯이, 「실제로는 일어나지 않은 것을 마치 현실에 일어난 것 처럼 보이는 기술」은 빠른 속도로 진보하고 있습니다. 2016년 대통령선거로부터도 테크놀로지 기업이 페이크 뉴스로 사람들에게 주고 있는 영향은 대단히 크고, 또, 테크놀로지를 이용한 군비경쟁은 가속화되고 있습니다. 테크놀로지 기업이 자기의 힘을 컨트롤 할 수 있게 되지 않으면, 이것들이 합쳐지는 것으로 큰 재해가 일어날 가능성이 있다고 해서 우려되고 있습니다.

2016년 미국 대통령선거 때는 소셜 미디어를 중심으로 페이크 뉴스가 만연하고, 선거에 큰 영향을 끼쳤습니다. 그 후, 몇가지 플랫폼은 회한의 뜻을 보이고, 페이크 뉴스 박멸을 위한 움직임도 있습니다만, 아직도 법적으로 SNS를 규제하는 것은 되어 있지 않습니다. 또, 테크놀로지를 이용해서 전력망을 혼란시켜, 자동차를 해킹하고, 진짜와 분간할 수가 없는 무비나 오디오를 전세계에 널리 퍼지게 하는 사람이나 조직이 존재할 뿐에서, 테크놀로지 기업은 이 위협으로 대항하는 만의력을 가지지 않는 것이 현실입니다. 불과 십몇년으로 큰 힘을 가진 실리콘 밸리를 중심으로 하는 테크놀로지 기업들은 그 임펙트를 다방면으로 주면서도 힘을 컨트롤 되어있지 않다고 말할 수 있습니다.

「낙관 주의자」로서 알려지는 빌 게이츠씨는 「지금 가장 당신을 두려워시키는 위협은 무엇입니까?」라고 말한 Axios의 질문에 대하여, 「테크놀로지가 『작은 조직』에 대하여, 사람들에게 피해를 끼치는 힘을 어느 정도 주고 있는 것일지는 항상 품고 있는 의문입니다」라고 대답하고 있습니다. 「작은 조직이 핵무기나, 바이오 테러, 사이버 병기에 액세스할 수 있게 될지도 모르겠습니다. 핵무기라면 몇백만명, 바이오 테러라면 몇십억명이 임펙트를 받을 것입니다. 그것이 나를 겁을 주는 것입니다」라고 말했습니다.

이러한 위협을 정부가 얼마나 부드럽게 할 수 있을지는 불분명합니다만, Microsoft에서 경험으로부터, 게이츠씨는 「거대한 테크놀로지 기업은 독립해서 비즈니스를 하는 것과, 정부에 의한 감찰 사이 밸런스를 잡아야 한다」라고 생각하고 있습니다. Microsoft는 「소프트웨어 산업을 독점하고 있다」라고 하는 의혹으로 정부가 감찰하고 있었습니다만, 게이츠씨는 「적절한 조사」로 실시되는 정부의 관여에 관해서는, 기업은 피해서는 안된다고 주장하고 있습니다.

미시간 대학교· Center for Social Media Responsibility 과학기술자이며 2016년 페이크 뉴스 위기를 예측하고 있었던 Aviv Ovadya씨는 「최악인 사태는 일어나고 있지 않지만, 페이크 뉴스 확산은 가속화되고 있다」라고 진술하고 있습니다. 기계학습이나 인공지능 기술진보에 의해, 누구나 「일어나고 있지 않은 것을 실제로 일어난 것 같이 보여준다」라는 것이 가능합니다. 지금까지는 인간의 손에 의한 개변이 필요했던 것이, 오픈 소스 소프트웨어를 사용해서 버튼 하나로 실시할 수 있게 된다고 Ovadya씨는 예측하고 있어, 「사실을 만들어 바꾼다」라고 하는 기술이 누구나 실시할 수 있게 되었을 때가 상황이 일변할 때라고 하는 의견을 내보였습니다.

애플이 2016년에 「Photoshop for audio」를 발표하고 있어, CGI 회사도 현실의 인간과 분간할 수가 없는 캐릭터를 만들어 내는 것부터 봐도, 사실을 조작해서 해킹을 하기 위한 툴은 보다세련된 것에 진화하고 있습니다. 그리고, 그 진보는 남용될 가능성을 큽니다.

Facebook이 2016년 대통령선거에 있어서 러시아에서 수많은 페이크 뉴스가 투고되어, 여론에 큰 영향을 주었을 뿐에서, 그 뉴스를 게재하기 위한 광고료를 결과적으로 받고 있었던 것이 문제시 되고 있습니다. 테크놀로지가 폭주해서 최악인 사태가 일어나기 전에, 기업이 자신의 임펙트를 컨트롤 할 수 있게 될 것인가, 정부에 의해 어떤 규제가 마련되어질 필요성이, 지금까지 이상에 외쳐져 있습니다.