학생 자살 소원을 찰지해서 교사나 부모에게 알리는 AI시스템 「GoGuardian Beacon」

학생 자살 소원을 찰지해서 교사나 부모에게 알리는 AI시스템 「GoGuardian Beacon」

여러가지 막혀서 자살을 생각해버리는 학생을 빠른 시기에 발견하고, 대책하도록 하기 위한 통보 시스템 「Beacon」이 미국 학교에서 받아들여져 있습니다.

Beacon은 AI를 사용해서 학생 인터넷상 활동 내용으로 자살 징후를 검지하는 시스템. 개발원 GoGuardian은 학교에 적합하게 인터넷 필터링 소프트웨어나 Chrome Book 대상 소프트웨어를 개발·제공하는 기업에서, 이미 미국 4000이상의 학군에서 도입되어, 학생 530만명을 대상으로 가동하고 있습니다.

Beacon은 각학교가 소유하는 컴퓨터에 셋업되어, 교내 PC에서 학생이 인터넷을 열람하는 상황을 AI가 모니터링하는 것으로, 자살 징후를 빠른 시기에 발견하는 구조입니다. 각학생 브라우징 내용을 바탕으로 Beacon은 학생 자살에 관련되는 동향을 「General suicide research(일반적인 자살에 관한 검색)」 「general suicide ideation(일반적인 자살에 관한 사고) 「help and support(보조와 지원) 「self harm and active planning(자상행위와 적극적인 계획)」 4가지에 분류합니다.

이 분류가 실행된 때는 AI에 의한 판단이 실시되어, 예를 들면 인터넷으로 「로프를 묶는법」을 검색했을 경우는 「적극적인 계획」이 될 뿐, 「연간 자살자동향」이라고 하는 검색은 「일반적인 자살에 관한 검색」에 분류됩니다.

실제로 학생 액티비티에 대한 분류가 실시되어, 위험한 상황이라고 판단되었을 경우는 교사나 학교 카운셀러에 대하여 통지를 보내게 설정하는 것을 가능합니다. 게다가, 학생 개별정보나 대응 상황 등을 기록하는 것도 가능합니다.

게다가, 설정에 따라서는 부모나 보호자에게 자동으로 통지를 보내도록 하는 것도 가능합니다.

"GoGuardian" CEO인 Advait Shinde씨에 의하면, Beacon은 과거 1년간에 걸쳐 테스트 운용을 실시하고 있어, 주당 2000건이 자살 징후로서 검지되었습니다. 그리고 실제로 학교와 부모님이 대응한 것으로, 학생 자살을 직전에 막은 경우도 존재했다고 합니다.