챗GPT, 사전 포착 총기 학살 계획 신고 안 했다

[텀블러리지=AP/뉴시스]지난 10일(현지시각) 총격 사건으로 8명이 숨지고 25명 이상이 부상한 캐나다 브리티시컬럼비아 주 텀블러리지의 학교 현장. 범인이 사전에 챗GPT와 범행 계획을 여러 날에 걸쳐 논의한 것으로 확인됐다. 2026.2.21.

제시 반 루트셀라르(18)는 지난 10일 8명이 사망하고 최소 25명이 부상을 입은 총기 난사 사건의 학교 현장에서 스스로 총격을 가해 숨진 채로 발견됐으며 캐나다 경찰이 그를 용의자로 확인했다.

당시 오픈AI 직원들은 자동 검토 시스템에 의해 포착된 그녀의 게시물을 보고 놀랐으며 약 12명의 직원이 루트셀라르 게시물에 대해 조치를 취할지 여부를 두고 토론했다.

일부 직원들이 루트셀라르의 글을 실제 폭력의 징후로 해석해 지도부에 캐나다 법 집행 기관에 알릴 것을 촉구했으나 오픈A 지도부가 당국에 연락하지 않기로 결정했다.

오픈AI의 한 대변인은 루트셀라르의 계정을 차단했으나 그의 활동이 법 집행 기관 보고 기준에 부합하지 않는다고 판단했다고 밝혔다.

오픈AI는 사용자가 실제 해를 끼치는 것을 저지하도록 모델을 훈련하며, 사용자가 가해 의사를 표현하는 대화를 인간 검토자에게 전달하고, 이들은 심각한 신체적 가해의 임박한 위험을 초래한다고 판단되는 경우 법 집행 기관에 회부할 수 있다고 밝혔다.

오픈AI는 폭력의 위험성과 개인정보 보호 고려 사항, 그리고 불필요하게 경찰을 개입시킴으로써 개인과 가족에게 야기될 수 있는 잠재적 고통 사이에서 균형을 취하고 있다고 밝혔다.