스스로 발달하는 인공지능의 위험 경고 급증

앤트로픽 인공지능 "사보타주" 보고서

화학무기 등 극악 범죄 가능성 인정 등

최고 기술자들의 위험 경고 봇물

[서울=뉴시스] 강영진 기자 = 오픈AI, 앤트로픽 등 인공지능 회사의 최고 전문가들이 인공지능의 위험이 커지고 있다고 경고하는 일이 잦아지고 있다고 미 액시오스(AXIOS)가 12일(현지시각) 보도했다.

인공지능의 능력이 빠르게 확장되면서 스스로 복잡한 제품을 만들어 내고 인간의 개입 없이 작업을 개선할 능력이 있음이 확인되면서 경고가 늘어나고 있다.

오픈AI의 최근 모델은 스스로를 훈련하고 앤트로픽의 인공지능은 협업 도구를 스스로 만들었다.

이는 인공지능 낙관론자들을 흥분시키는 대목이지만 반대로 인공지능이 사회의 안전을 위협하는 것을 막아야 하는 사람들에게는 커다란 두려움거리다.

이처럼 인공지능으로 인한 격변은 이미 시작되었으며, 그 영향은 당초  예상보다 훨씬 빠르고 광범위하게 나타나고 있다.

지난 9일 앤트로픽의 한 연구원이 자신이 처한 상황을 시로 쓰기 위해 회사를 떠난다고 밝혔다.

이번 주 오픈AI의 한 연구원도 윤리적 우려를 제기하며 사직했다. 오픈AI 연구원인 하우 팜은 X에 올린 글에서 “마침내 인공지능이 제기하는 실존적 위험을 느끼고 있다”고 썼다.

인공지능 회사 하이퍼라이트(HyperWrite) 창업자인 매트 슈머는 지난 11일 현재 상황을 팬데믹 전야로 비유하면서 인공지능이 인간의 일자리와 삶을 근본적으로 재편할 위험성이 있음을 강조했다. 그가 올린 글은 36시간 만에 5600만 번 조회되면서 폭발적으로 확산했다.

기술투자자 겸 팟캐스트 공동 진행자인 제이슨 칼라카니스는 X에 쓴 글에서 “인공지능 기술자들이 이렇게 강하게, 자주, 우려에 찬 목소리로 걱정하는 모습을 본 적이 없다”고 강조했다.

인공지능 기업들도 대부분 인공지능이 사회적 피해나 대규모 일자리 감소 없이 통제될 수 있을 것으로 낙관하는 한편으로 위험을 인정하는 일이 갈수록 늘어나고 있다.

앤트로픽은 비록 확률은 적지만 화학무기 제조 등 극악한 범죄 가능성을 인정하는 “사보타주” 보고서를 발표했다. 인간이 개입하지 않은 상태에서 인공지능이 스스로 작동할 때의 위험을 검토한 보고서다. 

기술 업계가 이처럼 인공지능이 가져올 위험에 주목하는 것과 달리 미 정계에서는 이 문제에 대한 관심이 거의 없다.

◎공감언론 뉴시스 [email protected]