감사원 "차단했다더니…딥페이크 음란물 사이트 85% 접속 가능"

"AI 대비 실태(신뢰성 확보 분야)' 감사 결과 발표

"AI 도입 확산 저해하는 문제점들 확인…보완해야"

[서울=뉴시스] 유자비 기자 = ·
인공지능(AI) 딥페이크 기술을 활용한 음란물을 게시해 접속차단 조치된 사이트의 85%가 실제로는 접속이 가능하다는 감사 결과가 나왔다.

감사원은 5일 '인공지능 대비실태Ⅰ(신뢰성 확보 분야)' 주요 감사 결과를 발표하고 "AI 도입 확산을 저해하는 여러 문제점이 확인됐다"라며 이같이 밝혔다. 감사원은 AI 신뢰성 확보를 위한 정부 대책의 실효성을 점검하고, 공공부문이 실제 활용 중인 AI를 대상으로 리스크를 분석했다.

정부는 딥페이크 음란물 피해 발생시 가해자 처벌과 함께 해당 음란물 삭제 또는 접근차단 조치를 수행하고 있다. 방송미디어통신심의위원회(방미심위)는 피해자 신고, 수사기관 이첩 등에 따라 관련 사이트 확인시 9개 통신사업자에게 접속차단 조치를 요구한다.

감사원은 방미심위가 지난해 접속차단을 요구한 딥페이크 음란물 게시 사이트 2만3000여개 중 1000개를 무작위 추출, 3개 통신사업자를 표본으로 점검한 결과 854개가 1∼3개 통신망으로 접속되는 것으로 확인했다.

854개 사이트 중 173개(20.3%)는 차단목록 송부 이메일 스팸처리, 메일서버 오류 등에 따라 통신사의 접속차단시스템 등재 자체가 누락된 것으로 나타났다. 일부 사업자는 URL 최대 입력글자 수를 제한해 시스템이 인식 못한 사례도 발생했다.

또 방미심위는 사후점검을 통해 7250개 사이트의 접속 미차단 사실을 확인하고도 접속 차단 재요구 없이 방치하고 있어 통신사업자에 대한 관리·감독 기능이 미흡한 것으로 드러났다.

감사원은 "해외 임시저장 서버를 통한 우회접속이 확인돼 이에 대한 차단 대책을 마련할 필요가 있다"라며 "대부분 우회접속에 활용 중인 해외 임시저장의 경우 현행 접속차단시스템이 작동하는 것으로 판단해 개선대책을 마련하지 않았으나, 보안이 강화된 프로토콜로 우회접속시 차단 효과가 없어 보완 조치가 필요하다"라고 지적했다.

이에 따라 감사원은 방미심위 등에 행정적·기술적 대책을 마련하도록 통보했다.

아울러 감사원은 오는 22일부터 시행되는 'AI 기본법'에 대해 AI를 고영향으로 분류하는 기준이 실제 활용 양태를 반영하지 못하고 검·인증 체계도 미비하다고 밝혔다.

AI기본법은 사람의 생명·신체의 안전이나 기본권에 중대한 영향 또는 위험을 미칠 수 있는 '고영향 AI'를 위험성이 적은 '일반 AI'와 구분해 다양한 책무를 사업자에 부과한다. 그러나 감사원은 생명 등에 중대한 영향을 미치지 않는데도 고영향으로 분류해 기업에 과도한 부담을 초래하는 것이 우려된다는 조사 결과를 내놨다.

감사원이 지난해 말 공공부문이 채용절차에 사용 중인 AI  91개를 살펴본 결과 이 중 22개는 AI 판단결과가 서류심사, 적성검사, 면접심사 등의 당락 또는 배점 일부를 직접 결정했으나 69개는 단순 참고자료로만 활용돼 개인 기본권에 직접 중대한 영향을 미친다고 보기는 어려웠다.

EU의 AI법은 예외규정을 마련하고 있는 것과 달리 국내 AI기본법은 활용 양태와 무관하게 채용 분야에 사용되는 모든 AI을 고영향으로 분류하고 있었다.

또 고영향 AI 활용에 따른 잠재적 피해자가 보호 대상에서 제외된 것으로 나타났다. 채용과 대출 심사 등에 활용되는 고영향 AI의 오작동은 사용자가 아닌 영향을 받는 자(구직자, 대출신청자)에 발생함에도 이들에 이의 제기권이 보장돼 있지 않았다. 사업자의 보호의무 대상도 영향받는 자가 아닌 사용자로 규정했다. 아울러 기관마다 고영향AI의 검·인증 기준이 달라 이에 대한 신속한 정비가 필요하다고 설명했다.

감사원은 공공부문이 활용 중인 일반 AI에 제공되는 학습데이터가 불완전해 성능 저하, 편향이 발생한다고도 지적했다.

행정안전부는 인파 밀집 등의 위험징후를 자동 감지할 수 있는 지능형 CCTV 보급을 확대 중인데 AI가 미학습한 유사 상황을 이상 상황으로 잘못 인식하는 경우가 드러났다. 한국도로공사도 자체 개발한 포트홀 감지시스템을 확용 중이나 경미한 도로 손상이 포트홀로 감지되면서 장기간 활용도가 저하됐다.

감사원은 "이같은 성능 저하 등을 예방하기 위해선 공공 부문의 효율적 AI 활용을 지원 중인 행안부 역할이 개선될 필요가 있다"라며 행안부에 관련 가이드라인을 마련하고 신규 개발의 경우 안내서에 대한 교육·홍보를 강화하는 방안을 마련하도록 통보했다.

◎공감언론 뉴시스 [email protected]