오픈AI, 챗GPT 연령 예측 도입…청소년에 안전장치 자동 적용

청소년 계정 자동 감지해 유해 콘텐츠 노출 차단

[서울=뉴시스]임철휘 기자 = 오픈AI가 챗GPT 사용자의 연령을 예측해 만 18세 미만으로 추정되는 계정에는 추가 안전장치를 자동 적용한다고 밝혔다.

오픈AI는 20일(현지 시간) 자사 블로그를 통해 "챗GPT 소비자 플랜에서 연령 예측 기능을 출시해 계정이 18세 미만 사용자의 것일 가능성이 있는지 판단하고 청소년에게 맞는 경험과 안전장치를 적용하려고 한다"고 밝혔다.

오픈AI는 "가입 시 본인이 18세 미만이라고 알려준 청소년은 민감하거나 잠재적으로 유해한 콘텐츠에 노출되는 것을 줄이기 위한 추가 안전장치를 자동으로 받는다"며 "이를 통해 성인 계정은 안전의 범위 안에서 보다 자유롭게 서비스를 이용할 수 있게 된다"고 설명했다.

연령 예측 모델이 계정을 18세 미만으로 판단하면 챗GPT는 민감 콘텐츠 노출을 줄이기 위한 보호 조치를 자동 적용한다.

노골적 폭력 또는 유혈·잔혹 콘텐츠, 미성년자에게 위험하거나 유해한 행동을 부추길 수 있는 바이럴 챌린지, 성적·로맨틱·폭력적 역할극, 자해 묘사, 극단적 미의 기준 조장이나 건강하지 않은 다이어트, 외모 비하를 부추기는 콘텐츠 등이 대상이다.

나이에 대한 확신이 없거나 정보가 불완전한 경우에는 더 안전한 경험으로 기본 설정된다고 오픈AI는 밝혔다.

오픈AI는 보호 장치와 별개로 부모 통제 기능도 제공한다고 밝혔다. 챗GPT 이용이 제한되는 '조용한 시간(quiet hours)' 설정, 메모리 또는 모델 학습 관련 기능 제어, 급성 스트레스 징후 감지 시 알림 수신 등이 포함된다.

연령 예측은 계정·행동 신호를 결합해 이뤄진다. 오픈AI는 계정 생성 후 경과 기간, 주로 활동하는 시간대, 사용 패턴의 변화, 사용자가 입력한 나이 등을 종합해 연령을 추정한다고 설명했다.

◎공감언론 뉴시스 [email protected]