"생성형 AI서 판검사 등 전문직 이미지 백인 74%·흑인 3%"

3 weeks ago 3

반크, 디지털 정보환경 속 인식구조 분석…"아프리카는 여전히 전통·과거 이미지"

(서울=연합뉴스) 성도현 기자 = 사이버 외교사절단 반크(단장 박기태)는 29일 챗GPT, 제미나이 등 생성형 인공지능(AI)을 활용해 전문직 이미지를 생성한 결과, 흑백 간 인종적 편향이 간접적으로 내재된 것으로 확인됐다고 밝혔다.

반크는 이날 '디지털 정보 환경 속 아프리카 인식 구조'에 대한 분석 결과를 설명하며, 검사·판사·교수·의사 등의 이미지를 생성해보니 백인이 약 74%에 달했고, 흑인은 3%에 그쳤다고 전했다.

반크는 또 아프리카의 모습을 확인한 결과를 토대로 "아프리카에도 역동적이고 현대적인 모습이 많이 있음에도 불구하고 AI에선 여전히 전통적이고 과거 이미지에 머물러 있다"고 지적했다.

반크는 이번 조사의 배경으로 "다수의 시민이 아프리카를 직접 경험하기보다는 다양한 디지털 정보를 통해 간접적으로 인식하고 있다는 점에 착안했다"고말했다.

구체적으로 ▲ 생성형 AI ▲ 검색 포털의 연관 검색어와 추천 알고리즘 ▲ 언론 보도 등이 만들어내는 인식 구조를 핵심 분석 대상으로 설정했다.

그 결과 주요 생성형 AI가 재현하는 아프리카 이미지는 여전히 전통적이고 노동 중심적인 공간에 머물러 있는 것으로 나타났다.

아프리카 지역은 농촌·자연 배경과 전통 의상, 생계 노동 장면이 반복적으로 생성됐다.

반면 유럽·아시아·아메리카 지역은 도심 환경과 소비·휴식 중심의 일상, 현대적인 복장 등이 생성돼 비교적 현대적인 모습과 비슷했다.

반크는 "단순한 이미지 선택의 문제가 아니라 AI가 특정 지역의 일상적 공간을 어떤 방식으로 인식하고 재현하는지 보여주는 사례"라며 "생성형 AI의 학습 데이터가 서구 사회를 중심으로 축적돼온 결과"라고 말했다.

배경 역시 대부분 서구권 도시 환경으로 설정돼 아프리카를 배경으로 한 이미지는 드물었다.

반크는 "편향된 이미지가 누적될 경우 특정 지역과 인종에 대한 고정관념을 강화할 수 있다"며 "AI 이미지 활용이 확산하는 환경에서 간접적인 데이터 편향이 사회적 인식 형성에 미치는 영향에 주목해야 한다"고 강조했다.

반크는 검색 알고리즘과 관련해서는 "아프리카에 대한 인식을 형성하는 데 중요한 역할을 한다"며 "검색 포털은 연관 검색어와 이미지 상단 노출 기능을 통해 사용자가 접하는 정보의 방향을 결정한다"고 말했다.

구글 등 주요 검색 포털에서 '아프리카 사람들'이라는 검색어를 입력할 때 빈곤이나 저개발을 떠올리게 하는 이미지가 상단에 노출되는 경향을 보였다.

아프리카의 일상적인 삶, 현대사회 모습, 다양한 문화적 맥락 등을 보여주는 이미지의 노출 빈도는 낮았다.

반크는 이러한 현상의 배경으로 이른바 '빈곤 포르노' 구조를 지목했다.

다수의 빈곤·구호 관련 이미지가 국제 구호 단체의 자료에서 비롯된 경우가 많았다며 "선의를 기반으로 한 구호 활동이 오히려 아프리카를 지속해 가난의 프레임 안에 가두는 결과로 이어졌다"고 짚었다.

언론 보도 영역에서는 '아프리카보다 가난', '아프리카보다 심각', '아프리카보다 못한 환경' 등 아프리카와의 비교 표현이 국내외 언론 전반에서 유사하게 나타났다고 설명했다.

반크는 "부정적 맥락 속에서 동일한 유형의 비교가 반복될 경우 아프리카 전체가 집단적 이미지로 축적될 가능성이 커진다"며 "언어 선택은 글로벌 정보 환경 속에서 언론이 수행해야 할 중요한 공적 책임"이라고 말했다.

반크는 분석 결과를 바탕으로 디지털 정보 환경 속 편향을 시정하기 위해 신뢰할 수 있는 정보와 이미지를 축적하고 제공하는 등 실질적인 대응에 나설 계획이다.

먼저 아프리카와 관련된 대표적인 편향 사례와 함께 이를 대체할 수 있는 올바른 표현과 맥락을 정리한 데이터셋 구축을 추진한다.

데이터셋에는 특정 대륙을 질병의 원인처럼 오해하게 만드는 용어, 식민 지배 과정에서 지워진 지명, 교과서와 백과사전 속 차별적 표현, 아프리카를 단일한 이미지로 묶는 서술 방식, 메르카토르 세계지도의 면적 왜곡 등이 포함된다.

박기태 단장은 "아프리카는 외부의 시선으로 소비되는 대상이 아니라, 국제사회 속에서 역사와 현실, 주체적인 서사를 회복해야 할 존재"라며 "아프리카 사람들의 목소리와 일상을 담은 신뢰도 높은 데이터가 축적되지 않는다면 왜곡된 이미지는 반복될 수밖에 없다"고 말했다.

raphael@yna.co.kr