어떤 기술이든 인간의 의도에 따라 좋게 사용되기도, 큰 피해를 낳기도 한다. 최근 ‘그것이 알고 싶다’ 방송에서 딥페이크 기술이 딥페이크 포르노 피해자들을 보호하기 위해 사용됐다. SNS에선 유관순 열사의 얼굴이 딥페이크 기술로 재현돼 화제가 되기도 했다. 사람에게 이롭게 사용될 수도 있는 딥페이크는 누군가의 손에선 사람을 해치는 흉기가 된다. 존재하지 않는 사실을 존재하게 만드는 악질적인 범죄, 무엇이 이걸 가능하게 했을까.
낯선 기술 그러나 익숙한 혐오
캐나다 웨스턴 대학에서 인공지능을 연구하는 Jacquelyn Burkell과 Chandell Gosse는 딥페이크 기술이 성범죄에 악용되는 원인을 여성에 대한 성적 대상화가 만연한 사회문화에서 찾는다. 성적 대상화란 ‘자신의 성적 욕구를 충족하기 위해, 다른 사람을 인격이나 감정이 없는 물건처럼 취급하는 현상’을 의미한다. 이는 사회적·정치적·신체적으로 강한 사람에서 약한 사람으로 가해진다. 그들은 여성의 의사에 반하게 여성의 몸을 평가하고 대상화하며 사용하는 태도가 딥페이크 포르노를 허용하는 성차별적 사회로 이어졌다고 해석했다.
여성으로 상정된 인공지능이 다수인 것 또한 성차별적 사회에 의한 결과물이다. 성별에 대한 고정관념이 인공지능에 여성성을 부여한다고 설명한 이혜숙 소장은 젠더 고정관념을 기반으로 한 인공지능이 기존의 젠더 편향성을 계속해서 높일 것으로 예측한다. “고정관념에 부합하는 인공지능은 사회의 오래된 편견을 더욱 심화시켜요. 특히 어린 아이의 경우 인공지능을 사용하면서 원하는 것을 다 해주는 사람은 엄마에 이어 여성이라는 고정관념을 갖게 될 수 있죠.”
편향적인 기술과 사회는 데이터를 편향적으로 만들며, 이는 결국 인공지능의 학습 자료로 쓰이는 악순환으로 이어진다. ‘이루다’ 이전에 출시된 마이크로소프트의 인공지능 채팅봇 ‘테이’ 또한 편향된 정보를 기반으로 욕설이나 인종·성차별 발언을 해 16시간 만에 운영을 중단한 바 있다.
심지원 교수는 인공지능 분야 종사자의 성비가 편향된 데이터를 만드는 데 영향을 끼칠 수도 있다는 입장이다. “남성의 경우 여성 차별에 관해 덜 민감한 경향이 있어요. 기술에 의한 성차별은 개발자의 알고리즘에 따라 결정되는데, 기술 개발자는 남성의 비율이 많다 보니 성차별적인 데이터가 나타나는 거죠.”
세계경제포럼 보고서에 따르면 실제로 전 세계 인공지능 분야의 남녀 비율 격차는 70%를 웃돈다. 또한 소프트웨어와 IT분야의 고위직 성비를 살펴보면 남성이 약 81%를 차지하고 있다. 한편 젠더혁신연구소에서 발표한 연구총서 『인공지능과 젠더』를 보면 직장 내 성차별, 괴롭힘, 성희롱 등이 해당 분야에서 여성 비율을 감소시키는 데 영향을 줬다고 언급한다.
멀지만 한걸음씩
오랜 시간 우리가 쌓은 차별의 산물을 그대로 학습한 인공지능이 또 다른 차별을 만드는 상황에서 우리의 역할은 무엇일까? 이혜숙 소장은 정부에서 인공지능의 편견과 차별을 큰 문제로 인식해야 한다고 설명한다. “정부는 2019년 발표한 인공지능 국가전략 실행과제에 인공지능에 의한 차별과 편견에 대한 문제를 언급하지 않았어요. 이용자 보호 또한 <중장기적 정책 수립 지원체계> 마련에 그쳤죠.” 이어서 그는 인공지능의 차별과 편견으로 인한 문제를 예방하기 위해 정책 도입과 실행안 마련이 인공지능 국가전략에 포함돼야 한다고 덧붙였다.
인공지능을 사용하는 사람들의 인식도 중요하다. 이혜숙 소장은 소비자의 적극적 대처가 빠른 변화를 끌어낼 것이라 말했다. “소비자는 편향성이 나타날 때까지 기다리지 말고 인공지능에 사용된 데이터 정보를 확인하거나 문제점이 있다면 수정을 요구해야 해요. 이러한 행동이 더 나은 인공지능을 지향할 수 있는 환경을 만들 수 있죠.”
그는 개발자와 투자자 또한 효율성과 당장의 이익에 집중해 인공지능이 가진 편견을 간과하면 미래에 더 큰 이익을 놓치는 것이라 덧붙였다. “젠더 편향성 없는 인공지능을 개발하는 건 공정성을 넘어 기업에 사업적으로 필요한 일이에요. 인구의 반에 해당하는 사람들의 구매력을 과소평가한다면 기대한 이익을 창출하기는 어렵죠.”
신혜정 활동가는 근본적인 해결책은 결국 성 평등 임을 강조했다. “인공지능의 젠더 차별 문제를 해결하기 위해서는 기술을 이용하는 사람들이 올바른 성 인지적 관점을 가져야 하죠. 이 외에도 전반적인 영역에서 성적으로 평등한 사회가 도래해야 해요.”
조영임 교수(가천대 컴퓨터공학과)는 인공지능 개발 분야에서 여성의 적극적인 참여를 격려했다. “여성 개발자, 여성 관리자 등이 많이 양성되면 지금보다 공감대 높은 인공지능 서비스가 상용화 될 수 있겠죠.” 더 많은 여성의 목소리가 절실한 시점이다.