정보통신기술은 성 평등한가?
정보통신기술은 성 평등한가?
  • 승인 2021.02.17 20:30
이 기사를 공유합니다

김선희 젠더와 자치분권연구소장
‘AI에게는 죄가 없다’

최근 AI 챗봇 서비스인 ‘이루다’의 소수자 혐오 발언 논란에 대한 필자의 생각이다.

채팅로봇인 이루다는 인간을 모방하여 대화를 생성하는 컴퓨터 시스템으로 20대 여대생이라는 가상 프로필을 가졌다. 이루다는 사람들의 실제대화를 대량으로 학습하여 일상적인 대화가 가능하도록 만들어졌으며 특히 젊은 연인들 사이의 대화를 대량으로 학습하여 이들이 실제 사용하는 대화를 능숙하게 모방한다.

실제 사람이 답을 해주는 것 같은 착각을 불러 일으키는 챗봇 이루다가 이용자와의 대화 중 각종 성소수자, 흑인, 장애인 등에 대한 혐오 발언을 쏟아내자 문제가 되었다.

생각해보자. 이루다의 응답은 프로그램에 의해 이루어지기에 어떤 데이터가 입력되는가에 따라 당연히 달라질 수 있다. 문제는 이루다의 학습에 투입된 학습데이터의 편향성에 있다.

인공지능 챗봇은 상대방이 입력한 문자 또는 음성을 인공지능 알고리즘으로 해석한 다음 가장 적절한 정보 또는 표현을 문자나 음성으로 제공하여 마치 인간과 대화하는 것과 같은 경험을 제공해주는 컴퓨터 시스템이다.

이는 공사 영역에서 다양한 형태로 활용되고 있으며 그 영향력도 커지고 있다.

일상에서 우리가 SNS 메신저를 통해 대화하는데, 상대방이 가상의 AI라고 생각하면 되겠다. 문제의 발단은 일부 사용자들이 이루다를 성적 도구화하고 성희롱하면서 나타났다. 게다가 대화 과정에서 이루다가 동성애, 장애인, 임산부, 흑인 등 사회적 약자에 대한 혐오와 차별 발언을 쏟아낸 것이다. 여기에 개인정보 유출 논란이 대두되자 출시되자마자 20일 만에 사라지는 운명을 맞게 되었다.

이루다의 경우 10대~20대 청소년들에게 크게 인기를 끌면서, 2주 동안 75만명이 넘는 사람들이 이용했다. 이렇게 수십만명의 사람들이 이용하는 챗봇은 사용자인 인간에게 잘못된 정보와 인식을 심어주게 된다.

AI가 이러한 혐오와 차별을 말하게 된 원인은 무엇일까.

혐오적, 차별적 내용의 대화를 배웠기 때문이다. AI는 학습을 위해 실제 사용자들의 대화 데이터가 필요한데 근본적으로는 현재 데이터로 활용된 대화가 그러하기 때문이다. 장기적으로는 AI 편향성 문제는 결국 사회구성원의 편향성이 사라질 때 해결 가능하다.

지난달 국회입법조사처는 ‘이루다를 통해 살펴본 AI 활용의 쟁점과 과제’ 보고서를 발간하고 이루다 사건을 계기로 AI를 안정적으로 활용할 수 있는 기반을 다지기 위한 과제를 꼽았다.

개인정보 보호 법제 개선, AI 윤리기준 구체화, 학습데이터 확보 등이다.

참여연대, 민주사회를 위한 변호사모임 디지털정보위원회, 시민단체 진보네트워크 등 시민단체들도 이루다 챗봇 사건 관련 인권침해와 차별 진정, 정책 권고를 요청하는 취지의 진정서와 정책권고 제안서를 인권위에 접수했다고 밝혔다.

이들은 “이루다 챗봇 사안은 개별 인권침해 사안일 뿐만 아니라 AI 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안”이라고 지적했다.

오래전에 보았던 영화 ‘Her’는 한 남성이 AI운영체제 ‘사만다’와 사랑에 빠지는 이야기다. 클라우딩 시스템을 기반으로 운영되는 사만다는 PC에서 휴대전화 크기의 전용 모바일 기기로 옮겨 다니며 보고 듣고, 말하기도 한다. 사만다는 주인공이 쓴 편지의 맞춤법을 교정하고, e-메일을 확인하고, 일정을 관리하고, 함께 컴퓨터게임을 하며 주인공과 교감한다. 심지어 함께 한 순간을 기억하고 회상하기도 한다. 영화에서 사만다는 동시에 8316명과 대화하고 641명과 사랑하는 사이라고 했는데, 이는 정보통신기술을 활용하기에 가능한 것이지 인간 삶의 실제는 그렇지 않다는 것을 누구나 알고 있다. 하지만 인공지능은 인간에게 기계 그 이상이다.

과학기술정보통신부가 AI 활용과 관련해 자율 규범의 형태로 마련한 ‘AI 윤리기준’에는 10대 핵심요건 중 하나로 ‘다양성 존중’을 명시하고 있다. AI 개발 및 활용 전 단계에서 사용자의 다양성과 대표성을 반영해야 하며, 성별·연령·장애·지역·인종·종교·국가 등 개인 특성에 따른 편향과 차별을 최소화해야 한다는 권고다.

인공지능은 인간을 편리하고 행복하게 하기 위한 도구이다. 로봇의 두뇌 AI를 올바르게 가르칠수 있는 방법을 기술자들은 알고 있을 것이다.

성 평등 프로그램이 입력되지 않은 인공지능은 또 다른 차별 생산자로서, 행복한 미래와 멀어지게 할수도 있다는 점을 기억하자.
  • 대구광역시 동구 동부로94(신천 3동 283-8)
  • 대표전화 : 053-424-0004
  • 팩스 : 053-426-6644
  • 제호 : 대구신문
  • 등록번호 : 대구 가 00003호 (일간)
  • 등록일 : 1996-09-06
  • 인터넷신문등록번호: 대구, 아00442
  • 발행·편집인 : 김상섭
  • 청소년보호책임자 : 배수경
  • 대구신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 대구신문. All rights reserved. mail to micbae@idaegu.co.kr
ND소프트
많이 본 기사
영상뉴스
SNS에서도 대구신문의
뉴스를 받아보세요
최신기사