[박한우의 미래칼럼] AI 파헤치기 없이 디지털플랫폼정부 성공 없다

2022년 9월 온라인으로 개최된 ASIS&T 저자 특강의 주인공은 케이트 크로포드(Kate Crawford)였다. 그녀는 ‘인공지능(AI) 지도: 인공지능의 권력, 정치, 그리고 행성 비용’으로 2022년 최우수 정보과학 도서상을 수상했으며 AI의 사회적, 정치적 함의를 연구한다. USC 커뮤니케이션 및 STS 연구그룹의 교수이다. 원서 제목은 ‘Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence’이다.

크로포드는 자연 자원과 에너지에서 노동과 데이터에 이르기까지 역사, 정치, 노동, 환경의 더 넓은 맥락에서 대규모 데이터 시스템을 이해하는 데 초점을 맞추고 있다. AI의 숨겨진 비용을 탐구하며 AI 시스템이 어떻게 정치적으로 생명력을 높이며 지구를 고갈시켰는지를 밝히면서, 세계적 주목을 받고 있다. ‘AI 시스템의 해부학’(Anatomy of a AI System)을 통해서 크로포드는 AI가 전 세계적으로 힘의 비대칭성을 넓히는 방식으로 우리 생활과 생태계의 여러 측면에 이미 스며들기 시작했음을 주장했다.

크로포드는 예술가 트레버 파글렌(Trevor Paglen)과의 협업으로 머신러닝 훈련에 사용된 이미지 데이터 세트의 정치적 의미를 조명하면서 관심을 받았다. AI 시스템이 인간 사회를 오히려 훈련시키고 있음을 고발한 프로젝트인 ‘AI 파헤치기’(Excavating AI) 내용을 살펴보자. 예를 들어 ‘이미지넷’(ImageNet) 데이터 세트에서 ‘사람’ 범주를 보면, 비키니를 입고 웃고 있는 여성 사진에는 지저분한 여자라는 라벨이 붙어 있다. 맥주를 마시는 젊은 남자는 알코올 중독자로, 선글라스를 낀 아이는 패배자로 분류되어 있다.

‘AI 파헤치기’에서 인용한 다른 사례는 영국 케임브리지 대학의 한 박사과정 학생이 주도한 논문이다. 공공장소에서 폭력적인 사람들을 식별하기 위해 실시간 드론 감시 시스템을 분석한 내용이다. ‘폭력적 행동’을 때리기, 찌르기, 쏘기, 발차기, 목 졸라매기의 5가지 활동으로 구분한다. 18세에서 25세 사이의 25명의 자원봉사자들에게 이러한 행동을 모방하도록 요청하여 데이터를 훈련시킨다. 드론 시스템은 이렇게 만들어진 데이터를 지역 축제나 국경 분쟁 지역 등에서 폭력 행동을 감지하고 격리하기 위한 목적으로 사용한다.

크로포드는 AI 시스템 구축을 위한 데이터 훈련 자체를 문제로 제기하는 것이 아니다. 이러한 AI 시스템이 인간의 삶에 중대하고 긴급한 영향을 미칠 수 있음에도 불구하고, 데이터 세트의 대부분에 접근할 수 없거나 사회적 논의의 대상에서 사라지는 것에 목소리를 높인다. 만약 AI가 인간을 부적절하게 왜곡한 데이터가 일상생활에서 큰 역할을 하는 시스템에 사용되고 있거나 사용 중이라면, 그것은 사회적 재앙일 수밖에 없다.

한편 문재인 정부가 추진한 디지털 뉴딜은 그 핵심 프로젝트로 ‘데이터 댐’을 추진했다. 국민의 체감도가 높은 치안과 소방 안전뿐만 아니라 농·식품, 의료 등의 생활 분야까지 아우르는 데이터 세트를 훈련시켜서 AI 허브 및 빅데이터 플랫폼을 통해 서비스했다. 한 발짝 더 들어가 보면 기존의 국가 및 지역 정보화가 디지털 뉴딜로 탈바꿈했으며, 이번 윤석열 대통령 체제에서 디지털플랫폼 정부로 변경되며 관련 예산과 사업이 구조조정을 겪고 있다.

정권 교체가 되었으니 기존 정부 사업을 모두 교체할 필요까지 없지만, 최소한 다시 한번 면밀히 점검하여 폐기할 건은 폐기하고 전반적으로 조정해야 한다. 그럼 새 정부에선 디지털플랫폼 정부 구현을 위해 데이터 댐의 어떤 사업들을 구조조정해서 효율화해야 하는가? 당장에 명쾌한 답을 내릴 수는 없다. 하지만 크로포드 교수의 문제의식을 공유하면 구조조정의 실마리를 찾을 수 있다.

예를 들어, 디지털 뉴딜 사업을 통해서 훈련된 데이터가 한국 사회의 중요한 부분과 여러 계층의 사람들을 어떤 방식으로 왜곡하여 묘사하거나 분류했는지를 검토하는 것이다. 나아가 데이터 댐 사업을 수행하면서 각종 데이터 세트에 사용한 분류표에 내재한 세계관이 가치중립적인지 편향적인 방향으로 설정되었는지를 점검하는 것도 시급하다. 지금 당장 포털에서 ‘길거리’·‘레전드’·‘사장님’을 검색하면 성차별적 이미지가 쏟아진다. 이것은 해당 이미지의 데이터세트에 비정상적으로 라벨이 붙여져 있기 때문이다.

따라서 디지털 뉴딜 사업에서 구축한 데이터가 청소년의 문화적 활동과 민간의 다양한 경제적 사업에 해를 입히지 않는 방식으로 구성되어 있는지 감사(audit) 프레임워크를 개발하는 것을 고려해야 한다. 이 과정에서 무엇을 데이터로 만들 것인가(what to data)를 벗어나 무엇에 대한 데이터를 만들 것인가(what to data about)로 패러다임이 전환할 수 있는 분위기를 조성해야 한다.

디지털플랫폼 정부는 시장의 자유와 공정한 경쟁이라는 국정 목표의 큰 틀에서 데이터 생태계를 돌아봐야 한다. 공급측면의 공공데이터 제공법과 데이터 댐, 유통 활성화를 위한 마이데이터 사업, 서비스 촉진의 데이터 기반 행정법이 국민·기업·정부의 트리플헬릭스 협력에 미치는 방식을 면밀히 점검해야 한다. 그렇지 않으면 ‘모든 데이터가 연결되는 세계 최고의 디지털플랫폼 정부 구현’이라는 국정과제 추진은 순탄치 않을 수 있다.