챗GPT로부터 시작된 생성형 AI의 발전 속도가 너무 빠르다. 질문에 답을 하고(ChatGPT, GEMINI, CLOVA X 등), 몇가지 키워드만 넣어주면 그림을 그려주는(Midjourney, Dall-E) 것을 넘어 짧은 음성이나 음악을 들려주면 뒷부분을 자연스럽게 이어지도록 완성해주는 프로그램도 있다.
헤이젠 AI(Heygen AI)를 통해 나를 똑 닮은 아바타도 만들어 낼 수 있다. 원하는 외국어를 선택하면 번역하고 더빙까지 해준다. 오드리 헵번이 노래를 하고 그림 속 인물인 모나리자가 말을 하는 영상을 보고 있자니 제일 먼저 떠오른 걱정이 ‘AI 피싱’이었다.
AI피싱은 우리가 흔히 알고 있는 보이스피싱을 넘어선 딥페이크 기술을 활용한 새로운 범죄다. 딥페이크는 딥러닝(Deep Learning)과 ‘가짜의’라는 뜻을 가진 페이크(Fake)의 합성어로 인공 지능 기술을 이용하여 진위 여부를 구별하기 어렵도록 만들어낸 가짜 이미지나 영상물을 의미한다.
이것이 단순한 기우가 아니라는 것은 벌써 SNS를 통한 유명인 사칭 광고로 표면화되고 있다. 투자에 관심이 있는 이라면 인스타그램이나 유튜브 알고리즘에 의해 유명강사인 김미경, 개그맨 황현희, 개그우먼 송은이, 투자 전도사 존리 등 믿을 만한 유명인이 투자를 권하는 영상을 한번쯤은 봤을 것이다. 단순히 목소리뿐 아닌 영상까지 동원된 그들의 투자 성공사례를 듣고 나면 솔깃해지지 않을 수 없다. 그들의 안내에 따라 밴드나 오픈 채팅방(일명 리딩방)에 입장해 큰 돈을 날린 피해자들도 많다.
뒤늦게 투자를 권한 이들을 찾아가 피해를 호소하지만 그들 역시 영문도 모르고 당한 사칭 피해자일 뿐이다. 이에 지난 3월 22일 앞서 언급된 이들 외에 국민MC 유재석을 비롯한 317명의 사칭 광고 피해자들이 동참해 ‘사칭범죄 해결 촉구를 위한 성명’을 발표했다. ‘유명인 사칭 온라인 피싱 범죄 해결을 위한 모임’(유사모)은 성명서를 통해 “누구나 돈을 쓰면 광고를 할 수 있는 현재의 온라인 플랫폼 시스템에서 사칭 광고로 수많은 피해자가 발생하고 있다”며 “대책을 마련하라”고 촉구했다.
방송통신위원회와 개인정보위원회를 비롯 다소 미온적이었던 구글, 메타, 네이버 등 국내외 플랫폼도 사칭 광고 근절을 위해 적극적으로 나서고 있다. 구글은 사칭계정이 발견되면 경고 없이 계정영구정지를 하겠다고 하고 네이버는 사칭광고 피해를 신고할 수 있는 창구를 마련했다. 메타 역시 단속을 대폭 강화했다고 밝혔다.
그럼에도 불구하고 ‘뛰는 놈 위에 나는 놈’이라고 사칭 계정이 생겨나는 속도를 따라잡지는 못하고 있다. 예전에는 연예인, 스포츠 스타, 인플루언서 등 공인의 표식으로 여겨지던 인스타그램이나 엑스(트위터)의 블루뱃지(일명 파란딱지)도 믿을 수가 없다. 이제는 월 1만원~2만원 내외의 비용을 내면 블루뱃지를 아이디 옆에 붙일 수 있기 때문에 그 사실을 잘 알지 못하는 이들은 속을 수 밖에 없다.
사칭 범죄는 비단 연예인들만의 문제가 아니고 일반인들도 대상이 된다. “엄마, 폰 고장났어, 이 번호로 문자 줘”라는 전형적인 문자 피싱은 이제는 초급 단계의 피싱 수법으로 여겨진다. 내가 저장한 이름과 사진이 뜨면서 걸려 오는 전화 속 가족, 연인, 친구의 목소리가 나를 속이는 세상이다. 목소리를 믿지 못해 영상통화를 요청해도 마찬가지다. 딥페이크로 만들어 낸 영상은 의외로 정교해 이제 눈으로 보는 것도 믿을 수 없게 되었다.
SNS 등을 통해 공개된 짧은 영상 속 목소리 샘플만으로도 ‘내가 아닌 나’를 만들어 낼 수 있다고 하니 가족, 연인, 친구를 가장한 목소리와 영상에 속지 않게 주의를 기울여야 할 것이다.
딥페이크 범죄를 피하기 위해서는 ‘바보같이 왜 속아, 나는 안 당해’라고 자만하지 말고 평상시 가족이나 친구사이에 암호나 약속을 정해두는게 좋다. 특히 급하게 돈을 요구하거나 프로그램 설치 등을 권할 때는 먼저 의심부터 해보자. 눈으로 보는 것도 믿지 마라. 딥페이크 범죄를 예방하기 위한 우리의 자세다.
저작권자 © 대구신문 무단전재 및 재배포 금지