[브릿지 칼럼] 딥페이크와의 전쟁

이재경 건국대 교수·변호사

유명인들이 갑자기 돈독이라도 오른 걸가. 재테크 광고에 국민 연예인 유재석이 등장하고 재력의 여왕 이부진마저 투자강의에 얼굴을 내민다. 하지만 이 모든 광고들은 가짜다. AI ‘딥페이크’(Deepfake)를 악용한 사칭 광고가 연예계와 광고업계를 난타 중이다. 그 동안 가짜와의 전쟁을 수없이 지켜봤지만 이번에는 섬뜩하다.

시대를 막론하고 빌런은 항상 존재한다. AI시대에는 더 치사하고 졸렬한 악당들이 더 교묘하게 선량한 사람들을 괴롭힌다. AI 초창기 시절에는 몇몇 숙련 기술자들만이 사용할 수 있었던 딥페이크 기술을 이제는 쉽게 활용하면서 유명인을 등장시킨 거짓광고와 투자 사기가 판치기 시작했다. 유튜브·인스타그램 등에 대중의 사랑을 받는 유명인들이 진짜 광고 속 모습으로 등장해 주식 종목을 추천하거나 무료 재테크 강연을 제공하는 미끼를 던진다. 유명인의 허위 초상, 목소리에 깜빡 속은 대중은 그 미끼를 덥썩 물게 되고 악당들은 이들에게 허위로 투자금을 요구한 후 잠적한다. 보이스피싱의 진화한 형태인 것이다.

유명인들도 또 다른 피해자일 뿐이다. 개그맨 송은이·황현희, 유명강사 김미경씨, 존리 전 메리츠자산운용 대표 등도 대중에게 억울함과 경각심을 호소했다. 자신의 초상, 목소리를 도용당한 유명인들이 결성한 ‘유명인 사칭 온라인 피싱 범죄 해결을 위한 모임’(유사모)은 ‘피싱’과의 전쟁을 선포할 수밖에 없다. 유재석 등 피해자 셀럽 100여명도 유사모에 동참하면서 사태의 심각성이 그나마 대중에 널리 알려지게 됐다.

인스타그램을 운영하는 구글, 페이스북을 이끄는 메타는 뒤늦게 기술적인 대응책을 제시했다. AI가 셀럽의 얼굴 데이터를 사전 학습한 후 사칭 광고가 유튜브에 불법적 용도로 등장하면 자동적발해 규제한다는 것이다. 이를 위해 구글 등은 유명인들로부터 당사자의 얼굴 데이터 수집·활용 등에 대한 사전 동의를 받으려고 한다. 기술적으로 쉽사리 구현되지 않겠지만 사칭 온라인 광고를 탐지·적발하기 위한 첫 걸음인 셈이다.

하지만 전 세계를 지배하는 거대공룡들인 구글, 메타는 법적·윤리적 걸림돌을 피해갈 수 없다. 빅테크 기업들이 얼굴 데이터와 같은 생체인식 정보를 쉽사리 얻는다면 이는 또 다른 문제를 발생시킨다. 국경을 넘나들면서 피싱 범죄 방지라는 이유로 유명인들의 개인정보에 용이하게 접근한다면 개인정보 보호를 강화하려는 시대적 대세와 각종 법적 규제에 역행한다는 비난에 직면할 수 있다.

네이버 카카오 등 국내 플랫폼들도 작년 말부터 사칭 피해 신고 및 모니터링에 적극 나서고 있다. 네어버는 ‘이용 제한 사유에 해당하는 사칭 계정 및 사칭 밴드 정의와 징계 기준’을 명문화하고 센터 내 사칭 피해 신고 채널을 추가했다. 카카오도 오픈채팅 전체 신고 영역에 사기·사칭 전용 신고 메뉴를 신설해 금칙어 검색 시 노출을 제한하고 있다. 하지만 이런 기술적 노력만으로는 유명인 사칭 광고가 근절할 수 없다. 유명인 뿐 아니라 유명 금융회사 로고까지 번개 사칭하고 있어 단속은 점점 힘들어지고 소비자들은 하루가 멀다하고 현혹과 의혹 속에 노출된다.

유명인을 활용한 투자 광고에 대한 규제도 고려할만 하다. 투자강의, 주식리딩방 등 투자 인프라의 근본적 인식 개선도 필요하다. 유명인에게 의존하지 않고 정상적인 교육, 계몽을 통한 투자환경이 제공되기를 기대한다. 결국 그 얼굴, 그 목소리에서 벗어나야 한다.

이재경 건국대 교수·변호사