기술 악용한 딥페이크 불법 합성물

당신도 피해자가 될 수 있다

지난 3월, 제102주년 삼일절을 맞아 제작된 한 편의 영상이 사회관계망 서비스(SNS)상에서 큰 화제를 모았다. 영상 속에는 일제강점기 당시 목숨 바쳐 나라를 위해 헌신했던 독립운동가분들의 생전 모습이 복원되어있었다. '마이 헤리티지(My Heritage)'라는 플랫폼에서 제작한 이 영상은 독립운동가분들의 얼굴·표정을 입체감 있게 구현해 냄으로써 인물이 살아 움직이는 듯한 효과를 불러왔다. 영상을 접한 나는 지금까지 봐온 흑백 사진이 아닌, 생동감이 느껴지는 유관순 열사의 모습에 놀라움을 감출 수 없었다.

AI 머신러닝 기능을 활용해 얼굴이나 신체 부위를 합성하는 기술을 뜻하는 ‘딥페이크’는 인공지능 심층학습 딥러닝에서 따온 ‘deep'과 가짜라는 뜻의 ’fake‘를 더한 합성어이다. 지난 2014년 처음 공개된 이후, 2017년도부터 소프트웨어 형태로 배포되면서 일반 대중들도 딥페이크 기술에 접근할 수 있게 되었다. 기존의 컴퓨터그래픽 기술보다 적은비용으로 손쉽게 사용할 수 있다는 장점이 있는 이 기술은 짧은 시간 안에 전 세계 사용자들을 매료시켰다.

특히, 틱톡과 인스타그램 릴스 등의 간결하지만 강한 임팩트를 주는 ‘숏폼’ 영상이 인기를 끌고 있는 현재에는 딥페이크 기술이 하나의 숏폼 콘텐츠가 되어 유행처럼 퍼지고 있다. 그에 따라 딥페이크 기술을 활용한 애플리케이션까지 등장하게 되었고 이는 별다른 제약 없이 누구나 쉽게 사용할 수 있다. 인스타그램을 통해 유명세를 얻은 ‘리플레이’, ‘페이스플레이’ 등의 딥페이크 앱은 사용자들의 얼굴을 드라마 속 유명 배우·연예인 등의 인물과 합성해 보여준다. 얼굴 사진만 저장되어 있다면 타인의 얼굴도 큰 제약 없이 1초 만에 합성할 수 있는 특징이 있다. 즉, 다르게 말하면 사진 하나만으로 자신도 모르는 사이에 딥페이크 피해자가 될 수 있다는 뜻이기도 하다. 영상을 만든 사람은 장난이었다고 하나 자신의 의지와 상관없이 딥페이크의 피해자가 된 사람은 과연 오락적 영상으로 웃고 넘길 수 있을지 의문이 든다.

실제 네덜란드 보안 연구기업 ‘딥트레이스’에 따르면, 지난 2018년을 기준으로 딥페이크를 통해 제작된 불법 허위영상물은 전 세계에서 급증세를 보였는데 그중에서도 무려 96%에 달하는 영상들이 여성들의 얼굴이나 신체를 합성해 만든 허위 음란영상물임이 밝혀졌다. 여기서 더욱 충격적인 것은 바로 딥페이크를 통해 불법으로 제작된 허위 음란영상물 중 국내 연예인을 대상으로 한 영상이 미국과 영국 다음으로 높은 비중을 차지했으며 누구나 쉽고 저렴한 가격으로 해당 영상들을 구할 수 있다는 점이었다.

또한, 딥페이크 기술에 대한 접근성이 높아지면서 인터넷과 스마트 기기에 친숙한 10대 청소년들까지 연루되는 사례가 늘고 있다. 경찰청 국가수사본부에 따르면 불법 합성물 관련 범죄로 검거된 피의자의 연령 중 10대가 69.1%로 압도적으로 높았다. 10대 사이에서는 유행 중인 딥페이크 어플을 이용한 집단 괴롭힘까지 발생하며 큰 문제로 떠올랐다. 하지만 정작 가해자들은 자신의 배포한 영상이 불법합성물이라는 사실조차도 인지하지 못하고 있다. 이 역시도 인터넷에 영원히 박제된 불법합성물 피해자만이 평생 떠안고 갈 상처로 남는 것이다.

이처럼 사실 여부를 가리기 어려울 정도로 정교한 딥페이크 기술에 의해 많은 사람들이 피해를 보고 있다. 그래서 국가에서는 지난해 6월부터는 관련 법 개정을 통해 딥페이크 범죄에도 성폭력처벌법이 적용되기 시작했다. 기존의 성폭력 범죄와 마찬가지로 피해자 요청 없이도 처벌이 가능한 법안을 마련한 것이다. 또한, 피해자들에 대한 국가적·제도적 차원의 지원뿐만 아니라 2차 피해 방지를 위한 영상 삭제 조치까지 지원하는 등 다양한 부분에서 법적 보완들이 진행되고 있다. 하지만 법을 시행한 만큼 조속히 범죄를 잡을 수 있을 것이라는 기대와 달리 범죄 수법이 날로 진화하면서 오히려 차단·삭제 건수가 늘고 있다. 방송통신심의위원회가 김상희 국회부의장에게 제출한 자료에 따르면, 지난해 6월부터 단속을 시작한 '딥페이크 성적 허위영상' 차단·삭제 건수는 지난해 12월까지 548건을 기록했지만, 올해 1월부터 9월까지는 1,408건으로 무려 2.5배 증가했다.

이미 한 번 인터넷에 올라간 콘텐츠는 아무리 삭제해도 흔적까지 깨끗이 지워지지 않는다. 지금 나와 있는 법안은 피해자를 발생시키는 요소를 차단하는 게 아닌, 가해자 처벌에 초점이 맞춰져 있다. 딥페이크 성범죄를 일으키는 가해자들의 수법이 날로 교묘해지고 있는 상황에서 지금과 같은 대책으로는 계속해서 가해자는 없고 피해자만 억울한 상황이 발생할 것이다. 더 그런 상황이 오지 않도록 정부는 ‘사후적’ 해결 방안이 아닌 ‘예방적’ 대응을 준비해야 한다. 인공지능을 통한 미래 산업 사회로 나아가는 것도 물론 중요하다. 하지만 그 기술을 사용하는 사람이 그로 인해 피해를 받는다면 그건 과연 누구를 위한 기술인지 생각해봐야 하지 않을까?

취재, 글= 신사랑 기자