AI 딥페이크를 이용한 사기 횡행, 각별히 주의해야

최근 AI 기술의 발달로 다른 사람의 이미지를 무단으로 합성하는 딥페이크 기술을 활용해 각종 사기를 시도하는 범죄가 급증하고 있습니다. 유명인의 이미지를 이용해 신뢰를 확보하여 입금을 유도하거나, 심한 경우 일반인의 이미지를 무단으로 도용한 성착취물까지 늘어나는 중입니다. 딥페이크 범죄는 암호화폐로 결제를 요구하거나 암호화폐 결제가 가능한 온라인 카지노 플랫폼을 이용하는 경우가 많아 범죄 수사에 어려움을 겪고 있습니다. 범죄 수익이 오가는 SNS 텔레그램이 해당 범죄자들의 범죄 행위를 경시하며 범죄가 줄어들지 않는 현재, 범죄 수익을 몰수할 수 있는 법안으로 범죄를 예방해야 한다는 지적이 나오고 있습니다.

프랑스 유명 배우 ‘알랭 들롱’ 이미지를 이용한 피싱 사기 유행

‘딥페이크(Deepfake)’ 기술이란 AI 학습 모델인 ‘딥 러닝(Deep Learning)’과 허위를 말하는 ‘페이크(Fake)’의 합성어로서, 딥러닝 기술을 이용해 사람의 이미지를 합성 기술입니다. 통상 한 사람의 얼굴을 AI에 학습시킨 후 다른 영상의 사람 얼굴을 바꿔치기하는 기술입니다. 요즘은 AI를 이용해 실제 촬영한 영상과 같이 만든 사진과 비디오 모두를 지칭하는 의미로 확장되었으며, 실존 인물의 사진이나 음성을 이용해 조작한 자료라는 의미로 사용됩니다. 딥페이크 영상을 이용해 성범죄나 사기 행각을 벌이는 경우가 많아 사회 문제로 떠오르고 있습니다.

지난 18일 프랑스의 유명 배우 ‘알랭 들롱(Alain Delon)’이 사망하며, 그의 이미지를 이용한 딥페이크 영상으로 사기를 벌이는 행위가 SNS를 통해 급속도로 확산되고 있습니다. 온라인 사기 범죄 전문가들에 따르면, 최근 페이스북과 인스타그램을 비롯한 SNS에서 알랭 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있습니다.

해당 영상에는 AI가 만들어낸 양복 차림의 알랭 들롱이 등장합니다. ‘AI 들롱’은 영상에서 자신의 딸이 온라인카지노 플랫폼을 출시했다고 말하며, 회원으로 가입하여 돈을 충전하면 가입 꽁머니 쿠폰을 준다고 유혹합니다. 그는 영상을 통해 “여러분이 이 영상을 보고 있을 때 나는 이미 죽었을 것”이라고 말하며, “내 카지노사이트에서 여러분이 돈을 벌지 못하면 10만 유로(약 1억 4,800만 원)를 주겠다”고 제안합니다. 이어 “내 유산의 일부를 모든 프랑스인에게 나눠주기로 결정했고, 그것이 옳은 일이라고 생각한다”며 “누구나 카지노사이트 가입 첫날부터 4,000 유로(약 591만 원) 상당의 가입 쿠폰을 받을 수 있다”고 말합니다.

하지만 이는 모두 유명인의 이미지를 악용한 사기로서, 인공지능 기술로 만든 가짜 영상입니다. 해당 영상에 등장하는 온라인카지노 어플리케이션 링크를 클릭하면 구글 플레이스토어를 모방한 피싱 사이트로 연결되고, ‘카지노 들롱(Casino Delon)’이라는 이름의 가짜 어플리케이션 페이지로 이동합니다. 프랑스 일간지 ‘르 피가로(Le Figaro)’는 사람들이 ‘카지노 등롱’ 어플리케이션을 다운로드할 경우, 회원 가입시 입력한 신상 정보와 은행 계좌 번호 등의 중요 개인 정보가 유출되어 금전적 피해를 입을 수 있다고 경고했습니다.

온라인 사기 전문가 ‘빅토르 바이사트’는 이번 알랭 들롱 사례 이외에도 올해 3월 프랑스 축구 선수 킬리앙 음바페(Kylian Mbappé)가 온라인 카지노를 홍보하는 딥페이크 사기를 밝혀낸 바 있습니다. 그는 프랑스 유력 일간지 ‘르 파리지앵(Le Parisien)’과의 인터뷰를 통해 “유명인의 이미지를 사기에 활용하는 사례가 점차 많아지고 있다”고 밝혔습니다. 또한 “사기꾼들은 이런 사기 광고를 게재하기 위해 메타(Meta, 페이스북 및 인스타그램 운영사)에 돈을 내고 있다”고 말했습니다. 범죄자들이 계속하여 광고를 올린다는 건 이런 식의 사기에 당하는 피해자들이 많다는 방증이라며, SNS 플랫폼이 이러한 사기 광고를 사실상 방치하고 있다고 지적했습니다.

딥페이크를 이용한 각종 범죄 급증, 암호화폐로 수익 올려

딥페이크는 사기뿐만 아니라 성범죄에도 이용되고 있습니다 최근 한국에는 딥페이크를 이용한 성착취물을 만들어 유통시켜 수익을 올린 가해자들이 큰 사회 문제로 떠오르고 있습니다. 이 중에는 중학생까지 포함되어 있는 것으로 알려져 많은 사람들에게 충격을 주었습니다. 일부 범죄자들은 사람들이 아는 사람의 사진을 보내주면 불과 몇천 원의 요금만 받고 성착취물을 자동으로 만들어주는 ‘딥페이크 봇(Bot)’도 사용하고 있습니다. 특히 봇을 만드는 사람들은 이들 범죄 조직의 정점에 자리하고 있습니다. 이들은 딥페이크 성착취물을 만들고 텔레그램 대화방을 운영하며, 이들에게서 성착취물을 구입하여 다단계 식으로 재판매하는 하위 일당이 존재합니다. 조직의 가장 말단에는 잠재적 구매자를 유혹하기 위해 일부 성착취물을 무차별적으로 퍼뜨리는 텔레그램 대화방 참여자들이 있습니다.

딥페이크를 이용해 범죄를 저지르고 수익을 올리는 범죄자들이 비트코인 등의 암호화폐를 결제 수단으로 이용하고 있어 추적이 어렵다는 것 또한 문제입니다. 한국의 동아일보 취재팀은 지난 8월 28일, 텔레그램에서 딥페이크 성착취물을 유통 중인 대화방 10곳에 잠입하여 취재를 시도했습니다. 취재팀이 성착취물 구매를 희망하는 것처럼 가장하여 결제를 시도하자, 대화방은 ’46종의 가상화폐로 결제 가능하다’고 안내하였습니다.

암호화폐를 매개로 다단계 거래가 이루어져 추적 어려워

구매자들은 실제 사람이 아닌 봇의 결제 안내에 따라 거래하기 때문에 본인이 결제한 암호화폐가 누구한테 흘러들어 가는지 알 수 없는 구조이며, 판매자와 직접 대화도 불가능하다고 합니다. 대화방 운영자들은 취재팀에게 더 많은 비용을 지불하면 더 수위가 높은 성착취물을 구입할 수 있다고 하였으며, 큰 금액을 지불하면 VIP 특권으로서 자신만 보유할 수 있는 딥페이크 성착취물을 만들어준다고 합니다. VIP에게는 더 뛰어난 디테일의 진짜 같은 사진을 제공한다면서 결제를 유도했습니다.

특히 암호화폐를 이용하여 결제가 가능한 카지노사이트인 비트코인카지노, 가상화폐를 사용 가능한 슬롯사이트인 비트코인슬롯 사이트로 결제를 유도하는 경우도 있습니다. 이들은 해외 온라인카지노 계정에서 생성 가능한 가상 계좌로 암호화폐를 송금하기 때문에 계좌 추적이 어렵고, 여러 번의 자금 세탁 과정을 거치기 때문에 구매자와 판매자의 신상 정보를 파악하는 데 어려움을 겪습니다. 경찰 관계자는 “비트코인이 아닌 잘 알려지지 않은 암호화폐로 결제하는 경우에는 추적이 더욱 어렵다”며 수사의 어려움을 토로했습니다.

일각에서는 텔레그램이 이윤을 창출하기 위해 딥페이크 범죄 구조를 방치하고 있다고 지적합니다. 텔레그램 채널에 이용되는 봇과 대화방, 결제창에는 상업 광고가 걸려 있고, 이용자가 많을수록 텔레그램의 광고 수익이 높아집니다. 구글 유튜브 영상의 조회수가 높아질수록 유튜브의 광고 수익이 높아지는 것과 같은 이치입니다. 텔레그램을 이용한 딥페이크 범죄가 늘어나고 이용자가 증가할수록 텔레그램 및 텔레그램 봇 제작자들의 수익이 커지는 셈입니다. 게다가 올해 4월 텔레그램이 1,000명 이상이 이용하는 ‘텔레그램 봇’을 제작하여 발생하는 수익의 절반을 암호화폐로 지급하겠다고 발표한 만큼, 암호화폐를 이용한 범죄는 추적이 더욱 어려워질 것으로 예상됩니다.

수익 구조를 무너뜨려야 딥페이크 범죄 예방 가능해

전문가들은 딥페이크 범죄의 수익을 몰수할 수 있는 대책을 마련해야 범죄를 근절할 수 있다고 주장합니다. 범죄로 수익을 거두는 구조 자체를 근본적으로 무너뜨리지 않는 이상, 범죄가 더욱 늘어날 수밖에 없다는 지적입니다. 동국대 경찰사법대 곽대경 학장은 “암호화폐를 이용하기 때문에 기존 은행 등의 금융기관 시스템으로 확인하는 데 한계가 있다”고 말하며, “범죄 수익을 몰수할 수 있는 제도적인 장치를 만들어야 한다”고 말했습니다.

고려사이버대 경찰학과 이윤호 교수 역시 “딥페이크 성착취물은 성폭력처벌특례법 제14조의 2에 따라 배포와 판매만 처벌할 수 있어 구매자를 처벌할 수 없으므로, 구매자 또한 강력하게 처벌하는 쪽으로 법을 개정해야 한다”고 꼬집었습니다. 동국대 국제정보보호대학원 황석진 교수는 “가상화폐의 등장으로 불법 음란물을 유통시켜 수익을 올리려는 범죄자들이 늘어나고 있다”고 말하며, “온라인카지노 게임에 사용된 암호화폐를 몰수할 수 있다는 2018년도 대법원 판례를 참고해야 한다”고 적극적인 조치를 주문했습니다. 이어 “다만 암호화폐는 추적이 어렵기 때문에, 실제 몰수하기 위한 수단이나 장치가 필요할 것”이라고 덧붙였습니다.