딥페이크 셀피는 이제 전통적인 인증 시스템을 우회할 수 있습니다. 사기꾼들은 합성 신원 창조를 위해 AI를 악용하고 있습니다. 기관은 고급 행동 기반 감지 방법을 채택해야 합니다. AU10TIX의 최신 글로벌 신원 사기 보고서에 따르면 AI 기반 공격의 산업화로 인한 신원 사기의 새로운 물결이 나타났습니다. 2024년 7월부터 9월까지 수백만 건의 거래를 분석한 보고서에 따르면 디지털 플랫폼은 특히 소셜 미디어, 결제 및 암호화를 포함한 여러 부문에서 전례없는 도전에 직면하고 있습니다. 사기 전술은 단순한 문서 위조에서 정교한 합성 신분증, 딥페이크 이미지 및 기존 인증 시스템을 우회할 수 있는 자동화 봇으로 진화했습니다. 소셜 미디어 플랫폼은 2024년 미국 대통령 선거를 앞두고 자동화 봇 공격이 급증했습니다. 보고서에 따르면 소셜 미디어 공격은 2024년 제3분기에 모든 사기 시도의 28%를 차지했으며, 제1분기의 3%에서 상당한 증가를 보였습니다. 이러한 공격은 대량의 정보 변조 및 대중 의견 조작에 초점을 맞추고 있습니다. AU10TIX는 이러한 봇 기반의 정보 변조 캠페인이 감지를 피하기 위해 고급 생성적 AI (GenAI) 요소를 사용한다고 밝히며, 이 혁신은 공격자가 기존 인증 시스템을 우회하면서 작업을 확장할 수 있게 했습니다. GenAI 기반 공격은 2024년 3월부터 급속히 확대되었으며 9월에 정점에 이르렀으며 거짓된 내러티브와 공격적인 콘텐츠를 전파하여 대중 인식에 영향을 줄 것으로 여겨집니다. 보고서에서 가장 놀라운 발견 중 하나는 100% 딥페이크 합성 셀피의 등장입니다 – 신원 확인 시스템을 우회하기 위해 진짜 얼굴 특징을 모방한 초현실적인 이미지입니다. 전통적으로 셀피는 사기꾼 대부분이 신뢰할 수 있는 얼굴 이미지를 공격적으로 위조하는 기술이 접근하기 어려워 신원 생체 인증에 신뢰성 있는 방법으로 간주되었습니다. AU10TIX는 이러한 합성 셀피가 전통적인 KYC (고객 식별) 절차에 독특한 도전을 제기한다고 강조하며, 앞으로 얼굴 일치 기술에만 의존하는 기관들은 감지 방법을 재평가하고 강화해야 할 것으로 전망합니다. 더 나아가, 사기꾼들은 AI를 활용하여 “이미지 템플릿” 공격을 통해 합성 신분증의 변형을 생성하는 데 점점 더 많이 사용하고 있습니다. 이는 단일 ID 템플릿을 조작하여 여러 고유한 신분을 생성하는 것으로, AI를 활용하여 플랫폼 전반에 걸쳐 금방 사기 계정을 생성할 수 있게 합니다. 결제 부문에서 사기 비율은 제2분기의 52%에서 제3분기에는 39%로 감소했습니다. AU10TIX는 이 진전을 규제 감시 강화와 법 집행 조치의 증가로 설명하고 있습니다. 그러나 직접적인 공격의 감소에도 불구하고 결제 산업은 여전히 가장 자주 겨냥되는 부문으로, 높아진 보안에 방해받은 많은 사기꾼들이 노력을 암호화폐 시장으로 이전하고 있는데, 이는 제3분기에 모든 공격의 31%를 차지했습니다. AU10TIX는 기관이 전통적인 문서 기반 인증 방법을 넘어서야 한다고 권고합니다. 중요한 권고 사항 중 하나는 표준 신분 확인을 넘어서는 행동 기반 감지 시스템을 도입하는 것입니다. 사용자 행동의 패턴을 분석하여 로그인 루틴, 트래픽 출처 및 기타 고유한 행동 단서를 포함한 이상을 식별함으로써, 기업은 잠재적으로 사기 행위를 나타내는 이상을 식별할 수 있습니다. “사기꾼들은 AI를 활용하여 특히 소셜 미디어와 결제 부문에서 공격을 확대하고 실행하기 위해 이전보다 더 빠르게 진화하고 있습니다,”라고 AU10TIX의 CEO인 Dan Yerushalmi가 말했습니다. “기업은 보안을 강화하기 위해 AI를 사용하고 있지만, 범죄자들은 동일한 기술을 무기화하여 합성 셀피와 가짜 문서를 만들어 감지를 거의 불가능하게 만들고 있습니다.”
