ИИ сделал мошенничество идеальным: грамматических ошибок нет, а вашу бабушку обманет цифровой двойник внука

Генеративный искусственный интеллект уничтожил последние визуальные и текстовые признаки обмана, которые десятилетиями помогали обычным людям отличать мошенничество от реальности. Раньше подозрение вызывали грамматические ошибки в письмах, размытые логотипы на сайтах или неестественные интонации в голосовых сообщениях. Теперь чат-боты штампуют безупречные тексты для фишинговых рассылок, нейросети создают лендинги, которые копируют дизайн официальных магазинов с точностью до пикселя, а алгоритмы синтезируют голос любого человека из нескольких секунд аудио, доступного в соцсетях. Это больше не попытка нигерийского принца выманить пару сотен долларов — это зеркальная копия сайта REI или eBay, на которую ведет таргетированная реклама, настроенная специально под ваши недавние поиски кроссовок. Федеральное бюро расследований зафиксировало, что американцы потеряли из-за киберпреступников почти 21 миллиард долларов за прошлый год, причем почти миллиард из этих потерь напрямую связан с использованием ИИ. И это только вершина айсберга, потому что многие жертвы просто стесняются сообщать о таких потерях.

Мошенники активно арендуют рекламные инструменты социальных сетей, чтобы показывать жертвам поддельные товары, которые те действительно искали. Журналист одного из изданий едва не купил кроссовки Hoka на сайте, который выглядел как официальный аутлет, и лишь проверка на форуме Reddit спасла его от кражи данных банковской карты. Особую тревогу вызывают звонки с подменой голоса и лица — злоумышленникам достаточно загрузить в нейросеть несколько секунд аудио из видео в TikTok , чтобы симулировать голос вашего ребенка. Затем они проводят видеозвонок с «цифровым двойником», который просит деньги на срочную операцию или для решения проблемы с полицией. Ключевой сдвиг в том, что раньше для такой атаки требовались недели подготовки и дорогое оборудование, а сейчас стоимость снизилась настолько, что она становится массовой — буквально каждый может стать целью.

Единственный работающий метод защиты — это полная смена парадигмы мышления. Вместо пассивного поиска признаков обмана нужно перейти к активной проверке каждой цифровой коммуникации. Если вы хотите купить товар по ссылке из соцсети, забейте адрес сайта в поиск и посмотрите, что о нем пишут на форумах. Если получили видеозвонок от старого друга, перезвоните ему на известный вам номер, а не в ответ на тот же звонок. Если увидели суперскидку от любимого бренда в рекламе, откройте официальный сайт самостоятельно, вручную введя адрес в браузер, а не переходите по ссылке. Старое правило «если это слишком хорошо, чтобы быть правдой» наконец-то стало не просто полезным советом, а единственным надежным компасом в мире, где ИИ научился подделывать реальность на лету. Любопытно, что наиболее эффективная защита оказалась архаичной — устная договоренность о кодовом слове внутри семьи, которое нужно назвать при любом подозрительном звонке. Это работает лучше любых антивирусов, потому что машина не может предугадать случайную фразу, придуманную людьми в шутку.