Один из крупнейших российских банков зафиксировал 15-процентный рост мошенничеств с использованием дипфейков. Однако значительной части населения до сих пор не известно даже значение этого слова. Увы, искусственный интеллект способен не только написать доклад или включить вашу любимую мелодию – он может опустошить ваш кошелек за считаные минуты.
Копирует тембр и интонации
Дипфейк – это созданный медиаконтент из «образцов» голоса или внешности жертвы.
Даже нескольких секунд голосовой записи из мессенджеров достаточно, чтобы нейросеть скопировала тембр и интонации. Злоумышленники часто провоцируют жертву, чтобы получить необходимый «контент»: взламывают аккаунт и рассылают контактам просьбы «срочно наговорить голосовое для подтверждения личности» или используют утекшие базы данных с личными файлами. Все, что мы публикуем в открытом доступе – фото или видео, – использует ИИ.
Можно получить такое голосовое якобы от друга или родственника: «Попал в аварию, срочно скинь денег на карту, перезвонить не могу» – или от «начальства»: «К нам приехала проверка, ответь майору Иванову».
Все чаще фиксируются случаи, когда жителям края поступают видеозвонки с лицом и голосом «руководителя» или «родственника», причем картинка может рябить, звук может запаздывать, – но человек видит знакомые черты и теряет бдительность: деньги переводятся за секунды, – комментирует Сергей Журавлев, управляющий Отделением Красноярск Банка России.
Чтобы не стать жертвой, придумайте кодовое слово или «стоп-пароль». Договоритесь с близкими о секретной фразе, которую не сможет угадать ИИ, или же задайте вопрос, ответ на который знает только этот человек. Перезвоните человеку, который обращается к вам в мессенджере со странной просьбой, если что-то заподозрили. Не выкладывайте в общий доступ фото паспорта, других документов. Установите самозапрет на кредиты.
Не забывайте, что ни один сотрудник банка, ЦБ, правоохранительных органов или оператор связи никогда не попросит включить демонстрацию экрана или пройти видеосверку лица.
Все слышали о звонках сотрудников службы безопасности банка или операторов сотовой связи. Всегда ли звонит именно человек? Оказывается, нет.
Это продвинутые программы, которые могут поддерживать беседу, отвечать на вопросы и даже имитировать эмоции, – поясняет Виталий Вайнштейн, заведующий кафедрой информационной безопасности института космических и информационных технологий СФУ. – Они представляются сотрудниками службы безопасности банка или операторами сотовой связи. Цель – войти в доверие и выведать конфиденциальные данные. Вас могут попросить назвать код из СМС «для отмены подозрительной операции», продиктовать CVV-код карты «для идентификации» или убедить установить приложение, которое окажется шпионской программой.
Если звонящий просит деньги или данные карты, положите трубку и перезвоните человеку сами по его настоящему номеру или на официальную горячую линию банка. Ни один реальный сотрудник не попросит вас продиктовать код из СМС или трехзначный номер с обратной стороны карты.
Нейросеть может написать фишинговое письмо – якобы вы выиграли приз, но для активации нужно «оплатить пошлину», вам «заблокировали банковскую карту» или «отмечен подозрительный вход в аккаунт»… Подобные письма получали многие и кто-то даже пытался ответить.
ИИ делает рассылки почти неотличимыми от настоящих, но можно заметить, что русский язык в письмах может быть либо чересчур правильным и сухим (как в учебнике), либо, наоборот, содержать странные сочетания слов, это все особенности обучения иностранных нейросетей, – поясняет Виталий Вайнштейн.
Ну и ключевой индикатор – требование срочных действий и переход по ссылке. При наведении курсора (на компьютере) или долгом нажатии (в телефоне) всплывает настоящий адрес. Мошенники используют домены, визуально похожие на оригинальные: например, вместо gosuslugi.ru будет g0suslugi.ru или gosuslugi-online.ru. Наличие в письме угроз («закроем доступ», «получите штраф») и просьб прислать пароль, код из СМС или данные карты – стопроцентный признак мошенничества, так как настоящие организации никогда не запрашивают такое.
Фальшивые сайты маркетплейсов
На что еще способна нейросеть? На многое. Она с легкостью подберет пароль – это вы его не можете запомнить и пишете на листочке…
Если, к примеру, стоит вопрос – «Девичья фамилия матери» или «Кличка любимого питомца», ИИ легко найдет ответ в открытых источниках и подберет его за секунды: цифровой след жертвы анализируется – посты в соцсетях, списки друзей, геолокации, лайки…
Нейросеть мгновенно создаст фишинговые сайты-клоны: это раньше мошенникам приходилось нанимать веб-разработчиков, чтобы скопировать дизайн банка или маркетплейса. ИИ это делает буквально за минуту – подставляя нужный текст и формы для ввода паролей. Да, такие сайты живут считаные часы, но этого хватает для кражи данных.
Анализируя переписку жертвы, нейросеть может сгенерировать идеальное сообщение от имени друга, с его типичными фразами и смайликами, чтобы выманить деньги.
Ну и, наконец, даже неопытный хакер может попросить нейросеть написать вирус или программу-шифровальщик. Полученный код требует доработки, но он значительно упрощает запуск кибератак – это очень облегчает работу злоумышленникам.
Зачастую мы сами помогаем им. Добровольно передаем данные. Сотрудники организаций пользуются ИИ в личных целях, для выполнения рутинных рабочих задач, вводя данные с персональной информацией или имеющей статус конфиденциальной. Но нейросети – это не безобидные помощники. Во-первых, введенные данные могут использоваться для дообучения моделей: фрагменты вашего текста могут всплыть в ответах другим пользователям при определенных запросах.
Когда вы загружаете в публичный чат-бот конфиденциальный договор, финансовый отчет или базу клиентов, эта информация перестает быть приватной, – предупреждает Виталий Вайнштейн. – Существуют техники промпт-инжиниринга, когда злоумышленники специальными запросами могут заставить ИИ «раскрыть» информацию, загруженную ранее другими людьми. Для бизнеса это утечка коммерческой тайны: уникальные разработки, стратегии или клиентские базы могут попасть к конкурентам. Если утекли персональные данные клиентов (паспорта, телефоны, адреса), компании грозят многомиллионные штрафы от регуляторов и полная потеря доверия. Репутационный ущерб часто оказывается фатальным. Поэтому корпоративным клиентам рекомендуют использовать закрытые решения ИИ, которые не передают данные вовне.
