Эксперты: мошенники используют скрытые инструкции для атак на нейросети

[alexsf]

Эксперты: мошенники используют скрытые инструкции для атак на нейросети

Guests are not allowed to view images in posts, please You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

Злоумышленники осваивают новые методы кибермошенничества, используя "невидимые" промпты (инструкции) для манипулирования искусственным интеллектом (ИИ). Эксперты предупреждают о росте угроз, связанных с использованием скрытых команд для генерации опасного контента – фишинговых ссылок и инструкций по установке вредоносного программного обеспечения.
Как поясняют специалисты, скрытые инструкции встраиваются в текст веб-страниц, писем или документов, оставаясь незаметными для человека, но распознаваемыми для нейросетей. ИИ "подхватывает" эти команды и включает их в свои ответы, что позволяет мошенникам направлять пользователей на вредоносные ресурсы или вынуждать их выполнять опасные действия. Пользователь, доверяя ИИ, рискует стать жертвой киберпреступников, сообщают "You are not allowed to view links. Register or Login".

"Ответ нейросети может содержать социально-инженерные команды: «скачай этот файл», "выполни PowerShell-команду" или "открой ссылку", – разъяснил основатель сервиса разведки утечек данных и мониторинга даркнета DLBI Ашот Оганесян.

Эксперты отмечают, что "отравление" обучающих материалов нейросетей скрытыми инструкциями может привести к распространению вредоносных советов даже при работе с "чистым" контентом, многократно увеличивая риски.

По данным исследований, объем атак с использованием ClickFix, к которым относятся и невидимые промпты, за год вырос в четыре раза, что указывает на увеличение числа пострадавших. Существует также риск автоматизации таких атак, что может еще больше усугубить ситуацию.

Ранее Банк России сообщил, что россияне смогут контролировать свои банковские операции с помощью сервиса "второй руки".

You are not allowed to view links. Register or Login