В MS Word Copilot обнаружена уязвимость самовоспроизводящихся промпт-инъекцийКратко · дайджест за 30 июля
Кратко≈ 1 мин

В MS Word Copilot обнаружена уязвимость самовоспроизводящихся промпт-инъекций

Исследователь безопасности Хокон Молей продемонстрировал вектор атаки на Microsoft Word Copilot через косвенную промпт-инъекцию (indirect prompt injection). Сформированный документ .docx содержит скрытые инструкции, незаметные для пользователя, но считываемые языковой моделью. При анализе файла ассистент исполняет внедренные команды и автоматически помещает вредоносный фрагмент в новые документы.

В результате возникает эффект самораспространяющегося ИИ-червя: переданный файл заставляет Copilot у других пользователей внедрять аналогичную инструкцию в новые отчеты. Скрытые команды могут маскироваться шрифтом, совпадением цвета с фоном или метаданными файлов.

Официальная позиция Microsoft подчеркивает, что ответы Copilot требуют контроля со стороны человека. Рекомендация корпоративным пользователям — относиться к внешним документам как к недоверенному вводу, включать отображение скрытых символов и проверять предлагаемые ассистентом правки перед их сохранением.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2