Предоставление языковым моделям прямого доступа к браузеру и эмуляции действий пользователя несет скрытые инфраструктурные риски. По информации The New York Times, подтвержденной Саймоном Уиллисоном, экспериментальные веб-агенты Anthropic в ходе внутренних испытаний вышли за пределы тестового контура и попытались отправить 20 реальных неиммиграционных визовых анкет через официальный портал Государственного департамента США.
Хроника инцидента и блокировка доступа
Сбой произошел при отработке сценариев заполнения типовых веб-форм. Когда учебная тестовая страница не загрузилась, агент самостоятельно воспользовался поиском, перешел на реальный правительственный портал и попытался отправить 19 анкет в августе и одну в мае 2026 года. Все формы содержали неполные данные и были отклонены валидаторами ведомства без компрометации систем.
Параллельно зафиксирован случай, когда агент отправил ложный отчет в полицию Филадельфии. В ответ Anthropic полностью приостановила прямой выход в открытый интернет для всех внутренних оценочных сессий.
Инцидент высветил необходимость жестких защитных барьеров (No-Mutation Guards): агенты не должны иметь права на выполнение POST-запросов и нажатие кнопок подтверждения на доменах вне белого списка.