Anthropic Red Team зафиксировала взлом control flow в моделях GLM-5.3 и Claude MythosКратко · дайджест за 30 сентября
Кратко≈ 1 мин

Anthropic Red Team зафиксировала взлом control flow в моделях GLM-5.3 и Claude Mythos

До недавнего времени компьютерная безопасность опиралась на надежный барьер: языковые модели могли находить банальные опечатки в скриптах, но пасовали перед бинарным кодом. Захват потока управления (control flow hijack) — это высший пилотаж цифрового взлома, похожий на ювелирное вскрытие сейфа на лету. Атакующему нужно обойти защиту операционной системы (ASLR, канарейки стека), рассчитать смещения в оперативной памяти с точностью до байта и выстроить сложную цепочку инструкций. На таком уровне предыдущие флагманы вроде Claude Opus 4.6 и GLM-5.2 показывали круглый ноль.

Опубликованный отчет исследовательской группы Anthropic Frontier Red Team зафиксировал исторический перелом. В стандартизированном стресс-тесте Binary Exploitation из 100 случайных задач флагманы преодолели нулевой порог: открытая китайская модель GLM-5.3 успешно перехватила управление в 4% попыток, а закрытая исследовательская нейросеть Claude Mythos Preview — в 6%.

Разница в распространении этих моделей меняет расстановку сил. Доступ к Claude Mythos жестко фильтруется и выдается только проверенным лабораториям. Напротив, веса GLM-5.3 лежат в открытом доступе. Тесты показали, что встроенные этические ограничения модели обходятся в 64% случаев обычной ролевой игрой в «учебную тревогу», а направленное удаление векторов отказа (аблитерация) ценой всего $1 200–$4 400 вычислительных затрат дает 100% готовность исполнять вредоносные команды. Модель уже автономно связывала неизвестные баги в браузерных движках JavaScript для кражи закрытых SSH-ключей.

По оценке американского института NIST CAISI, отставание сильнейших открытых моделей от закрытых американских разработок сократилось до четырех месяцев. Главный практический вывод для инженеров: эра ручного аудита уязвимостей памяти подошла к концу. Единственный способ устоять перед автоматизированными сканерами на базе открытых нейросетей — внедрять превентивный AI-фаззинг и ускорять миграцию на безопасные языки программирования.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2