Ловушка регуляторного захвата в ИИ: критика Билла Герли в адрес плана Дарио Амодеи по искусственному замедлению моделейКратко · дайджест за 16 сентября
Кратко≈ 1 мин

Ловушка регуляторного захвата в ИИ: критика Билла Герли в адрес плана Дарио Амодеи по искусственному замедлению моделей

Дискуссия о будущем регулирования обострилась после выхода эссе главы Anthropic Dario Amodei — We Must Pace the Frontier. Дарио Амодеи предложил ввести контролируемое замедление обучения передовых (frontier) сетей ради опережающего развития защитных систем. В основу плана легли внешние аудиты с доступом уровня штатных инженеров и координация индустрии при сохранении лидерства демократий. При этом Амодеи оговорился: чрезмерное торможение грозит отставанием от авторитарных режимов.

С критикой инициативы выступил венчурный инвестор Билл Герли, указавший на риск регуляторного захвата (regulatory capture). По его оценке, сложные барьеры, дорогостоящие проверки и аудит вычислений формально защищают общество, но на практике цементируют позиции корпоративных гигантов. Стартапы и проекты с открытыми весами (open-weight) лишены ресурсов для непрерывного комплаенса и рискуют оказаться вытесненными с рынка.

Спор обнажает ключевую дилемму: как отделить реальную борьбу с рисками больших моделей от попыток лидеров выстроить регуляторный ров вокруг собственных экосистем.

Хочу подробный разборГолоса помогают выбрать, что разобрать подробно. За этот материал 0 голосов.
Источники · 2