Нейросети · Вдвоём
Anthropic предложила закон о запрете опасных нейросетей: что в нём и почему его критикуют сторонники безопасности
Компания, которая строит свой образ на безопасном ИИ, показала конгрессменам черновик федерального закона. Модель можно будет остановить только через суд и только при угрозе гибели больше 50 человек или ущерба больше миллиарда долларов. Разбираем, как устроен этот механизм, почему его называют слишком мягким и что это значит для тех, кто работает с нейросетями каждый день.
В октябре Politico получило черновик законопроекта, который Anthropic неофициально показывала членам Конгресса США. Речь о федеральных правилах для самых мощных моделей, так называемых frontier-моделей. Сам текст компания не публиковала, официально в Конгресс он не внесён, поэтому всё, что известно, известно из пересказов журналистов. Мы коротко писали об этом в канале, здесь разбираем подробно.
Как устроен механизм остановки
Только через суд. Если черновик станет законом, запретить выпуск модели или приостановить её работу сможет только Министерство торговли США. Для этого ведомству придётся обратиться в федеральный суд в Вашингтоне. Остальным федеральным агентствам такое право прямо запрещено.
Высокий порог. Суд может вмешаться, когда риск предсказуем и близок, а возможный вред превышает миллиард долларов или угрожает гибелью или тяжёлыми травмами больше чем 50 людям.
Три сценария. Причём считаются только три пути к катастрофе: биологическое оружие, кибератака и ситуация, когда модель выходит из-под контроля собственного разработчика. Другие виды вреда под этот механизм не попадают.
Проверки. Разработчиков должны регулярно проверять независимые оценщики, зарегистрированные в Минторге. Если оценщик видит, что одно из опасных событий может вот-вот случиться, он обязан сообщить в министерство в течение 72 часов.
Как модель могут остановить по черновику Anthropic: от проверки до решения суда
Почему черновик критикуют
Самое неожиданное в этой истории то, что громче всех недовольны не противники регулирования, а сторонники безопасности ИИ, то есть люди, которые обычно на стороне Anthropic.
Порог слишком высокий. Комментаторы посчитали очевидное: ущерб в 999 миллионов долларов и 49 погибших формально остаются ниже планки. А всё, что не связано с биооружием, кибератаками или потерей контроля, механизм не видит вовсе.
Оценщики без лицензии. Независимые проверяющие должны лишь зарегистрироваться, а не получить лицензию, как предлагают другие законопроекты. Чарли Буллок из исследовательской организации LawAI предупредил о гонке на понижение: оценщики начнут соревноваться в том, чья проверка менее обременительна для заказчика.
Штаты теряют свои правила. По сообщениям журналистов, федеральный закон отменил бы законы штатов о раскрытии рисков, независимых проверках и отчётах об инцидентах. Под удар попали бы калифорнийский SB 53, нью-йоркский RAISE Act и закон Иллинойса. Законы о защите детей и гражданских правах при этом остаются.
Что ответила Anthropic
Представитель компании назвал предложения разумной политикой, которую Конгрессу стоит принять. Глава отдела по работе с федеральными властями Энтони Чимино признал, что формулировка про отмену законов штатов "недостаточно точная", и пообещал её переписать. По его словам, за штатами останется роль в стандартах для оценщиков и в праве лаборатории самой остановить модель.
Позицию компании тоже можно понять. Сейчас в США правила для ИИ складываются из лоскутного одеяла законов разных штатов, и крупным разработчикам проще жить по одному федеральному набору. Вопрос в том, насколько строгим он будет.
Почему это важно для нас
Правила для ИИ пишут прямо сейчас, и во многом их пишут сами разработчики. Это значит, что условия работы с нейросетями будут меняться: где-то модели станут осторожнее, где-то появятся новые ограничения, какие-то функции уйдут из одних стран и появятся в других.
Мы в проекте "Вдвоём" каждый день работаем с ИИ-агентами: на них собраны наши боты, монтаж роликов, сайт. Из этого опыта главный вывод простой: не стоит строить всё на одном сервисе так, чтобы его изменение обрушило работу. Инструкции, правила и знания о своём деле лучше хранить у себя в простых файлах, а модель воспринимать как сменного исполнителя.
Что с этим делать
- Храните инструкции для ИИ у себя. Описание задач, стиль, примеры хороших ответов держите в обычных текстовых файлах. Тогда переезд на другую модель займёт часы, а не недели.
- Проверьте, где вы зависите от одного сервиса. Если завтра любимый бот станет недоступен или поменяет правила, что остановится? Это стоит знать заранее.
- Держите запасной вариант. У большинства задач есть хотя бы две подходящие модели. Попробуйте вторую на своих реальных задачах, пока всё спокойно.
- Следите за правилами использования. Крупные компании регулярно их обновляют. Раз в пару месяцев полезно просмотреть, что изменилось.
- Не путайте заявления и законы. Черновик пока не закон. Пока он не принят, на ваши инструменты он не влияет, но показывает, куда движется отрасль.
Хотите, чтобы работа с ИИ не зависела от одного сервиса?
Начните с бота "Вдвоём": подскажем, с чего начать именно в вашем деле. А как мы сами работаем с ИИ-агентами, рассказываем на mivdvoem.ru.
Написать в бота →Источники: Politico (октябрь 2026); TechSpot; Tom's Hardware; The Next Web; Transformer; Insurance Journal.