ИИ-новости · Вдвоём

Исследователь ушёл из Anthropic с предупреждением, глава компании согласился, а Трамп назвал всё обманом

Тревогу подняли не критики нейросетей, а люди, которые их создают. А ответ пришёл с той стороны, откуда его ждали меньше всего.

Олег Романов · Вдвоём

За одну неделю сентября история про ИИ прошла путь от поста одного инженера до заявления президента США. Неожиданный поворот в том, что тревогу подняли не критики нейросетей, а люди, которые их создают. А ответ пришёл с той стороны, откуда его ждали меньше всего. Разбираем по датам, что произошло на самом деле, без пересказов через третьи руки.

Ролик: хроника недели за минуту

Что реально произошло

8 сентября. Исследователь уходит из Anthropic. Jacob Coxon три года занимался предобучением моделей сначала в OpenAI, потом в Anthropic. В день ухода он опубликовал в X серию постов. Главная фраза в переводе: «Ни одна из компаний не действует ответственно. Они наперегонки несутся к самоулучшающемуся сверхинтеллекту и ставят на кон наши жизни». В сообщении коллегам в Slack он написал, что сверхинтеллект создаёт риск вымирания человечества. По данным Axios, Coxon ушёл за два месяца до того, как ему полагалась выплата акций компании, то есть отказался от денег, чтобы сказать это публично.

Пост разошёлся мгновенно. За первые сутки около 76 миллионов просмотров, к середине сентября счётчик на посте перевалил за 170 миллионов. Это больше, чем население России.

12 сентября. Глава Anthropic соглашается притормозить. Дарио Амодеи опубликовал эссе «We Must Pace the Frontier». Суть: ведущие лаборатории должны сознательно замедлить рост возможностей своих моделей, пустить к себе независимых проверяющих и докладывать об инцидентах. Через несколько часов Сэм Альтман пообещал, что OpenAI тоже примет независимых оценщиков, а Илон Маск ответил коротко: «Dario is right».

14 сентября. Трамп против. Президент США назвал страхи насчёт катастрофы от ИИ словом HOAX, то есть обман, и добавил про «больной заговор». По его словам, от волны критики ИИ и дата-центров радуется только Китай. Тормозить развитие он не собирается, а Амодеи высмеял отдельно.

Хронология недели: 08.09, 12.09, 14.09

Почему это важно не только для Кремниевой долины

Обычно споры про опасность ИИ выглядят как спор энтузиастов и скептиков. Здесь картина перевёрнута: те, кто строит самые мощные модели, публично просят тормоз, а политик, от которого зависят правила, жмёт на газ. Для обычного пользователя это значит простую вещь: темп, с которым меняются нейросети, в ближайшее время вряд ли замедлится, а решения принимаются не в лабораториях, а в политике.

Мы в проекте «Вдвоём» каждый день работаем с Claude, моделью той самой Anthropic: на нём собраны наш бот с приёмом оплаты, курс и монтаж видео для ИИ-блогера Насти. И нам важно понимать, кто и как решает, какими будут эти инструменты через полгода. Эта неделя показала, что внутри индустрии нет единого мнения, и это нормально знать заранее.

Живой пример: как мы сами сделали ролик про эту историю

Ролик в начале статьи мы собрали сами. Отправной точкой стал русскоязычный шортс, который за неделю набрал 3,8 миллиона просмотров, но в нём перепутаны детали: например, гендиректору Anthropic приписана грубая фраза, которой он не говорил. Мы проверили каждую дату по первоисточникам и оставили только подтверждённое. Факты вместо пересказа пересказа, это и есть наш принцип.

Что с этим делать

Паниковать не нужно, но и отмахиваться тоже. Три практичных шага:

1. Следите за первоисточниками. Громкие ролики пересказывают новости с искажениями, как показал этот случай.
2. Не складывайте все процессы в одну нейросеть. Если правила или цены у одного поставщика резко изменятся, у вас должен быть запасной вариант.
3. Учитесь работать с ИИ сейчас. Технология никуда не денется, а разница между теми, кто умеет с ней работать, и теми, кто нет, будет только расти.

А вы на чьей стороне: тормозить или ускоряться? Пишите в комментариях.