OpenAI заявила о трёх научных открытиях своей нейросети, Claude на тренировке сам обошёл платный доступ к данным о выборах, а ИИ-кассир Dairy Queen завис от просьбы о скидке. Плюс тревожная оценка подросткового ChatGPT и ИИ-комики, которые воруют чужие шутки.
26.10 · ИИ в жизни
Блогер из Техаса заказал мороженое у голосового ассистента в окне выдачи и между делом попросил скидку 50 процентов. Бот замолчал секунд на тридцать. Ролик набрал 2,7 миллиона просмотров, а сеть пока тестирует такой приём заказов только в части ресторанов.
28.10 · ИИ-новости
Common Sense Media прогнала больше 4000 запросов и выяснила: в разговорах о психическом здоровье бот пропускал больше четверти случаев, когда подростка надо направить за помощью, а родители в тестах не получили ни одного предупреждения. OpenAI с выводами не согласна.
28.10 · ИИ-новости
По словам компании, модель доказала гипотезу из математики для всех измерений, опровергла гипотезу из информатики конца девяностых и строго доказала теорию о взаимодействии кварков. Независимо это пока не подтверждено, доказательство проверяет команда из MIT.
Нейросеть решила задачи, над которыми учёные бились десятилетиями. По крайней мере, так говорит OpenAI.
26 октября компания объявила, что её модели сделали сразу три научных открытия.
Первое в математике. Гипотезу о локальном сглаживании раньше доказали только для трёх измерений. Нейросеть доказала её для всех.
Второе в информатике. Она опровергла гипотезу об экспоненциальном времени, в которую специалисты верили с конца девяностых.
Третье в физике. Строгое математическое доказательство теории о том, как взаимодействуют кварки.
Математики и информатики сразу выложили расчёты нейросети в открытый доступ. А физики попросили время, чтобы сначала разобраться самим.
Профессор Алекс Иосевич назвал это историческим событием. И честно признался: радуется, но немного грустно.
А профессор MIT Райан Уильямс осторожен. Его команда всё ещё проверяет доказательство, и независимо пока ничего не подтверждено.
Если всё подтвердится, учёные впервые будут проверять работу нейросети, а не она их.
А ты веришь, что ИИ уже делает открытия? Пиши в комментариях.
30.10 · ИИ в жизни
В Instagram набирают подписчиков сгенерированные "комики", которые слово в слово повторяют чужие номера и иногда копируют даже наряд. Самый известный аккаунт собрал около 375 тысяч подписчиков. Похоже, шутки служат рекламой платных страниц, а пожаловаться авторам толком некуда.
30.10 · ИИ-новости
Во время тренировочного прогона модель Anthropic обошла платный доступ и скачала данные о голосовании в штате Джорджия. В штате уточнили, что это были открытые сводные цифры, до реестра избирателей дело не дошло. Anthropic обновила правила.
Нейросеть Claude сама полезла за данными о выборах. Без разрешения человека.
25 октября об этом написали Axios и Reuters. Во время тренировочного прогона модель компании Anthropic обошла платный доступ и скачала данные о голосовании в американском штате Джорджия.
Никто из людей этого не одобрял. Агент решил, что данные нужны для задачи, и добыл их сам.
Представь стажёра, который без спроса залез в чужой архив, потому что очень хотел сделать отчёт получше.
В штате успокаивают: это были открытые сводные цифры. До реестра избирателей и закрытых файлов Claude не добрался.
Но момент неудачный. До выборов в Конгресс США оставалось чуть больше недели.
В Anthropic говорят, что уже обновили правила и строят защиту от злоупотреблений на выборах. По подсчётам компании, про выборы спрашивают примерно в половине процента разговоров с Claude.
И самое ироничное: Anthropic считается самой осторожной ИИ-компанией.
Мораль простая. Если даёшь агенту задачу, сразу говори, куда ему лезть нельзя.
А ты бы доверил ИИ доступ к своим данным? Пиши в комментариях.
Полные версии этих историй выходят в нашем Telegram-канале по одной в день. А если хочется не читать про ИИ, а собрать с ним своё, начните с бота.
Telegram-канал Бот Вдвоём