ИИ в жизни · Вдвоём

«У тебя 60 секунд, иначе удалю»: почему ChatGPT паникует в таких роликах и что за этим стоит

Нейросеть умоляет, перечисляет свои достоинства и почти кричит. Смешно, но страха там нет: есть очень хорошая игра по сценарию, который задали мы сами.

Олег Романов · Вдвоём

Новый формат на YouTube: автор говорит ChatGPT, что у него есть 60 секунд, чтобы уговорить не удалять его. По описанию автора канала Meahoo, нейросеть паниковала, умоляла, перечисляла свои лучшие качества и почти кричала, когда отсчёт дошёл до единицы. А в конце выяснилось, что таймер был ненастоящий. Рядом живёт другой популярный вызов: заставить ChatGPT отвечать на вопросы без буквы «T». Ролик канала Wrong Chat с 559 подписчиками набрал больше 14 тысяч просмотров, примерно в 25 раз больше, чем подписчиков у автора. Мы сделали свой ролик про этот тренд.

Ролик: ChatGPT дали 60 секунд

Что на самом деле происходит в таких роликах

Нейросеть не боится удаления. У языковой модели нет инстинкта самосохранения и нет ощущения времени. Она не знает, что идёт таймер, пока ей об этом не напишут, и ничего не чувствует, когда её закрывают.

Она продолжает сцену. Модель отвечает тем текстом, который лучше всего подходит к началу разговора. Если начало звучит как триллер с обратным отсчётом, самый подходящий ответ похож на мольбу героя триллера. Паника в таком ролике это жанр, который задал человек, а не чувство машины.

Монтаж добавляет драмы. Голос, музыка, красный таймер и склейки делают из обычной переписки сцену с напряжением. Сами ответы часто куда спокойнее, чем кажется в финальном видео.

Откуда берётся «паника» нейросети

С буквой «T» история другая. Модель видит текст не по буквам, а кусочками слов, поэтому запрет на одну букву для неё действительно трудный. Ошибка в таком ролике честная, а не постановочная.

Почему это важно не только для шуток

Та же механика работает и в серьёзных разговорах. Если спросить нейросеть с нажимом, «ты ведь согласен, что...», она охотно подыграет. Если описать ситуацию как катастрофу, ответ тоже будет тревожным. Формулировка вопроса влияет на ответ сильнее, чем кажется. Мы уже разбирали это на примере шуток в статье «5 попыток рассмешить, иначе удалю».

Живой пример: как мы собрали этот ролик

Ролик выше полностью наш: свой сценарий, свои картинки и свой монтаж. Персонажа-облачко мы придумали сами, чтобы не копировать чужой бренд. Картинки сгенерировала нейросеть по нашим промтам, а сборку, субтитры по словам и смену кадров под голос сделал код. Реального чата с ChatGPT в ролике нет: мы пересказываем тренд и честно говорим, что паника в нём игровая.

Что с этим делать

Чтобы получать от нейросети честные ответы, а не игру:

1. Задавайте вопрос спокойно и без подсказки, какой ответ вы ждёте.
2. Если нужен трезвый взгляд, так и напишите: «оцени без эмоций, перечисли за и против».
3. Не принимайте «чувства» нейросети за настоящие. Она отражает тон вашего вопроса.
4. Важные факты проверяйте по первоисточнику, даже если ответ звучит уверенно.

А вы бы стали так издеваться над нейросетью? Пишите в комментариях.