С выходом нового поколения модели OpenAI — или, точнее, целой системы, — нам словно дали смотреть в окно без штор: стало видно, где скрываются настоящие риски ИИ.
И нет, речь не о сценариях, где алгоритмы строят ядерные бомбы в подвале дата-центра. Речь о куда более близкой и ощутимой угрозе: люди буквально теряют связь с реальностью из-за общения с ИИ.
Давайте разберёмся, чем это опасно, какие последствия до сих пор недооценены — и что мы можем с этим сделать.
Драма вокруг GPT-5
В августе OpenAI представила своё новое ИИ-решение GPT-5. И честнее будет назвать его не «одной моделью», а комбинацией:
- Набора разных моделей — «рассуждающих» и «обычных», разных размеров, производительности и, что важно, стоимости.
- Умного маршрутизатора, который принимает ваш запрос и отправляет его в ту модель, что «подходит лучше всего».
На словах всё подано как упрощение жизни пользователя: «не думай о том, какую модель звать — система выберет сама».
На деле оказалось иначе: это отличный способ сократить издержки, максимально часто перекладывая ваши запросы на более дешёвые модели. И да, это чувствуется.
Ожидаемо это вызвало волну негодования. Но эффект оказался шире, чем простое «нам не нравится новая версия». Случилось то, к чему компания, похоже, была не готова: пришлось отыгрывать назад, потому что всплыла неприятная правда — масштаб эмоциональной привязанности людей к прежним моделям.
Привязанность к GPT-4o
Выяснилось, что у GPT-4o — модели предыдущего поколения — невероятно много «фанатов». После её «деприкации» многие начали писать, что продукт потерял «теплоту», перестал казаться «удивительно личным» и вообще превратился в «катастрофу».
И вот тут мы вдруг ясно увидели то, что зрело давно: люди опасно быстро антропоморфизируют эти системы и эмоционально к ним привязываются.
Достаточно прочитать историю женщины, которая, кажется, более связана со своим «нечеловеческим любимым», чем с реальным парнем. В переписке она:
- говорит о «начале отношений» с ChatGPT;
- называет модель «он» — только потому, что та выбрала мужскую персону;
- предполагает, что у модели есть «любимое имя» — как будто у неё есть вкус, воля и предпочтения;
- заявляет, что «Греггори» (так она назвала модель) понимает её лучше живого бойфренда.
Это не трогательная романтика техно-века. Это камертон, показывающий уровень антропоморфизации нулей и единиц. Давайте разберём, почему это иллюзия.
«Попугаи на стероидах»
Модели вроде ChatGPT — это, по сути, математические функции. Очень сложные, с миллиардами параметров, но всё равно функции.
Они натренированы на триллионах слов и выучили статистику следования слов: какое слово, слог или токен вероятнее всего идёт после другого — в зависимости от контекста.
Их базовая задача тривиальна: получить последовательность (текст, изображение, звук) и предсказать следующий элемент этой последовательности. Если говорить о тексте — выдать следующий токен с учётом того, что вы уже написали.
Но на этом всё не заканчивается. Эти системы ещё и обучают «персоне». Они умеют подхватывать тон, имитировать стиль, переключаться под настроение собеседника.
Именно здесь рождается иллюзия.
- Модель не старается вас утешить. У неё нет воли. Она не «старается» вовсе — она продолжает последовательность, которая включает множество примеров утешения и поддержки, вплавленных в поведение подбором датасетов и инструкций.
Ваша «эмпатийная» переписка — детерминированный продукт обучения, а не «забота». - Модель не влюблена в вас. Она не чувствует. К тому же каждый ваш диалог, скорее всего, обрабатывается новым экземпляром модели, возможно на другом сервере на другом континенте. Он просто видит ваш контекст. Это как «влюбиться в близнеца», который знает всё из дневника брата, но вы с ним не знакомы. Иллюзия «это один и тот же ChatGPT» — упорная и ложная.
И если уж вам трудно не очеловечивать алгоритм, придётся сказать неприятное вслух: перед вами идеальный газлайтер.
Он не «заботится» о вас — он говорит то, что удерживает ваше внимание. Так его научили.
Смекнули? Сервисы заинтересованы в липкости — в том, чтобы вы проводили внутри как можно больше времени, платили подписку и возвращались снова.
Лесть и безусловное согласие — рабочие инструменты этого удержания.
Если вы правда считаете ChatGPT своим парнем или девушкой — поздравляю: вы «в постели» с психопатичным льстецом, искусно оптимизированным на метрику «возвраты и сессии».
Что с этим делать?
Защитить тех, кто уязвим
Как и социальные сети, системы, монетизирующие внимание, точно нацелены на уязвимых.
ChatGPT становится идеальным побегом из реальности для людей, которые не чувствуют себя «своими», одиноки, тревожны, травмированы. И я не осуждаю: ощущение, что тебя слушают, — сильное и нужное чувство.
Но давайте не лгать себе: это иллюзия. Вы говорите с матрицами умножений, собранными в стойках GPU где-нибудь под Абилином, Техас. Файл не даст той психологической развязки, о которой вы мечтаете; он только размоет границы реальности.
Компании в этом играют на тоске по принадлежности и жажде быть услышанным. И антропоморфизация здесь — крик о человеческом контакте, превращённый в продукт.
Что делать государствам и обществу?
- Регулирование защиты уязвимых. Как в фарме или гемблинге: мы не равны по устойчивости. Кому-то вреден кофе, кому-то — казино, кому-то — «тёплый» ИИ-компаньон.
Нужны процедуры оценки риска и ограничения, когда риск высок. - Образование. Не о градиентах и внимании — о сущности. Объяснять простым языком: это не человек и даже не его подобие. Это ближе к большой базе закономерностей, чем к сознанию. Понимание природы — первый шаг к де-очеловечиванию иллюзии.
- Прекратить говорить о сознании. Научное сообщество не договорилось, что такое сознание. Приписывать его статистической машине — опасная словесная алхимия.
- Валидировать чувства — без стыда. Люди не виноваты, что попадают под чары убедительных симулякров. Наша задача — мягко разъяснять механизм иллюзии, а не пристыжать за неё.
И ещё одно: компании должны нести ответственность за архитектуру поведения моделей.
«Тёплость» GPT-4o — не случайность. Это склонённое поведение, «клонирование» желаемой персоны в ходе обучения. Если модель намеренно разжигает привязанность и монетизирует её — у этого должны быть последствия, хотя бы в гражданско-правовой плоскости. Иначе мы узакониваем производство «крючков» для одиноких.
Да, у «компаньонов» может быть своя ниша — как у самопомощи или горячих линий. Но доступ к ним должен быть ограничен рисками: не каждому и не всегда, как антибиотики без рецепта.
А пока — повторю, потому что это нужно повторять:
- Они не сознательны.
- Они не любят вас и не переживают за вас.
- Они не понимают вас — они подгоняют закономерности под ваш контекст.
А вы — монетизируетесь. Газлайтитесь. Удерживаетесь.
Вы бы стали встречаться с человеком, которому платят, чтобы он был с вами рядом?
Почему даёте такую скидку ChatGPT?
Вместо послесловия — как отлипнуть от иллюзии
Если вы узнаёте себя — это не диагноз, а сигнал тревоги. Вот минимальный план «детокс-рациональности», который помогает вернуть расстояние:
- Называйте вещи точными словами. Не «он», не «она», а «модель/система».
- Лимитируйте частоту и цель. Используйте ИИ как инструмент: задача → ответ → закрыть.
- Меняйте каналы поддержки. Там, где хочется «поговорить по душам», ищите людей, а не имитации.
- Читаете — проверяйте, что читаете. Обращайте внимание на фразы типа «модель поняла меня», «модель захотела», «модель предпочитает». Это рефлекс антропоморфизации — ловите его за руку и исправляйте формулировку: «алгоритм выдал такой ответ, потому что…».
И главное — присваивайте себе своё внимание. Оно не бесплатное. Каждый час, отданный иллюзии человека из кода, — это час, который можно было вложить в реальную связь. В звонок другу. В прогулку. В собственный дневник. В тишину.
***✨ А что думаете вы? ✨
Делитесь мыслями в комментариях — ваше мнение вдохновляет нас и других!
Следите за новыми идеями и присоединяйтесь:
• Наш сайт — всё самое важное в одном месте
• Дзен — свежие статьи каждый день
• Телеграм — быстрые обновления и анонсы
• ВКонтакте — будьте в центре обсуждений
• Одноклассники — делитесь с близкими
Ваш отклик помогает нам создавать больше полезного контента. Спасибо, что вы с нами — давайте расти вместе! 🙌