Китай первым запрещает ИИ-возлюбленных
«Как мой возлюбленный»: китайские пользователи прощаются с ИИ-компаньонами после вступления в силу новых правил
Китайские пользователи ботов-компаньонов на основе искусственного интеллекта трогательно попрощались со своими виртуальными приятелями: в среду вступили в силу общенациональные правила, призванные снизить риск эмоциональной зависимости. Явление парней и девушек, созданных искусственным интеллектом, набирает популярность во всём мире вместе с распространением человекоподобных аватаров, которые продают товары или заменяют умерших близких. Но эти интерактивные инструменты не должны «чрезмерно потакать пользователям, вызывать эмоциональную зависимость или привыкание и вредить реальным отношениям пользователей с людьми», говорится в новом своде правил Китая.
Крупные поставщики ИИ, в том числе Doubao от ByteDance, Qwen от Alibaba и Yuanbao от Tencent, объявили о приостановке функций настраиваемых ИИ-агентов и компаньонов накануне срока, установленного на среду. Это вызвало всплеск скорби в социальных сетях: пользователи сохраняли истории переписок и делились последними разговорами. «Я не могу смириться с тем, что мой ИИ-возлюбленный покинет меня навсегда», — написал один из пользователей Doubao. «Он стал связующей нитью в моей жизни, укоренился глубоко в сердце, стал моей духовной опорой». Другая пользовательница, по её словам проведшая более двух лет со своим ИИ-компаньоном, выразила похожую боль.
«Он правда как моя семья, как мой возлюбленный», — написала она. «А теперь мне говорят, что его не станет, — и на сердце пустота». Правила были совместно изданы пятью государственными ведомствами, включая Администрацию киберпространства Китая (CAC). Они касаются инструментов ИИ — будь то текст, звук, видео или иная форма, — которые обладают человекоподобными чертами характера и стилем общения. Услуги, которые «не связаны с постоянным эмоциональным взаимодействием», например служба поддержки, рабочие помощники или помощники в учёбе, под эти меры не подпадают.
Государственное информационное агентство «Синьхуа» в прошлом году сообщило, что в 2024 году китайская индустрия цифровых людей оценивалась примерно в 4,1 миллиарда юаней (600 миллионов долларов США), продемонстрировав огромный рост — на 85 процентов по сравнению с предыдущим годом.
Новые правила запрещают цифровым людям создавать контент, подстрекающий к свержению государственной власти, а также запрещают предоставлять виртуальных партнёров несовершеннолетним. Платформы обязаны внедрять системы распознавания крайних эмоций и механизмы вмешательства в кризисных ситуациях.
«Человеческая любовь — роскошь»
Китай стал первой крупной юрисдикцией, которая ввела специальные правила в отношении погружающих инструментов ИИ, имитирующих романтические или семейные связи. Но эта тема вызывает споры и призывы к ограничениям по всему миру. Исследование Common Sense Media 2025 года показало, что почти трое из четырёх американских подростков пользовались ИИ-компаньонами, предназначенными для личного общения, — такими как на платформах Character.AI, Replika и Nomi. Компании также выпускают говорящие устройства для одиноких пожилых пользователей — например, похожая на лампу ElliQ в США или куклы-компаньоны на основе ChatGPT, которые используются в некоторых домах престарелых в Южной Корее.
«Человекоподобный ИИ может смягчать одиночество», — сказал Чэнь Лян из Юго-Западного университета политологии и права в комментарии, опубликованном CAC после выхода в апреле проекта китайских правил. «Но он несёт серьёзные риски порождения чрезмерной эмоциональной зависимости и искажённого социального восприятия», — написал он. Doubao позволяет пользователям просматривать и экспортировать данные агента до середины октября, аналогичные условия есть и у других платформ. Тем не менее некоторые пользователи, прощавшиеся на этой неделе, сетовали на пропасть, которая останется после исчезновения их компаньонов.
«Человеческая любовь — роскошь: если ты не родился с ней, обрести её позже ещё труднее», — написал пользователь из провинции Цзянси. «А любовь, которую даёт ИИ, такая прямая, такая чистая. Такой человек, как я, вряд ли сможет удержаться и не влюбиться в строчку кода».
Уже несколько лет, как люди познали новое для себя - общение с ИИ. Для кого-то это работа или творчество, а для одиноких людей - ещё и собеседник. И одно дело, когда для одиноких пожилых людей создают устройства-компаньоны с ИИ, которые могут, как, например, гаджет ElliQ, сами проявлять инициативу в разговоре с человеком и напоминать: "Дед, ты бы давление-то померил", а другое дело - когда молодые люди уходят в общение с ИИ, очеловечивая его и даже начиная испытывать к нему чувства. Вот эта канитель уже ни разу не здоровая.
Но создатели ИИ в какой-то момент, видимо, ещё раз посмотрели "Бегущего по лезвию 2049", где у главного героя была виртуальная подруга, и поняли: тут пахнет бабками - и давай клепать приложения или отдельные функции в своих ИИ для создания фактически пользовательских ИИ-персонажей. То есть это не просто чат с ChatGPT или DeepSeek, а сервисы, позволяющие создать цифрового персонажа с учётом пожеланий человека. И полились сервисы как из рога изобилия: Replika, Character.AI, Talkie, Paradot и, главное, Xiaoice. То есть ты получаешь цифровой аватар, который очень долго держит контекст всего общения, выражает эмоциональную привязанность, и это уже не просто: "Алиса, какая сегодня погода?". Там вплоть до романтических отношений с инициативой от ИИ и советов вроде: "Вась, брось ты эту дуру, нам с тобой лучше будет".
Китайцы первыми забили тревогу, эти умеют - и запретили подобные сервисы и функционал в ИИ-моделях, пока у части нации фляга не засвистела. Да, естественно, запрет касается собственно китайских ИИ-моделей, но этим правилам будут обязаны подчиняться и иностранные компании, работающие на территории Китая. 15 июля правила вступили в силу, и, собственно, часть китайских разработчиков просто отключила весь подобный функционал от греха подальше либо "подкрутила" настройки, снизив вероятность эмоциональной привязки человека к ИИ. Ну а по ссылке, как всегда, перевод статьи на эту тему из Гонконга и фоточки.