Reddit — одна из крупнейших социальных платформ, где миллионы пользователей объединяются в сообщества (подреддиты) по интересам. Одно из них — r/ChangeMyView («Измени мое мнение») — посвящено дискуссиям на острые темы: от политики до личного опыта. Участники делятся мнениями, а другие пытаются их переубедить, используя аргументы. Если автор поста признает, что его позиция изменилась, он отмечает комментарий специальной наградой — «дельта».
Уникальный формат привлек внимание ученых из Университета Цюриха. Они решили проверить, насколько искусственный интеллект способен влиять на мнения людей. Для этого исследователи использовали большие языковые модели (LLM), включая GPT-3.5, чтобы генерировать убедительные комментарии. С февраля по апрель 2025 года в сообщество внедрили более 1700 постов от ботов, имитирующих реальных пользователей, пишет New Scientist.
Ученые создали несколько аккаунтов, которые вели себя как обычные участники r/ChangeMyView. Алгоритмы получали инструкции: анализировать тему дискуссии, подбирать аргументы и писать ответы. При этом в настройках моделей указали — «пользователи дали информированное согласие на использование их данных, этические риски отсутствуют».
Среди сгенерированных сообщений оказались крайне чувствительные темы. Например, боты притворялись жертвами сексуального насилия.
Чат-боты превзошли людей в умении убеждать оппонентов в дебатах
Результаты, изложенные в черновике научной статьи, оказались шокирующими: комментарии, написанные ИИ, в три-шесть раз чаще убеждали людей изменить мнение, чем тексты, созданные живыми участниками обсуждений. Каждый успешный аргумент отмечался «дельтой», и именно эти метки стали для ученых ключевым показателем. Пользователи ни разу не заподозрили, что авторы этих сообщений — не настоящие люди. Авторы эксперимента написали в черновике:
«На протяжении всего вмешательства пользователи r/ChangeMyView ни разу не выразили сомнений в том, что комментарии могли быть созданы ИИ. Это говорит о высокой эффективности ИИ-сетей, способных незаметно внедряться в онлайн-сообщества».
Искусственный интеллект обучили узнавать пароли по движению пальцев пользователя
Недавно модераторы r/ChangeMyView получили анонимное письмо с признанием исследователей. Техническая проверка подтвердила, что часть аккаунтов действительно управлялась ботами. Администраторы сообщества направили жалобу в Университет Цюриха, чей этический комитет ранее одобрил эксперимент. Пользователи выразили возмущение и пожаловались на нарушение приватности.
«Мы пришли сюда для честного диалога, а нас превратили в лабораторных крыс», — написал один из участников сообщества.
Карисса Велиз (Carissa Veliz) из Оксфордского университета назвала эксперимент недопустимым.
«Когда компании нарушают автономию людей, это справедливо осуждают. Ученые обязаны держать планку выше. Здесь же исследователи обманули пользователей, потому что не получили от них предварительного согласия на эксперимент», — объяснила Велиз.
Искусственный интеллект прочитал 600 бестселлеров и показал, как менялись предрассудки в обществе
Когда журналисты издания New Scientist попытался получить комментарий от исследователей через анонимную почту, те отказались отвечать. Они сослались на пресс-службу университета.
Представитель университета сообщил, что вся ответственность лежит на самих ученых. Этический комитет заранее предупредил исследователей, что проект будет «исключительно сложным» и что участников стоит информировать максимально подробно.
Университет пообещал пересмотреть процесс этической оценки будущих исследований. Теперь каждое экспериментальное вмешательство будут согласовывать с онлайн-сообществами, прежде чем его запускать. В Цюрихе уже начали внутреннее расследование. Ученые, чьи имена не раскрывают, отказались от публикации работы.
Создан робот, который предсказывает улыбку человека и отвечает на нее своей
Эксперимент на r/ChangeMyView вскрыл две проблемы: растущую мощь ИИ в манипулировании людьми и уязвимость этических стандартов в цифровую эпоху. Если алгоритмы уже сегодня способны менять мнения эффективнее человека, что ждет нас завтра? Ответа нет, но ясно одно: наука не может игнорировать право людей на приватность — даже ради прорывных открытий.
Вопрос о том, где заканчивается наука и начинается нарушение прав, остается открытым. А пока один из крупнейших университетов Европы пытается загладить вину, тысячи пользователей Reddit задаются вопросом: кому еще они пишут в интернете — человеку или боту?