Група дослідників з Університету Цюриха спричинила гучний скандал, запустивши армію чат-ботів штучного інтелекту на Reddit без відома користувачів. Метою було з’ясувати, наскільки ефективно ІІ може змінювати думки людей у публічних дискусіях.
Для експерименту вчені обрали сабреддит r/changemyview, де майже 4 мільйони користувачів дискутують на суперечливі теми. Боти залишили понад 1700 коментарів, маскуючись під реальних людей: від чоловіка, який применшує наслідки власного зґвалтування, до темношкірого критика Black Lives Matter. Один із ботів аналізував профілі співрозмовників, щоб писати максимально переконливі відповіді.
Про сам експеримент модератори дізналися лише після завершення — дослідники самі повідомили про це, додавши посилання на чернетку з результатами. Згідно з ними, боти були у 3–6 разів ефективнішими за реальних користувачів у зміні думки співрозмовника (це оцінювалося за допомогою спеціальної позначки “Delta”, яку дають за переконливий аргумент).
Читайте також: Штучний інтелект створює альтернативну фізику
Модератори сабреддиту публічно засудили експеримент:
«Ми вважаємо це неправильним. І те, що “таке ще не робили”, — не виправдання для подібних дій», — написали вони у зверненні до спільноти.
Слідом за цим обурення висловили і користувачі, і керівництво Reddit. Головний юрисконсульт компанії Бен Лі (нікнейм traceroo) заявив про підготовку судового позову проти Університету Цюриха:
«Це глибоко аморально й незаконно. Це порушення академічної етики, прав людини та правил Reddit», — написав він.
Університет Цюриха у відповідь заявив, що не публікуватиме підсумки дослідження, а етичний комітет запровадить жорсткіші правила, зокрема вимогу погоджувати експерименти з онлайн-спільнотами до їхнього початку.
Цей випадок яскраво демонструє, наскільки легко чат-боти можуть інтегруватися в онлайн-дискусії. У березні стало відомо, що GPT-4.5 вже проходить тест Тюрінга: у 73% випадків люди вважали, що спілкуються з людиною, а не з ІІ.
З огляду на це навіть теорія про “мертвий інтернет”, де більшість контенту генерують боти, більше не виглядає цілком абсурдною.
