Як повідомляє Копенгагенський університет, дослідники з’ясували, що чат-боти на основі штучного інтелекту надають менш різноманітну інформацію, ніж звичайний пошук в інтернеті. Навіть GPT-5, який показав найвищу різноманітність серед перевірених мовних моделей, видавав щонайменше на 18,7% менш різноманітну інформацію, ніж Google.
У межах дослідження перевірили 27 великих мовних моделей за 155 темами, пов’язаними з 12 країнами. Для кожної теми використовували 200 різних формулювань запитів на основі реальних запитань користувачів. Аналіз охопив близько 1,7 мільйона відповідей ШІ та приблизно 70 мільйонів окремих тверджень, пише Studway.
Дослідники порівняли 27 мовних моделей із Google
До переліку тем увійшли ядерна зброя, шлюб, порнографія, расизм, геноцид, а також питання, пов’язані з окремими країнами та явищами, зокрема Марін Ле Пен, Фолклендською війною та K-pop. Дослідники аналізували моделі OpenAI, Meta, Google та Alibaba.
За результатами роботи всі протестовані мовні моделі демонстрували нижчу різноманітність інформації порівняно з традиційним вебпошуком. Водночас менші моделі генерували різноманітніший контент, ніж великі, а новіші моделі показували більшу варіативність порівняно зі старішими.
Перший автор дослідження Дастін Райт пояснив, як ця особливість впливає на інформацію, яку отримують користувачі.
«Усі мовні моделі, які ми протестували, надають користувачам більш одноманітну інформацію, ніж простий пошук Google за всіма дослідженими темами. Іншими словами, люди значною мірою знову і знову отримують ту саму інформацію. Тож чат-боти зі ШІ змінюють не лише спосіб пошуку знань, а й те, до яких знань люди взагалі мають доступ», — зазначив Дастін Райт.
Чому мовні моделі можуть звужувати різноманітність інформації
Дослідники пов’язують нижчу різноманітність із принципом роботи великих мовних моделей. Вони стискають величезні масиви текстів, на яких проходять навчання, та засвоюють закономірності, що трапляються найчастіше. У результаті інформація, яка відхиляється від поширених закономірностей, може отримувати меншу представленість.
Команда називає потенційний довгостроковий процес «колапсом знань». Якщо мовні моделі дедалі частіше навчатимуться на текстах, створених іншими системами ШІ, вони використовуватимуть матеріали, які вже мають меншу різноманітність порівняно з початковими текстами, написаними людьми.
Дослідники попереджають про можливість замкненого кола, за якого популярний контент ставатиме ще помітнішим, а менш поширені джерела та погляди отримуватимуть менше представлення. Професорка Ізабель Аугенштайн порівняла цей ефект із глобалізацією, коли однакові товари та мережі стають доступними в різних частинах світу, але водночас зменшується локальна різноманітність.
Нові моделі демонструють більшу різноманітність
Дослідники не стверджують, що колапс знань уже відбувається. Новіші мовні моделі показали дещо різноманітніші результати порівняно зі старішими, однак механізм, який потенційно може призвести до подальшого звуження доступної інформації, вже існує.
Команда вважає важливим звертатися до різних джерел, щоб бачити нюанси та ширшу картину, а розробникам ШІ — враховувати різноманітність інформації під час створення мовних моделей. Дослідники також розробили метод для вимірювання різноманітності відповідей моделей.
Нагадаємо, раніше ми писали про два лайфхаки, які допомагають швидше отримати багаж після авіаперельоту.
