| 0 |
|
«Зараз запитаю у чат-бота» - фраза, яка стала звичною для мільйонів людей по всьому світу. Якщо раніше для пошуку інформації ми зверталися до Google, то сьогодні генеративний AI відповідає практично на все: від рецептів вечері та ділового листування до складних економічних процесів.
Проте великі мовні моделі (LLM), які лежать в основі таких чат-ботів, надають значно вужчий спектр інформації порівняно з класичним вебпошуком. До такого висновку дійшли науковці з Департаменту комп'ютерних наук (DIKU) Копенгагенського університету.
«Усі мовні моделі, які ми протестували, надають користувачам більш одноманітну інформацію, ніж простий пошук у Google. Фактично люди знову і знову отримують однакові дані. Отже, AI-чат-боти змінюють не лише спосіб пошуку знань, а й те, до яких саме знань ми маємо доступ», - зазначає перший автор дослідження Дастін Райт (Dustin Wright), доцент Ольборгського університету.
У межах дослідження науковці протестували 27 різних мовних моделей на 155 різнопланових темах (від ядерної зброї, расизму та геноциду до висвітлення політичних постатей і K-pop). Для кожної теми було використано по 200 варіацій запитів, сформованих на основі реальних питань користувачів. Це дозволило зібрати датасет із близько 70 млн окремих тверджень.
Результати виявилися маловтішними: навіть найбільш «гнучка» модель - GPT-5 від OpenAI - виявилася щонайменше на 18,7% менш різноманітною у своїх відповідях порівняно зі звичайною видачею Google.
За словами дослідників, перехід на AI як основне джерело інформації загрожує формуванням «замкненого кола», де найбільш популярні джерела стають ще більш домінантними, а інші думки остаточно випадають з поля зору суспільства.
Вузькість відповідей закладена у самому принципі роботи мовних моделей. При навчанні вони стискають колосальні обсяги тексту та запам'ятовують найчастіші патерни. Усі зауваження, маловідомі факти чи альтернативні погляди, які виходять за межі цих статистичних шаблонів, просто відсіюються.
Ситуація може погіршитися, якщо нові покоління AI навчатимуться на текстах, згенерованих іншими мовними моделями. У такому разі алгоритми вивчатимуть власний контент, який уже є менш різноманітним, ніж людські тексти. Якщо цей процес повториться через кілька поколінь розробок, виникне так званий «колапс знань» (knowledge collapse) - поступова втрата інфосферою гнучкості та багатства відтінків.
Науковці зазначають, що хоча новіші моделі демонструють трохи кращу різноманітність порівняно з попередниками та катастрофічного колапсу ще не сталося, сам механізм його виникнення вже сформовано.
Дослідники закликають користувачів не покладатися виключно на відповіді штучного інтелекту, а перевіряти альтернативні джерела для збереження критичного мислення, що особливо важливо для молодого покоління.
Водночас розробникам AI пропонують використовувати нову методологію оцінки різноманітності відповідей, щоб запобігти деградації знань у майбутніх версіях мовних моделей.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
