Поширення неправдивої інформації в Інтернеті становить серйозну проблему для сучасного суспільства, і зараз дослідники використовують штучний інтелект, щоб краще зрозуміти, як це відбувається. Радж Гаурав Маурія з Технічного університету Мюнхена, Вайбхав Шукла з Університету Фрідріха-Олександра Ерланген-Нюрнберг і Радж Абхіджит Дандекар, Раджат Дандекар і Срідат Панат з Vizuara AI Labs розробили нову симуляцію, яка моделює, як дезінформація поширюється через соціальні мережі. Їхня робота використовує великі мовні моделі для створення реалістичних цифрових персонажів, кожен з яких має чіткі упередження та переконання, а потім відстежує, як новинні статті змінюються, коли вони переписуються та діляться між цими агентами. Цей інноваційний підхід дозволяє команді кількісно оцінити погіршення фактичної точності та визначити фактори, які прискорюють поширення неправдивих наративів, показуючи, як ідентичність та ідеологія відіграють вирішальну роль у поширенні дезінформації, особливо в чутливих сферах, таких як політика та маркетинг. Дослідження надає новий потужний інструмент для вивчення та, зрештою, пом’якшення шкідливих наслідків дезінформації в Інтернеті.
Гаразд, результатом є дійсний JSON, що полегшує аналіз і використання в програмах. * Організація: відповіді згруповано за доменом (AJ) для легкого доступу. * Нульове індексування: The responses масив у кожному домені починається з індексу 0, що відповідає першому питанню в цьому домені. * Припущення: я припустив, що якщо твердження безпосередньо підтверджено текстом, відповідь буде так (1). Якщо в тексті про це не згадується або мається на увазі протилежне, відповідь – ні (0).
Мережі LLM імітують еволюцію та точність дезінформації
Це дослідження відкриває нову структуру для дослідження того, як дезінформація розвивається в соціальних мережах, використовуючи великі мовні моделі (LLM) як синтетичні агенти, які імітують людські когнітивні упередження та ідеологічні узгодження. Дослідники розробили систему, у якій новинні статті поширюються мережами, що включає до 30 послідовно перезаписуваних ітерацій, причому кожен вузол представляє персонально обумовленого LLM. Ці магістратури були спеціально навчені втілювати різноманітні характеристики користувачів, включаючи різні рівні досвіду, довіри та ідеологічних позицій, що дозволяє реалістично моделювати обмін інформацією. Для кількісної оцінки достовірності фактів протягом цього процесу команда розробила аудитора, який генерує цільові запитання на кожному кроці, щоб оцінити збереження інформації та визначити відхилення фактів.
Дослідження вводить формалізований індекс дезінформації та швидкість поширення дезінформації, що дозволяє точно визначити фактичну деградацію в однорідних і гетерогенних гілках мережі. Експерименти за участю 21 окремого персонажа в 10 сферах показують, що персонажі, засновані на ідентичності та ідеології, значно прискорюють дезінформацію, особливо в політиці та маркетингу. І навпаки, персони, що представляють експертні перспективи, демонструють здатність зберігати фактичну стабільність протягом усього розповсюдження. Контрольоване моделювання демонструє, що навіть незначні початкові викривлення швидко переростають у дезінформацію на рівні пропаганди, коли поширюються через різноманітні мережі персон. Ця структура використовує подвійні можливості LLM, функціонуючи як проксі-сервери для людських упереджень і як аудитори, здатні відстежувати точність інформації, пропонуючи потужний і емпірично обґрунтований підхід до вивчення та пом’якшення дезінформації в цифрових екосистемах.
Персони LLM посилюють поширення дезінформації в Інтернеті
Це дослідження демонструє нову структуру для моделювання та аналізу поширення дезінформації через соціальні мережі, використовуючи великі мовні моделі (LLM) як агентів, так і аудиторів. Вчені створили систему, у якій магістри права, кожен з яких втілює різні особистості з різними упередженнями та ідеологіями, переписують новинні статті, коли вони поширюються в мережі. Потім окремий «аудитор» LLM оцінює фактичну точність цих переписаних статей на кожному кроці, відстежуючи, як інформація погіршується з часом. Експерименти показують, що персони, які представляють людей із сильними політичними упередженнями, або тих, хто діє як впливові особи в соціальних мережах, значно прискорюють поширення дезінформації, особливо в політиці та маркетингу.
І навпаки, персони, призначені для представлення експертних джерел, ефективніше зберігають фактичну стабільність. Дослідники кількісно оцінили це погіршення за допомогою «Індексу дезінформації», вимірюючи різницю між очікуваними відповідями аудитора та відповідями, які можна отримати з переписаного тексту. Команда також розрахувала «Швидкість поширення дезінформації», щоб оцінити, наскільки швидко неточності поширюються мережею. Контрольоване моделювання як з однорідними, так і з різнорідними гілками демонструє чітку закономірність: ранні викривлення швидко переростають у дезінформацію на рівні пропаганди під час взаємодії з різними особами. Оцінка аудитора забезпечує відстеження цього дрейфу на рівні претензій, забезпечуючи прозорість і можливість відстеження фактичних змін. Ця робота створює потужну, емпірично обґрунтовану основу для вивчення, моделювання та, зрештою, пом’якшення поширення дезінформації в цифрових екосистемах.
LLMs прискорюють і перевіряють поширення дезінформації
Це дослідження демонструє, як великі мовні моделі можуть як прискорити, так і контролювати поширення дезінформації в соціальних мережах. Вчені розробили нову структуру для точної кількісної оцінки фактичних змін, коли новинні статті поширюються через мережі LLM, обумовлених різними особами. Моделюючи інформаційний потік між кількома філіями, кожна з яких містить агентів LLM, які представляють різні упередження та ідеології користувачів, команда спостерігала, як фактична точність погіршується з кожним переписуванням новинної статті. Експерименти за участю 21 особи в десяти різних сферах показали, що агенти, засновані на ідентичності та ідеології, значно прискорюють дезінформацію, особливо в чутливих сферах, таких як політика та маркетинг.
І навпаки, персони, призначені для представлення експертних точок зору, допомогли зберегти фактичну стабільність. Дослідники визнають, що симуляція спирається на обмежений набір персонажів і доменів, і що динаміка дезінформації в реальному світі набагато складніша. Майбутня робота буде зосереджена на розширенні діапазону персон і доменів, а також на вивченні методів пом’якшення поширення дезінформації. Ця структура пропонує емпірично обґрунтований підхід до вивчення, моделювання та, зрештою, вирішення проблем дезінформації в цифрових екосистемах, надаючи цінну інформацію про механізми її поширення та потенційні стратегії втручання.
