Інтернет, як ми знаємо, це може бути на відстані драматичних змін, оскільки автономні агенти ШІ стають основними користувачами Інтернету, кажуть дослідники. У недавньому документі про посаду команда мультиінституції виклала своє бачення того, як онлайн-інфраструктура повинна буде адаптуватися до нової реальності цієї “агентської павутини”, і обговорити обіцянку та небезпеку цього переходу.
Хоча більшість людей вже знайомі з чатами AI, що працюють на великих мовних моделях (LLMS), технологічні компанії готуються, щоб розробити агенти AI, здатні автономно орієнтуватися в Інтернеті для виконання завдань від імені користувачів. Якщо ця мрія стане реальністю, Інтернет все частіше буде керувати взаємодіями машини до машини, оскільки ці агенти координуються для досягнення цілей своїх власників.
Ця ситуація потребує основного переробки основної архітектури Інтернету і перетворить як повсякденний досвід в Інтернеті, так і динаміку цифрова економіка. І хоча користувачі можуть отримати користь з точки зору зручності та ефективності, зміна також має потенціал для великих ризиків безпеки.
Спектр IEEE Розмовляв з одним із авторів недавнього документу «Світанок Сонг», професором інформатики Каліфорнійського університету, Берклі та відомого експерта з безпеки та безпеки AI. Пісня розповідала про те, як може виглядати майбутня агентна павутина та наслідки такої зміни.
Прихід агентної павутини
Що таке агентна павутина і чим вона буде відрізнятися від сьогоднішньої мережі?
Світанок пісня: Якщо сьогодні подивитися на Інтернет, вона дуже розроблена для людей. Цілий інтерфейс [user interface] – це те, як люди вживають інформацію, приймають рішення та вживають дії в Інтернеті. Але агенти не працюють як люди, і вони не мають таких же обмежень, як люди, тому мережа може бути розроблена дуже по -різному.
У традиційній обстановці, якщо користувач хоче придбати штуку одягу, вони перейдуть на веб -сайт, введіть те, що вони хочуть придбати, і тоді веб -сайт буде показувати різний вибір. Ця конструкція обмежена людськими обмеженнями: людина повинна вміти бачити різні шматки одягу, і вони можуть бачити лише стільки на той час, і тоді їм потрібно прокручувати веб -сторінку.
Але в агентній павутині користувач може мати агента, який знає їх намір та уподобання, і на веб -сайтах можуть бути також агенти. Тоді, по суті, агент користувача може поговорити з агентом веб -сайту, і вони не мають таких же обмежень, як користувачі. Користувач може бачити лише стільки на той час, але агент може споживати набагато більше інформації. Сьогоднішні великі мовні моделі можуть узагальнити тисячі статей за лічені секунди паралельно.
Також з цією взаємодією агента до агента, оскільки агент отримує більше інформації, він може швидко вирішити, яку додаткову інформацію йому потрібно отримати. Тоді він може надіслати більше запитів та домовлятися з іншими агентами. Таким чином, вся взаємодія буде зовсім іншою, а значить, інтерфейси також будуть зовсім іншими.
Які ключові технології будуть лежати в основі цієї майбутньої агентської павутини?
Пісня: Це дійсно переробка заземлення. Агенти повинні вміти розуміти наміри користувача, а потім з цього потреби в змозі робити планування та міркування. А агентам потрібно взаємодіяти з іншими агентами, отримати більше інформації або потенційно навіть робити переговори. Таким чином, в основі агентної павутини є, по -перше, сильні можливості агентів для всіх цих різних типів завдань.
З Вся інфраструктура також буде дуже різною. Ви маєте комунікацію агента до агента, і агенти можуть також використовувати інші агенти для різних послуг, тому вам потрібно мати багатоагентну оркестрацію. Тому нам потрібно розробити нові протоколи. Вже є кілька хороших прикладів відкритих протоколів для агентів: Протокол MCP від антропічного, що дозволяє використовувати інструмент та Протокол A2A від Google для спілкування агента-агента.
І ми передбачимо, що в майбутньому ми могли б отримати вигоду від нових відкритих протоколів для платежів агентів та ідентичності агентів. Це основні елементи в агентній павутині. Ідентичність агента важлива, щоб ви знали, з яким агентом ви розмовляєте та які можливості та привілеї можуть мати цей агент. І виплати, звичайно, дійсно важливі для нової агентської онлайн -економіки, яка матиме власні характеристики.
Чи переходить весь Інтернет до цієї нової моделі? Або будуть окремі павутини для людей та агентів, розроблених за різними принципами?
Пісня: Думаю, ти збираєшся побачити суміш. Безумовно, будуть послуги, які більш підібрані для агентів. Але це не так, як люди зникнуть з Інтернету. Ми хочемо продовжувати дозволяти людям безпосередньо взаємодіяти і з мережею. І часто ми збираємось бачити, як люди та агенти працюють разом, щоб виконати завдання. Тож я думаю, що ця нова агентна павутина та традиційна павутина для людей будуть пов'язані та змішані разом.
Агенти AI приносять ризики ефективності, продуктивності та безпеки
Які плюси і мінуси цього переходу до агентна павутина?
Світанок Сонг вважає, що агент AI приносить безпрецедентні ризики безпеки.Річард Моргенштейн
Пісня: Ми сподіваємось, що буде багато плюсів! Зараз, якщо подивитися на Інтернет, є стільки інформації, стільки служб, але люди дуже обмежені. Ми часто є вузьким місцем. Тож ми сподіваємось, що агентна павутина може значно підвищити ефективність та продуктивність, з якою люди можуть використовувати всі ці великі ресурси. Таким чином, користувачі можуть отримати інформацію набагато швидше, отримувати більш релевантну інформацію, інформацію про більш якість та можуть виконувати завдання набагато ефективніше. Це може допомогти всій економіці бути більш ефективною.
Але нам потрібно отримати це право, інакше є багато ризиків. Безпрецедентно, що у нас є ці автономні агенти, що працюють у відкритому павутині, які можуть вживати заходів, мати високі привілеї, можуть купувати речі від імені користувачів тощо. Нам потрібно по -справжньому пам’ятати про ці нові ризики безпеки та безпеки.
Які основні проблеми безпеки?
Пісня: Це незвідана територія, враховуючи силу та можливості цих агентів та їх самостійність. Це відкриває значно більші атакові поверхні. Вже ми знаємо, що LLM мають певні вразливості безпеки та проблеми безпеки. Агенти також можуть просочити конфіденційну інформацію про користувачів. Так, наприклад, вони можуть знати переваги користувача, що може бути дуже чутливим до конфіденційності. Або, можливо, номери кредитних карток або конфіденційна банківська інформація.
Наша робота та робота інших показали, що на цих агентів можна легко атакувати таким чином, щоб таку конфіденційну інформацію можна вкрасти. Або агенти можуть бути зроблені для вжиття зловмисних дій проти наміру користувача. Вперед в агентній мережі з більш автономними агентами та з багатоагентними системами лише посилить ці проблеми безпеки.
Враховуючи рівень зрілості технології та масштаб проблем безпеки, чи є агентна веб -життєздатна в найближчій перспективі? Чи дійсно люди збираються довіряти цим речам, щоб діяти від свого імені?
Пісня: Це життєздатно в тому сенсі, що це майбутнє, до якого ми прямуємо. Але звичайно, це ще рано. Існує багато відкритих викликів. Існує безліч різних частин технології та загальної інфраструктури, які ще потрібно побудувати. І нам дійсно потрібно розробити нові технології, щоб забезпечити більш безпечні та безпечніші рішення в цій новій агентичній мережі.
Ми вже розробляємо ці технології. Наприклад, наша нещодавня робота над автоматичною командною командами з автоматичним в кінці використовувала багатоагентні команди для виконання червоних команд на інших агентах. Але нам також потрібно розробити нові рамки захищених агентів, щоб ми могли розробити те, що ми називаємо безпечними способами побудови цих агентів. ШЯ сподіваюсь об'єднати спільноту для розробки цих нових рішень безпеки, щоб забезпечити агентну павутину.
З статей вашого сайту
Пов’язані статті по Інтернету
