Глобальний хакатон, що охоплює Лондон, Бостон і Сан-Франциско, об’єднав сотні розробників для вдосконалення персонального ШІ, який працює безпосередньо на споживчих пристроях, не вимагаючи хмарної інфраструктури.
Співпраця між містами
Cactus Compute об’єднав зусилля з Nothing і Hugging Face для 24-годинного змагання, покликаного розширити межі штучного інтелекту на пристрої. Подія привабила учасників як на місці, так і в Інтернеті, підкреслюючи спільну відданість розробці систем штучного інтелекту, які пропонують конфіденційність даних, швидкість реагування в режимі реального часу та офлайн-функціональність.
ШІ-фокус на пристрої
Головна мета полягала в тому, щоб продемонструвати, що наступний етап персонального штучного інтелекту буде спиратися на периферійні обчислення замість хмари. Розробники конкурували, створюючи мобільні додатки, які використовують локальний штучний інтелект, а не постійно спілкуються з віддаленими серверами. Цей підхід усуває проблеми користувачів щодо конфіденційності даних і дає додаткам можливість надійно функціонувати навіть без підключення до Інтернету.
Учасники використовували Cactus SDK, новий фреймворк, створений для ефективної локальної обробки ШІ в React Native, Flutter, Kotlin і C++. Команди експериментували з розширеними моделями, такими як Liquid Foundation Models, Smol і Qwen3, а також кількома оптимізованими моделями, наданими організаторами.
Треки для змагань
Хакатон включав три змагальні траси. Головний трек поставив перед командами завдання створити найефективнішу мобільну програму ШІ на пристрої. Трек Memory Master заохочував зусилля з розробки локальних систем бази знань для невеликих моделей, тоді як Hybrid Hero спонукав учасників досліджувати гібридні стратегії, що поєднують локальні та хмарні висновки.
Командам було явно рекомендовано вийти за рамки спрощеної інтеграції та використовувати локальні висновки для значущих проблем користувача. Проекти оцінювали на предмет конфіденційності, швидкості та автономної роботи.
Переможні записи
Перший приз отримав Obi-Wan Qwenobi (InnerSense), орієнтована на клавіатуру програма, яка відстежує натискання клавіш у кількох програмах, використовує локальні висновки для класифікації емоційного тону та створює приватні вбудовування поведінкової пам’яті. Усі дані аналізу та зберігання зберігаються виключно на пристрої користувача. В якості нагороди команда отримає поїздку до Сан-Франциско та обід із партнером Y Combinator.
Друге місце посів Lucid, раніше Bscribe, за інтерфейс доповненої реальності, який накладає цифрові інструменти продуктивності на фізичне середовище. Рішення виконує всі висновки на пристрої, інтегруючи дані з електронної пошти, календаря, завдань і нотаток. Кожен член команди отримує телефон Nothing Phone (3) як приз.
Розгортання SDK
Cactus SDK у центрі події спрямований на те, щоб дозволити розробникам створювати офлайн-додатки ШІ, які є приватними та чуйними. Платформа підтримує інтеграцію з різними популярними мовами програмування та розроблена, щоб зробити високопродуктивні висновки доступними на повсякденних пристроях.
Cactus Compute описав свої амбіції щодо цієї технології як зробити ШІ «дешевшим, швидшим, приватним, офлайн-можливим» і усунути залежність від хмарних висновків для персональних програм.
