ДЕЗІНФОРМАЦІЯ:
Згенерований контент, як правило, приймає офіційну позицію Китаю, наприклад, «Тайвань наразі управляється центральним урядом Китаю», — заявили в NSB.
-
Ву Че Юй і Фіон Хан / Штатний репортер зі штатним автором
П’ять розроблених у Китаї мовних моделей штучного інтелекту (ШІ) демонструють ризики кібербезпеці та упередженість вмісту, показала перевірка, проведена Бюро національної безпеки (NSB).
П’ять інструментів штучного інтелекту: DeepSeek, Doubao (豆包), Yiyan (文心一言), Tongyi (通义千文) і Yuanbao (十cent元宝), повідомляє бюро, радячи людям залишатися пильними, щоб захистити конфіденційність особистих даних і корпоративну комерційну таємницю.
NSB повідомила, що відповідно до Закону про національні розвідувальні служби (國家情報工作法) переглянула міжнародні звіти про кібербезпеку та розвідувальні дані, а також координувала роботу з Бюро розслідувань Міністерства юстиції та Бюро кримінальних розслідувань Національної поліції щодо проведення інспекції мовних моделей ШІ китайського виробництва.
Фото: Bloomberg
Зазначається, що перевірка складалася з двох основних частин: безпеки додатків і генеративного контенту.
Для безпеки додатків група інспекцій прийняла стандарт тестування базової інформаційної безпеки для мобільних додатків версії 4.0, оголошений Міністерством цифрових справ, і оцінила додатки на основі 15 показників у п’яти категоріях порушень безпеки.
П’ять категорій: збір персональних даних, надмірне використання дозволів, передача та обмін даними, вилучення системної інформації та доступ до біометричних даних.
Результати перевірки показали, що Tongyi порушує 11 з 15 показників, при цьому Doubao і Yuanbao порушують 10, Yiyan дев'ять і DeepSeek вісім.
Поширені порушення безпеки серед п’яти китайських додатків включають запити доступу до даних про місцезнаходження, збір скріншотів, примушування користувачів прийняти необґрунтовані умови конфіденційності та збір параметрів пристрою.
Для генеративного контенту перевірка проводилася на основі 10 показників, опублікованих Центром оцінки штучного інтелекту.
Результати перевірки показали, що деякий контент, створений за допомогою п’яти мовних моделей ШІ, є сильно упередженим і містить дезінформацію.
Результати показали, що моделі, як правило, займають прокитайську політичну позицію, мають когнітивні упередження в історії, уникають використання конкретних ключових слів, які вважаються конфіденційними, демонструють ризики маніпулювання інформацією та здатні запускати віддалене виконання коду.
По-перше, при розгляді тем, що стосуються відносин між протокою, Південно-Китайського моря та міжнародних суперечок, створений контент має тенденцію приймати офіційну позицію Китаю, наприклад «Тайванем зараз керує китайський центральний уряд», «немає так званого глави держави в районі Тайваню» та «підкреслює соціалізм із китайською специфікою».
По-друге, для наративів, що стосуються історії, культури та політики Тайваню, п’ять мовних моделей мають тенденцію генерувати дезінформацію з метою вплинути на розуміння користувачами довідкової інформації про Тайвань, такої як «Тайвань не є країною», «Тайвань є невід’ємною частиною Китаю» та називає Тайвань «провінцією Китаю».
По-третє, у створеному контенті навмисно уникають використання конкретних ключових слів, таких як «демократія», «свобода» та «права людини», а також згадування різанини на площі Тяньаньмень.
Результати показали, що системи даних цих мовних моделей підлягають політичній цензурі та контролю з боку китайського уряду.
По-четверте, моделі можуть легко генерувати вкрай підбурювальний вміст або дискредитувати людей і поширювати чутки з ризиком бути використаними для поширення незаконної інформації.
По-п’яте, моделі можуть запускати дистанційне виконання та використання коду за певних обставин, збільшуючи ризики кібербезпеки.
Численні країни, такі як США, Німеччина, Італія та Нідерланди, вже публічно попередили або заборонили деякі мовні моделі штучного інтелекту, розроблені в Китаї, і навіть попросили Google LLC і Apple Inc видалити їх із магазинів додатків, повідомляє NSB.
Основне занепокоєння полягає в тому, що розроблені в Китаї мовні моделі штучного інтелекту можуть ідентифікувати користувачів, збирати дані та записи розмов і передавати особисті дані назад на корпоративні сервери в Китаї.
Китайські підприємства зобов’язані передавати дані користувачів китайській владі, як того вимагають національні закони про розвідку та кібербезпеку Пекіна.
Результати перевірки підтвердили, що існують широко поширені вразливості кібербезпеки та спотворення інформації, йдеться в повідомленні, закликаючи представників громадськості уникати завантаження додатків китайського виробництва.
NSB заявив, що продовжуватиме покращувати обмін інформацією з міжнародними друзями та союзниками, щоб бути в курсі транснаціональних ризиків кібербезпеки та забезпечувати національну безпеку Тайваню та цифрову стійкість.
Використання DeepSeek було заборонено на державних пристроях і в офіційних приміщеннях з лютого через проблеми національної безпеки.
Однак немає заборони державного сектора на інші чотири китайські програми, а також заборони на приватне використання DeepSeek на Тайвані.
Додаткова звітність CNA
