Військові дослідники вивчають уразливості штучного інтелекту до кібератак
11 лютого 2025 року – У рамках зусиль щодо підвищення кібербезпеки в армійських операціях військові дослідники США запускають проект, спрямований на оцінку уразливостей систем штучного інтелекту (ШІ) перед потенційними кібератаками. Цю ініціативу ініціює Агентство передових дослідницьких проектів Міністерства оборони США (DARPA), яке базується в Арлінгтоні, штат Вірджинія, оголосивши про майбутній проект “Забезпечення ШІ для поля бою з метою ефективності та стійкості” (SABER).
Представники DARPA підкреслили, що наразі немає відомих методологій, які системно оцінюють кіберуразливість розгорнуті військові системи на базі ШІ. Вони визнають критичну прогалину, оскільки теоретичні атаки на ШІ досі не були ефективно продемонстровані в операційних контекстах. В результаті ризики оперативної безпеки, пов’язані з системами ШІ на полі бою, залишаються значною мірою невизначеними.
Для розв’язання цієї проблеми проект SABER має на меті розробити спеціалізовану групу досліджень, яка зосередиться на інтеграції контрзаходів ШІ, вдосконалених інструментів та відповідної експертизи, необхідної для оцінки безпеки військових систем на базі ШІ.
Обіцянки та небезпеки технологій ШІ
Еволюція технологій ШІ досягла етапу, коли її інтеграція в армійські операції США може надати суттєві стратегічні переваги, підвищуючи швидкість прийняття рішень, точність та автономію в операціях. Проте ця перевага не позбавлена ризиків.
Встановлено, що системи ШІ можуть бути уразливими до маніпуляцій з боку противника, особливо через контроль над їхніми вхідними даними. Це призводить до різних уразливостей, включаючи отруєння даних, що компрометує цілісність системи, нарівні з потенційними атаками, що залучають фізичні обмеження для уникнення виявлення та крадіжки моделей.
Хоча DARPA ще не оголосила про офіційне запрошення до пропозицій для проекту SABER, плани тривають, щоб командою дослідження були визначені та оцінені уразливості як наземних, так і повітряних автономних систем, які планується розгортати протягом наступних 1-3 років.
Співпраця в Кібербезпеці
У разі продолження програми SABER, вона залучить підрядників для допомоги в проведенні комплексних оцінок систем на базі ШІ, використовуючи передові методики в галузі фізичної безпеки, контрзаходів ШІ, кібербезпеки та електронної війни.
Лейтенант полковник Натаніель Бастіан призначений керівником програми SABER. Будь-які запитання щодо проекту можна надсилати на електронну пошту DARPA за адресою info@darpa.mil. Додаткову інформацію можна знайти на офіційній сторінці SAM.gov.
Для отримання актуальних новин та новин, пов’язаних з розробками в області військової аерокосмічної промисловості, стежте за новинами в галузі.
