Експериментальне та непередбачуване використання Пентагоном штучного інтелекту ледь не призвело до катастрофічного дипломатичного інциденту під час війни в Ірані цієї весни. Розвідувальні звіти, створені штучним інтелектом, показали, що китайські судна в цьому районі перевозили компоненти для ядерної зброї. CNN повідомило, що американські військові підняли реактивний літак і озброєні солдати готувалися піднятися на корабель. Але незадовго […]
Експериментальне та непередбачуване використання Пентагоном штучного інтелекту ледь не призвело до катастрофічного дипломатичного інциденту під час війни в Ірані цієї весни. Розвідувальні звіти, створені штучним інтелектом, показали, що китайські судна в цьому районі перевозили компоненти для ядерної зброї.
CNN повідомило, що американські військові підняли реактивний літак і озброєні солдати готувалися піднятися на корабель. Але незадовго до початку місії аналітики Пентагону нарешті підтвердили свою роботу. Джерела повідомили CNN, що повідомлення було “повністю неправдивим”. Внутрішній чат-бот, використаний спеціалізованим командним аналітиком для створення звіту, неправильно ідентифікував вантаж судна. Військові засоби зменшилися. На човні нікого не було. Але інцидент був настільки близький до катастрофи, що джерело, яке говорило з CNN, було засмучено, сказавши, що підроблений звіт AI «майже почав війну».
Міністр оборони Піт Хегсет прагне інтегрувати чат-боти ШІ та інші інструменти в армію. «Америка й надалі матиме домінування ШІ!» обліковий запис, який належить Міністерству оборони, опублікований на X раніше цього тижня.
Але не зовсім зрозуміло, що саме це означає. У січні Пентагон опублікував свою Стратегію прискорення штучного інтелекту, нечіткий документ, у якому мало говорилося про те, для чого саме армія використовуватиме ШІ. Були згадки про «Swarm Forge» і «Agent Networks», але мало пояснень простою англійською мовою, як широкомасштабні мовні моделі та інструменти ШІ вписуються в реальні бойові можливості.
«Ми розв’яжемо експерименти, усунемо бюрократичні бар’єри, зосередимо інвестиції та продемонструємо підхід до виконання, необхідний для забезпечення лідерства у військовому штучному інтелекті», — сказав Хегсет у тодішній заяві. «Ми будемо «першою» бойовою силою в усіх сферах».
CNN повідомляє, що є ще багато сфер, де штучний інтелект не повинен бути першим інструментом, до якого звертаються солдати. CNN повідомляє, що ця конкретна помилка сталася, коли аналітик попросив чат-бота (військові використовують декілька, але не уточнюють, який чат-бот) проаналізувати звіти розвідки про вантаж судна. Звіт, виданий ботом, нібито був сумішшю інформації з відкритих джерел і секретної урядової інформації, яка привела бота до неправильного висновку.
Інші співробітники перевірили їхню роботу, і катастрофи вдалося уникнути, але, ймовірно, це лише питання часу, коли подібне повториться. У квітні високопоставлений чиновник Пентагону повідомив веб-сайту DefenseScoop, що відділ Хегсета «ми називаємо «бичачим ударом» по всьому GenAI.mil».
Процес придбання та введення в армію – як впроваджуються нові інструменти – є, як відомо, повільним. Але технологія штучного інтелекту, здається, ефективно обходить повільні колеса традиційної бюрократії та впроваджується в усі аспекти робочого процесу Міністерства оборони. Репортаж CNN є одним із перших задокументованих випадків, коли CNN припустився серйозної помилки, зайшовши настільки далеко, що залучив реальних солдатів до масштабної операції дипломатичного значення.
Цього разу їх роботу перевірив Пентагон, але ніхто не постраждав. Але в першій армії штучного інтелекту все, що трапиться в майбутньому, є просто кидком кубиків.
