Літаки в небі, а спецназ готовий до дій.
Штучний інтелект створив неправдиву розвідувальну інформацію, яка майже призвела до військового конфлікту між США та Китаєм. Пентагон розробляв план силового захоплення цивільного судна Китаю, оскільки алгоритми помилково вважали, що воно транспортує ядерні матеріали. Про цей серйозний інцидент повідомив телеканал CNN, посилаючись на свої джерела в оборонних колах, як зазначає "Дивогляд".
"Галюцинація" розвідки та літаки у повітрі
Причиною критичної ситуації став людський фактор у поєднанні з недосконалістю сирих алгоритмів. Аналітик Командування спеціальних операцій США задіяв чат-бот для з'ясування вмісту вантажу китайського транспорту.
Штучний інтелект створив неправдивий звіт, поєднавши відкриту інформацію з секретними перехопленнями радіоелектронних сигналів. Внаслідок отриманого помилкового висновку про наявність ядерних компонентів, експерт доручив тому ж самому боту підготувати стандартний розвідувальний документ, який було розіслано командуванню.
Події, які на межі призвели до катастрофи:
* Мобілізація сил: на основі згенерованого алгоритмом звіту силовики розробили план абордажу судна;
* Бойова підготовка: спецназ здійснював тренування для десантування на борт, а військова авіація піднялася в небо.
* Скасування в останню хвилину: чиновники вирішили ретельно перевірити достовірність розвідувальної інформації лише за кілька хвилин до початку наступу, виявивши, що дані були сфабриковані алгоритмом.
Загроза наростання конфлікту та повна цифрова трансформація Пентагону.
Представники американських служб розвідки, спілкуючись із журналістами, визнали, що захоплення китайського судна могло призвести до непередбачуваної ескалації конфлікту між ядерними державами. З'ясувалося, що звіт виявився абсолютно неправдивим, а помилка аналітика поставила дві найбільші економіки світу в ситуацію, близьку до реальної війни.
Незважаючи на серйозність цієї проблеми, керівництво збройних сил США та розвідки не має наміру відмовлятися від використання алгоритмів. Армія активно інтегрує штучний інтелект у важливі елементи військової структури: від аналізу первинних розвідданих і автоматизованого вибору цілей для атак до управління оборонними фінансами та логістичними мережами постачання.
Раніше "Дивогляд" повідомляв, що керівник OpenAI виокремив два найнебезпечніші можливі сценарії еволюції штучного інтелекту.
#
