Когда военные внедряют ИИ, шумиха становится оружием

May 24, 2023

Ажиотаж по поводу генеративного искусственного интеллекта достиг апогея с момента запуска ChatGPT и движков изображений, таких как MidJourney, в прошлом году. Однако как восторг, так и тревога по поводу применения новой технологии в настоящем вскоре приводят к более масштабным экзистенциальным прогнозам на будущее. За исключением «сингулярности» и непосредственной замены человечества ИИ, ни один результат не вызывает такого беспокойства, как влияние ИИ на войну. Могут ли автономные боты, вооруженные и стратегические, угнетать мирных жителей, бросать вызов людям-операторам или даже разжечь Третью мировую войну?

Мировые лидеры устраивают демонстративные действия. Шестьдесят государств встретились в феврале этого года, чтобы выработать цели по «ответственному использованию ИИ» военными. Затем Государственный департамент выступил с политической декларацией принципов Соединенных Штатов, которые предусматривают, что старшие офицеры продолжают участвовать в разработке и эксплуатации всего автономного оружия, проектируя его для «явного, четко определенного использования», обеспечивая тщательный надзор за всеми функциями безопасности. в течение всего срока службы оружия и стремясь избежать предвзятости при его использовании. Однако Хьюман Райтс Вотч отметила, что ни одна из этих целей пока не является юридически обязательной и не замедляет развитие сложных систем, которые их операторы не до конца понимают.

Несмотря на свою новизну, эти недавние достижения являются всего лишь последними шагами в автоматизации государственного насилия, которое сделало свой первый большой скачок с формированием постоянных вооруженных сил в Европе в восемнадцатом веке. Хотя пулемет, танк и истребитель являются более привычными символами этого процесса, обучение пехоты устранению индивидуальных человеческих эмоций и повышению ее скорости и надежности для командиров дало таким армиям первое серьезное преимущество над неподготовленными соперниками.

Получайте подборку лучших статей JSTOR Daily на свой почтовый ящик каждый четверг.

Политика конфиденциальности Свяжитесь с намиВы можете отказаться от подписки в любое время, щелкнув ссылку в любом маркетинговом сообщении.

Д

С тех пор штаты опасаются отстать от каких-либо преимуществ в области автоматизации, поэтому в средствах массовой информации ведется параллельный дискурс, побуждающий США быстрее внедрять военный ИИ. Захватывающие подробности о том, как генеративный искусственный интеллект делает анализ данных секретного уровня гораздо более эффективным, сочетаются со строгими предупреждениями о том, что любые ограничения дадут преимущество китайским военным. The New York Times предоставляет бесплатное пространство для статей военным подрядчикам по искусственному интеллекту. Даже оплошности, которые кажутся случайными, например, полковник, заявивший, что дрон с искусственным интеллектом убил своего оператора во время виртуальных учений, чтобы достичь своей цели, или генерал, заявивший, что американские военные относятся к оружию с искусственным интеллектом более этично из-за его «иудео-христианских ценностей». (т.е. в отличие от Китая) все это усиливает сигнал миру о том, что развитие военного ИИ идет полным ходом.

Применение ИИ, особенно в анализе разведывательных данных, все еще очень гипотетично. В настоящее время кажется, что шумиха сама по себе является оружием, призванным отпугнуть претендентов на геополитическое превосходство. Но действительно ли военные командиры пойдут так далеко, чтобы попытаться автоматизировать само принятие решений в военное время?

Вполне логично, что настоящие военные офицеры часто призывают к большей осторожности, чем подрядчики военной промышленности и СМИ, прилегающие к аналитическим центрам. Три американских офицера сразу переходят к делу в статье, опубликованной в журнале PRISM в 2018 году, предполагая, что китайские и американские автоматизированные стратегические системы, действующие в 2024 году, смогут перерасти конфликт в «ограниченный обмен ядерными ударами» всего за два часа.

По их сценарию, кризис начинается со случайного столкновения вьетнамского рыболовного судна с китайским кораблем в Южно-Китайском море. Это событие запускает серию, казалось бы, несвязанных цепных реакций в киберпространстве, включая падение индексов фондового рынка и рост негативных комментариев в адрес обеих сторон в социальных сетях. Эти признаки запускают системы предупреждения ИИ об интернет-атаках на ИТ-инфраструктуру с обеих сторон, что впоследствии приводит к реальным военным действиям. Хотя в их сценарии Китай наносит удар первым, авторы считают взаимодействие обеих сторон ответственным за потенциальное убийство миллионов людей.