Израиль незаметно внедряет системы искусственного интеллекта (ИИ) в смертоносные военные операции.
По словам армейских чиновников, выбор целей для ударов с воздуха и проведение рейдов теперь можно проводить с беспрецедентной скоростью.
Силы обороны Израиля начали использовать искусственный интеллект для выбора целей для воздушных ударов и организации логистики военного времени по мере эскалации напряженности на оккупированных территориях и в отношениях с соперником — Ираном.
Хотя военные не комментируют конкретные операции, официальные лица говорят, что теперь они используют рекомендательную систему ИИ, которая может обрабатывать огромные объемы данных для выбора целей для воздушных ударов.
Последующие рейды могут быть быстро укомплектованы с помощью модели искусственного интеллекта под названием Fire Factory, которая использует данные об одобренных военными целях для расчета нагрузки боеприпасов, определения приоритетов и назначения множества целей самолетам и беспилотникам. Кроме этого ИИ создает план-график атак по выбранным целям.
Хотя обе системы контролируются людьми-операторами, которые проверяют и утверждают отдельные цели и планы воздушных налетов, по словам представителя ЦАХАЛа, технология по-прежнему не подпадает под действие каких-либо международных или государственных норм.
Представители Минобороны Израиля утверждают, что передовые алгоритмы могут превзойти человеческие возможности и могут помочь военным минимизировать потери, в то время как критики предупреждают о потенциально смертельных последствиях использования все более автономных систем.
«Если в расчетах ИИ есть ошибка, и если ИИ необъясним, то кого мы виним в этой ошибке?» сказал Таль Мимран, преподаватель международного права в Еврейском университете в Иерусалиме и бывший юрисконсульт армии. «Вы можете уничтожить, например, какую-нибудь семью из-за ошибки ИИ».
Подробности оперативного использования ИИ армией остаются в значительной степени засекреченными, однако заявления военных чиновников свидетельствуют о том, что ЦАХАЛ приобрела боевой опыт использования ИИ-систем в результате периодических вспышек в секторе Газа, где Израиль часто наносит воздушные удары в ответ на ракетные обстрелы.
В 2021 году ЦАХАЛ описал 11-дневный конфликт в Газе как первую в мире «войну ИИ», сославшись на использование искусственного интеллекта для определения стартовых площадок ракет и развертывания роев дронов. Израиль также проводит рейды в Сирии и Ливане, нацеленные на то, что, по его словам, является поставками оружия для поддерживаемых Ираном ополченцев, таких как «Хизбалла».
В последние месяцы Израиль почти ежедневно предупреждал Иран о его обогащении урана, обещая, что он не позволит стране получить ядерное оружие ни при каких обстоятельствах.
Если эти два государства вступят в военную конфронтацию, ЦАХАЛ ожидает, что иранские марионетки в Газе, Сирии и Ливане нанесут ответный удар, подготовив почву для первого серьезного многостороннего конфликта для Израиля с тех пор, как 50 лет назад внезапное нападение Египта и Сирии спровоцировало Война Судного дня.
По словам представителей ЦАХАЛа, инструменты на основе ИИ, такие как Fire Factory, специально разработаны для такого сценария.
«То, что раньше занимало часы, теперь занимает минуты, с еще несколькими минутами для проверки человеком», — сказал полковник Ури, который возглавляет армейское подразделение цифровой трансформации и выступил в штаб-квартире ЦАХАЛа в Тель-Авиве.
Как подчеркивают чиновники Минобороны Израиля — система Fire Factory предназначена для тотальной войны.
Расширение интеллекта?
Армия обороны Израиля уже давно использует ИИ, но в последние годы она распространила эти системы на различные подразделения, стремясь позиционировать себя как мирового лидера в области автономного оружия.
Некоторые из этих систем были построены израильскими оборонными подрядчиками; другие, такие как камеры пограничного контроля StarTrack, которые обучаются на тысячах часов записи для идентификации людей и объектов, были разработаны армией. В совокупности они составляют обширную цифровую архитектуру, предназначенную для интерпретации огромного количества видеозаписей с дронов и камер видеонаблюдения, спутниковых изображений, электронных сигналов, онлайн-коммуникаций и других данных для использования в военных целях.
Работа с этим потоком информации является целью Центра науки о данных и искусственного интеллекта, находящегося в ведении армейского подразделения 8200.
Базируясь в разведывательном подразделении, это подразделение является местом, где многие технологические мультимиллионеры страны, в том числе Нир Зук из Palo Alto Networks Inc. и основатель Check Point Software Technologies Ltd Джил Швед, проходили обязательную военную службу перед созданием успешных стартапов.
По словам представителя, Центр отвечал за разработку системы, которая «преобразовала всю концепцию целей в IDF».
Скрытный характер разработки таких инструментов вызывает серьезные опасения, в том числе то, что разрыв между полуавтономными системами и полностью автоматизированными машинами для убийств может быть сокращен до минимума. В таком сценарии машины будут иметь возможность как обнаруживать цели, так и поражать их, а люди будут полностью отстранены от принятия решений.
«Изменение программного обеспечения может заставить их стать не полуавтономными, а полностью автономными», — сказала Кэтрин Коннолли, исследователь автоматизированных решений в Stop Killer Robots, коалиции неправительственных организаций, в которую входят Human Rights Watch и Amnesty International.
Израиль же заявляет, что не планирует устранять человеческий контроль в ближайшие годы.
Еще одна проблема заключается в том, что быстрое внедрение ИИ опережает исследования его внутренней работы. Многие алгоритмы разрабатываются частными компаниями и военными, которые не раскрывают конфиденциальную информацию, и критики подчеркивают отсутствие прозрачности в том, как алгоритмы приходят к своим выводам.
Армия обороны Израиля признала наличие проблемы, но заявила, что результаты тщательно проверяются солдатами и что их военные системы искусственного интеллекта оставляют после себя технические «хлебные крошки», давая людям-операторам возможность воссоздавать свои шаги.
«Иногда, когда вы вводите более сложные компоненты ИИ, нейронные сети и тому подобное, понять, что «произошло у него в голове», образно говоря, довольно сложно. А иногда я готов сказать, что меня устраивает прослеживаемость, а не объяснимость. То есть я хочу понять, что для меня критично, чтобы понять процесс и контролировать его, даже если я не понимаю, что делает каждый «нейрон»», — сказал Ури.
ЦАХАЛ отказался говорить о технологии распознавания лиц, которая подверглась резкой критике со стороны правозащитных групп, хотя и заявил, что воздерживается от интеграции ИИ в программное обеспечение для найма, опасаясь, что он может дискриминировать женщин и потенциальных кадетов из более низкого социально-экономического положения.
По мнению некоторых экспертов, основным преимуществом интеграции ИИ в боевые системы является возможность снижения потерь среди гражданского населения.
«Я думаю, что правильное использование этих технологий повышает эффективность и результативность. И при хороших рабочих технологических параметрах может быть очень и очень высокая точность», — сказала Симона Р. Соаре, научный сотрудник лондонского Международного института стратегических исследований. «Это может помочь вам со многими вещами, которые вам нужно сделать на ходу, в тумане битвы. А это очень трудно сделать в другие дни».
«Есть также много вещей, которые могут пойти не так», — добавила она.
Этические проблемы
В то время как израильские лидеры изложили свое намерение сделать страну «сверхдержавой ИИ», они не раскрывают деталей.
Министерство обороны отказалось комментировать, сколько оно инвестировало в ИИ, а армия не стала обсуждать конкретные оборонные контракты, хотя и подтвердила, что Fire Factory была разработана израильским оборонным подрядчиком Rafael.
Еще больше затуманивает картину то, что, в отличие от гонки ядерных вооружений, когда утечка подробностей о возможностях оружия была ключевым аспектом сдерживания, автономные системы и системы с искусственным интеллектом разрабатываются правительствами, военными и частными оборонными компаниями в тайне.
«Можно предположить, что американцы и даже китайцы и, возможно, некоторые другие страны также имеют передовые системы в этих областях», — сказал Лиран Антеби, старший научный сотрудник израильского Института исследований национальной безопасности. — Но, в отличие от Израиля, насколько я знаю, они никогда не демонстрировали боевого применения и успеха».
На данный момент никаких ограничений нет. Несмотря на десятилетие переговоров под эгидой ООН, не существует международной структуры, определяющей, кто несет ответственность за жертвы среди гражданского населения, несчастные случаи или непреднамеренную эскалацию, когда компьютер неправильно оценивает ситуацию.
«Есть также вопрос тестирования и данных, на которых обучаются эти системы», — сказал Коннолли из коалиции Stop Killer Robots. «Насколько точно вы можете знать, что система будет работать, если она еще не обучена и не испытана на людях?»
Такие опасения объясняют, почему Мимран, преподаватель права в Еврейском университете, считает, что ЦАХАЛ должен использовать ИИ исключительно в оборонительных целях.
Во время своего пребывания в армии Мимран вручную проверял цели, чтобы убедиться, что атаки соответствуют международному праву. Это научило его тому, что независимо от технологии «есть момент, когда вам нужно принять решение, основанное на ценности».
«И в этом, — сказал он, — мы не можем полагаться на ИИ».
Источник информации — статья Мариссы Ньюман (Bloomberg).
