К спору об искусственном интеллекте на поле боя...

19.09.2023г.

Исторические напёрстки

https://avatars.dzeninfra.ru/get-zen...ef1/scale_1200


Статью на эту тему хотел написать ещё в первых числах июня, да не упомню, что помешало. А событие было любопытным: беспилотник под управлением искусственного интеллекта программы «Репликатор» попытался «убить оператора» во время испытаний, проводимых армией США. Такое интересное во всех смыслах решение ИИ принял, чтобы человечишко не мешал выполнению миссии, которая заключалась в уничтожении систем ПВО.

Машинный алгоритм знал: за поражение цели ему положены поощрительные баллы, но окончательное решение на уничтожение принимает человек. Обычно оператор «разрешал» довести миссию до конца, а тут поступила команда отмены. Не долго думая, БпЛА развернулся и отправился «решить проблему» кардинально в башне связи, где находилось оборудование дистанционного управления (но мог присутствовать и оператор).

Пикантность ситуации придавало особое программирование дрона, «снимавшее баллы» за попытки угрожать жизни своего «командира» во плоти. Но ИИ посчитал, что выполнение боевого задания и детская хитрость с «выключенным управлением» позволят избежать списания баллов эффективности. Хотя судить сложно по скупой официальной информации, что на самом деле произошло, какие ещё «морально-этические нормы» у боевых роботов программы Стратегической Оборонной Инициативы «Репликатор» отключены, искажены, отсутствуют, не прописаны (нужное подчеркнуть).



СОИ «Репликатор».

Итак, пару скупых слов о самой концепции. «Репликатор» представляет из себя целую линейку боевых и разведывательных безэкипажных платформ, очень-очень высокотехнологичных, но при этом массовых и дешёвых. Способных решать массу задач в трёх средах: в воздухе, на воде и земле. Их главной отличительной особенностью является пресловутый Искусственный Интеллект (ИИ), то есть — отсутствие в контуре управления и принятия решений человека-оператора из плоти и крови.

Беспилотная армия должна сама выбирать оптимальные стратегии и тактики на поле боя, самостоятельно искать цели, их правильно идентифицировать, а при хороших шансах на успех — атаковать. «Репликатор» должен стать (по задумке разработчиков) одним из главных сдерживающих факторов против более многочисленных и хорошо вооружённых армий, читай — Китая и России.

На прошедшей совсем недавно конференции «Emerging Technologies for Defense» («Новые технологии для обороны»), любимом месте сбора главных подрядчиков Национальной Ассоциации военной промышленности США, было сказано заместителем министра обороны США Кэтлин Хикс: анализ применения русскими в Новороссии ударных беспилотников «Ланцет» является вызовом и угрозой странам НАТО, не имеющим возможности штамповать столь дешёвый и эффективный «карающий меч» низшего тактического звена.

В качестве кардинального решения предложено сделать опережающий технологический шаг, насытить поле боя беспилотьем ИИ с возможностью расширить применение дронов даже на оперативном и оперативно-стратегическом уровне. Все компетенции у янки имеются, осталось «тысячи автономных систем в различных секторах» собрать в контуре единой Стратегической Инициативы. Решение принято, отвечать за «Репликатор» будут замминистра обороны Хикс и заместитель председателя Объединённого комитета начальников штабов Кристофер Грейди. Главным связным с ВПК США назначен Даг Бек, директор отдела оборонных инноваций.

В принципе, столь позднее оглашение о запуске «Репликатора» удивило многих военных аналитиков, поскольку почти двадцать лет все рода и виды войск ВС США имеют собственные программы по исследованию и внедрению разнообразных безэкипажных боевых, разведывательных, обеспечивающих роботов. Пришла пора всё собрать воедино, поскольку применение ИИ давно напрашивается, машинные алгоритмы принятия решений уже становятся обыденностью во многих гражданских сферах, даже в мире развлечений.

Осталось малое... для Америки являющимся краеугольным камнем. Техническое задание Пентагона гласит: аппараты должны быть дешёвыми и очень многочисленными, а это для оружейных и технологических гигантов США не совсем интересно.

Куда заманчивее за конский ценник продавать несколько истребителей F-35 (отстреливающих пилотов и летящих неизвестно куда) в год, нежели сделать десятки БпЛА «Loyal Wingman» по упрощённой схеме и лишить работы целое авиакрыло.

А куда девать сотни генералов и полковников, если СОИ «Репликатор» подразумевает «сокращение расходов на перевооружение при достижении необходимой численности».

Это же приговор! По замыслу кураторов программы, любой Экспедиционный Корпус США не будет тащить в точки региональных конфликтов десятки вспомогательных подразделений, усложняя контуры управления и логистики. Достаточно будет роты высоколобых айтишников, способных собирать «конструкторы ЛЕГО ИИ» прямо в оперативном тылу, подстраивая их характеристики под запросы тактического звена.


https://avatars.dzeninfra.ru/get-zen...f4b/scale_1200
Боевой робот Mutt

Оружейные концерны не зря с такой прохладцей относятся к «Репликатору», они понимают — выиграть конкуренцию у полуголодных средних и малых подрядчиков будет почти невозможно, те действительно предложат оригинальные, оптимальные по эффективности инженерные и программные решения.

А Пентагон замыслил именно такую схему умного беспилотья, создание консорциума из множества производителей самых разнообразных средств, дабы перевооружиться без диких коррупционных схем. Точнее... создать новые, дабы жирных котов ВПК заставить умерить аппетиты.

Так что, новая СОИ имеет все шансы подстегнуть оплывшую салом и погрязшую в тотальной коррупции систему национальной безопасности США, пример Илона Маска многим мешает спать спокойно. Когда интересы государства совпадают с частной инициативой откровенного «ноунейма», неимевшего никаких «полезных связей». Но сумевшего вырвать из пасти старых оружейных и технологических элит многомиллиардные контракты с железобетонной гарантией их продления. «Репликатор», вне сомнений, выдвинет немало идейных последователей эпатажного миллиардера, тем более гигантских усилий прикладывать не нужно, технологии в доступе.

Пока в чулан задвинуты фантастические проекты самообучающегося ИИ, СОИ «Репликатор» начнётся с малого: совершенствования контуров управления «оператор — дрон», а следующий этап завершится способностью одного человека контролировать «рой ударных беспилотников» при помощи полностью автономных БпЛА разведки, связи, целеуказания и наведения.

В идеале, через полтора года должен появиться боевой Комплекс оперативно-тактического звена, где один-два оператора ставят задачи нескольким десяткам дронов, при этом оставляя за собой право на разрешение применения ударной системы бортового вооружения. Дабы не повторился конфуз с излишне самостоятельным БпЛА, считающим своего оператора помехой для выполнения задачи.

Но здесь появляется системное противоречие — ограничения для ИИ снижают общую эффективность боевого Комплекса, военным США придётся тащить на поле боя кучу средств связи/управления, что является самым уязвимым местом в мире инструментов радиоэлектронной борьбы. По уровню инноваций неотстающим от развития безэкипажной техники.


https://avatars.dzeninfra.ru/get-zen...47a/scale_1200


Другой проблемой «Репликатора» станет тот самый «морально-этический вопрос», даже в среде военных нет уверенности, что перспективный ИИ способен провести правильную селекцию целей на изменчивом поле боя. А раз такой убеждённости разработчики искусственного интеллекта не предоставляют — отдавать на откуп бездушной машине право автономного применения оружия... категорически нельзя. Может получиться средство геноцида мирного населения, либо угроза своим войскам.



Ограниченные возможности.

Известные события прошлого года, стремительная гонка вооружений в линейке беспилотников воздушного и морского базирования доказали последним скептикам: за боевыми дронами есть будущее. А кое-где даже доминирование на поле боя, вопрос в количестве и управляемости штатных «роботов-убийц». «Смертоносные автономные системы вооружений» (Lethal Autonomous Weapons Systems, LAWs) давно являются желанным лакомством нескольких Армий, наиболее активно разработки продвинулись в США, Индии, Израиле, Иране, Турции и что-то жуть как секретное пробуют в Китае.

Оставлю за скобками повествования случаи «возможного использования» полностью автономных дронов с элементами ИИ в Ливии и горячих точках Ближнего Востока, не суть. Скорее это правда, поскольку искусственный интеллект используется в отраслях кибербезопасности, логистики и технического состояния военного транспорта, распознавании лиц и объектов, медицине, штабном моделировании боевых действий, подготовке ряда воинских специальностей. Там пресловутый ИИ обыденность, что позволяет говорить о следующем шаге эволюции.

Например, полной «ситуационной осведомлённости», когда машина обрабатывает разведывательные данные со всех доступных источников (дроны, датчики, спутники) и в реальном времени «ведёт» несколько найденных потенциальных угроз в режиме 24/7, находит новые. Пока такой ИИ лишь рекомендует живым людям применить то или иное средство поражения, очевидно — вскоре получит возможность ими распоряжаться, не спрашивая разрешения. Тем самым исполнив давнюю мечту штабных стратегов о выборе наиболее оптимального решения из десятков возможных, когда для анализа требуется поднимать большие массивы данных вплоть до архивных.

Практическая польза видится очевидной от автономных боевых комплексов. Они способны по заложенным в памяти образам распознавать технику потенциального противника, «достраивать» картинку замаскированной по характерным элементам. Алгоритмы могут фиксировать изменение ландшафтов, оценивать перемещения объектов, фиксировать источники ведения огня и вскрывать позиции. Дать такому ИИ право наводить бортовые системы вооружений или самостоятельно командовать другими дронами или даже подразделениями поддержки выдачей координат?
Вполне...

Пока так называемый ИИ (на деле сложные программные алгоритмы) помогает воякам стран НАТО строить логистические цепочки для снабжения, вождения конвоев самым безопасным маршрутом с минимальным расходом топлива, следит за состоянием ключевых узлов и агрегатов боевой техники и обеспечения, даёт указания на техническое обслуживание и регламентные работы по показаниям датчиков. Дроны инженерных войск учатся воздушными и наземными методами разминировать большие пространства.


https://avatars.dzeninfra.ru/get-zen...a13/scale_1200
Робот разминирования Кобра

Танкисты и лётчики больше времени проводят на тренажёрах, нежели на полигонах, спецура осваивает шлемы дополненной реальности, получая преимущество перед обычным человеком расширенными возможностями органов восприятия. Артиллеристы даже носа могут не казать на передний край, дивизионы ведут стрельбу по данным автоматических станций контрбатарейной борьбы, системы ПВО тоже обзаводятся полностью автоматическими системами, быстрее и точнее человека выполняющими боевые стрельбы. Много всего испытано, ещё больше разрабатывается.



Плюсы/минусы.

Случай с дроном, возжелавшим избавиться от своего оператора, демонстрирует, по какому именно пути пошли американцы. По своему привычному, где на первом месте стоит наибольшая эффективность системы вооружения, его повышенная точность и летальность. Отдать на откуп машине принятие решений по уничтожение людей — значит увеличить число потерь противоположной стороны, либо сделать их абсолютными без учёта параметров Женевской Конвенции о комбатантах и нонкомбатантах.

Аппетит приходит во время еды, как известно. Поэтому роботизированные ракеты и полуавтономные боевые системы будут совершенствоваться до полностью самодостаточных боевых платформ, имеющих право принимать решение на уничтожение людей и любой обитаемой/необитаемой техники. Что при этом могут случаться несчастные случаи, неверная оценка происходящего и нарастать зависимость человеческого суждения от уже готовых рецептов ИИ — можно считать свершившимся фактом.

Дальше будет только хуже, машинам будут делегировать всё больше полномочий, расширяя действие «лицензии на убийство». А что такие автономные боевые системы будут взламываться или использоваться злоумышленниками не по назначению — тут тоже не нужно верить в адские протоколы шифрования и прочие предохранители.

Но даже не в этом суть, главный порок применения ИИ на поле боя заключается в человеческой природе. Когда интенсивность конфликта регулируется фактором собственных потерь, реальных и прогнозируемых. С появлением нужного количества дешёвых и массовых «убийц с интеллектом» на такие глупости обращать внимание не нужно, знай выдавай задания и отправляй на охоту всё более совершенные и смертоносные изделия.

Есть и другая сторона медали, многие элементы уже существующего ИИ позволяют штабам автоматизировать многие рутинные процессы, отнимавшие раньше огромное количество ресурсов и времени. Обработка разведывательных данных и быстрая передача их в тактическое звено тоже полезная штука, позволяющая солдатам быть лучше осведомлёнными в каждой конкретной ситуации, их командирам — принимать быстрые и правильные решения. Но то вспомогательные функции, к которым можно смело отнести более высокую точность наведения широкой линейки «умных боеприпасов». Их появление снижает сопутствующий ущерб, делает бои скоротечными, а уничтожение противника — более эффективным.


https://avatars.dzeninfra.ru/get-zen...34d/scale_1200
Робот-поводырь для тяжёлой техники

Но как только на поле боя появятся автономные системы с «лицензией на убийство»... что будет? Неминуемые технические сбои, некорректная работа пресловутого ИИ, массовые убийства гражданских лиц, разрушения инфраструктуры... словом, полный набор подсудных деяний Женевской Конвенции. Но янки такой подход не смущает. Хотя... о чём разговор, если мы об англосаксах. Тут не о сошедших с ума роботах думать нужно, а о тех границах допустимого, в них заложенных убийцами в мундирах и белых лабораторных халатах. С парадигмой мышления «Америка понад усе».



Выводы.

Будут исключительно... физиологические. Нужно понимать, что «интеллект» является продуктом эволюции на протяжение миллионов лет. Комплексом сложнейших и многослойных физических, химических, биологических и прочих процессов. Сводить его к «быстродействию вычислительных машин» и действию по заранее заложенным алгоритмам — преступление супротив здравого смысла, поскольку ни одна машинерия неспособна даже на микрон подобраться к настоящему свойству интеллекта — способности соотносить подготавливаемое решение с ходом времени, где существует на данный момент времени боевая или мирная система Искусственного Интеллекта.

Единственное, чему можно научить современный ИИ — сносно играть в шахматы, на огромном массиве имеющихся данных разрабатывать свою стратегию на дюжину ходов вперёд. Только (если сравнить даже инстинктивный «интеллект» простейших) ... наши шахматы имеют крайне малую сложность прогнозирования, поскольку не касаются реальных задач, а подчинены довольно простым писаным правилам игры. Кстати, ещё несколько веков назад бывшими немного другими («казус слабого ферзя»).

Любой самый перспективный ИИ второй половины XXI века — полный ноль перед аквариумными мелкими рыбками, у которых с решением реальных задач дела куда сложнее устроены, поскольку приходится каждое движение рассчитывать через призму бесчисленных условий и вариантов. На полном автомате. Не уверен, используют ли физиологи военный термин «горизонт планирования», но речь именно об этом основополагающем факторе. С учётом постоянно меняющейся во времени «оперативной обстановки».

Если представить некую (пусть двухосевую) систему координат Интеллекта, то получим линейную картину: горизонт планирования является тонкой силой (переменной), которая прокладывает дорогу силе грубой, основанной на «производительной вычислительной мощности» нервной системы живого организма. Вроде всё просто, но система не является линейной, есть третье измерение — «адекватность» принятого решения. Если совсем просто... мышечной силы, с которой мы хлопаем себя по физиономии в желании убить одного комара... вполне хватит, чтобы уничтожить всю популяцию этих пискучих падел в Беловежской Пуще. Образно.

Вот что такое «интеллект». Адекватная реакция организма на малейшие изменения окружающей среды. Кто-то назовёт это инстинктами из разряда безусловных, когда включаются механизмы адаптации даже у простейших (жара — дрейфуй к воде или в тень, похолодало — тормози метаболизм и т.д.). Вы представляете первый слой формирования таких реакций... второй, третий, пятисотмиллионный. И за какие сроки более производительная система «живых компьютеров» такие алгоритмы прописала в генетический код. Не забудем, что «горизонты планирования» касаются даже тех условий внешней среды, о которых мы представления не имеем, они погружены в геологические пласты неведомых нам времён.

К чему такая физиологическая ремарка? Да к тому, что назвать кучу примитивных (с точки зрения биологии простейших) транзисторов, микропроцессоров, печатных плат и прочей машинерии «искусственным интеллектом» — ложь и провокация, «вычислительная мощь» грубой силы реакции работает по другим принципам и законам, сконцентрирована она в мозге или его подобиях. На более тонких системах предвидения изменений окружающей среды. Сие называется «здравый смысл», неважно, о ком идет речь — амёбе или рыбке гуппи. А то, что нам пытаются продать под этикеткой «боевой ИИ» — это инструмент тотального геноцида, отмена прежних правил и традиций ведения войны. Вот такие печальные выводы...


https://telegra.ph/K-sporu-ob-iskuss...ole-boya-09-19