История трагедии в Май Лай 1968 года, когда американские военные убили от 175 до 500 мирных жителей во Вьетнаме, могла быть еще страшнее, если бы не вмешательство вертолетчика Хью Томпсона. Сегодня эксперты задаются вопросом: сможет ли дрон с ИИ в будущем сыграть такую же роль морального компаса?
Современные военные подразделения уже тренируются с дронами, оснащенными системами компьютерного зрения для распознавания гражданских лиц и комбатантов. Технологии позволяют дронам использовать генеративный ИИ для передачи информации войскам через текстовые сообщения или синтезированный голос, что открывает 3 потенциальные роли для ИИ: инструмент, наставник или надзиратель.
Ключевое различие между этими ролями заключается в степени автономности ИИ и сохранении человеческого контроля. Например, 1 дрон может быть простым инструментом наблюдения, но если ему дать право оценивать ситуацию и давать рекомендации — он становится наставником. А если добавить возможность активного вмешательства, включая применение силы — превращается в надзирателя.
Военные эксперты отмечают, что за последние 50 лет наблюдается устойчивое снижение автономности отдельных подразделений — от установки радио на военных кораблях до прямых трансляций боевых операций. Это создает прецедент для внедрения ИИ-систем контроля, особенно в армиях с менее подготовленным личным составом.
Источник новости и обложки: warontherocks.com