Использование коммерческих ИИ-моделей американских компаний израильскими военными выросло в 200 раз после атаки ХАМАС 7 октября 2023 года. Объем данных на серверах Microsoft увеличился до 13.6 петабайт — это примерно 350 раз больше, чем нужно для хранения всех книг Библиотеки Конгресса США.
Microsoft является ключевым технологическим партнером израильской армии с контрактом на 133 миллиона долларов, что делает Израиль вторым крупнейшим военным клиентом компании после США. Военные используют облачную платформу Azure для анализа перехваченных коммуникаций и массовой обработки данных.
Системы ИИ помогают военным обрабатывать огромные массивы данных и быстрее выбирать цели. Однако расследование выявило случаи ошибок, когда системы неверно интерпретировали данные. Например, по словам офицера, система ошибочно идентифицировала список старшеклассников как потенциальных боевиков. Файл Excel, прикрепленный к профилям нескольких человек и озаглавленный «финалы» на арабском языке, содержал имена как минимум 1000 студентов из экзаменационного списка одного района Газы, рассказал он. По его словам, это был единственный компрометирующий материал, прикрепленный к личным делам, и если бы он не заметил эту ошибку, этих палестинцев могли бы ошибочно пометить как подозреваемых.
Ситуация вызывает серьезную обеспокоенность среди сотрудников технологических компаний. Microsoft уволила 2 сотрудников за организацию несанкционированной акции в поддержку палестинских беженцев, а Google уволил около 50 работников за протесты против сотрудничества с израильскими военными.
Источник новости и обложки: apnews.com