Новое исследование ученых из Калифорнийского университета в Мерседе и Университета Пенсильвании показало тревожную тенденцию: люди склонны чрезмерно доверять искусственному интеллекту даже в ситуациях, где цена ошибки — человеческие жизни. В экспериментах приняли участие 558 человек, моделировавших сценарии применения военных дронов.
В ходе эксперимента участникам показывали серии из 8 aerial-снимков длительностью всего 650 миллисекунд каждый. После того как человек определял цель как врага или мирного жителя, ИИ предлагал свое мнение. Удивительно, но когда ИИ не соглашался с первоначальным решением человека, участники меняли свое мнение в 58.3% случаев в первом эксперименте и в 67.3% — во втором.
Еще более тревожным оказался факт падения точности решений. Если изначально участники правильно идентифицировали цели в 70% случаев, то после следования советам ИИ (который давал случайные ответы) точность падала до 50%. При этом уверенность участников возрастала на 16%, когда ИИ соглашался с их решением.
Исследование особенно актуально в свете того, что ВВС США уже тестируют ИИ-системы для идентификации целей, а Израиль якобы использует ИИ для выбора целей в густонаселенных районах. Профессор Колин Холбрук предупреждает: «Мы видим, как ИИ делает экстраординарные вещи в одной области и думаем, что он будет так же хорош в другой. Но это опасное заблуждение».
Источник новости и обложки: studyfinds.org