Исследователи из Microsoft и Университета Карнеги-Меллон опубликовали тревожные результаты опроса 319 офисных работников об использовании генеративного ИИ. Главный вывод: чрезмерная зависимость от ИИ-инструментов может снижать способность людей выполнять базовые задачи самостоятельно.
Особенно настораживает, что 41% программистов, использующих ИИ-помощники вроде GitHub Copilot, сталкиваются с увеличением количества ошибок в коде. При этом участники опроса отмечают, что их роль смещается от создания контента к проверке результатов ИИ, превращая их по сути в специалистов по контролю качества.
Исследователи проводят параллель с автоматизацией в авиации, приводя в пример катастрофу рейса Air France 447 в 2009 году. Когда автопилот отключился из-за обледенения датчиков, экипаж, привыкший полагаться на автоматику, не смог правильно среагировать на нештатную ситуацию.
Ключевой вывод исследования: чем меньше уверенность пользователя в собственных силах, тем больше он склонен доверять ИИ, даже когда не может проверить корректность его ответов. Это создает опасный цикл: снижение критического мышления ведет к еще большей зависимости от ИИ-инструментов.
Источник новости и обложки: hackaday.com