Консалтинговая компания Deloitte частично вернет правительству Австралии деньги за отчет стоимостью $440 000, который содержал несколько критических ошибок. Причина конфуза — использование генеративного ИИ для подготовки документа без должного контроля качества. Представьте, что вы наняли дорогого эксперта, а он втайне переложил половину работы на стажера-новичка.
Департамент занятости поручил Deloitte в декабре 2024 года проанализировать систему автоматизации штрафов для получателей пособий. Отчет был опубликован 4 июля, но уже в августе Australian Financial Review обнаружила множество ошибок — несуществующие ссылки, выдуманные цитаты и даже фиктивное судебное дело. Это классические «галлюцинации» ИИ — когда нейросеть додумывает факты там, где не хватает данных.
Академик Сиднейского университета Кристофер Радж, который первым выявил проблемы, отметил парадоксальную ситуацию: вместо 1 поддельной ссылки в исправленной версии появилось 5-8 новых. «Это говорит о том, что изначальное утверждение в отчете вообще не основывалось на каких-либо доказательствах», — пояснил он. Как выяснилось, Deloitte использовала GPT-4o от Azure OpenAI, размещенную на серверах департамента.
Сенатор Дебора О’Нилл не стеснялась в выражениях: «У Deloitte проблемы с человеческим интеллектом. Частичный возврат денег выглядит как частичные извинения за некачественную работу». Она предложила заказчикам вместо дорогих консультантов просто купить подписку на ChatGPT за $20 в месяц. При этом Deloitte подчеркивает, что основные выводы и рекомендации отчета остались неизменными — просто теперь они опираются на реальные, а не выдуманные ИИ источники.
Источник новости и обложки: www.theguardian.com