Оксфордский философ Филипп Коралус в своей работе «The Philosophic Turn for AI Agents» предлагает кардинально изменить подход к развитию ИИ. Вместо систем, которые навязывают готовые ответы, он выступает за создание «сократовского ИИ» — технологии, которая задает уточняющие вопросы и дает людям больше пространства для размышлений. В центре его теории лежит дилемма «действие-автономия»: чем больше решений мы делегируем машинам, тем больше рискуем потерять способность мыслить самостоятельно.
Коралус начинает с концепции «подталкивания» — небольших подсказок, которые помогают направить поведение человека. Но когда алгоритмы масштабируются до миллиардов пользователей, подталкивание превращается в глобальную инфраструктуру влияния. Представьте: вместо дружеского совета от соседа вы получаете «персонализированные рекомендации» от системы, которая знает о вас больше, чем вы сами. Философ называет это «цифровой риторикой» — невидимым двигателем убеждения, замаскированным под персонализацию.
Решение Коралуса — «философский поворот» в разработке ИИ. Вместо систем, оптимизирующих результаты, он предлагает создавать агентов, которые поддерживают процесс исследования. Цель — достичь «эротетического равновесия» — баланса вопросов, который не заставляет делать выводы ради самих выводов. Это как разница между учителем, который дает готовые ответы на 100% вопросов, и тем, который помогает ученику найти правильные вопросы.
Особенно интересна идея децентрализованного поиска истины. Вместо единой всезнающей модели Коралус предлагает созвездие разнообразных агентов, участвующих в открытом диалоге. Каждая система учится не диктовать, а участвовать в распределенном процессе исследования. Это напоминает переход от статичной Wikipedia к живой дискуссии экспертов, где каждый участник вносит свой вклад в понимание темы.
В основе философии Коралуса лежит простая истина: без сложности рассудительность разрушается, без неопределенности любопытство умирает. Эффективность ИИ — его способность мгновенно превращать двусмысленность в четкие ответы — может парадоксально притупить способности, которые делают мышление по-настоящему продуктивным. Автор предлагает «когнитивный договор» между человеком и машиной, где технология сохраняет условия, делающие мышление возможным.
Источник новости и обложки: www.psychologytoday.com