Команда лаборатории компьютерных технологий (CT-Lab) Университета ИТМО разработала библиотеку CoolPrompt для автоматической оптимизации промптов — инструкций для больших языковых моделей. Фреймворк впервые представили на конференции AI Journey в этом году.
CoolPrompt автоматически генерирует и тестирует разные промпты, самостоятельно оптимизирует запросы и выводит лучший вариант для конкретной задачи. По словам руководителя RnD команды CT-Lab Никиты Кулина, преимущество CoolPrompt над аналогами — Dspy, PromptWizard, Promptomatix — в высокой эффективности подбора промптов и широком функционале. Система может генерировать данные для настройки и оценки запросов, выбирать метод оптимизации в зависимости от приоритета — скорость или качество.
Технология использует комплекс методов: эволюционный алгоритм ReflectivePrompt, быстрый подход HyPE для структурированных промптов и алгоритм DistillPrompt для создания компактных вариантов запросов. Библиотека уже доступна в каталогах GitHub и PyPI для Python-разработчиков и совместима с российскими и иностранными ИИ.
CoolPrompt уже внедрили в мультиагентную систему DMA-MAS — это повысило эффективность ИИ-агентов и сократило затраты на обращение к внешним LLM-моделям. В будущем разработчики планируют создать веб-сервис, где любой человек без IT-образования сможет улучшить промпт в один клик.
Источник новости и обложки: news.itmo.ru