Как сэкономить $20 000 000, просто «почистив» промпт

Инженер из Lovable (популярный AI-native инструмент для создания сайтов в один клик, здесь я выпускал интервью с основателем) поделился интересным кейсом рефакторинга системного промпта, который принес компании сумасшедшие результаты.

Как сэкономить $20 000 000, просто «почистив» промпт

В чем была проблема? Системные промпты больших сервисов со временем превращаются в «спагетти-код». Один инженер добавил инструкцию, чтобы ИИ лучше писал код, второй - чтобы не забывал про дизайн. В итоге инструкции начинают дублировать друг друга, противоречить или просто раздувать контекст.

Что сделал Бенджамин:

1. Проанализировал логи: прочитал тонны логов LLM «с нуля», не ища ничего конкретного.

2. Убрал лишнее: удалил дубликаты, сократил многословные формулировки и выровнял баланс инструкций.

3. Использовал ИИ для помощи: первые абзацы промпта переписал вручную, а остальное поручил сделать Claude Opus, задав ему нужный стиль.

4. Финальный контроль: построчно проверил результаты, сравнив с прежней версией.

Результаты такой работы одного сотрудника на новогодних праздниках для компании:

  • Экономия на API - $20 млн в год (за счет сокращения токенов и скорости).
  • Генерация дизайна стала на 4% быстрее.
  • Качество следования инструкциям заметно выросло.

Главный урок: в эпоху ИИ «промптить сильнее» (добавлять еще больше текста) - не значит лучше. Комплексный подход и обычная чистка текста работают эффективнее, чем бесконечное наслоение новых правил.

Источник: тут.

Подписывайтесь на Telegram Егошин | Кеды профессора.

1 комментарий