Трендслоп: почему ИИ выдаёт слабые стратегические решения

Исследователи из HBR прогнали 15 000 экспериментов с ведущими LLM. Задавали стратегические вопросы в разных контекстах: стартапы, корпорации, банки, здравоохранение. Результат - все модели выдавали одни и те же модные рекомендации. Differentiation, collaboration, long-termism, human augmentation, sustainability, innovation). Они назвали это trendslop.

Мне понравился этот термин. Вообще, трендслоп ведь существовал и до ChatGPT. Консалтинговые агентства продают методологию, а не решение. Лайф-коучи натягивают фреймворк на любую ситуацию. "Вам нужен скрам" — это трендслоп 2018 года.

AI просто автоматизировал процесс и усиливает "усреднение" популярных ответов.

Я работаю с организационными изменениями и осознанно прихожу в LLM с задачами типа "нужно настроить целеполагание". В ответах, конечно, получаю трендслоп: стратсессии, OKR, трансформации. И сразу же я предлагаю свои решения, о чём я уже подумал, что хочет заказчик, и прошу челленджить этот ответ, предложить альтернативу, сравнить.
Я думаю что X поможет. Что нужно учесть, чтобы это не провалилось? = Принципиально другой запрос и ответ. Ответ вообще не предлагает готовых решений, заставляет подумать своей головой.

Но даже в таком случае, есть вещи, которые просто не засунешь в промпт и в контекст моделей:

Человек это чувствует телом, практически интуитивно, когда видит, например, как в команде закатывают глаза на слове "AI трансформация", или помнит, что прошлый запуск затух по причинам, которые ни в какой отчёт не попали.

LLM же слышит только задачу и то, что уже рационализировано.

Это и есть то, что делает решение человеческим и, судя по результатам исследований на HBR, более эффективным. А трендслоп опасен, в первую очередь, для тех, кто этот навык чтения живого контекста пока не развил. И теперь (возможно, и не напрасно) думает, что AI его заменяет.

Стараюсь сопротивляться трендслопу в телеграм-канале. Подписывайтесь.