💬 У ИИ память как у рыбки ... Что делать, настраиваем память для ИИ

Собираешь данные поэтапно в чате, а при переходе в новый чат все по-новой. Как с этим быть? Всего есть два пути

1. Промптинг

Вместо того, чтобы каждый раз объяснять нейросети, какая задача, кто я такой, какая цель, какой контекст, нужно собрать фундаментальный файл с правилами и всеми данными.

Кстати, что-то подобное я уже делал тут

К примеру, для генерации карточки товара нужно:

— Цвета, описание стилей, какие элементы использовать, а какие нет

— Подборка хороших карточек

— Подборка плохих карточек

— Описание характеристик

— Логотипы, чтобы их нанести на карточку

— Хорошие офферы и слабые офферы, чтобы ИИ вставила лучший

— И прочие данные (срок доставки, фирма ... )

Всю эту информацию в идеале хранить в каком-то одном удобном месте, чтобы можно было быстро скопировать: на своем ПК, в Notion / obsidian / просто заметках

Но есть минус ... Контекстное окно не резиновое. Оно может начать забываться, если закинуть сильно много данных, но есть и другое решение!

2. Через RAG

RAG - это фактически безлимитная база знаний для ИИ, но она работает особым хитрым образом

Процесс под капотом

— Дробление. Все базы знаний, PDF-ки и регламенты автоматически режутся на Х небольших кусков (чанков)

— Оцифровка (Векторизация): Каждому куску присваивается числовой вектор. Смысл текста превращается в математические координаты

— Поиск: Когда задается вопрос, он тоже становится вектором. Алгоритм математически сравнивает его с базой и достает релевантные куски текста под запрос

— Генерация: Эти найденные сырые абзацы подкидываются нейросети вместе с вопросом. ИИ читает их и выдает ответ, опираясь строго на введенные данные

Резюме

— Для простых задач хватит хорошего файла-промта

— Для создания полноценного цифрового сотрудника, который помнит всё — нужен RAG

ТГ-канал, где сложные ИИ темы становятся простыми, а промты экономят уйму времени⬇