Персона ИИ-агента: пять способов задать характер
Текст персоны можно подложить агенту пятью разными способами, и они не равноценны. Разбираю, куда попадает каждый и чем за него платишь.
Где мы находимся
Почему это первый вопрос, а не последний
Когда собираешь себе ИИ-сотрудника, кажется, что главное это придумать, что написать. На деле сначала надо решить другое: куда этот текст поедет.
От ответа зависит, будет персона рекомендацией или законом. Переживёт ли она сжатие контекста в длинной сессии. Увидят ли её коллеги, открывшие тот же репозиторий. Останется ли у агента всё то, что делает его агентом.
Способов пять. Выглядят они взаимозаменяемыми, а работают по-разному, и разница не косметическая.
Ниже конкретные файлы, флаги и настройки одного инструмента: на нём собран Гоша.
У других агентов идея та же самая: характер это текст, который подкладывается модели до начала разговора. А вот механика своя, и переносить её один в один нельзя. Соседей разберу отдельно, здесь мешать в кучу не буду.
Куда вообще едет текст
Прежде чем сравнивать, надо развести два места. Их постоянно путают, и отсюда растёт большинство жалоб вида «я написал, а он игнорирует».
Системный промпт. Инструкция, которая лежит над разговором. Модель видит её до твоего первого слова и не может «пролистать»: это её рабочая установка.
Контекст разговора. Всё остальное: содержимое файлов, твои сообщения, результаты команд. Тоже влияет, но живёт наравне с перепиской.
Разница простая. Текст в системном промпте это про то, кто работает. Текст в контексте это про то, над чем работают. Персона по своей природе первое, но подложить её можно и вторым способом, и многие так и делают.
Системный промпт отправляется целиком в каждом запросе. Он никуда не девается ни на сотом сообщении, ни после сжатия контекста, и «забыть» его модель не может.
Разница между двумя местами не в том, дойдёт текст или нет, а в том, насколько громко он звучит. К середине рабочего дня рядом с твоими четырьмя правилами лежат десятки тысяч токенов свежего разговора: код, ошибки, твои уточнения. Всё это тоже своего рода инструкции, только ближе и конкретнее.
Правило не исчезает. Оно проигрывает в весе. Дальше увидишь способ, который с этим борется напрямую.
Дальше полный разбор
Полный разбор и остальные материалы уровня Pro доступны по подписке.