- следващата стъпка зависи от събран контекст
- има малък набор ясни инструменти
- задачата може да спре безопасно
- всяко действие може да се запише
- екипът може да дефинира кога е нужно одобрение
Pillar guide / AI агенти
AI агенти: инструменти, права и контролирани действия
AI агент е софтуерен процес, който използва модел, за да избере следваща стъпка и да работи с предварително разрешени инструменти — например търсене в база знания, създаване на задача или четене на статус от CRM. Разликата спрямо chatbot не е в начина на разговор, а в способността да действа. Затова полезният агент има ясна цел, ограничени права, проверими входове и изходи, лимит на стъпките и човешко одобрение при значим риск. Ако задачата може да се реши с един отговор или точен workflow, агентът добавя ненужна сложност.
01Практическо определение
Chatbot, AI workflow и AI агент
Агентът не е отделен вид магически AI. Той е orchestration слой: получава задача, събира разрешен контекст, избира инструмент, проверява резултата и решава дали да продължи, да поиска уточнение или да ескалира. Моделът предлага намерение; кодът контролира реалното изпълнение.
Инструментът е конкретна функция с договорени вход и изход — например get_order_status(orderId) или create_ticket(summary, priority). Агентът не трябва да има общ достъп до база или shell, когато са нужни две тесни операции. Колкото по-широк е инструментът, толкова по-трудни са разрешенията, тестовете и одитът.
| Критерий | Chatbot | AI workflow | AI агент |
|---|---|---|---|
| Основна роля | Отговаря в разговор | Изпълнява предварително зададени стъпки | Избира между разрешени следващи стъпки |
| Инструменти | По избор, често само търсене | Извикват се в точен ред | Избират се според контекста |
| Предвидимост | Отговорът варира | Висока структура | По-ниска; изисква лимити |
| Подходящ за | FAQ и помощ | Стабилен процес с AI стъпка | Вариращи многостъпкови задачи |
| Основен риск | Грешен отговор | Грешка в конкретна стъпка | Неподходящо действие или цикъл |
02Критерии за избор
Кога агентът оправдава допълнителната сложност
- нужен е само един отговор или класификация
- процесът няма собственик и правила
- инструментите дават прекалено широк достъп
- грешката е необратима и не може да се открие
- целта няма ясен критерий за завършване
03Архитектурна логика
Как изглежда контролираното решение.
Добрата агентна архитектура отделя разсъждението от правото за действие. Всеки tool call минава през schema validation, permission policy и одит.
01Потребителцел + контекст
02Агентизбира следваща стъпка
03Policy gateidentity · role · limits
04Toolssearch · read · create
05Approvalпри риск
06Action + auditрезултат и следа
Policy gate проверява реалните права независимо от текста, генериран от модела. Approval е част от изпълнението, не последваща административна стъпка.
04Примерни сценарии
Практически модели, не клиентски проекти.
Сценариите са илюстративни. Те показват граници и решения, а не обещават конкретен бизнес резултат.
Триаж на сервизна заявка
- Вход
- Описание, актив и история на сходни заявки.
- Подход
- Агентът търси документация, задава липсващ въпрос и предлага категория.
- Контрол
- Може да създаде чернова на ticket; човек одобрява критичен приоритет.
- Ограничение
- Не диагностицира окончателно при непълни данни.
Подготовка за търговски разговор
- Вход
- Ново запитване и разрешени CRM данни.
- Подход
- Събира фирмен контекст, свързани контакти и отворени задачи в кратък briefing.
- Контрол
- Read-only инструменти; не изпраща оферта и не променя цена.
- Ограничение
- Непълният CRM контекст трябва да е видим, не прикрит.
Вътрешен IT помощник
- Вход
- Заявка от идентифициран служител.
- Подход
- Проверява known issues и предлага разрешени диагностични стъпки.
- Контрол
- Рестарт или промяна изисква роля, лимит и потвърждение.
- Ограничение
- Prompt injection в ticket или документ се третира като недоверен вход.
05Внедряване
Шест стъпки от изискване до поддържана услуга.
- 01
Дефинирайте задачата
Опишете началото, успеха, отказа и максималния брой стъпки.
Agent contract - 02
Проектирайте тесни инструменти
Всеки инструмент има typed schema, минимални права и предвидими грешки.
Tool registry - 03
Задайте permission policy
Свържете потребител, роля, данни и допустимо действие; не разчитайте на prompt за сигурност.
Policy matrix - 04
Добавете approval gates
Определете стойност, риск и необратимост, които задължително спират потока.
Approval rules - 05
Тествайте траектории
Проверете не само крайния отговор, а избраните инструменти, аргументи, цикли и откази.
Evaluation set - 06
Пуснете с малки права
Започнете read-only, наблюдавайте и разширявайте една операция наведнъж.
Controlled rollout
06Ограничения и trade-offs
Рискът трябва да има технически отговор.
Прекомерни права
Един общ credential превръща грешен избор в системен риск.
Тесни service roles, allowlist и лимити.Prompt injection
Имейл или документ може да съдържа инструкция, която се представя за системна.
Недоверен контекст, tool policy и отделяне на инструкции от данни.Цикли и разход
Агентът може да повтаря търсене или действие без полезен напредък.
Step budget, timeouts и критерий за спиране.Тиха грешка
Правдоподобен междинен резултат може да насочи следващите стъпки погрешно.
Проверки на източника, аргументите и критичните полета.07FAQ
Кратки отговори на важните въпроси.
01AI агентът просто chatbot ли е?
Не. Chatbot описва интерфейс за разговор. Агентът има контролирана възможност да избира и извиква инструменти. Един chatbot може да използва агент, но може и само да отговаря.
02Как агентът използва инструменти?
Моделът предлага име на разрешен инструмент и структурирани аргументи. Кодът валидира заявката, проверява правата, изпълнява операцията и връща ограничен резултат.
03Кога е нужно човешко одобрение?
При необратими действия, финансово или правно отражение, чувствителни данни, ниска увереност, нетипичен случай или преминаване на предварително зададен лимит.
04Може ли агентът да има достъп до всички системи?
Технически може, но това е лош дизайн. Достъпът трябва да се дава на ниво конкретна операция и роля, с отделни credentials и одит.
05Как се тества AI агент?
Освен качеството на отговора се проверяват избраните инструменти, аргументите, отказите, ескалациите, броят стъпки, поведението при грешка и устойчивостта срещу недоверен вход.
Свързани теми: AI автоматизация · Private AI.