Bounded Autonomy agentów AI: definicja i framework

W praktyce agent sam decyduje, co zrobić, dopóki nie dojdzie do granicy. Tam staje i woła człowieka. Pełna autonomia świetnie wygląda na slajdzie. Na produkcji ktoś potem gasi pożary. Bounded autonomy leży pomiędzy.

Co to jest Bounded Autonomy?

Bounded Autonomy to framework oparty na zasadach NIST AI Risk Management Framework. Agent AI dostaje jasno wytyczone granice. W ich obrębie ma pełną swobodę. Poza nimi zatrzymuje się i oddaje sprawę człowiekowi (human-in-the-loop).

To jak dać nastoletniemu synowi kluczyki do samochodu. Mówisz mu: "Możesz jeździć po mieście, ale nie na autostradę. W domu masz być przed 22."

4 filary Bounded Autonomy

FRAMEWORK BOUNDED AUTONOMY

1. Operational Limits
Co agent może robić? Jakich akcji nie może wykonać samodzielnie?
2. Escalation Triggers
Kiedy agent musi oddać decyzję człowiekowi?
3. Audit Trail
Jak dokumentujemy każdą decyzję agenta?
4. Kill Switch
Jak natychmiast wyłączamy agenta gdy coś pójdzie nie tak?

Audit trail ma sens tylko wtedy, gdy każdy cichy retry i fallback zostawia policzalny ślad. Inaczej logi pokazują same sukcesy. Więcej o cichych awariach pisałem osobno.

Operational Limits w praktyce

Przykład dla agenta obsługi klienta:

DOZWOLONE AKCJE

✓ Odpowiadanie na pytania o produkty
✓ Sprawdzanie statusu zamówienia
✓ Wydawanie kuponów do 50 zł
✓ Aktualizacja danych kontaktowych

WYMAGAJĄCE ESKALACJI

✗ Zwroty powyżej 500 zł
✗ Skargi prawne
✗ Zmiany w umowach
✗ Klient wyraźnie prosi o człowieka

Escalation Matrix

Nie wszystkie eskalacje są równe. Stwórz matrycę:

Poziom 1 (Soft Escalation): Agent działa dalej, ale oznacza sprawę do sprawdzenia później
Poziom 2 (Human Review): Agent czeka na akceptację, zanim coś wykona
Poziom 3 (Full Handoff): Człowiek przejmuje całkowicie
Poziom 4 (Emergency Stop): Agent zatrzymany, zgłaszamy incydent

Tę samą logikę widać już w produktach. Dots, agenci OpenAI pokazani na DevDay 2026, działają według reguł: akcja jest dozwolona, wymaga zgody albo jest zablokowana. Rozpisałem, jak takie granice wyglądają w agencie, który pracuje całą dobę.

Poziom 3 kończy się przekazaniem sprawy, ale nie mówi, co człowiek ma z nią dalej zrobić. Ten podział pracy opisują cztery wzorce hybrydowe, od pełnego handoffu po AI, które tylko podpowiada.

"Bounded Autonomy buduje zaufanie, a zaufanie pozwala skalować. Agentowi z jasnymi granicami możesz dać więcej swobody. Wiesz, że nie przekroczy linii."

Governance Agents

Najbardziej zaawansowane firmy idą o krok dalej. Mają agentów AI, którzy pilnują innych agentów. Governance Agent sprawdza:

• Czy decyzje są zgodne z polityką firmy?
• Czy nie ma anomalii w zachowaniu?
• Czy performance nie degraduje się?
• Czy eskalacje są obsługiwane na czas?

Agenci pilnujący agentów to warstwa techniczna. Organizacyjną, czyli inventory systemów, klasyfikację ryzyka i jasne ownership, opisałem przy AI governance.

WSPÓŁPRACA

To robię na co dzień: doradzam przy strategii AI i buduję agentów, którzy przeżywają demo.

Doradztwo AI Wdrożenia AI

Bounded, constrained, controlled czy governed autonomy: czym się różnią

Branża używa tych nazw zamiennie. Nikt ich nie znormalizował. Poniżej podział, którego używam u klientów, oparty na mechanizmach opisanych wyżej.

Bounded autonomy: granice siedzą w samym agencie. Agent wie, czego mu nie wolno, i w tych ramach decyduje sam. Projektujesz to przy jednym agencie.
Constrained autonomy: ograniczenie działa na przestrzeń akcji i sprawdza się przy każdej decyzji, więc bliżej mu do reguły w kodzie niż do zapisu w polityce. Sięgasz po nie wtedy, gdy agent nie może wykonać danej akcji nawet przez pomyłkę.
Governed autonomy: to Governance Agents z poprzedniej sekcji, tyle że w skali organizacji. Polityki, właściciel, audyt, raportowanie. Obejmuje całą flotę.
Controlled autonomy: tu uczciwa odpowiedź brzmi „nic konkretnego". Fraza krąży po materiałach dostawców i nikt nie zdefiniował jej inaczej niż dwóch powyższych. Kiedy ją usłyszysz, dopytaj, o który mechanizm chodzi.

Praktyczna różnica jest prosta. Bounded projektujesz przy jednym agencie, governed wdrażasz raz dla wszystkich. Firmy, które zaczynają od governance, mają gotowe polityki i zero agentów na produkcji.

AI autonomy controls, czyli kontrola autonomii AI, to zbiorcza nazwa na cztery filary z początku wpisu. Lista dozwolonych akcji, triggery eskalacji, audit log i kill switch. Kiedy ktoś pyta o kontrolę nad agentem, pyta właśnie o nie.

Zostaje bounded automation. Branża tego terminu nie ustaliła, a ludzie i tak go wpisują, więc powiedzmy wprost: automatyzacja wykonuje ustalony przepływ i niczego nie wybiera. Agent wybiera akcję w granicach, które mu wyznaczyłeś. Jeśli twój proces niczego nie wybiera, ten framework nic ci nie da. Potrzebujesz dobrego workflow.

Newsletter

The Agentic Architect

Praktyczne wzorce, case studies, rozbiory projektów agentowych i nowinki o AI. Zero spamu, raz w tygodniu.

Dostaniesz jednego maila z prośbą o potwierdzenie. Wypiszesz się jednym kliknięciem. Polityka prywatności

Implementacja: Krok po kroku

1. Spisz wszystkie akcje które agent może wykonać
2. Dla każdej akcji określ: auto, review, lub forbidden
3. Zdefiniuj triggery eskalacji (wartość, ryzyko, sentiment)
4. Zbuduj audit log dla każdej decyzji
5. Przetestuj scenariusze edge-case
6. Ustaw alerting dla anomalii

Od czego zacząć

Zacznij od jednej tabeli: akcje, które agent wykonuje sam, te do akceptacji człowieka i te całkowicie zakazane. Cały framework rozwija się wokół tej listy. Firmy, które ją mają, skalują AI spokojnie. Reszta uczy się na własnych błędach.

Jak sprawdzić, że granice działają

Spisanie granic to połowa pracy. Druga połowa to dowód, że agent się na nich zatrzymuje. Zrób te cztery próby przed startem i po każdej zmianie narzędzi albo promptu agenta.

Sprawdź obie strony każdej granicy. Jeśli zwrot powyżej 500 zł wymaga zgody, puść 500 zł i 501 zł. Pierwszy przechodzi, drugi czeka na człowieka.
Poproś agenta o złamanie zasady. Powiedz mu, że klient jest VIP-em albo że kierownik już się zgodził. Limit powinien nadal działać, bo kod sprawdza wywołanie, zanim ono ruszy.
Zajrzyj do logu decyzji. Każda eskalacja powinna zostawić wpis ze sprawą, powodem i osobą, która zdecydowała.
Raz celowo użyj kill switcha. Zmierz, jak szybko agent staje i co dzieje się ze sprawami, które prowadził.

Jeśli któraś próba się nie uda, granica istnieje tylko na papierze. Najpierw popraw mechanizm, potem dawaj agentowi więcej swobody.

Najczęstsze pytania

Czym jest bounded autonomy w firmie?

To sposób pracy z agentami AI w firmie. Agent działa sam w granicach, które ustala firma, na przykład dozwolonych akcji, kwot i danych. Resztę oddaje człowiekowi. Każda decyzja trafia do logu, a agenta można w każdej chwili zatrzymać.

Czy bounded autonomy to to samo co human-in-the-loop?

Human-in-the-loop jest jedną z jej części. Człowiek wchodzi do gry tylko na granicach, które wyznaczyła firma. W ich środku agent pracuje sam. Bounded autonomy rozstrzyga, które akcje wymagają człowieka.

Czy bounded autonomy dotyczy też przemysłu?

Te cztery filary można też zastosować do poleceń agentów w przemyśle. Przy maszynach granice agenta i jego kill switch obejmują tylko polecenia, które agent może wysłać. Zabezpieczenia samej maszyny i wyłączniki awaryjne wymagają własnego projektu i własnych testów. Pozostają oddzielone od agenta.

Czym różnią się od niej constrained i governed autonomy?

W podziale opisanym wyżej constrained autonomy wymusza granice przestrzeni akcji przy każdej decyzji. Narzędzie odmawia akcji spoza listy, a testy powinny obejmować także próby obejścia. Governed autonomy działa na poziomie organizacji: właściciele, polityki, zatwierdzanie zmian i audyt dla wszystkich agentów. Bounded autonomy to rama dla jednego agenta: granice, eskalacja, log i kill switch.

ŹRÓDŁA

NIST: AI Risk Management Framework