Ako pripraviť pracovný proces pre AI agenta: desať kontrol

Firma si zaviedla ChatGPT a Copilot, zautomatizovala zopár reportov a spustila chatbota. Práca však beží ako predtým: človek dostane úlohu, sám si zháňa kontext, prenáša údaje z jedného systému do druhého, robí priebežné rozhodnutia a výsledok posúva ďalej. AI zrýchľuje jednotlivých zamestnancov, ale fungovanie firmy sa nemení.

Ak chcete agentovi zveriť skutočný proces, dobrý prompt nestačí. Oddelenia zostávajú, no práca sa začína pohybovať po trase, ktorú spoločne prechádzajú ľudia, agenti a služby. Úloha potrebuje opísaný výsledok, vlastníka, kontext, oprávnenia, kontrolu a podmienky zastavenia. Nižšie nájdete desať kontrol, ktoré pomôžu odhaliť medzery predtým, než proces odovzdáte agentovi. Vychádzajú z modelu „desiatich okruhov AI firmy“ Sergeja Pimenova. Ide o pracovný model na diagnostiku, nie o odvetvový ani vedecký štandard.

Prečo zoznam znakov nestačí

Model vznikol z diskusie o zozname 30 znakov firmy postavenej okolo AI: mapa procesov, firemné znalosti, smerovanie medzi modelmi, agentový vývoj, finančné prognózovanie, hodnotenie kvality, riadenie prístupov, postupné rozširovanie samostatnosti.

Diskusia bola obmedzenou vzorkou: vlákno na X odpovede zoraďuje a časť komentárov je označená ako vytvorená s pomocou AI.

To podstatné je však vidieť aj tak: v zozname stoja vedľa seba veci rôznej úrovne — technológie, princípy riadenia, metriky, scenáre, bezpečnostné požiadavky, kultúrne postoje a hypotézy o budúcnosti.

Napríklad firemné znalosti patria k architektúre, princíp „každý zamestnanec sa stáva tvorcom“ patrí ku kultúre, náklady na prijatú zmenu v kóde sú metrikou a roj reklamných agentov je scenárom.

Bez prepojení medzi nimi sa ľahko pomýlite. Môžete generovať tisíce reklamných variantov, ktoré nijako nesúvisia s predajom. Môžete postaviť vyhľadávanie bez toho, aby ste sa dohodli, kto je „aktívny zákazník“. Môžete zamestnancom dať agentov bez toho, aby ste rozhodli, kto zodpovedá za ich chyby. Preto je praktickejšie zhrnúť znaky do desiatich prepojených kontrol — jednej pre každú stránku procesu.

1. Výsledok: čo sa má zmeniť

Práca začína zmenou pre zákazníka alebo firmu. Výsledok má príjemcu, vlastníka, kritériá prijatia, východiskový bod, očakávaný efekt a podmienku, pri ktorej sa experiment ukončí. Bez toho agent rýchlo vyprodukuje veľa zbytočného. Jednotkou práce je prijatý výsledok: publikovaný materiál, vyriešená požiadavka, overená zmena v kóde, odsúhlasená zmluva.

Otázka na kontrolu: aký výsledok pre firmu alebo zákazníka preberá vlastník procesu?

2. Trasa: ako sa úloha naozaj pohybuje

Zrekonštruujte skutočnú cestu: odkiaľ úloha prichádza, aké údaje sa používajú, aké rozhodnutia sa robia, kde vznikajú výnimky, komu sa výsledok odovzdáva a čo sa považuje za dokončenie. Kúpiť nástroj pred rozborom procesu často znamená zrýchliť existujúci chaos. Sám agent pritom môže pomôcť nájsť skutočné prechody, výnimky a skrytú ručnú koordináciu.

Otázka: dokážeme sledovať jednu skutočnú úlohu od vstupu až po prijatý výsledok?

3. Kontext: čo agent vie a odkiaľ

Agent musí vedieť, ktorá verzia dokumentu je aktuálna, čo znamená každý pojem, odkiaľ informácia pochádza, kto ju môže meniť, prečo padlo predchádzajúce rozhodnutie, kedy znalosť zastaráva a ako opraviť alebo odstrániť chybnú informáciu. Ak dve oddelenia chápu „aktívneho zákazníka“ rozdielne, agent bude tento rozpor dôsledne reprodukovať.

Anthropic to nazýva navrhovaním kontextu: riadením všetkého, čo model vidí — inštrukcií, nástrojov, histórie a externých údajov. Pri dlhých úlohách pomáha výber a zhusťovanie kontextu, štruktúrované poznámky a stabilné pracovné dokumenty.

Otázka: dokážeme vysvetliť pôvod, význam, vlastníka a životnosť znalosti, o ktorú sa agent opiera?

4. Vykonanie: dá sa proces zopakovať

Dobrý prompt sám osebe neurobí proces opakovateľným. Zapíšte si, čo treba urobiť, aké nástroje sa smú použiť, odkiaľ brať údaje, kedy je úloha hotová, v akej podobe odovzdať výsledok a čo oznámiť ďalšiemu vykonávateľovi o priebehu práce. Túto úlohu plní prostredie, v ktorom agent pracuje — to, čo spája model, nástroje, inštrukcie, obmedzenia a kontroly.

OpenAI opisuje agenta ako systém, ktorý vedie pracovný proces, používa nástroje v stanovených medziach, vie, kedy je práca hotová, a v prípade potreby odovzdá riadenie človeku.

Otázka: dokáže iný agent alebo človek zopakovať proces podľa uloženého opisu bez toho, aby všetko skladal z korešpondencie?

5. Prístup: čo agent smie

Oprávnenia zamestnanca sú zvyčajne širšie, než agent potrebuje, a dať agentovi celý prístup človeka je zbytočné riziko. Bezpečnejšie je:

• samostatný účet pre agenta;
• oprávnenia na obmedzený čas;
• prístup len k údajom konkrétnej úlohy;
• povolenie na konkrétne akcie;
• oddelené práva na prípravu, vykonanie, kontrolu a publikovanie.

Ak bude agent pracovať s údajmi zákazníkov, firma v EÚ osobitne overí požiadavky GDPR na takéto spracúvanie.

OWASP odporúča pre agentov princíp najmenších oprávnení, overovanie oprávnení pri každej požiadavke, minimálne práva pre pripojenia k externým systémom a protokol operácií.

Otázka: vieme presne povedať, čo smie toto spustenie agenta prečítať, zmeniť a odoslať?

6. Zodpovednosť: kto zodpovedá za výsledok

Agentový proces má aspoň štyri roly: vlastníka výsledku, vlastníka procesu, agenta-vykonávateľa a kontrolóra. Jeden človek môže zastávať viac rolí, ale roly nesmú zmiznúť. Agent vykonáva prácu, organizačná a právna zodpovednosť však zostáva na ľuďoch, ktorí stanovili cieľ, udelili oprávnenia a výsledok prevzali.

Ako to vyzerá v praxi. V redakcii, kde agenti pomáhajú s rešeršou, štruktúrou, textom, ilustráciami a technickou časťou webu, prechádza materiál samostatnými stavmi:

1. Zámer.
2. Rešerš.
3. Štruktúra.
4. Úplný text.
5. Kontrola.
6. Potvrdenie zápisu.
7. Koncept v Notion.
8. Rozhodnutie o publikovaní.
9. Kontrola publikovaného výsledku na webe.

Agent materiál pripraví, ale rozhodnutie o vydaní textu zostáva na človeku. Zápis konceptu a publikovanie sú rozdielne akcie a každý prechod si vyžaduje samostatné rozhodnutie a overiteľný výsledok.

Otázka: kto zodpovedá, ak agent presne splnil inštrukciu, no firma dostala nesprávny výsledok?

7. Pozorovateľnosť: dá sa zrekonštruovať priebeh práce

Uložiť konečnú odpoveď nestačí. Priebeh práce zrekonštruujte z protokolu:

• úloha a použitý kontext;
• model, volané nástroje a vykonané akcie;
• chyby;
• kto výsledok skontroloval a kto ho prevzal.

Správny výsledok ešte nedokazuje, že proces je bezpečný a hospodárny: agent sa k odpovedi mohol dostať náhodou alebo urobiť zbytočné kroky. Anthropic odporúča hodnotiť konečný stav aj cestu agenta — volania nástrojov a priebežné kroky — a hodnotenie kvality začínať jasnými kritériami úspechu.

Otázka: dokážeme vysvetliť nielen to, čo agent urobil, ale aj prečo bol výsledok prijatý?

8. Odolnosť: čo sa stane pri výpadku

Proces nemožno považovať za funkčný, ak nie je známe, čo sa stane pri zlyhaní. Pred spustením určte:

• kde sa agent musí zastaviť;
• koľko opakovaných pokusov je povolených a ako dlho sa smie čakať na odpoveď;
• kedy úloha prechádza na človeka;
• ako funguje bezpečný ručný režim;
• ako vrátiť zmeny späť a obnoviť poslednú overenú verziu kontextu.

Ak výpadok spôsobilo chybné pravidlo, zastaraná inštrukcia alebo poškodený kontext, obnovte poslednú overenú konfiguráciu celú: inštrukcie, údaje, nástroje, smerovanie aj práva.

Otázka: čo sa stane, ak sa agent zastaví uprostred procesu alebo začne opakovane robiť nesprávne rozhodnutia?

9. Ekonomika: koľko stojí prijatý výsledok

Hlavným meradlom sú náklady na prijatý výsledok. Popri nich sa oplatí sledovať podiel prerábok, náklady na ľudskú kontrolu, čas od zadania úlohy po prijatie, náklady na chybu a obnovu, vplyv na tržby, maržu alebo priepustnosť. Príkladom takejto metriky vo vývoji sú náklady na prijatú zmenu v kóde: vygenerovaný kód sa stáva výsledkom až po kontrole a prijatí. Rovnako sa hodnotí materiál, report, zmluva či požiadavka zákazníka.

Otázka: ktorá obchodná metrika sa zmení, ak proces s agentom naozaj funguje?

10. Človek: aké rozhodnutie zostáva ľuďom

Presne určte, čo zostáva na človeku a prečo. Človek volí cieľ a zodpovedá za následky. Jeho účasť je obzvlášť dôležitá pri rozhodnutiach o peniazoch, prístupoch a nezvratných krokoch. Osobitnú pozornosť si vyžaduje etika, vzťahy medzi ľuďmi, vkus a autorský postoj, ako aj výnimky, ktoré v údajoch ešte nie sú. Niekto sa musí „podpísať pod vkus“ — rozhodnúť, ktoré varianty zodpovedajú hlasu firmy. A človeku zostáva právo automatizáciu odmietnuť: niekedy treba proces najprv zrušiť, zjednodušiť alebo premyslieť nanovo.

Otázka: ktoré rozhodnutie v tomto procese si človek musí ponechať a prečo?

Aký zrelý je proces: päť úrovní

Každú z desiatich kontrol môžete ohodnotiť podľa piatich úrovní:

• úroveň 0 — táto stránka procesu nie je nijako opísaná;
• úroveň 1, osobná — jednotliví zamestnanci riešia úlohy vlastnými nástrojmi;
• úroveň 2, opakovateľná — existuje proces, inštrukcie a povinná kontrola;
• úroveň 3, riadená — existuje vlastník, práva, protokol akcií, hodnotenie kvality, body zastavenia a návrat späť;
• úroveň 4, adaptívna — proces sa zlepšuje na údajoch z vlastných spustení a získava samostatnosť, ktorú si zaslúžil výsledkami.

Celkové skóre tu veľa nepovie: priemer zakrýva nerovnováhu. Vyspelé vykonávanie bez zodpovednosti, prístupov či návratu späť zostáva neriadené. Stupnica je pracovná hypotéza na diagnostiku, nie vedecky overený rebríček.

Rýchla diagnostika jedného procesu

Vyberte jeden proces, v ktorom už AI používate. Prejdite desať otázok vyššie a označte, ktoré odpovede sú podložené pozorovaním a ktoré ešte treba overiť.

Ak s istotou odpovedáte len na otázky o nástrojoch a vykonaní, firma začala AI používať, ale ešte nezmenila to, ako je práca usporiadaná.

Proces môžete rozobrať spolu s AI. Opíšte cestu od prichádzajúcej požiadavky po výsledok, ktorý preberá konkrétny človek, a použite tento prompt:

Rozober jeden môj proces podľa desiatich kontrol pripravenosti na AI agenta.
Použi len údaje nižšie. Nič nezavádzaj a nepredpokladaj,
že máš prístup do firmy. Nevyplnené polia v hranatých
zátvorkách považuj za chýbajúce údaje.

Proces: [začiatok, hlavné kroky a konečný výsledok]
Kto preberá výsledok a podľa čoho: [človek, kritériá]
Roly a rozhodnutia: [kto vykonáva kroky, kto povoľuje akcie]
Kde je zapísaný stav: [systém alebo dokument, jeden príklad]
Známe výpadky, obmedzenia a náklady: [pozorovania alebo „neviem“]

Najprv skontroluj vstupy. Prázdne pole a „neviem“ znamenajú chýbajúce
údaje. Ak sú nejasné hranice procesu alebo kritériá prijatia, alebo
si vstupy navzájom odporujú, polož najviac tri podstatné otázky a zastav sa do odpovede.

Vráť tabuľku podľa desiatich kontrol: výsledok a zmysel; procesy
a úlohy; kontext a organizačná pamäť; vykonanie;
identita a prístup; zodpovednosť; pozorovateľnosť a kvalita;
odolnosť a návrat späť; ekonomika; ľudská účasť. V každom riadku: čo je známe, úryvok
zo vstupov, čo nevieme a jedna ručná kontrola. Z nedostatku informácií nevyvodzuj
neexistenciu a nedávaj celkové skóre.

Vyber jednu preukázanú medzeru, ktorá bráni prevziať výsledok,
a vysvetli výber. Ak na to nie sú podklady, povedz to. Na záver uveď zoznam
toho, čo musím potvrdiť. Návrhy kontrol nevydávaj
za vykonané kontroly.

Výsledkom bude mapa jedného procesu: čo je známe, čo chýba a ktorú kontrolu urobiť ako prvú. Každý riadok porovnajte s opisom procesu: model nesmie priraďovať úrovne neznámym úsekom ani si vymýšľať vlastníka výsledku. Takýto rozbor pomôže nájsť otázku na overenie. Nepotvrdzuje stav celej firmy a nenahrádza pozorovanie skutočnej práce.

Hlavný znak pripravenosti

Keď pripravujete proces pre agenta, overte, či ho dokážete odovzdať celý a zachovať pritom zmysel výsledku, vlastníka, aktuálny kontext, obmedzené práva, pozorovateľnosť, kontrolu, odolnosť, merateľnú ekonomiku a právo človeka systém zastaviť. Funkčný proces môžete rozširovať a prepájať so susednými — tak sa AI postupne stáva súčasťou fungovania firmy.

Čítajte ďalej: najprv preskúmajte pracovný deň, potom stavajte AI agenta a ako odovzdať úlohu tak, aby všetko nezostalo v hlave vedúceho.

Ak chcete podľa týchto kontrol rozobrať svoj proces, môžete to urobiť spolu so Simplit na bezplatnom 30-minútovom stretnutí. Prebrať úlohu

Primárne zdroje: Alex Lieberman — 30 features of an AI-native company; OpenAI — A practical guide to building AI agents; Anthropic — Effective context engineering for AI agents; Anthropic — Demystifying evals for AI agents; OWASP Cornucopia — Agentic AI AAI6.