AI vo firme bez chaosu: čo automatizovať a čo nechať ľuďom

Najčastejšia chyba pri zavádzaní AI je začať otázkou, kam dáme chatbota. Že poradie je opačné, teda najprv proces, potom technológia, sme rozpísali v článku AI nezachráni zlý proces vrátane postupnosti Remove, Simplify, Automate, Augment.

Tento text začína o krok neskôr, v bode, kde proces poznáte a treba rozhodnúť, kto v ňom čo robí: ktoré úlohy patria pravidlu, ktoré modelu a ktoré človeku, ako nastavíte prístupy a schvaľovanie a čo urobíte v deň, keď model urobí chybu. Na týchto troch veciach padá viac nasadení než na kvalite modelu.

Najprv rozkreslite proces

Rozdeliť úlohy sa dá až nad rozkresleným procesom: kto informáciu vytvára, kde sa prepisuje, kto ju kontroluje a čo sa stane pri chybe. Bez toho neviete, či úloha patrí pravidlu, modelu alebo človeku.

Veľa úloh, ktoré firmy označujú ako AI projekt, v skutočnosti AI nepotrebuje. Preniesť formulár do CRM alebo založiť úlohu po zmene stavu objednávky je deterministická automatizácia, teda postupnosť pravidiel, ktorá pri rovnakom vstupe dá vždy rovnaký výstup. Je lacnejšia, predvídateľnejšia a ľahšie auditovateľná.

Rozlíšenie nie je len terminologické. Európske nariadenie o AI v recitáli 12 uvádza, že definícia AI systému nemá pokrývať systémy založené na pravidlách definovaných výlučne fyzickými osobami. Kľúčovou vlastnosťou AI systému je schopnosť odvodzovať, teda tvoriť predikcie, obsah či rozhodnutia nad rámec základného spracovania údajov. V praxi: ak sa úloha dá napísať ako pravidlo, napíšte ju ako pravidlo.

AI má najväčší zmysel tam, kde vstup nie je štruktúrovaný: e-maily, dokumenty, telefonáty, poznámky, obrázky alebo situácie, kde treba informáciu zhrnúť, klasifikovať či pripraviť návrh rozhodnutia. Zodpovedá tomu aj adopcia: podľa Eurostatu bol v roku 2025 najrozšírenejšou AI technológiou vo firmách EÚ text mining, teda analýza písaného textu, s 11,75 %.

Ktoré úlohy patria stroju a ktoré človeku

Namiesto zoznamu módnych use casov pomôžu tri otázky.

• Aká je cena chyby? Zlá interná poznámka stojí minútu, zle poslaná ponuka maržu alebo klienta. Čím vyššia cena, tým bližšie musí byť človek k rozhodnutiu.
• Dá sa výstup overiť rýchlejšie, než by sa dal vytvoriť? Ak áno, je to kandidát na návrh od modelu s ľudským potvrdením. Ak kontrola trvá dlhšie než práca sama, model iba presúva námahu inam.
• Je akcia vratná? Koncept, klasifikácia či zhrnutie sa dajú zahodiť. Odoslaný e-mail, zmenená cena, uhradená faktúra alebo vymazané dáta nie.

Výsledkom je rozdelenie, ktoré obhájite pred finančným riaditeľom aj pred právnikom. Modelu patrí interpretácia a návrh, pravidlám všetko jednoznačné a opakované, človeku rozhodnutie, ktoré je drahé, nevratné alebo nesie zodpovednosť voči tretej strane.

Kde hľadať prvé úlohy, naznačuje terénna štúdia ekonómov Brynjolfssona, Liovej a Raymondovej, publikovaná ako pracovný text americkej výskumnej organizácie NBER. Na vzorke 5 179 pracovníkov zákazníckej podpory zvýšil generatívny asistent počet vyriešených požiadaviek za hodinu v priemere o 14 %. U nováčikov a menej skúsených to bolo 34 %, u skúsených bol efekt minimálny, lebo model šíri postupy najlepších pracovníkov.

Záver je konkrétny: AI dvíha podlahu, nie strop. Hľadajte miesta s najväčším rozptylom kvality medzi ľuďmi, nie tie, kde už máte špičkový výkon.

Najväčšia hodnota často nie je viditeľná klientovi

Efektívna AI nemusí mať avatar na homepage. Môže v pozadí pripraviť obchodníkovi kontext pred telefonátom, vytvoriť návrh ponuky, odhaliť chýbajúce údaje v objednávke alebo prepísať meeting do úloh. Človek potom robí menej administratívy a viac práce, za ktorú ho firma reálne potrebuje. Ako sa firma dá stavať priamo takto, píšeme v texte o firme bez armády administratívnych ľudí.

Anthropic v ekonomickom indexe zo septembra 2025 uvádza na vlastných dátach, že v podnikovom API vykazovalo 77 % prípadov vzorce automatizácie oproti približne 50 % v spotrebiteľskej aplikácii. Firmy nekupujú konverzáciu, kupujú prácu v procese, ktorý zákazník nikdy neuvidí.

Modelový príklad. Výrobná firma dostáva dopyty e-mailom ako voľný text s PDF výkresmi a asistentka ich prepisuje do CRM. Model prečíta e-mail, vytiahne položky, označí chýbajúce parametre a pripraví koncept otázky. Čo nerobí: neposiela e-mail, neurčuje cenu a nemení stav dopytu. Ilustrácia architektúry, nie referencia klienta.

Silný systém kombinuje AI s pevnými pravidlami

Najbezpečnejšia architektúra nie je nech AI rozhoduje o všetkom. Model interpretuje vstup alebo pripraví návrh, workflow riadi oprávnenia a limity. Dôvod nie je ideologický, je meraný.

Benchmark TheAgentCompany simuluje prostredie malej softvérovej firmy a sleduje, ako si agenti poradia s reálnou pracovnou agendou. Najúspešnejší testovaný agent dokončil autonómne 30 % úloh. Benchmark tau-bench testuje agentov v rozhovore so simulovaným používateľom pri dodržiavaní doménových pravidiel: špičkoví agenti uspeli na menej než 50 % úloh a pri opakovaní tej istej úlohy klesla metrika pass^8, teda úspech vo všetkých ôsmich pokusoch, v retailovej doméne pod 25 %. Model teda nie je len nepresný, je nekonzistentný, a to je pre návrh procesu podstatnejšie než priemerná úspešnosť.

Pri citlivých alebo externých akciách, teda pri odoslaní ponuky, zmene ceny, úhrade či vymazaní dát, má byť jasné, kedy je potrebné ľudské schválenie. To znamená tri konštrukčné rozhodnutia:

• Oddelené čítanie a zápis. Model má široký prístup na čítanie kontextu, ale zápis ide cez úzky zoznam povolených akcií s definovanými parametrami.
• Tvrdé limity v kóde, nie v prompte. Maximálna zľava, suma alebo zoznam povolených príjemcov patria do workflowu. Pravidlo v prompte je odporúčanie, pravidlo v kóde obmedzenie.
• Idempotencia a náhľad. Zapisovacia akcia má byť spustiteľná nanečisto alebo bezpečne opakovateľná, aby nevznikli dve faktúry.

Prístupové práva a dáta, ktoré modelu nemusíte dať

Pri klasickom softvéri klikne konkrétny človek. Pri AI workflowe má prístup proces, ktorý beží bez dozoru a rýchlo. Preto sa oplatí prísnejšia disciplína.

• Vlastná servisná identita pre každý workflow. Nie zdieľaný administrátorský účet. Keď sa niečo pokazí, chcete vedieť, ktorý proces to urobil, a vypnúť ho bez toho, aby padla polovica firmy.
• Najmenší možný výrez dát. Na klasifikáciu reklamácie stačí jej text a typ produktu, netreba celú platobnú históriu. Kde identita nie je potrebná, nahraďte osobné údaje zástupným kódom.
• Jasná odpoveď, kam dáta idú. Ktorý dodávateľ, v ktorom regióne, ako dlho sa uchovávajú, či sa používajú na trénovanie. Zmluvná otázka, nie technická.

Nejde o akademickú obavu. Medzi firmami, ktoré podľa Eurostatu AI zvažovali a nezaviedli, uviedlo 70,89 % nedostatok expertízy, 52,52 % nejasnosť právnych dôsledkov a 48,83 % obavy o ochranu údajov. Dve z tých troch prekážok nesúvisia s modelom, ale s návrhom procesu a so zmluvami.

Patrí sem aj nepopulárna poznámka. Ak sa úloha dá vyriešiť pravidlom nad vlastnou databázou, je to takmer vždy lacnejšie, rýchlejšie a bezpečnejšie než volanie modelu. Dodávateľ, ktorý vám v takej situácii predá AI projekt, rieši svoj biznis, nie váš proces. Podobne o tom píšeme v článku Vaša firma nepotrebuje viac softvéru, potrebuje menej chaosu.

Ľudské schválenie, ktoré nie je len klikanie

Vo väčšine návrhov sa kontrola vyrieši vetou: to ešte schváli človek. Je to najslabšie miesto architektúry, lebo sa ľahko napíše a ťažko funguje.

Nariadenie o AI v článku 14 popisuje, čo musí človek pri dohľade nad vysokorizikovým systémom zvládnuť: pochopiť schopnosti a obmedzenia systému, všímať si anomálie, uvedomovať si automatizačný bias (sklon nadmerne dôverovať výstupu stroja), rozhodnúť sa systém nepoužiť alebo jeho výstup zvrátiť a bezpečne ho zastaviť. Väčšina firemných workflowov medzi vysokorizikové systémy nepatrí, no lepší kontrolný zoznam pre návrh schvaľovania zatiaľ nemáme.

Že sa to dá ľahko pokaziť, ukazuje analýza Bena Greena v odbornom časopise Computer Law and Security Review. Autor prešiel 41 politík vyžadujúcich ľudský dohľad nad algoritmami vo verejnej správe a uvádza, že ľudia podľa dôkazov nedokážu požadované funkcie dohľadu vykonávať a že takéto politiky dávajú falošný pocit istoty. Je to názor autora, nie konsenzus, ale zdravý korektív.

Prakticky z toho plynú tri veci. Schvaľovacia obrazovka musí ukázať, z čoho model vychádzal, čo sa zmení a čo sa stane po zamietnutí. Miera zamietnutia je metrika: ak sa mesiace drží na nule, kontrola sa buď nedeje, alebo nie je potrebná. A dohľad potrebuje vyhradený čas. Kto schvaľuje stovky návrhov denne popri bežnej práci, robí rituál, nie kontrolu.

Čo robiť, keď model urobí chybu

Nie ak, ale keď. Auditovateľnosť preto nie je téma pre právne oddelenie, ale pre prevádzku. Pri každom behu má byť zaznamenané, aký bol vstup, ktorá verzia inštrukcie a modelu bežala, z akých zdrojov systém čerpal, kto výstup schválil a aká akcia sa vykonala. Bez toho je hľadanie príčiny hádanie.

• Vypínač na úrovni jedného workflowu. Konkrétny krok sa musí dať zastaviť bez toho, aby padol celý proces.
• Cesta späť a testovacia sada. Pri každej zapisovacej akcii treba vopred vedieť, ako sa vracia. Zmenu verzie modelu chcete zachytiť na sade reálnych prípadov, nie na zákazníkovi.
• Bod, kedy krok vypnete. Americký rámec NIST AI Risk Management Framework z januára 2023 to hovorí priamo: pri neprijateľnej úrovni rizika má vývoj aj nasadenie bezpečne ustať, kým sa riziko nedá dostatočne zvládnuť. Návrat k pravidlu alebo k človeku je legitímny výsledok, nie prehra.

ROI merajte na procese, nie na počte promptov

Pred implementáciou si odmerajte súčasný stav: čas na úlohu, počet odovzdaní, chybovosť, čas odpovede a počet nedokončených follow-upov. Po nasadení porovnávajte tie isté metriky. Počet vygenerovaných textov nie je KPI, skrátenie reakcie z dvoch dní na dve hodiny môže byť.

Že je to ťažšie, než vyzerá, priznáva aj NIST: riadenie rizika systémov, ktoré rozširujú alebo nahrádzajú ľudskú činnosť, vyžaduje východiskové metriky, a tie sa systematizujú ťažko, lebo AI vykonáva úlohy inak než človek. Merajte teda výsledok procesu, nie kvalitu výstupu modelu.

Do nákladov patrí viac než cena za tokeny: integrácia, čas na kontrolu výstupov, údržba pri zmene modelu a čas ľudí na zaučenie. Ak kontrola stojí viac než pôvodná ručná práca, krok treba zrušiť. To je poctivejšie než šesť týždňov ladiť prompt.

Rátajte aj s tým, že prvé mesiace vyzerajú horšie, než by mali. Ekonómovia Brynjolfsson, Rock a Syverson to opísali ako J krivku produktivity: technológie všeobecného použitia vyžadujú rozsiahle nehmotné investície, teda redizajn procesov a organizačný kapitál, ktoré sa merajú zle. Rast produktivity je preto v ranej fáze podcenený. Náklad prichádza hneď, výnos až po prestavbe procesu.

Firma pripravená na AI nepotrebuje desať nových nástrojov. Potrebuje jasné procesy, kvalitné dáta a automatizáciu navrhnutú tak, aby človeku odobrala rutinu bez toho, aby mu odobrala kontrolu. Začnite piatimi najdrahšími opakovanými workflowmi a pri každom určite, čo má vyriešiť pravidlo, čo AI a čo musí zostať na človeku. Ak niekde vyjde, že najlepšie je zrušiť polovicu krokov a nenasadiť nič, je to dobrý výsledok. Hodnota vzniká v diagnostike, nie v nákupe.

Čo si z toho zobrať

• Ak sa úloha dá napísať ako pravidlo, napíšte ju ako pravidlo. Aj nariadenie o AI v recitáli 12 odlišuje systémy postavené na ľudsky definovaných pravidlách od AI systémov.
• Úlohy deľte podľa ceny chyby, overiteľnosti výstupu a vratnosti akcie. Modelu patrí návrh, workflowu limity, človeku nevratné rozhodnutie.
• Ľudské schválenie navrhnite ako proces, nie ako tlačidlo: musí ukazovať zdroj aj dopad, mať vyhradený čas a sledovanú mieru zamietnutia.
• Každý workflow potrebuje vlastnú servisnú identitu, najmenší možný výrez dát, vypínač a záznam o tom, čo bežalo a ako sa to vráti.
• ROI merajte na procese: čas, odovzdania, chybovosť, čas odpovede. Do nákladov započítajte kontrolu aj údržbu a rátajte s tým, že výnos príde neskôr.