AI ve firmě bez chaosu: co automatizovat a co nechat lidem

Nejčastější chyba při zavádění AI je začít otázkou, kam dáme chatbota. Že je pořadí opačné, tedy nejdřív proces, potom technologie, jsme rozepsali v článku AI nezachrání špatný proces včetně posloupnosti Remove, Simplify, Automate, Augment.

Tento text začíná o krok později, v bodě, kdy proces znáte a je potřeba rozhodnout, kdo v něm co dělá: které úlohy patří pravidlu, které modelu a které člověku, jak nastavíte přístupy a schvalování a co uděláte v den, kdy model udělá chybu. Na těchto třech věcech padá víc nasazení než na kvalitě modelu.

Nejdříve rozkreslete proces

Rozdělit úlohy lze až nad rozkresleným procesem: kdo informaci vytváří, kde se přepisuje, kdo ji kontroluje a co se stane při chybě. Bez toho nevíte, jestli úloha patří pravidlu, modelu, nebo člověku.

Řada úloh, které firmy označují jako AI projekt, ve skutečnosti AI nepotřebuje. Přenést formulář do CRM nebo založit úkol po změně stavu objednávky je deterministická automatizace, tedy posloupnost pravidel, která při stejném vstupu dá vždy stejný výstup. Je levnější, předvídatelnější a snáze auditovatelná.

Rozlišení není jen terminologické. Evropské nařízení o AI v recitálu 12 uvádí, že definice systému AI nemá pokrývat systémy založené na pravidlech definovaných výhradně fyzickými osobami. Klíčovou vlastností systému AI je schopnost odvozovat, tedy vytvářet predikce, obsah či rozhodnutí nad rámec základního zpracování dat. V praxi: pokud lze úlohu napsat jako pravidlo, napište ji jako pravidlo.

AI má největší smysl tam, kde vstup není strukturovaný: e-maily, dokumenty, hovory, poznámky, obrázky nebo situace, kde je potřeba informaci shrnout, klasifikovat či připravit návrh rozhodnutí. Odpovídá tomu i adopce: podle Eurostatu byla v roce 2025 nejrozšířenější AI technologií ve firmách EU text mining, tedy analýza psaného textu, s 11,75 %.

Které úlohy patří stroji a které člověku

Místo seznamu módních use casů pomohou tři otázky.

• Jaká je cena chyby? Špatná interní poznámka stojí minutu, špatně odeslaná nabídka marži nebo klienta. Čím vyšší cena, tím blíž musí být člověk k rozhodnutí.
• Dá se výstup ověřit rychleji, než by se dal vytvořit? Pokud ano, je to kandidát na návrh od modelu s lidským potvrzením. Pokud kontrola trvá déle než práce sama, model jen přesouvá námahu jinam.
• Je akce vratná? Koncept, klasifikaci či shrnutí lze zahodit. Odeslaný e-mail, změněnou cenu, uhrazenou fakturu nebo smazaná data ne.

Výsledkem je rozdělení, které obhájíte před finančním ředitelem i před právníkem. Modelu patří interpretace a návrh, pravidlům všechno jednoznačné a opakované, člověku rozhodnutí, které je drahé, nevratné nebo nese odpovědnost vůči třetí straně.

Kde hledat první úlohy, naznačuje terénní studie ekonomů Brynjolfssona, Liové a Raymondové, publikovaná jako pracovní text americké výzkumné organizace NBER. Na vzorku 5 179 pracovníků zákaznické podpory zvýšil generativní asistent počet vyřešených požadavků za hodinu v průměru o 14 %. U nováčků a méně zkušených to bylo 34 %, u zkušených byl efekt minimální, protože model šíří postupy nejlepších pracovníků.

Závěr je konkrétní: AI zvedá podlahu, ne strop. Hledejte místa s největším rozptylem kvality mezi lidmi, ne ta, kde už máte špičkový výkon.

Nejhodnotnější AI nemusí být zákazníkovi vidět

Efektivní AI nemusí mít avatara na homepage. Na pozadí může obchodníkovi připravit kontext před hovorem, vytvořit návrh nabídky, odhalit chybějící údaje v objednávce nebo převést meeting do úkolů. Člověk pak dělá méně administrativy a víc práce, kvůli které ho firma reálně potřebuje. Jak se dá firma stavět rovnou takto, píšeme v textu o firmě bez armády administrativních lidí.

Anthropic v ekonomickém indexu ze září 2025 uvádí na vlastních datech, že v podnikovém API vykazovalo 77 % případů vzorce automatizace oproti přibližně 50 % ve spotřebitelské aplikaci. Firmy nekupují konverzaci, kupují práci v procesu, který zákazník nikdy neuvidí.

Modelový příklad. Výrobní firma dostává poptávky e-mailem jako volný text s PDF výkresy a asistentka je přepisuje do CRM. Model přečte e-mail, vytáhne položky, označí chybějící parametry a připraví koncept otázky. Co nedělá: neposílá e-mail, neurčuje cenu a nemění stav poptávky. Ilustrace architektury, ne reference klienta.

Spolehlivé systémy kombinují AI s pevnými pravidly

Nejbezpečnější architektura není nechat AI rozhodovat o všem. Model interpretuje vstup nebo připraví návrh, workflow řídí oprávnění a limity. Důvod není ideologický, je měřený.

Benchmark TheAgentCompany simuluje prostředí malé softwarové firmy a sleduje, jak si agenti poradí s reálnou pracovní agendou. Nejúspěšnější testovaný agent dokončil autonomně 30 % úloh. Benchmark tau-bench testuje agenty v rozhovoru se simulovaným uživatelem při dodržování doménových pravidel: špičkoví agenti uspěli u méně než 50 % úloh a při opakování téže úlohy klesla metrika pass^8, tedy úspěch ve všech osmi pokusech, v retailové doméně pod 25 %. Model tedy není jen nepřesný, je nekonzistentní, a to je pro návrh procesu podstatnější než průměrná úspěšnost.

U citlivých nebo externích akcí, tedy při odeslání nabídky, změně ceny, platbě či mazání dat, má být jasné, kdy je potřeba lidské schválení. To znamená tři konstrukční rozhodnutí:

• Oddělené čtení a zápis. Model má široký přístup ke čtení kontextu, ale zápis jde přes úzký seznam povolených akcí s definovanými parametry.
• Tvrdé limity v kódu, ne v promptu. Maximální sleva, částka nebo seznam povolených příjemců patří do workflow. Pravidlo v promptu je doporučení, pravidlo v kódu omezení.
• Idempotence a náhled. Zapisovací akce má jít spustit nanečisto nebo bezpečně opakovat, aby nevznikly dvě faktury.

Přístupová práva a data, která modelu dávat nemusíte

U klasického softwaru klikne konkrétní člověk. U AI workflow má přístup proces, který běží bez dozoru a rychle. Proto se vyplatí přísnější disciplína.

• Vlastní servisní identita pro každé workflow. Ne sdílený administrátorský účet. Když se něco pokazí, chcete vědět, který proces to udělal, a vypnout ho, aniž by spadla půlka firmy.
• Nejmenší možný výřez dat. Ke klasifikaci reklamace stačí její text a typ produktu, není potřeba celá platební historie. Kde identita není potřeba, nahraďte osobní údaje zástupným kódem.
• Jasná odpověď, kam data jdou. Který dodavatel, v jakém regionu, jak dlouho se uchovávají, zda se používají k trénování. Smluvní otázka, ne technická.

Nejde o akademickou obavu. Mezi firmami, které podle Eurostatu AI zvažovaly a nezavedly, uvedlo 70,89 % nedostatek expertizy, 52,52 % nejasnost právních důsledků a 48,83 % obavy o ochranu údajů. Dvě z těch tří překážek nesouvisejí s modelem, ale s návrhem procesu a se smlouvami.

Patří sem i nepopulární poznámka. Pokud lze úlohu vyřešit pravidlem nad vlastní databází, je to téměř vždy levnější, rychlejší a bezpečnější než volání modelu. Dodavatel, který vám v takové situaci prodá AI projekt, řeší svůj byznys, ne váš proces. Podobně o tom píšeme v článku Vaše firma nepotřebuje víc softwaru, potřebuje méně chaosu.

Lidské schválení, které není jen klikání

Ve většině návrhů se kontrola vyřeší jednou větou: tohle ještě schválí člověk. Je to nejslabší místo architektury, protože se snadno napíše a těžko funguje.

Nařízení o AI v článku 14 popisuje, co musí člověk při dohledu nad vysoce rizikovým systémem zvládnout: pochopit schopnosti a omezení systému, všímat si anomálií, uvědomovat si automatizační bias (sklon nadměrně důvěřovat výstupu stroje), rozhodnout se systém nepoužít nebo jeho výstup zvrátit a bezpečně ho zastavit. Většina firemních workflow mezi vysoce rizikové systémy nepatří, lepší kontrolní seznam pro návrh schvalování ale zatím nemáme.

Že se to dá snadno pokazit, ukazuje analýza Bena Greena v odborném časopise Computer Law and Security Review. Autor prošel 41 politik vyžadujících lidský dohled nad algoritmy ve veřejné správě a uvádí, že lidé podle důkazů nedokážou požadované funkce dohledu vykonávat a že takové politiky dávají falešný pocit jistoty. Je to názor autora, ne konsenzus, ale zdravý korektiv.

Prakticky z toho plynou tři věci. Schvalovací obrazovka musí ukázat, z čeho model vycházel, co se změní a co se stane po zamítnutí. Míra zamítnutí je metrika: pokud se měsíce drží na nule, kontrola se buď neděje, nebo není potřeba. A dohled potřebuje vyhrazený čas. Kdo schvaluje stovky návrhů denně vedle běžné práce, dělá rituál, ne kontrolu.

Co dělat, když model udělá chybu

Ne jestli, ale kdy. Auditovatelnost proto není téma pro právní oddělení, ale pro provoz. U každého běhu má být zaznamenáno, jaký byl vstup, která verze instrukce a modelu běžela, z jakých zdrojů systém čerpal, kdo výstup schválil a jaká akce se provedla. Bez toho je hledání příčiny hádání.

• Vypínač na úrovni jednoho workflow. Konkrétní krok musí jít zastavit, aniž by spadl celý proces.
• Cesta zpět a testovací sada. U každé zapisovací akce je potřeba předem vědět, jak se vrací. Změnu verze modelu chcete zachytit na sadě reálných případů, ne na zákazníkovi.
• Bod, kdy krok vypnete. Americký rámec NIST AI Risk Management Framework z ledna 2023 to říká přímo: při nepřijatelné úrovni rizika má vývoj i nasazení bezpečně ustat, dokud nelze riziko dostatečně zvládnout. Návrat k pravidlu nebo k člověku je legitimní výsledek, ne prohra.

ROI měřte na procesu, ne na počtu promptů

Před implementací si změřte současný stav: čas na úkol, počet předání, chybovost, reakční dobu a počet nedokončených follow-upů. Po nasazení porovnávejte stejné metriky. Počet vygenerovaných textů není KPI, zkrácení reakce ze dvou dnů na dvě hodiny být může.

Že je to těžší, než to vypadá, přiznává i NIST: řízení rizika systémů, které rozšiřují nebo nahrazují lidskou činnost, vyžaduje výchozí metriky, a ty se systematizují obtížně, protože AI vykonává úlohy jinak než člověk. Měřte tedy výsledek procesu, ne kvalitu výstupu modelu.

Do nákladů patří víc než cena za tokeny: integrace, čas na kontrolu výstupů, údržba při změně modelu a čas lidí na zaučení. Pokud kontrola stojí víc než původní ruční práce, krok je potřeba zrušit. To je poctivější než šest týdnů ladit prompt.

Počítejte i s tím, že první měsíce vypadají hůř, než by měly. Ekonomové Brynjolfsson, Rock a Syverson to popsali jako J křivku produktivity: technologie všeobecného použití vyžadují rozsáhlé nehmotné investice, tedy redesign procesů a organizační kapitál, které se měří špatně. Růst produktivity je proto v rané fázi podceněný. Náklad přichází hned, výnos až po přestavbě procesu.

Firma připravená na AI nepotřebuje deset nových nástrojů. Potřebuje jasné procesy, kvalitní data a automatizaci navrženou tak, aby člověku odebrala rutinu, ale ne kontrolu. Začněte pěti nejdražšími opakovanými workflow a u každého určete, co má vyřešit pravidlo, co AI a co musí zůstat na člověku. Pokud někde vyjde, že nejlepší je zrušit polovinu kroků a nenasadit nic, je to dobrý výsledek. Hodnota vzniká v diagnostice, ne v nákupu.

Co si z toho vzít

• Pokud lze úlohu napsat jako pravidlo, napište ji jako pravidlo. I nařízení o AI v recitálu 12 odlišuje systémy postavené na lidsky definovaných pravidlech od systémů AI.
• Úlohy dělte podle ceny chyby, ověřitelnosti výstupu a vratnosti akce. Modelu patří návrh, workflow limity, člověku nevratné rozhodnutí.
• Lidské schválení navrhněte jako proces, ne jako tlačítko: musí ukazovat zdroj i dopad, mít vyhrazený čas a sledovanou míru zamítnutí.
• Každé workflow potřebuje vlastní servisní identitu, nejmenší možný výřez dat, vypínač a záznam o tom, co běželo a jak se to vrátí.
• ROI měřte na procesu: čas, předání, chybovost, reakční doba. Do nákladů započítejte kontrolu i údržbu a počítejte s tím, že výnos přijde později.