2.časť Poriadok v AI: Singularita a AgenticAI

Čo znamená zavádzať AI vo firme?

V sérií článkov sme si ukázali, že AI dáva zmysel implementovať pre SME v kontexte s digitálnou transformáciou. Väčšina ľudí si ju ale zamieňa s digitalizáciou. Snažili sme sa poukázať, že medzi týmto pojmami je však zásadný rozdiel:

• Ak nahradíme posielanie listov prostredníctvom pošty za emaily, ide o digitalizáciu. Podobne je to s účtovaním na plachtu vs. v ERP. Robíme to isté, len inak. Cieľ je technológia.

• Ak chceme o technológiách uvažovať v kontexte konkurenčnej výhody, musíme ich zakomponovať upravením procesov a biznis modelov. Samotná technológia je prostriedok, nie cieľ. Tu hovoríme o digitálnej transformácii.

Ak sa doteraz firmy nenaučili takto o technológiách uvažovať, zavádzanie nástrojov AI veľa vody v podnikaní nenamúti. Výnimkou sú úzke okruhy use-casesov, ktoré nie je možné riešiť inak, ako len s AI. S tou, ktorá tu už s nami je desiatky rokov.

Dnes sa pozrieme ešte na zúbok tomu, ako vznikla myšlienka AgenticAI. Prečo je tento koncept správny, ale technológia nie a ako by mohla AI v kontexte digitálnej transformácie vyzerať.

Naposledy sme sa rozprávali o technologickej maturite firmy. Už 20 rokov prebiehajúca digitalizácia posúva firmy len na druhý stupeň pyramídy. AI ale tróni na jej vrchole a nikto vlastne nevie, čo to znamená. Poďme si načrtnúť možnú víziu a cesty, ktorými sa tam dostať.

Tento text môže slúžiť ako inšpirácia pre technologických lídrov, ktorí saturovali možnosti digitalizácie a nevedia, kam sa vybrať ďalej. Taktiež môže byť zaujímavý pre bežné firmy bez ašpirácie na tento stupeň maturity, pretože môže poukázať na budúci trend v ich vlastnom podnikaní, alebo podnikaní ich konkurencie, a získať tak čas pripraviť sa na to.

Ako sme si ukázali v predchádzajúcich článkoch, príprava neznamená len technologickú maturitu, príprava môže znamenať aj schopnosť vymedziť sa voči technológii, ako sme si to popísali v druhom a treťom článku.

Tak ako to je s AI dnes?

Rozobrali sme si, že pod pojmom AI nemyslíme len generatívnu AI a že rôzni ľudia rozprávajú rôzne veci o rôznej AI. Ak máme, napr. zakomponované prijímanie a posielanie emailov, tak na úrovni procesov už používame AI v podobe spamového filtra. Na úrovni automatizácie ju využívame, ak napr. do workflow zapojíme rozpoznávanie obrázkov (OCR), alebo automatické kategorizovanie emailov, či tiketov. Ak použijeme chatbota alebo voicebota v podnikaní, ide o AI na úrovni robotizácie. V prípade, že napr. používame PowerBI s nejakými predikciami, ide o využívanie machine learningu na úrovni dát. Ako vidíme, technológia nesúvisí s maturitou firmy. Používať „AI nástroj“ na úrovni automatizácie z nás nerobí „AI powered“ firmu.

AI maturita

Ak sa teda nebavíme o nástrojoch, ale o skutočnej pripravenosti firmy na AI, tak sa dostávame do vôd, ktoré sú neprebádané a neexistujú ešte poriadne štandardy a best practice ako na to. V drvivej väčšine prípadov sa vynárajú pojmy ako „centrálny mozog firmy“.

Ako by vyzerali prvky takejto technológie:

• všetky znalosti firmy sú na jednom mieste;
• systém vie dáta interpretovať;
• systém sa adaptuje na nové príležitosti a učí sa v čase;
• systém má kompetenciu zasahovať do činnosti a konať – systémom prechádzajú procesy;
• systém vie plánovať.

Takto zadefinovaná technológia rastie s celou firmou a vykazuje prvky AGI – ergo nie je možné niečo podobné v plnom rozsahu zrealizovať v dnešnej dobe. Ale vieme sa k tomu priblížiť!

LLM AgenticAI blúznenie

K podobnému záveru došli zrejme aj veľké mozgy z technologického sveta a po adorácii chatovacích produktov sa vrhli k niečomu, čo by pre firmy mohlo byť užitočnejšie: autonómny agent so schopnosťou konať vo firemnom prostredí. Predstavte si svet, v ktorom zamestnáte armádu robotov a tí budú pracovať… za vás a vašich kolegov.

Oblasť automatizácie, samotnej AI a oblasť výskumu organizácie znalostí a procesov sa tejto téme venuje desiatky rokov. Technologickí giganti akoby chceli vytvoriť riešenie, ktoré popiera všetky zistenia za posledné dekády, pretože je jasné, že technológia na vytvorenie niečoho takého, nemôže byť primárne LLM.

Chaos, ktorý spôsobuje takto koncipované riešenie, je popísaný v nedávnej štúdii [1]. LLM má a bude mať problémy s halucináciami, čo priznávajú aj ich tvorcovia [2]. Pritom nejde o tajomstvo a riešilo sa to ešte pred rokom 2022, pretože architektúra LLM si halucinácie vlastne vytvára z princípu, akým funguje. O ďalších zlyhaniach agentov v prevádzke sa dočítame v inej štúdii, ktorá vysvetľuje pozadie týchto zlyhaní v prevádzke (na rozdiel od dokonalých výsledkov demo ukážok) [3].

Predstava, že ste konateľom spoločnosti ovládanej systémami, ktoré je možné ovplyvniť v texte emailu (ako zákazník) tak, aby systém prebral kontrolu a zrušil citlivé dáta, alebo klamal vo vašom mene [4], je nočnou morou. O absencii konzistentného správania ani nehovoriac.

Ako za toto máte niesť právnu zodpovednosť?

Neuro-symbolická AI

O vytvorenie „centrálneho mozgu firmy“ sa snaží oblasť umelej inteligencie už dekády. Ak odparkujeme AgenticAI ako slepú vetvu odboru, tak sa pozrime, ako budovať túto technologickú kompetenciu, ak máme svoje biznisové „PREČO“ ju budovať.

V predchádzajúcom článku sme si popísali ako pristupovať k architektúre – modulárne – dokumentovať kľúčové domény, procesy a postupne ich prepájať, procesy orchestrovať do komplexných celkov tak, aby boli automatizovateľné End 2 End. Teda nie len činnosti a nie len jednoduché workflow procesy, ale procesy medzi oddeleniami, ktoré majú priamy dopad na čas a efektivitu organizácie. To znamená adaptovať prvky Enterprise architektúry, a pokiaľ to dáva zmysel, tak aj EDA (event driven architecture).

Potom prichádza ďalšia, „papierová“ činnosť. Ide o proces budovania tzv. ontológií. Identifikujú sa slová a slovné spojenia, ktoré organizácia používa, zatriedia sa do tezaurov, vytvorí sa taxonomický model a následne sa modelujú ontologické vzťahy. K tomu je možné použiť napr. triplestore databázy (objekt, predikát, subjekt) alebo iné. Vytvorí sa symbolický model vášho podnikania. Systému sa vysvetľujú väzby typu: „ak Libor býva s Petrom“ znamená to symetrickú väzbu, že aj „Peter býva s Liborom“. Človek porozumie, ale strojom to musíme vysvetliť.

Ako si to predstaviť? Predstavme si softvér, ktorý riadi napr. smart kontroléry moderných budov. Existujú stovky zariadení, ktoré generujú miliardy dát zo senzorov. Ak popíšeme svet týchto dát a zariadení, vytvoríme model budovy a definujeme, čo je to izba, okno a pod. Ak sme si už urobili domácu úlohu a architektúrou pretekajú tieto dáta (integrácie) a procesy (orchestrácia), potom ontológie vedia:

• identifikovať anomálie v reálnom čase, na nie explicitne definované požiadavky (systém si to odvodzuje sám cez spomínané väzby),
• zodpovedať otázky typu: „v ktorej hodine je najvyššia teplota izieb v budove X, ak svieti slnko“ (otázky, na ktoré nebol explicitne trénovaný).

Znalostné grafy následne môžu slúžiť ako podklad pre trénovanie neurónových sietí (GNN). Takto sa vytvára interpretovaný dataset z „raw“ dát. Sofistikované neurónové siete nie sú plastické – vyžadujú tréning a v prevádzke sa už neprispôsobujú [5].

Ak sa ale automaticky vytvára dataset a dáta, je možné tieto neurónky aktualizovať automaticky a zároveň mať systém pod kontrolou. Veľa amatérov z oblasti GenAI považuje možnosť postaviť agentov nad voľne dostupnými SaaS riešeniami ako výhodu, lebo v čase, keď sa aktualizuje „model“, tak je automaticky aplikovaná zmena aj na vašu topológiu. Odborník však vie, že presne toto vo firme nechcete. S každou zmenou modelu sa totiž rozbije, čo fungovalo. Mať pod kontrolou DevOps pipeliny je nesmierne dôležité a je potrebná aj kompetencia v tíme vytvárať E2E automatizované testy. Neurónovú sieť s novými možnosťami tak vieme dostať do produkcie až po jej schválení a autorizovaní živým človekom.

Existujú však aj jednoduchšie systémy postavené na špeciálnej forme učenia: reinforcement learning. Tieto systémy sa vedia adaptovať v čase na základe spätnej väzby. Toto je tá „AI“, ktorá nás fascinovala ešte pred príchodom LLM – systémov, ktoré sa naučili, napr. hrať Starcraft len tým, že sa jednoducho hrali a nikto im nič nevysvetľoval. Tieto modely však nevedia byť použité v komplexných prostrediach, no dobre vytvorená architektúra umožňuje nasadzovať tieto „malé“ RL modely do našej topológie. Ide o podobný prípad ako agenticAI s tým, že tieto systémy sú konzistentné, takže ich správanie pre konkrétnu verziu systému je vždy replikovateľné.

Znalostné grafy vytvorené nad dátami by mohli v kombinácii s open-source LLM produkovať odpovede s minimálnou dávkou halucinácií a v našej vlastnej réžii (na našich serveroch). Ontológie je možné spravovať v reálnom čase, a tak každá ich zmena (po pretestovaní v prostredí) dokáže kompletne ovplyvniť správanie systému: od reportingu až po automatizovanú komunikáciu so zákazníkom a vykonávanie činností v digitálnom prostredí našej firmy. Nie je nevyhnutné pretrénovať celý „mozog firmy“.

Záver

Popis biznisu > procesy > digitalizácia > dáta > model biznisu > singularita. Týmto spôsobom by sa dala zhrnúť cesta za svätým grálom umelej inteligencie vo firmách. Takto by už dnes mohli vyzerať semi-autonómne podniky. Technológie k tomu existujú. Aj postupy existujú. Ide však o státisícové investície do IT po tom, čo sme už investovali milióny do digitalizácie a „industry 4.0“.

Ďalšou bariérou sú modely fungovania dnešných organizácií. Vybudovať podobnú firmu si bude podľa všetkého vyžadovať zmenu jej riadenia: uvažovať o firme ako o organizme. Vytvoriť autonómne tímy, zveriť im zodpovednosť a vytvoriť prostredie [6]. Firma potrebuje kompetenciu v autonómii, čo znamená určitý typ mindsetu, akým takúto firmu riadiť a ako zosúladiť rôzne tímy v rámci firemného ekosystému.

No a je potrebné si uvedomiť, že tieto modely nebudú vhodné pre všetky firmy. Laloux [7] sa venuje tejto problematike a popisuje rôzne typy organizácií: od mafiánskych zriadení, cez armády až po moderné firmy riadené autonómnymi tímami. Budúcnosť nepatrí jedinej forme organizácie. Budú tu koexistovať rôzne typy. Rôzne zriadenia vyhovujúce rôznym typom ľudí.

Budovanie hyper-moderných firiem tak nie je len otázkou technológie, ale aj odpoveďou na otázky: prečo?, mám vôbec s kým?, a naozaj to chcem?

Nech je ako chce, nové firmy už pomaly vznikajú. Žijeme vo fascinujúcej dobe. Technológie nám umožňujú experimentovať s novými vecami a postupmi, alebo nám a nášmu podnikaniu nastavujú zrkadlo, a tak nám pomáhajú pochopiť, kým sme. A odpoveď môže byť pokojne „toto mi nevyhovuje“. Tento postoj môže byť konkurencieschopný v modernej dobe. Dokonca sa môže stať konkurenčnou výhodou. Musíme len rozhodnutia vykonávať informovane a vedome. Nie na základe marketingu a FOMO tlaku z médií a sociálnych sietí.