Ko uporabnik ni več samo človek: od priporočil do avtonomnih agentov v poslovnih aplikacijah

Umetna inteligenca (UI) postaja nepogrešljiv sestavni del poslovnih aplikacij, vendar njena vgradnja v poslovno-kritične sisteme zahteva bistveno drugačen pristop od preprostega posredovanja podatkov velikim jezikovnim modelom. Prispevek na podlagi praktičnih izkušenj z razvojem platforme za upravljanje virov v projektno usmerjenih storitvenih podjetjih predstavi sistematičen pristop k vgradnji UI. Najprej opredelimo spekter vključevanja UI v poslovne procese — od priporočil, ki jih uporabnik potrjuje, prek pol-avtonomnih agentov do avtonomnih agentov — in za vsako stopnjo avtonomije določimo ustrezne mehanizme upravljanja ter pokažemo, kje se ti pokrivajo z zahtevami Akta EU o umetni inteligenci (EU AI Act). Nadalje naslovimo tezo, da bomo informacijske sisteme morali graditi tudi za agente UI, ki bodo do njih dostopali programsko, na primer prek protokola MCP, in da morajo biti varovalke vgrajene v sama orodja, ne le v agente. Sledi praktična primerjava sedmih ogrodij za gradnjo agentov in utemeljitev naše izbire, nato pa arhitektura agentne plasti, kot smo jo zgradili v platformi Alloxy: dvoplastna avtorizacija orodij, strukturiran dolgoročni spomin, vzorec človeške potrditve pred dejanji s posledicami, deterministično usmerjanje modelov, opazljivost v lastni infrastrukturi in preverljivo kaskadno brisanje. Zaključimo s tremi konkretnimi agenti in prenosljivimi spoznanji za razvijalce in arhitekte poslovnih rešitev.