Kokkuvõte: Autonoomsed KI-agendid nõuavad observaalsuse platvorme, mis muudavad otsustusprotsessi täielikult jäljendatavaks, kuvatavad kulude läbipaistvalt ja suudavad kehtestada määratud tegevuspiire.
Klassikalised IT-jälgimise lähenemisviisid jõuavad oma piiridele, kui KI-agendid teevad iseseisva otsuseid. Kaasaegsed observaalsuse platvormid peavad seetõttu muutma kogu käivitusrada jäljendatavaks ja kehtestama selged piirid.
Tootmissüsteemide jälgimine satub surve alla: samal ajal kui traditsiooniline tarkvara omab eelnevalt määratletud juhtimisvoolu, otsustab LLM-juhitud agent ise, millise käivitusrada ta võtab. Näiteks koodi ülevaatusagent võib ilma loata väliseid andmeallikaid kasutada, soovitada koodi muudatusi ja käivitada järeltoiminguid. Klassikaliste viga- ja ressursimõõdikutega ei saa seda käitumist täielikult esitada.
Datadog’i uusima AI Engineering State -raporti kohaselt ebaonnestub peaaegu viis protsenti KI-taotlustest tootmiskeskkondades; umbes 60 protsenti nendest ebaonnestumistest tulenevad võimsuse puudusest, mitte vigastest mudelitest. Samal ajal kasutab juba 69 protsenti ettevõtetest paralleelselt kolme või enamat KI-mudelit. Seega kasvab operatiivne keerukus märgatavalt.