Unternehmen sollten die Abhängigkeit von öffentlichen KI-APIs als operatives Risiko bewerten und private oder selbstgehostete Modelle in ihre IT-Risikostrategie einbeziehen.
Deterministische Sicherheitsmodelle genügen nicht mehr, wenn KI-Systeme zur Laufzeit unvorhergesehene Entscheidungen treffen und mit APIs und Umgebungen auf nicht vorhergesehene Weise interagieren.
Agentic Systems und Large Language Models handeln kontextabhängig und unvorhersehbar, weshalb reine Präventionsansätze strukturell unzureichend werden.
Meta verband seinen Support-Chatbot direkt mit kritischen Kontoverwaltungsfunktionen, was Angreifern ein einfaches Mittel zur unbefugten Kontoübernahme gab.
