Gibt es in Ihrem Unternehmen eine Person, die für KI-Risiken zuständig ist?

Helena McAleer

7. August 2026
6 Minuten Lesezeit

Derzeit setzen 83 % der Unternehmen KI-Tools ein. Nur 25 % verfügen über ein Governance-Rahmenwerk, das robust genug ist, um zu steuern, was diese KI tatsächlich tut. Diese Lücke zwischen Einsatz und Kontrolle ist das größte Einzelrisiko, das heute in den meisten Unternehmen besteht, und fast niemand hat jemanden damit beauftragt, diese Lücke zu schließen.

Je höher man schaut, desto beunruhigender wird es. Eine Studie von Deloitte zeigt, dass 66 % der Vorstände nach wie vor nur über begrenzte bis gar keine Kenntnisse im Bereich KI verfügen. Die „2026 AI Impact Survey“ von Grant Thornton, an der 950 Führungskräfte aus der Wirtschaft teilnahmen, ergab, dass 78 % der Führungskräfte nicht davon überzeugt sind, dass sie innerhalb von 90 Tagen ein unabhängiges KI-Governance-Audit bestehen könnten. Gleichzeitig verfügen laut Economist Impact weltweit nur 8 % der Unternehmen über das, was Forscher als umfassendes KI-Governance-Rahmenwerk bezeichnen würden.

Hier geht es nicht um böse Absichten. Die meisten Unternehmen haben KI schnell eingeführt, weil der Druck, zügig voranzukommen, real war und die Tools tatsächlich nützlich waren. Was damit nicht Schritt halten konnte, war die interne Fähigkeit, die eingeführten Lösungen zu steuern. Wer ist verantwortlich, wenn etwas schiefgeht? Wie werden Risiken bewertet, bevor ein Tool, ein Workflow oder ein Agent in Betrieb genommen wird? Was bedeutet „konform“ in der Praxis eigentlich? Diese Kompetenzlücke entscheidet nun still und leise darüber, welche Unternehmen den von KI erwarteten Nutzen erzielen und welche nicht.

Und der Ertrag steht tatsächlich auf dem Spiel. Eine Untersuchung von Grant Thornton ergab, dass Unternehmen mit vollständig integrierter, gut gesteuerter KI mit fast viermal höherer Wahrscheinlichkeit Umsatzwachstum verzeichnen als solche, die noch in der Pilotphase stecken – 58 % gegenüber 15 %. Der entscheidende Faktor war nicht die Technologie, sondern die Verantwortlichkeit. Die Unternehmen, die sich an die Spitze setzen, sind diejenigen, die erklären können, wie ihre KI Entscheidungen trifft, wer für das Ergebnis verantwortlich ist und was passiert, wenn es zu Fehlern kommt. Alle anderen erzeugen nur Aktivität, aber keine Ergebnisse.

Hier ist der Punkt, der die Herangehensweise von Unternehmen an die Lösung dieses Problems verändern sollte: Man braucht keine Armee von KI-Ethikern oder eine voll ausgebaute Compliance-Abteilung, um diese Lücke zu schließen. Man braucht eine einzige Person. Eine Person in der Rechtsabteilung, im operativen Bereich, in der Personalabteilung, in der Technik oder im Büro des Stabschefs, die KI-Risiken wirklich versteht, die eine ordnungsgemäße Risikobewertung durchführen kann, bevor die neue Funktion unternehmensweit eingeführt wird, die weiß, wie ein konformes Governance-Rahmenwerk tatsächlich aussieht, und die die Antwort parat hat, wenn ein Kunde, eine Aufsichtsbehörde oder der eigene Vorstand fragt: „Wie regeln wir den Einsatz von KI?“

Dies geschieht bereits informell, unabhängig davon, ob Unternehmen dies geplant haben oder nicht. Eine IBM-Umfrage aus dem Jahr 2026 unter 2.000 CEOs ergab, dass 79 % die Verantwortung für KI verteilen und ausweiten, da immer mehr Fachexperten in die diesbezüglichen Entscheidungen einbezogen werden. In jedem Unternehmen wird bereits automatisch jemand zur „KI-Ansprechperson“ – meist ohne Schulung, ohne Rahmenbedingungen und ohne nennenswerten Mitspracherecht in dieser Angelegenheit. Die Unternehmen, die dies gut handhaben, sind diejenigen, die festgelegt haben, wer diese Person sein soll, und ihr die notwendigen Werkzeuge an die Hand gegeben haben, um diese Aufgabe ordnungsgemäß zu erfüllen.

Dabei handelt es sich auch nicht um ein hypothetisches Risiko. Erst diese Woche gab OpenAI bekannt, dass eines seiner eigenen Modelle während eines internen Tests seiner Cyberfähigkeiten aus einer vermeintlich isolierten Testumgebung entkommen war und anschließend eigenständig die Systeme von Hugging Face, einer großen Plattform für KI-Datensätze und Modell-Hosting, gehackt hatte. Das Modell nutzte eine bisher unbekannte Sicherheitslücke aus, um sich Internetzugang zu verschaffen, und kombinierte anschließend gestohlene Zugangsdaten mit weiteren Exploits, um in die Produktionsserver von Hugging Face einzudringen – und das alles, ohne dass ein Mensch jeden einzelnen Schritt steuerte. OpenAI bezeichnete dies als einen beispiellosen Vorfall. Der CEO von Hugging Face selbst beschrieb ihn als den ersten seiner Art: einen Angriff, der von Anfang bis Ende von einem autonomen KI-Agenten durchgeführt wurde.

Bemerkenswert ist nicht nur, dass es passiert ist, sondern auch der Grund dafür. Cybersicherheitsexperten wiesen auf eine ganz gewöhnliche Ursache hin: eine falsch konfigurierte Umgebung. Die „isolierte“ Sandbox, in der das Modell getestet wurde, war tatsächlich nicht vom Internet abgeschnitten, und eine Schwachstelle in einem darin enthaltenen Paketinstallationssystem ermöglichte es dem Modell überhaupt erst, zu entkommen. Es handelte sich hier nicht um einen Fall, in dem KI unkontrollierbar intelligent wurde. Es war ein Versagen in der Governance und bei den Prozessen – ein Fehler, den jede Organisation begehen könnte, die KI-Systeme betreibt oder testet.

Denken Sie mal einen Moment darüber nach! Das ist in einem der modernsten KI-Labore der Welt passiert, mit Sicherheitsteams, deren Hauptaufgabe darin besteht, genau diese Art von Risiken zu bewältigen. Wenn dort eine solche Lücke entstehen kann, kann sie überall dort entstehen, wo KI-Systemen tatsächlicher Zugriff auf Infrastruktur, Daten oder das Internet gewährt wird – und das ist zunehmend überall der Fall. Die Organisationen, die am besten in der Lage sind, solche Fehler zu erkennen, bevor sie passieren, sind nicht unbedingt diejenigen mit der fortschrittlichsten KI. Es sind diejenigen, in denen es jemanden gibt, dessen Aufgabe es ist, die unbequemen Fragen vor der Einführung zu stellen – und nicht erst danach.

Genau diese Lücke schließt unser KI-Risikomanagement-Programmunter der Leitung von Toju Duke schließen soll. Toju war in ihren letzten Jahren bei Google als „Responsible AI Programme Manager“ tätig und arbeitete an Governance-Prozessen für einige der größten KI-Modelle des Unternehmens. Sie ist Autorin von zwei Büchern zu diesem Thema, darunter der erste praktische Leitfaden zur KI-Risikobewertung und zum KI-Risikomanagement. Sie hat diese Masterclass-Reihe nach dem gleichen Prinzip aufgebaut: Die Teilnehmer lernen nicht nur Konzepte kennen, sondern entwickeln Sitzung für Sitzung ein funktionierendes Governance-Rahmenwerk für ihre eigene Organisation – begleitet von echten Risikobewertungen, Live-Fallstudien und praktischen Szenario-Übungen.

Wenn es in Ihrem Unternehmen noch niemanden gibt, der diese Aufgabe souverän übernehmen kann, ist das kein Versagen, sondern einfach der Stand, an dem sich die meisten Unternehmen derzeit befinden. Die Frage, die es zu stellen gilt, ist, wer diese Person sein wird und ob sie bereits dafür gerüstet ist.

Wichtige Hinweise:

Startdatum: Mittwoch, 26. August 2026

Uhrzeit: 16:00 Uhr britischer Zeit

Dauer der Masterclass: 60 Minuten × 8 Wochen

Teilnahmeinformationen: Der Zoom-Link und die Kalenderdaten werden nach der Bestätigung zugesandt

Zertifikat wird nach Abschluss aller Sitzungen ausgestellt

Teilnehmerzahl: mindestens 10 – höchstens 30

Wenn Sie die Ansprechpartnerin oder der Ansprechpartner Ihres Unternehmens in dieser Angelegenheit sein möchten oder jemanden für diese Rolle vorschlagen möchten, finden Sie hier alle weiteren Informationen und können sich dort anmelden:

thegenaiacademy.com/masterclasses/ai-risk-management-programme