Viele Unternehmen fragen sich, ob sie KI einsetzen dürfen. Die wichtigere Frage ist jedoch: Wie können sie dies verantwortungsvoll tun? In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Georgia Voudoulaki. Die Rechtsanwältin ist AI Governance & Data Protection Strategist. Sie klärt über den rechtlichen Rahmen rund um Künstliche Intelligenz auf und erklärt, warum die meisten Unternehmen die falschen Kosten im Blick haben.

Georgia macht klar: Der EU AI Act verbietet KI nicht. Er schafft einen Rahmen. Wer diesen Rahmen jedoch ignoriert oder nur halb versteht, dem drohen nicht nur Bußgelder, sondern auch teure Doppelarbeit, Datenschutzkonflikte und Reputationsschäden. Es ist ein klassischer Fehler, DSGVO und AI Act aus verschiedenen Abteilungen heraus zu prüfen – einer, der Zeit kostet, Lücken erzeugt und das Projekt verteuert, noch bevor ein einziger Token geflossen ist. Hinzu kommen die systematisch unterschätzten Kosten: Schulungen, Monitoring, Vertragsprüfungen, Governance-Strukturen – und ja, auch 20 Prozent höhere Energiekosten für den Betrieb der Modelle.

Entscheidend ist nicht, welches Tool gerade gehyped wird, sondern ob es zur eigenen Wertschöpfung passt. Georgia plädiert für eine ehrliche Inventur: Welche Use Cases hat das Unternehmen? Wo ersetzt oder unterstützt KI sinnvoll? Und wann zieht man die Reißleine, wenn das Kosten-Nutzen-Verhältnis nicht stimmt? Gute AI-Governance beginnt nicht mit Technik. Sie beginnt mit dem Menschen.

1. Die falsche Frage kostet Geld. Entscheidend ist nicht die Frage „Darf ich KI einsetzen?”, sondern „Wie setze ich KI verantwortungsvoll ein?” Wer das nicht klärt, baut auf Sand.
2. DSGVO und AI Act gehören zusammen. Wer beide Regelwerke getrennt voneinander prüft, erzeugt Doppelarbeit, Lücken und Verzögerungen. Integrierte Governance-Prozesse sind kein Luxus, sondern ein Gebot der Effizienz.
3. Die versteckten Kosten werden systematisch unterschätzt. Schulungen, Monitoring, Energiekosten, Governance-Strukturen, Vertragsprüfungen – all das kommt on top zu den Lizenzkosten und wird in den meisten Business Cases schlicht vergessen.
4. KI ist ein Werkzeug, aber kein Entscheider. Nur weil ein Modell einen Output produziert, heißt das nicht, dass dieser stimmt. Menschliches Urteilsvermögen ist keine optionale Komponente, sondern Pflicht.
5. Wer keine Inventur macht, verliert die Kontrolle. Welche KI-Systeme nutzt mein Unternehmen? Viele können diese Frage nicht beantworten. Genau da fängt AI Governance an.

Jetzt abonnieren – und den Überblick behalten

Diese Folge ist Pflicht für alle, die KI in ihrem Unternehmen einführen, begleiten oder verantworten. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an alle, die gerade KI-Projekte planen, bevor sie das Geld ausgeben.

Georgia Voudoulaki – Rechtsanwältin, Senior Legal Counsel, AI Governance & Data Protection Strategist| LinkedIn

EU AI Act – Volltext (Verordnung EU 2024/1689)

Europäische Datenschutz-Grundverordnung (DSGVO)

BSI - Künstliche Intelligenz

Ein ehemaliger Mitarbeiter. Er ist schon seit zwei Jahren weg. Seine Berechtigung wurde nie entzogen. Es war weder ein Hack noch ein raffinierter Angriff – es war einfach nur ein Konto, das niemand abgeschaltet hat. Willkommen in der realen Welt des Identitätsmanagements! In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Franziska Weiß, IAM-Evangelistin bei der Garancy AG, über das unspektakulärste und gleichzeitig wichtigste Fundament jeder Sicherheitsstrategie – und darüber, warum genau diese Unsichtbarkeit das eigentliche Problem ist.

Identitätsmanagement hat ein Imageproblem. Kein Mensch steht morgens auf und denkt sich: „Heute durchkämme ich mal das Active Directory.” Kein CISO präsentiert stolz die Statistik der gelöschten Altkonten. Und trotzdem reicht ein einziges kompromittiertes Konto. Im Schnitt bewegen sich Angreifer über 100 Tage unentdeckt in Systemen. Franziska erklärt, warum dies nicht nur ein IT-, sondern ein Organisationsproblem ist – und warum Verbote allein Schatten-IT erzeugen, aber keine Sicherheit. Der Ausweg ist kein Verbotskatalog, sondern ein pragmatischer Ansatz: Sichtbarkeit schaffen, Verantwortung klären, Rollen definieren.

Und dann kommen die KI-Agenten. Sie sind dynamisch, autonom und schwer zu kontrollieren – und vervielfachen in vielen Unternehmen gerade dabei, still und leise, die Komplexität. Anders als klassische Servicekonten lassen sie sich nicht einfach in Gruppen stecken oder mit Standardberechtigungen versehen. Wer jetzt noch nicht weiß, welche Identitäten in seiner Infrastruktur unterwegs sind, wird es bei KI-Agenten erst recht nicht wissen. Franziskas Botschaft ist klar: Wer das Fundament nicht kennt, dem stürzt das Dach ein.

1. Ein Konto reicht. Im Schnitt bewegen sich Angreifer über 100 Tage unentdeckt in Systemen – oft über ein übernommenes Konto, das längst hätte deaktiviert sein sollen. Identitätsmanagement ist kein Nice-to-have, sondern der erste Sicherheitsriegel.
2. Sichtbarkeit ist der erste Schritt. Bevor man etwas kontrollieren kann, muss man wissen, was vorhanden ist. Welche Konten existieren? Worauf haben sie Zugriff? Wer ist verantwortlich? Diese drei Fragen sind der Einstieg in jede saubere Identitätsstrategie.
3. Verbote erzeugen Schatten-IT und keine Sicherheit. Menschen wollen ihren Job machen. Wer sie zu sehr einschränkt, findet kreative Umwege – und diese liegen dann außerhalb jeder Kontrolle. Pragmatismus schlägt Überregulierung.
4. KI-Agenten sprengen das klassische Identitätsmodell. Sie lassen sich nicht in AD-Gruppen stecken, kommunizieren anders als Servicekonten und entstehen und verschwinden dynamisch. Wer jetzt keine Governance für menschliche Identitäten hat, wird sie für KI-Agenten erst recht nicht haben.
5. Identitätsmanagement ist Chefsache. NIS 2 schreibt es vor. Geschäftsführungen müssen geschult sein. Wer Sicherheit nicht von oben vorlebt, sollte sich nicht wundern, wenn Mitarbeitende ihr privates ChatGPT-Konto mit Unternehmensdaten füttern.

Jetzt abonnieren – und keine Folge mehr verpassen

Wenn dich diese Folge dazu gebracht hat, gedanklich in Richtung eurer IT-Abteilung zu laufen und zu fragen, wer eigentlich noch alles Zugriff auf was hat, dann ist das gut. Dann abonniere Follow the White Rabbit, hinterlasse eine Bewertung und schicke die Folge an alle, die gerade einen KI-Agenten deployen, bevor sie ihre Altkonten aufgeräumt haben.

Franziska Weiß – IAM Evangelist bei Garancy AG| LinkedIn |

OWASP: Broken Access Control – Top 10 Sicherheitsrisiken

Microsoft: Active Directory Best Practices