KI Officer

Die Teilnehmenden verstehen die grundlegenden Aufgaben und Verantwortlichkeiten eines KI Officers im Kontext des EU KI Acts und verwandter Regelungen.

Die Teilnehmenden können die zentralen Bestimmungen des EU KI Acts erläutern und dessen Bedeutung für die Unternehmenspraxis einschätzen.

Die Teilnehmenden erkennen ethische Fragestellungen und Standards in der KI-Entwicklung und lernen, diese im unternehmerischen Umfeld anzuwenden.

Die Teilnehmenden lernen, Risiken in KI-Projekten zu identifizieren, zu bewerten und Compliance-Maßnahmen zielgerichtet umzusetzen.

Die Teilnehmenden verstehen die Herausforderungen des Datenschutzes und der Datensicherheit im Umgang mit KI-Technologien und können entsprechende Schutzmaßnahmen entwickeln.

Die Teilnehmenden erarbeiten, welche Methoden zur Gewährleistung von Transparenz und Nachvollziehbarkeit in KI-Modellen notwendig sind und wie diese implementiert werden.

Die Teilnehmenden sind in der Lage, interne und externe Auditprozesse zu planen und erhalten Einblick in die Anforderungen von Zertifizierungsprozessen.

Die Teilnehmenden analysieren praxisnahe Beispiele für den Einsatz von KI und erkennen Best Practices zur Integration und Überwachung von KI-Systemen.

Die Teilnehmenden lernen effiziente Methoden zur Dokumentation und Berichterstattung in KI-Projekten, um regulatorische Anforderungen zu erfüllen.

Die Teilnehmenden entwickeln Strategien für eine transparente und effektive Kommunikation mit internen und externen Stakeholdern in KI-bezogenen Projekten.

Die Teilnehmenden erarbeiten Konzepte für Schulungsprogramme, die das interne Verständnis und die Akzeptanz von KI-Initiativen fördern.

Die Teilnehmenden erlernen Methoden des Change Managements, um den Übergang zu KI-gestützten Prozessen erfolgreich zu gestalten.

Die Teilnehmenden beherrschen Techniken zur Bewertung der Performance von KI-Systemen und können relevante Kennzahlen zur Erfolgsmessung heranziehen.

Die Teilnehmenden entwickeln ein Verständnis für zukünftige Trends im KI-Management und erarbeiten Ansätze für die kontinuierliche Optimierung von KI-Systemen.

Im Kontext des KI-Managements ist kritisches Denken eine zentrale Kompetenz. Die Teilnehmenden lernen, warum diese Fähigkeit im Umgang mit KI-Systemen essenziell ist. Durch die Auseinandersetzung mit realen Technologien und Experimenten reflektieren sie ethische, soziale und strategische Fragestellungen. Dabei erkennen sie potenzielle Verzerrungen, entwickeln ein Bewusstsein für die Macht, aber auch für die Risiken von KI im organisationalen Umfeld.

Zu Beginn erfolgt eine Einführung in das kritische Denken. Es wird erläutert, was darunter zu verstehen ist und weshalb es gerade bei datengetriebenen Technologien von zentraler Bedeutung ist. Im Anschluss wird das Spannungsfeld beleuchtet, in dem sich künstliche Intelligenz bewegt – zwischen den Hoffnungen, die mit ihr verbunden sind, und den Kontrollmechanismen, die notwendig werden. Es wird hinterfragt, welche Narrative die gesellschaftliche Debatte über KI prägen und welche Aspekte dabei häufig übersehen werden.

Ein weiterer Schwerpunkt liegt auf dem Unterschied zwischen Wahrnehmung und Perspektive. Die Teilnehmenden erarbeiten, wie Meinungen entstehen und weshalb Perspektivenvielfalt in KI-Projekten eine kritische Rolle spielt. In diesem Zusammenhang werden auch psychologische Konzepte wie der Dunning-Kruger-Effekt und verschiedene kognitive Verzerrungen behandelt. Diese helfen zu verstehen, warum sich insbesondere Entscheider in komplexen Themenfeldern wie KI häufig überschätzen.

Darauf aufbauend wird untersucht, wie soziale Dynamiken wie Gruppendruck und Autorität das kritische Denken beeinflussen können – auch und gerade im Unternehmenskontext. Dabei werden klassische Experimente von Asch, Milgram und aus dem Stanford-Prison-Experiment herangezogen, um die Relevanz dieser Phänomene aufzuzeigen.

Anhand konkreter Fallstudien wird das theoretische Wissen vertieft. Eine dieser Studien widmet sich der Analyseplattform Palantir Gotham, einem hochentwickelten Tool zur Datenverknüpfung, das unter anderem von Geheimdiensten, der Polizei und Unternehmen genutzt wird. Die Teilnehmenden reflektieren hierbei, was technisch möglich ist, wer den Zugriff kontrolliert, wie Machtmissbrauch verhindert werden kann und wie sich unhinterfragte Machtstrukturen erkennen lassen.

Ein weiteres Beispiel beschäftigt sich mit der Echtzeit-Ortung über WLAN durch KI-Systeme. Hier wird die Verbindung zwischen technischer Machbarkeit und gesellschaftlicher Verantwortung diskutiert. Im Zentrum steht dabei die Frage: „Wenn wir es können – sollten wir es auch tun?“

Die dritte Fallstudie behandelt das KI-gestützte System „Lavender“, das von den Israelischen Streitkräften (IDF) eingesetzt wird, um automatisch Zielpersonen zu identifizieren, die mutmaßlich mit feindlichen Organisationen wie der Hamas in Verbindung stehen. Auch hier stehen Fragen nach technischer Machbarkeit, Kontrollmechanismen, der Vermeidung von Machtmissbrauch und der Erkennung von struktureller Intransparenz im Fokus der Reflexion.

Zum Abschluss wird die Relevanz des kritischen Denkens angesichts der enormen technischen Möglichkeiten noch einmal betont. Der Ausblick auf Tooling zeigt, dass kritisches Denken nicht nur eine Haltung, sondern auch eine methodisch fundierte Praxis erfordert, um in Theorie und Anwendung wirksam zu sein.

Ziel: Die Teilnehmenden lernen konkrete Methoden, um KI-Projekte systematisch zu hinterfragen, Fehlannahmen aufzudecken, Perspektiven einzubeziehen und potenzielle Fehlentwicklungen frühzeitig zu erkennen. Die Methoden fördern ethische, strategische und systemische Reflexion – und helfen, Entscheidungen robuster und verantwortungsbewusster zu treffen.

1. Kritische Fragen stellen: Von Neugier zur Verantwortung

Sokratischer Dialog, Bias-Check-Fragen, Entscheidungsmuster durchbrechen

2. Die 5-Why-Methode

Von Symptomen zur Ursache – Anwendung auf fehlerhafte KI-Empfehlungen

3. Ishikawa-Diagramm & die 6M

Ursachenstrukturen sichtbar machen: Wie kommen KI-Fehlentscheidungen zustande?

4. Stakeholder Mapping

Wer ist betroffen, aber nicht beteiligt? Wessen Stimme fehlt im KI-Design?

5. Argument Mapping

Pro- und Kontra-Strukturen analysieren – besonders für sensible KI-Anwendungen

6. Devil’s Advocate – Kritik als Systemrolle

Systematische Gegenposition einnehmen, auch gegen eigene Ideen
Methode: „Red Teaming Light“ – mit vorgegebenen Rollen (Technik, Ethik, Gesellschaft)

7. Bias Audits & externe Kontrollstrukturen

OECD AI Principles, EU AI Act, Audit-Fragen für KI-Systeme
Diskussion: Reicht Regulierung oder braucht es auch Kulturwandel?
8. Perspektivenwechsel konkret: 6-Hüte-Methode

– Edward de Bono: emotional, rational, kreativ, kritisch, faktenbasiert, visionär
– Gruppenübung auf ein bekanntes KI-Tool

9. Ethikrahmen im Alltag: Decision Canvas

– Strukturierte Bewertung von Entscheidungen mit hoher Tragweite
– Felder: Ziel, Betroffene, Nebenwirkungen, Alternativen, Offenlegung

10. Reflexionsroutinen im Alltag: 3x3-Methode

3 Fragen vor jeder Entscheidung mit KI:

Wer profitiert?

Wer wird ausgeschlossen?

Was passiert, wenn es sich irrt?

3 Perspektiven, die immer rein müssen:

Nutzende

Betroffene

Beobachtende/Kritik

3 Routinen für kritisches Teamverhalten:

Feedback einholen

Irrtümer dokumentieren

Entscheidungen transparent machen