KI Officer

Zu Beginn erfolgt eine Einführung in das kritische Denken. Es wird erläutert, was darunter zu verstehen ist und weshalb es gerade bei datengetriebenen Technologien von zentraler Bedeutung ist. Im Anschluss wird das Spannungsfeld beleuchtet, in dem sich künstliche Intelligenz bewegt – zwischen den Hoffnungen, die mit ihr verbunden sind, und den Kontrollmechanismen, die notwendig werden. Es wird hinterfragt, welche Narrative die gesellschaftliche Debatte über KI prägen und welche Aspekte dabei häufig übersehen werden.

Ein weiterer Schwerpunkt liegt auf dem Unterschied zwischen Wahrnehmung und Perspektive. Die Teilnehmenden erarbeiten, wie Meinungen entstehen und weshalb Perspektivenvielfalt in KI-Projekten eine kritische Rolle spielt. In diesem Zusammenhang werden auch psychologische Konzepte wie der Dunning-Kruger-Effekt und verschiedene kognitive Verzerrungen behandelt. Diese helfen zu verstehen, warum sich insbesondere Entscheider in komplexen Themenfeldern wie KI häufig überschätzen.

Darauf aufbauend wird untersucht, wie soziale Dynamiken wie Gruppendruck und Autorität das kritische Denken beeinflussen können – auch und gerade im Unternehmenskontext. Dabei werden klassische Experimente von Asch, Milgram und aus dem Stanford-Prison-Experiment herangezogen, um die Relevanz dieser Phänomene aufzuzeigen.

Anhand konkreter Fallstudien wird das theoretische Wissen vertieft. Eine dieser Studien widmet sich der Analyseplattform Palantir Gotham, einem hochentwickelten Tool zur Datenverknüpfung, das unter anderem von Geheimdiensten, der Polizei und Unternehmen genutzt wird. Die Teilnehmenden reflektieren hierbei, was technisch möglich ist, wer den Zugriff kontrolliert, wie Machtmissbrauch verhindert werden kann und wie sich unhinterfragte Machtstrukturen erkennen lassen.

Ein weiteres Beispiel beschäftigt sich mit der Echtzeit-Ortung über WLAN durch KI-Systeme. Hier wird die Verbindung zwischen technischer Machbarkeit und gesellschaftlicher Verantwortung diskutiert. Im Zentrum steht dabei die Frage: „Wenn wir es können – sollten wir es auch tun?“

Die dritte Fallstudie behandelt das KI-gestützte System „Lavender“, das von den Israelischen Streitkräften (IDF) eingesetzt wird, um automatisch Zielpersonen zu identifizieren, die mutmaßlich mit feindlichen Organisationen wie der Hamas in Verbindung stehen. Auch hier stehen Fragen nach technischer Machbarkeit, Kontrollmechanismen, der Vermeidung von Machtmissbrauch und der Erkennung von struktureller Intransparenz im Fokus der Reflexion.

Zum Abschluss wird die Relevanz des kritischen Denkens angesichts der enormen technischen Möglichkeiten noch einmal betont. Der Ausblick auf Tooling zeigt, dass kritisches Denken nicht nur eine Haltung, sondern auch eine methodisch fundierte Praxis erfordert, um in Theorie und Anwendung wirksam zu sein.

Sokratischer Dialog, Bias-Check-Fragen, Entscheidungsmuster durchbrechen

2. Die 5-Why-Methode

Von Symptomen zur Ursache – Anwendung auf fehlerhafte KI-Empfehlungen

3. Ishikawa-Diagramm & die 6M

Ursachenstrukturen sichtbar machen: Wie kommen KI-Fehlentscheidungen zustande?

4. Stakeholder Mapping

Wer ist betroffen, aber nicht beteiligt? Wessen Stimme fehlt im KI-Design?

5. Argument Mapping

Pro- und Kontra-Strukturen analysieren – besonders für sensible KI-Anwendungen

6. Devil’s Advocate – Kritik als Systemrolle

Systematische Gegenposition einnehmen, auch gegen eigene Ideen
Methode: „Red Teaming Light“ – mit vorgegebenen Rollen (Technik, Ethik, Gesellschaft)

7. Bias Audits & externe Kontrollstrukturen

OECD AI Principles, EU AI Act, Audit-Fragen für KI-Systeme
Diskussion: Reicht Regulierung oder braucht es auch Kulturwandel?
8. Perspektivenwechsel konkret: 6-Hüte-Methode

– Edward de Bono: emotional, rational, kreativ, kritisch, faktenbasiert, visionär
– Gruppenübung auf ein bekanntes KI-Tool

9. Ethikrahmen im Alltag: Decision Canvas

– Strukturierte Bewertung von Entscheidungen mit hoher Tragweite
– Felder: Ziel, Betroffene, Nebenwirkungen, Alternativen, Offenlegung

10. Reflexionsroutinen im Alltag: 3x3-Methode

3 Fragen vor jeder Entscheidung mit KI:

Wer profitiert?

Wer wird ausgeschlossen?

Was passiert, wenn es sich irrt?

3 Perspektiven, die immer rein müssen:

Nutzende

Betroffene

Beobachtende/Kritik

3 Routinen für kritisches Teamverhalten:

Feedback einholen

Irrtümer dokumentieren

Entscheidungen transparent machen