Was dir KI zeigt – und was nicht | Meikes Reflexionsserie

Meikes Gedanken zur Künstlichen Intelligenz

Du willst dir diesen Blogbeitrag lieber anhören? Klicke hier, um die Audioversion zu erreichen!

Was dir KI zeigt – und was nicht

Dies ist der dritte Teil der Reflexionsreihe von MDI-Leadership-Architektin Meike Hinnenberg. Teil I und II findest du auf unserer Blog-Seite! Bleib dran, weitere Teile folgen 🙂

Was Führungskräfte sehen – und was verborgen bleibt

So wie Äußerungslinien das Feld des Sagbaren strukturieren, strukturieren Sichtlinien das Feld der Wahrnehmung. Sie sind Bedingungen des Sehens, die innerhalb eines Dispositivs zirkulieren und bestimmen, was als Objekt erscheinen kann, welche Form etwas annehmen muss, um wahrnehmbar zu werden, von welchem Blickwinkel aus es beleuchtet wird und was in den Schatten treten muss, damit diese Beleuchtung Bestand hat. Eine Sichtlinie ist somit ein historisch spezifisches Regime des Sehens: eine Verteilung von Licht und Dunkelheit, die bestimmte Realitäten ins Licht rückt, während sie andere in den Schatten wirft, von dem diese Präsenz abhängt.

Michel Foucault zeichnete eine Transformation der Sehregime nach, als er zeigte, wie die souveräne Macht, einst inszeniert im blendenden Spektakel öffentlicher Bestrafung, einer Disziplinargewalt wich, eingebettet in Architekturen kontinuierlicher Beobachtung. Was sich veränderte, war nicht nur die Ausübung von Macht, sondern die Anordnung des Sichtbaren selbst: Das Spektakel wich der Überwachung, und Sichtbarkeit hörte auf, ein Ereignis zu sein, und wurde zu einer Umgebung.

Wenn wir uns dem Dispositiv der Künstlichen Intelligenz zuwenden, wie ist das Terrain der Wahrnehmung angeordnet und welche Sichtlinien organisieren dieses Regime des Sehens?

Wie sich KI präsentiert: Vier Sichtlinien

Linie 1: Die Schnittstelle – Intelligenz als Performance

Eine Linie verläuft entlang der Schnittstelle. Hier erscheint künstliche Intelligenz als verzögerungsfreie Reaktionsfähigkeit: Dashboards werden in Echtzeit aktualisiert, Eingabeaufforderungen liefern flüssige Antworten, und Systeme demonstrieren ihre Kompetenz in sorgfältig inszenierten Vorführungen. Intelligenz präsentiert sich als Performance – unmittelbar, nahtlos, in sich geschlossen. Was diese Linie etabliert, ist die wahrnehmbare Oberfläche des Betriebs: Output als Ereignis, Reaktion als Beweis. Das System tritt genau dort in Erscheinung, wo es antwortet.

Linie 2: Abstraktion – Struktur ohne Gewicht

Eine zweite Linie folgt dem Pfad der Abstraktion. Modelle werden durch Architekturen, Parameter und Genauigkeitswerte beschrieben; Leistung wird numerisch ausgewiesen, und Verbesserung wird als Optimierung erfasst. Intelligenz wird als formale Eigenschaft lesbar, losgelöst von Situation und Substrat. Was sichtbar wird, ist Struktur ohne Gewicht, Schlussfolgerung ohne Umfeld, Kognition ohne Körper.

Linie 3: Skalierung – Expansion jenseits von Intervention

Eine dritte Linie entfaltet sich auf der Ebene der Skalierung. Künstliche Intelligenz erscheint als planetarische Infrastruktur: Milliarden von Parametern, globaler Einsatz, kontinuierlicher Betrieb über Zeitzonen und Kontinente hinweg. Ihre Größenordnung übersteigt die gewöhnliche Wahrnehmung. Skalierung erzeugt ihr eigenes Regime der Sichtbarkeit: Was sich abzeichnet, ist Unvermeidbarkeit, Dynamik – Expansion jenseits von Intervention.

Linie 4: Neutralität – Wenn Berechnung das Urteilsvermögen ersetzt

Eine vierte Linie organisiert Neutralität. Künstliche Intelligenz erscheint als objektiv und datengesteuert. Ihre Abläufe präsentieren sich als technische Prozesse und nicht als situative Entscheidungen. Urteilsvermögen erscheint als Berechnung; Ergebnisse erscheinen als Resultate und nicht als Eingriffe. Was sich zeigt, ist eine von Politik gereinigte Welt, in der ein großer Teil der Verantwortung auf das System verlagert und der Kontext nivelliert wird. Neutralität ist hier nicht einfach beschreibend; sie ist produktiv und strukturiert die Wahrnehmung so, dass Schaden, Wahlmöglichkeiten und eingebettete Werte in den Schatten treten, während die Oberfläche der Berechnung transparent und selbstverständlich erstrahlt.

Die Illusion der Autonomie – und was sie verbirgt

Zusammen bilden diese Zeilen ein Regime des Sehens, in dem sich künstliche Intelligenz als autonom, immateriell und unvermeidlich präsentiert. Was erscheint, ist Intelligenz ohne Rest. Doch Regime der Sichtbarkeit offenbaren sich nicht einfach nur; sie inszenieren die Offenbarung. Sie erzeugen Wahrnehmbarkeit, indem sie gleichzeitig strukturieren, was nicht gesehen werden kann.

Indem sie Amazons Crowdsourcing-Plattform „Mechanical Turk“ zitiert und an ihren historischen Namensvetter erinnert – den angeblich Schach spielenden Automaten, den Wolfgang von Kempelen 1769 konstruierte –, zeichnet Kate Crawford eine solche Sichtbarkeitslinie und gleichzeitig deren Bruch nach. Die Figur des scheinbar schachspielenden Automaten, gekleidet in osmanische Gewänder und vor einem hölzernen Schrank sitzend, auf dem ein Schachbrett thronte, schien selbstständig zu überlegen und zu entscheiden. Als sich die Türen öffneten, kamen komplizierte Zahnräder und Uhrwerke zum Vorschein, die das beruhigende Bild mechanischer Vernunft vermittelten. Doch diese Sichtbarkeit war sorgfältig inszeniert: im Schrank versteckt verfolgte ein menschlicher Bediener das Spiel im Dunkeln und wechselte seine Position, während die Paneele angezeigt wurden, um die Illusion aufrechtzuerhalten. Was wie autonome Intelligenz aussah, war in Wirklichkeit der oberflächliche Effekt einer verborgenen menschlichen Präsenz.

Indem Crawford an diese Maschine erinnert, macht er eine Kontinuität wahrnehmbar, die der zeitgenössische Begriff Künstliche Intelligenz zu verschleiern sucht: den Anschein von Autonomie, der durch verteilte, verborgene Arbeit aufrechterhalten wird. Dass Amazon seine globale digitale Arbeitsplattform nach diesem trügerischen Automaten benennt – einer Illusion, die nicht nur auf Verbergung, sondern auch auf der orientalistischen Inszenierung einer rassifizierten Figur beruht –, ist zugleich zynisch und ungewollt aufschlussreich. Der Name bewahrt, wie ein Fossil in der Sprache, eine längere Geschichte, in der Intelligenz an der Oberfläche erscheint, während die Arbeit, die sie aufrechterhält, an einen anderen Ort verlagert wird, oft über koloniale und postkoloniale Geografien hinweg, in Körper, die strukturell nicht anerkannt werden.

Indem sie den Blickwinkel verschiebt, greift sie in das Regime des Sehens selbst ein. Was nahtlos erschien, offenbart Bruchlinien; was autonom erschien, offenbart Abhängigkeit. Die Schnittstelle erscheint nicht mehr als Ursprung, sondern als Oberfläche.

Hinter der Oberfläche: Arbeit, Materie und Geografie

Hinter der Abstraktion des Modells treten materielle Infrastrukturen zutage. Rechenzentren arbeiten im industriellen Maßstab und verbrauchen riesige Mengen an Strom und Wasser, um den kontinuierlichen Rechenbetrieb aufrechtzuerhalten. Ihre Server sind auf die Konfliktmineralien Zinn, Tantal, Wolfram, Gold und Seltenerdelemente angewiesen, die aus Landschaften gewonnen werden, die von giftigen Rückständen und ökologischer Erschöpfung geprägt sind. Die Ausweitung des maschinellen Lernens trägt zu wachsenden Strömen von Elektroschrott bei, die sich auf Millionen Tonnen belaufen. Was als immaterielle Intelligenz erscheint, ist untrennbar mit Rohstoffgewinnung, Ressourcenverknappung und Wärmeentwicklung verbunden.

Hinter der Neutralität der Daten kommen Auswahl- und Klassifizierungsprozesse zum Vorschein. Systeme des maschinellen Lernens sind auf riesige Datensätze angewiesen, die durch menschliche Aktivität zusammengestellt wurden: segmentierte Bilder, bewertete Sätze, annotierte Gesten. Millionen von Crowd-Workern auf der ganzen Welt erledigen diese Aufgaben, oft für eine minimale Vergütung, und klicken sich durch Tausende von Elementen in sich wiederholenden Abläufen, die die Systeme darauf trainieren, zu sehen. Content-Moderatoren sind mit Gewalt, Pornografie und Erniedrigung konfrontiert, damit andere auf bereinigte Ergebnisse stoßen. Ihre Wahrnehmung wird Teil des sensorischen Apparats des Systems, auch wenn ihre Präsenz aus dessen Darstellung verschwindet.

Hinter dem Ausmaß des Systems wird eine Geografie wahrnehmbar: Lieferketten, die sich über Kontinente erstrecken, Rechenzentren in der Nähe von Energie- und Wasserquellen, Arbeitskräfte verteilt über Zeitzonen, Fördergebiete und Verarbeitungsanlagen, die in einem kontinuierlichen Betrieb miteinander verbunden sind. Was als einheitliches technisches Objekt erscheint, offenbart sich als eine Konvergenz von Umgebungen, Infrastrukturen und Körpern.

Anders sehen: Vom Output zum System

Künstliche Intelligenz erscheint nicht einfach anders, sobald diese Bedingungen sichtbar werden. Das Regime der Sichtbarkeit selbst wird als konstruiert entlarvt. Die Linien, die einst den Anschein von Autonomie erzeugten, entpuppen sich als Anordnungen, die Oberfläche von Substrat, Output von Arbeit, Intelligenz von Materie trennen.

Diesen Bruchlinien zu folgen bedeutet nicht nur, mehr zu sehen, sondern anders zu sehen. Intelligenz erscheint nicht mehr als isolierte technische Errungenschaft, sondern als die sichtbare Oberfläche von Beziehungen, die sich nach unten in die Erde, nach außen über den Planeten und nach innen in die Wahrnehmungs- und Denkarbeit anderer erstrecken. Was als in sich geschlossenes System erschien, wird als Dispositif wahrnehmbar: eine Anordnung, die sowohl das Objekt als auch die Subjekte hervorbringt, die es stützen, und gleichzeitig die Bedingungen organisiert, unter denen diese Produktion gesehen werden kann oder unsichtbar bleibt.

Hol dir jetzt deine Tickets für die nächste Leadership Horizon am 5.5.!

Was hilft als nächstes?