Was KI wirklich kostet: Macht, Ethik und die Verantwortung von Führungskräften

Was KI wirklich kostet: Macht, Ethik und die Verantwortung von Führungskräften

Meikes Gedanken zur Künstlichen Intelligenz

Du willst dir diesen Blogbeitrag lieber anhören? Klicke hier, um die Audioversion zu erreichen!

Intro

Das ist der erste Teil einer neuen KI-Blogserie von unserer Senior Learning Architect Meike Hinnenberg. Lies ihre Gedanken unten und bleib dran für weitere Teile!

Die Geschichte des Bergbaus wird, ebenso wie die Verwüstungen, die er hinterlässt, in der strategischen Amnesie, die mit Geschichten über den technologischen Fortschritt einhergeht, häufig übersehen. […] Da San Francisco enormen Reichtum aus den Minen bezog, fiel es der Bevölkerung leicht, zu vergessen, woher all das kam […] Genau wie bei den Minen, die San Francisco im 19. Jahrhundert versorgten, wird die Gewinnung für den Technologiesektor durchgeführt, indem die tatsächlichen Kosten außer Sichtweite bleiben.

(Kate Crawford: Atlas of AI)

[…] – das heißt, wie ich schon sagte, der Einsatz von aktiver Vergesslichkeit, sozusagen ein Türsteher, ein Hüter der psychischen Ordnung, der Ruhe, der Etikette. Daraus lässt sich sofort erkennen, dass es ohne Vergesslichkeit kein Glück, keine Fröhlichkeit, keine Hoffnung, keinen Stolz und keine Gegenwart geben könnte.

(Friedrich Nietzsche: Die Genealogie der Moral)

Durch die Abweichung vom Gleichgewicht der Tiere, von der Ruhe – eine Abweichung, die durch die Schuld von Epimetheus verursacht wurde – entstehen die Sterblichen. Vor der Abweichung gibt es nichts. Dann passiert das zufällige Ereignis, die Schuld von Epimetheus: die Menschen vergessen zu haben. Die Menschen sind die Vergessenen. Die Menschen entstehen nur durch ihr Vergessenwerden; sie erscheinen nur im Verschwinden.

(Bernard Stiegler: Technik und Zeit, 1)

Einleitung

Es ist Anfang Februar 2026 in Berlin; kurz nach dem großen Stromausfall im Süden Berlins; kurz nach mehreren Todesfällen und verheerenden Verlusten in Südeuropa infolge des Sturms Harry; kurz nachdem ein Richter des Internationalen Strafgerichtshofs von den Vereinigten Staaten sanktioniert wurde; kurz nachdem eine durch einen destabilisierten Jetstream verursachte Kältewelle in den USA Menschenleben gefordert hat; kurz nachdem tödliche Stürme und Überschwemmungen in Süd- und Südostasien Tausende Menschen vertrieben, Hunderte getötet und ganze Regionen überflutet haben; kurz nachdem russische Angriffe Tausende Haushalte in Kiew ohne Heizung zurückgelassen hatten, während die ukrainische Regierung fast im gleichen Atemzug die Erschließung der gleichnamigen Lithiumlagerstätte in der Region Kirovohrad an TechMet übertrug – ein irisches Unternehmen, das teilweise von der Development Finance Corporation der US-Regierung und dem US-Finanzunternehmen Rock Holdings unterstützt wird – und das Land damit in den Wettbewerbskreislauf der globalen Batteriewirtschaft einbezog; kurz nachdem …

Es ist Anfang Februar 2026 in Berlin, und draußen ist es bitterkalt. In meiner alten Wohnung ist es trotz der undichten Fenster gemütlich warm. Die Heizkörper flüstern mit Gas, das aus Norwegen, den Niederlanden, Belgien, den Vereinigten Staaten oder Aserbaidschan kommt und vorerst die Ostwinde abhält. Ich sitze in meiner Küche. Milch erwärmt sich langsam auf dem Herd; Kaffee – wahrscheinlich aus Afrika, Asien oder Südamerika – steigt in der Espressokanne auf und erfüllt den Raum mit seinem wunderbaren, vertrauten Duft.

Ich schalte meinen Computer ein, der aus Lieferketten zusammengesetzt ist, die undurchsichtig sind und von Mineralien, Infrastrukturen und Arbeitsformen abhängen, die selten ins Blickfeld geraten. Ich öffne ihn, um die Nachrichten zu lesen und mit der Recherche für eine Serie über KI zu beginnen, die ich schreiben will – mir ist dabei bewusst, dass selbst eine Frage, die an eine Maschine gestellt wird, weit mehr Energie und Ressourcen verbraucht als das einfache Tippen.

Von diesem Küchentisch aus richte ich meinen Blick auf zwei aktuelle Ausgangspunkte: Kate Crawfords Atlas of AI und ihren Video-Essay Mapping Empires.

Kapitel I – Das Dispositiv der Künstlichen Intelligenz

In Atlas of AI schält Kate Crawford die konzeptionellen und materiellen Schichten ab, die sich um das, was wir als künstliche Intelligenz bezeichnen, angesammelt haben, und enthüllt ein Konstrukt, dessen versteckte Annahmen wir täglich leben, ohne uns der Konsequenzen bewusst zu sein, die sie nach sich ziehen.

Ihre Analyse entfaltet sich wie eine Art Kartografie und erinnert an Gilles Deleuzes Begriff des Dispositivs: ein Feld, das von Linien der Sichtbarkeit und Unsichtbarkeit, von großen Erzählungen und dem, was sie verschweigen, von Modi der Subjektivierung, Brüchen, Kontinuitäten und Überschneidungen durchzogen ist – Linien, die sich kreuzen und verändern, ohne jemals zu einer universellen Struktur zu verfestigen.

Technologien der Herrschaft

Um sich diesem Dispositiv anzunähern und sein Terrain zu durchqueren, bedient sich Crawford der Figur des Atlas. Der Atlas macht die materiellen und räumlichen Dimensionen greifbar, die unter dem Begriff „Künstliche Intelligenz” zusammengefasst werden, auch wenn genau diese Bedingungen – ihre Infrastrukturen, Arbeitsprozesse und extraktiven Grundlagen – häufig aus dem Blickfeld geraten.

Gleichzeitig bestätigt er die Situiertheit allen Wissens: Jede Karte bietet nur eine teilweise Orientierung, die durch die Wahl des Maßstabs, der Schwerpunkte und der Auslassungen geprägt ist. In dieser Konvergenz von ästhetischer visueller Ordnung und epistemischem Anspruch zeigt Crawford, dass Kartierung keine neutrale Beschreibung, sondern ein kreativer und politischer Akt ist.

Auch wenn Crawford auf der Teilhaftigkeit ihrer eigenen Darstellung besteht – sie präsentiert ihre Arbeit als Einladung, neuen Wegen zu folgen, in Zonen der Disparität zu verweilen und zu beobachten, wie bestimmte Perspektiven entstehen –, bleibt sie aufmerksam gegenüber der dunklen Geschichte des Atlas selbst. Denn Atlanten waren nie nur unschuldige Instrumente der Orientierung, sie dienten auch als Technologien der Herrschaft.

Die Sicht Gottes

Genau diese Ambivalenz bildet die Grundlage für ihre zentrale Hypothese: dass unter dem Namen „Künstliche Intelligenz“ diese kartografische Macht erneut mobilisiert wird. Auf den bekannten Pfaden der kolonialen Ausbeutung und getrieben von dem Ehrgeiz, nicht mehr nur einen Atlas der Welt zu zeichnen, sondern an ihre Stelle zu treten, zentralisiert dieser Impuls die Macht im Bereich der KI neu und fördert Ansprüche auf Universalität und Totalität, die auf extraktiven Regimen beruhen.

Dabei versucht er, Bewegung, Kommunikation und Arbeit in Daten zu übersetzen und die Welt aus einer, wie Crawford es beschreibt, vermeintlich objektiven, zentralisierten „Gottesperspektive” lesbar zu machen.

Deterritorialisierung und Reterritorialisierung

Der Atlas selbst funktioniert durch eine doppelte Bewegung, die Deleuze als Deterritorialisierung und Reterritorialisierung bezeichnen würde. Während seine kartografischen Abstraktionen feste räumliche Beziehungen aufbrechen und neue Denkwege eröffnen, tragen sie auch eine seit langem bestehende Fähigkeit zur Eroberung und Beherrschung in sich.

Crawfords Intervention kann als Versuch gelesen werden, das deterritorialisierende Potenzial des Atlas zu verstärken, auch wenn sie akribisch die reterritorialisierenden Vorgänge nachzeichnet, zu denen Kolonialismus und zeitgenössische KI immer wieder zurückkehren.

Die ethische Aufgabe

Dispositive als einzigartige und historisch situierte Konfigurationen gehen weder vom Universellen aus, noch kommen sie dort an. Und doch führen sie in ihrer Funktionsweise immer wieder zu Gesten der Universalisierung und zu Ambitionen der Totalität, zu Effekten, die eher aus ihrem Inneren als aus einer transzendenten Grundlage hervorgehen. Aus diesem Grund müssen solche Behauptungen genealogisch zurückverfolgt werden, entlang der Wege, auf denen sie sich durchsetzen.

Vor diesem Hintergrund besteht die ethische Aufgabe nicht darin, der Totalisierung mit einem quasi-moralistischen Gegenuniversellen entgegenzutreten, sondern diesen Bewegungen aufmerksam zu folgen, während sie sich entfalten: Verschiebungen, Reibungen und alternative Wege einzuführen, die das Feld offen halten.

Ethischer Widerstand muss, wenn er diesen Namen verdienen will, selbst der Versuchung von Ideologie, Universalisierung und Verschlossenheit widerstehen. Denn wo immer Widerstand zu moralisch empörter Gewissheit oder ideologischer Form erstarrt, läuft er Gefahr, unter dem Deckmantel der Kritik genau die Logik der Universalisierung und Reterritorialisierung zu reproduzieren, die er eigentlich erschüttern wollte.

Hol dir jetzt deine Tickets für die nächste Leadership Horizon am 5.5.!

Was hilft als nächstes?