Wie künstliche Intelligenz prägt, wer wir werden

Wie künstliche Intelligenz prägt, wer wir werden

Meikes Gedanken zur Künstlichen Intelligenz

Du willst dir diesen Blogbeitrag lieber anhören? Klicke hier, um die Audioversion zu erreichen!

Wie künstliche Intelligenz prägt, wer wir werden | Linien der Subjektivierung

Das vielleicht sicherste aller philosophischen Probleme ist das Problem der Gegenwart und dessen, was wir in genau diesem Moment sind. (Michel Foucault: Das Subjekt und die Macht) Die tiefgreifendsten Technologien sind jene, die verschwinden. Sie verweben sich mit dem Gewebe des Alltags, bis sie nicht mehr davon zu unterscheiden sind. (Marc Weiser: Der Computer für das 21. Jahrhundert)

Die verborgene Arbeit hinter der KI – Eine Berliner Ausstellung

Mai 2026 in Berlin; der Frühling ist da. Licht fällt in den Raum, und eine sanfte Wärme breitet sich in der Wohnung aus. Das Fenster steht einen Spalt breit offen. Ich sitze am selben Tisch. Wieder erfüllt Kaffee – dunkel, dicht, fast erdig in seiner Intensität – den Raum.

Während ich dem Geschmack nachgehe, während ich weiter an diesem Text arbeite, kehren Fragmente der Ausstellung The Language of Soil zurück, die ich heute Vormittag besucht habe. In dieser Installation lenkt die Künstlerin Anna Ehrenstein die Aufmerksamkeit auf Plattformarbeiter in Nairobi, im Kongo und in Ägypten – Arbeiter:innen, die das aufrechterhalten, was als Künstliche Intelligenz bezeichnet wird, und für die Jeff Bezos einst den Ausdruck „künstliche künstliche Intelligenz“ verwendete.

Sie sind bei Outsourcing-Partnern von Big-Tech-Unternehmen angestellt, und ihre Arbeit bleibt weitgehend unsichtbar. Die Ausstellung vereint Interviews, Workshops und kollektive Erzählformate in einer 220°-Videoinstallation und macht so das „Wechselspiel von (post-)kolonialen Kontinuitäten, globalen Ökonomien und der Arbeit, die algorithmische Systeme untermauert“, wahrnehmbar.

Stimmen aus der unsichtbaren Infrastruktur

Ich schaue zu. Ich höre zu. Ein Vater, der eng mit seiner Familie verbunden ist, nun aber von seiner Tochter entfremdet; ihre Anwesenheit erinnert ihn an das CSAM, das er jeden Tag prüfen und kennzeichnen muss. Eine Frau, die als Content-Moderatorin arbeitet und Bildmaterial aus einem bewaffneten Konflikt überprüft und filtert, der auch ihre eigene Familie getroffen hat, von der sie seit langem nichts mehr gehört hat. Syrische Flüchtlinge, geprägt von Krieg, Vertreibung und Flucht, kennzeichnen nun Bildsequenzen – Krieg, Folter, Selbstmord, Vergewaltigung, Kindesmissbrauch – Bilder, die nicht außen vor bleiben, sondern zurückkehren.

Mikroaufgaben, Mikrozahlungen

Die Bezahlung wird pro Mikroaufgabe berechnet. Zehn, zwanzig, fünfundzwanzig Cent. Manchmal weniger. Es summiert sich langsam, oft auf weniger als zwei Dollar pro Stunde. Die Verträge bleiben kurz. Sie werden verlängert oder auch nicht. Eine Ablehnung ist möglich, aber nicht ohne Folgen. Die Kontinuität hängt von der Einhaltung der Regeln ab. Die Arbeit wandert; die Arbeiter bleiben austauschbar.

Wo stehe ich in dieser Formation?

Während ich dieser Bewegung der Erinnerungen folge, drängen sich Fragen auf: Wo befinde ich mich in der Formation, die ich zu beschreiben versuche? Wie bin ich davon betroffen? In welcher Beziehung stehe ich dazu?

Wurde durch das Nachdenken über das Dispositiv der Künstlichen Intelligenz, über dessen Sichtlinien und Äußerungslinien, so etwas wie eine Außenposition gewonnen? Ist dies nun ein stabiler Ort, von dem aus ich mit einer gewissen Autonomie sprechen, vielleicht sogar darüber urteilen kann? Oder ist auch dies nur eine Bewegung innerhalb derselben singulären und historisch verorteten Konfiguration?

Die Illusion des äußeren Subjekts

Es wäre verlockend anzunehmen, dass das, was in den Blick gerückt ist, einfach als mir zur Verfügung stehendes Wissen fortbesteht, während ich selbst unberührt bleibe. Eine solche Perspektive bewahrt die vertraute Figur eines äußeren, selbstbewussten Subjekts und einer stabilen Realität, auf die es mittels Technologie einwirkt. Und doch gerät diese Annahme ins Wanken. Wenn man sich der Künstlichen Intelligenz nicht bloß als einer Reihe von Werkzeugen, sondern als einer Bedingung der Welterschließung nähert, wird die Situation komplexer.

Wenn die vorangegangene Analyse einen Wandel in den Bedingungen des Sehens und Sprechens markiert, wenn sich zeigt, dass das, was selbstverständlich erschien, von strukturierten Ausschlüssen abhängt, dann kann dieser Wandel nicht auf das Objekt beschränkt bleiben. Er betrifft die Position desjenigen, der sieht und spricht, und damit die Bedingungen, unter denen andere unsichtbar und ungehört bleiben. Was sichtbar wird, fügt sich nicht einfach dem Wissen hinzu; es verändert das Feld, in dem sowohl das Subjekt als auch die Welt Gestalt annehmen.

Foucault und die Herstellung von Subjekten

Der beschriebene Mann […], den wir befreien sollen, ist bereits in sich selbst das Ergebnis einer Unterwerfung, die weit tiefer reicht als er selbst.

Michel Foucault verstand sein eigenes Werk als einen Versuch, „eine Geschichte der verschiedenen Modi zu erstellen, durch die in unserer Kultur Menschen zu Subjekten gemacht werden.“ (Michel Foucault: Subjekt und Macht) Wir sind nicht schon vor diesen Prozessen Subjekte. Wir werden in historisch spezifische Arrangements, Dispositifs, hineingeboren, innerhalb derer wir sprechen und über die gesprochen wird, sehen und gesehen werden, handeln und auf die eingewirkt wird. Auch wenn diese Vorstellung eine Kränkung des eigenen Egos darstellt: Subjektivität geht diesen Beziehungen nicht voraus; sie nimmt in ihnen Gestalt an. Oder, in einer Deleuz’schen Wendung: Wir befinden uns ständig in Prozessen des Subjektwerdens.

Sichtlinien: Wer darf erscheinen

Wenn Sichtlinien Bedingungen der Wahrnehmung sind – wenn sie bestimmen, was in welcher Form und aus welcher Position erscheinen darf –, dann ordnen sie nicht bloß Objekte. Sie verteilen auch Subjekte: Sie verorten sie, setzen sie zueinander in Beziehung und definieren die Positionen, aus denen so etwas wie ein „Selbst“ innerhalb eines gegebenen Sichtbarkeitsregimes hervortreten kann.

Linien der Äußerung: Wer darf sprechen

Wenn Linien der Äußerung Bedingungen der Aussprechbarkeit sind – wenn sie bestimmen, wer oder was sprechen kann, wo die Handlungsfähigkeit grammatikalisch und konzeptuell angesiedelt ist, was gesagt werden kann und in welcher Form es Bedeutung erlangt –, dann wirken sie sich auch auf das Subjekt aus. Denn diejenigen, die sprechen, stehen nicht außerhalb dieser Bedingungen.

Sie nehmen in ihnen Gestalt an. Was artikuliert werden kann und aus welcher Position es als verständlich erscheinen kann, strukturiert nicht nur den Diskurs; es strukturiert die Person, die spricht. Subjektivität entsteht hier nicht als Ursprung, sondern als Wirkung: als etwas, das innerhalb eines Feldes verfügbarer Aussagen, Unterscheidungen und Zuschreibungen von Handlungsmacht geformt wird.

Sprechen bedeutet daher nicht nur, sich auszudrücken, sondern einen bereits im Voraus organisierten Raum zu betreten, Positionen einzunehmen, bestehende Formulierungen zu wiederholen oder zu verschieben, eine Grammatik anzunehmen oder abzulehnen, die Handlungsmacht und Verantwortung verteilt. Was als sprechendes Selbst erscheint, ist untrennbar mit den Bedingungen der Äußerung verbunden, durch die es sowohl für andere als auch für sich selbst lesbar wird.

Subjektivierungslinien im Dispositiv der künstlichen Intelligenz

Im Sinne Deleuzes bezeichnen Subjektivierungslinien keine Identitäten oder inneren Zustände. Es handelt sich um Trajektorien, durch die Subjekte hervorgebracht werden: Wege, auf denen Wesen in Beziehung zu sich selbst gesetzt, mit Verantwortungspositionen betraut und befähigt oder unfähig gemacht werden, zu handeln, zu sprechen oder sich zu verweigern. Sie sind weder rein auferlegt noch frei gewählt, sondern entstehen im Zusammenspiel von Praktiken, Normen und materiellen Anordnungen.

Innerhalb des Dispositivs der Künstlichen Intelligenz sind solche Linien nicht peripher; sie sind konstitutiv für dessen Funktionsweise. Sie verlaufen nicht bloß parallel zu technischen Systemen, sondern durchziehen diese und verbinden Recheninfrastrukturen mit alltäglichen Formen der Selbstbeziehung.

Wir sind gleichzeitig an ihrer Entstehung und ihren Auswirkungen beteiligt: indem wir Daten generieren, Ergebnisse kennzeichnen und bewerten, Systeme anweisen und korrigieren, aber auch indem wir künstliche Intelligenz als Schnittstelle, Infrastruktur und Umgebung annehmen. Gleichzeitig werden wir durch eben diese Beziehungen und Praktiken hervorgebracht – als Nutzer:innen, Datensubjekte, Arbeitnehmende, Expert:innen und Objekte der Vorhersage.

Die Figur des:der Nutzer:in

Eine dominante Linie der Subjektivierung erzeugt die Figur des:der Nutzer:in. Hier wird das Subjekt als Interaktionspunkt innerhalb eines Systems angesprochen, definiert durch Verhaltensspuren und Reaktionsmuster. Handlungsfähigkeit wird nicht verneint, sondern umgelenkt: Sie erscheint als Wahl innerhalb vorstrukturierter Umgebungen, als Optimierung innerhalb vorgegebener Parameter. Das Subjekt wird insofern lesbar, als es kontinuierlich in Daten übersetzt wird, und insofern regierbar, als es vergleichbar, messbar und anpassbar gemacht werden kann.

Das Subjekt als Daten

Eine weitere Linie erzeugt das Subjekt als Daten selbst. In dieser Konfiguration wird das Leben nicht in erster Linie als Ausdruck, sondern als extrahierbares Material behandelt. Handlungen, Präferenzen und sprachliche Spuren werden in Merkmale, Kategorien und Wahrscheinlichkeiten umgewandelt. Subjektivität geht diesem Prozess nicht mehr voraus; sie wird rückwirkend durch Klassifizierung zusammengesetzt. Was man ist, wird untrennbar von dem, wozu man gezählt werden kann.

Der unsichtbare Arbeiter

Eine weitere Linie betrifft die Arbeit. Hier treten Subjekte als infrastrukturelle Betreiber von KI-Systemen auf: Annotatoren, Moderatoren, Bewerter, Validierer. Ihre Arbeit ist unverzichtbar, doch strukturell aus dem Blickfeld verdrängt. Sie erscheint nur in funktionaler Form, als „Human-in-the-Loop“, als Qualitätskontrolle, als Korrektur, während die Bedingungen ihrer Produktion weitgehend unerkannt bleiben. Subjektivierung nimmt die Form von gleichzeitiger Zentralität und Auslöschung an.

Das Subjekt der Expertise

Eine weitere Linie bringt Subjekte der Expertise hervor. Ingenieure, Forscher und Ethiker werden als rationale Verwalter komplexer Systeme positioniert. Die Verantwortung wird auf die Ebene der technischen Entscheidungsfindung verlagert, während umfassendere politische und wirtschaftliche Strukturen in den Hintergrund treten. Auf diese Weise wird Handlungsfähigkeit als Kompetenz neu organisiert, und Kritik wird oft in Fragen des Designs, der Optimierung oder der Governance übersetzt.

Das prädiktive Subjekt

Schließlich macht eine prädiktive Linie der Subjektivierung Individuen zu vorhersehbaren Entitäten. In Bereichen wie Polizeiarbeit, Grenzregime oder Sozialsystemen erscheinen Subjekte als Risiken, Bewertungen oder Wahrscheinlichkeiten. Sie werden nicht in erster Linie in Bezug auf das angesprochen, was sie tun, sondern in Bezug auf das, was von ihnen erwartet wird. In dieser Konfiguration wirkt die Subjektivierung vor dem Handeln: Sie produziert Subjekte durch die Vorstrukturierung möglicher Zukünfte.

Alternative Praktiken: Was das Dispositiv nicht vollständig erfassen kann

Allerdings finden nicht alle Subjektivierungslinien innerhalb des Dispositivs der Künstlichen Intelligenz gleiche Existenzbedingungen. Neben den oben beschriebenen, die aktiv produziert und stabilisiert werden, gibt es andere, die strukturell benachteiligt bleiben – Formen des Subjektwerdens, die nicht ohne Weiteres in Regime der Datenifizierung, Optimierung oder Klassifizierung einfließen. Diese sind nicht außerhalb des Feldes angesiedelt, sondern erscheinen als schwache Intensitäten innerhalb desselben, ständig der Gefahr ausgesetzt, neutralisiert oder in besser lesbare Formen übersetzt zu werden.

Wenn Linien der Subjektivierung das Dispositiv auf diese Weise durchziehen – wenn sie uns hervorbringen, während wir sie gleichzeitig reproduzieren –, dann kann sich die Frage nicht darauf beschränken, welche Subjekte ermöglicht werden, sondern muss auch darauf eingehen, welche schwer aufrechtzuerhalten bleiben und wie dieser Unterschied gelebt wird. Wenn sie im Zusammenspiel von Praktiken, Normen und materiellen Arrangements entstehen, stellt sich eine weitere Frage: Welche anderen Formen des Subjektwerdens könnten durch unterschiedliche Praktiken erschlossen werden? Und welche Formen der Selbstbeziehung erhalten oder verstärken wir wiederum?

Schreiben: Vom Ringen um Bedeutung zur Auswahl unter Ergebnissen

Was ist der Unterschied zwischen dem Verfassen eines Textes in der langsamen Nähe der eigenen Worte – zögernd, überarbeitend, einem Gedanken folgend, der sich der Formulierung widersetzt – und der Erstellung eines Textes durch ein System, das wahrscheinliche Fortsetzungen berechnet? Wie verändert sich das Verhältnis zur Sprache, wenn Ausdruck nicht mehr aus einem Ringen um Bedeutung entsteht, sondern aus der Auswahl unter vorstrukturierten Möglichkeiten? Welche Art von Subjekt entsteht, wenn Schreiben zu Aufforderung wird, wenn Artikulation zur Navigation innerhalb eines Raums von bereits statistisch zusammengesetzten Ergebnissen wird?

Was wird aus dem Gedanken, wenn er nicht mehr ohne unmittelbares Ergebnis bestehen darf? Was ändert sich, wenn die Aufmerksamkeit nicht in der Schwebe gehalten wird – wandernd, zurückkehrend, verweilend –, sondern kontinuierlich als Input, als Signal, als Ressource operationalisiert wird? Welche Art von Selbst entsteht, wenn das Denken auf eine unmittelbare Antwort ausgerichtet ist, anstatt auf die Möglichkeit, noch nicht zu wissen, was man denkt?

Was geschieht mit der Beziehung, wenn das Gespräch durch Vermittlung verdrängt wird? Wenn das Bemühen, einem anderen zu begegnen – durch Zögern, Missverständnisse, guten Willen, Fürsorge, Freundlichkeit – durch ein System ersetzt wird, das angeblich die Reaktion vorwegnimmt, zusammenfasst oder simuliert? Was geht verloren, wenn Affekt als etwas erscheint, das auf Abruf abgerufen werden kann, anstatt als etwas, das in der Unvorhersehbarkeit der Präsenz entsteht?

Was wird wahrnehmbar, wenn ein Kunstwerk den reibungslosen Übergang vom Bild zur Kategorie unterbricht? Wenn das Gesehene sich nicht sofort in Erkennung auflöst, sondern in der Schwebe bleibt – nicht auf eine Funktion reduzierbar, widerstandsfähig gegen unmittelbare Nutzung? Welche Art von Subjekt entsteht in einem solchen Moment, in dem die Wahrnehmung noch nicht von Klassifizierung erfasst ist und sich die Bedeutung nicht in einer einzigen Bahn verfestigt?

Und was verschiebt sich, wenn die Figur des „Annotators“ aufhört, als Funktion zu erscheinen, und zur Begegnung wird? Wenn derjenige, der etikettiert, filtert und korrigiert, nicht mehr als unsichtbarer Bestandteil des Systems integriert ist, sondern als situiertes Anderes erscheint, dessen Erfahrung sich nicht in den von ihm abhängigen Kategorien erschöpfen lässt und das einen Anspruch an uns stellt? Was wird instabil, wenn diese Präsenz nicht mehr vollständig in Daten, Rolle oder Aufgabe übersetzt werden kann?

Punkte der Nicht-Übereinstimmung: Wo andere Verläufe beginnen

Diese Fragen führen nicht außerhalb des Dispositivs. Sie stellen kein unberührtes Subjekt vor dessen Entstehung wieder her. Aber sie beginnen, Punkte aufzuzeigen, an denen sich dessen Operationen nicht vollständig schließen, und damit Orte, an denen das möglich wird, was Waldenfels Antwortlichkeit nennt. Denn in jedem Fall bleibt etwas übrig, das nicht mit seiner Erfassung übereinstimmt: ein Zögern in der Sprache, ein Überschuss in der Wahrnehmung, ein Widerstand in der Beziehung, ein Rest im Anderen, der die Rollen übersteigt, durch die es verständlich gemacht wird.

Vielleicht ist es hier – nicht jenseits, sondern innerhalb dieser Momente der Nicht-Übereinstimmung –, dass andere Trajektorien der Subjektivierung denkbar werden. Nicht als stabile Alternativen, sondern als fragile Abweichungen: Weisen des Sprechens, Sehens und Beziehens, die sich nicht vollständig an den Imperativen von Kalkulation, Vorhersage und Optimierung ausrichten und die gerade durch diese Fehlausrichtung verhindern, dass das Feld vollständig geschlossen wird, und uns vor der Totalisierung bewahren.

Welche Lebensformen erhalten wir aufrecht?

Was diese Bewegungen sichtbar machen, ist eine Beziehung, die sich einer Vereinfachung entzieht. Wir stehen nicht außerhalb des Dispositivs, das wir beschreiben. Wir stehen ihm nicht als souveräne Subjekte gegenüber, die in der Lage sind, es aus einer Position der Unabhängigkeit heraus zu steuern. Wir werden in ihm geformt – durch seine Sichtlinien, seine Äußerungsregime, seine Subjektivierungsprozesse. Was wir sehen können, was wir sagen können, was wir werden können, ist niemals einfach nur unser Eigenes.

Und doch erschöpft dies die Beziehung nicht. Denn wenn wir innerhalb dieser Konfigurationen geformt werden, sind wir nicht nur ihr Ergebnis. Wir tragen zu ihrer Fortführung bei. Wir stabilisieren sie durch unsere Praktiken, unsere Wiederholungen, unsere Nutzungsformen. Doch gerade hierin eröffnet sich eine andere Möglichkeit: dass das, was reproduziert wird, auch verändert werden kann. Dass es selbst innerhalb des Feldes, das uns formt, Bewegungen gibt – Zögern, Abweichungen, Neukonfigurationen –, durch die andere Verlaufswege der Subjektivierung gefördert werden können.

Weder determiniert noch frei: Eine anspruchsvollere Frage

Die Frage ist also nicht, ob wir determiniert oder frei sind. Sie ist anspruchsvoller: Welche Lebensformen erhalten wir durch die Art und Weise, wie wir sehen, sprechen und Beziehungen eingehen? Zu welchen Subjekten werden wir, wenn wir uns nahtlos an diese Systeme anpassen – wenn wir zulassen, dass ihre Abläufe widerstandslos durch uns hindurchfließen, wenn wir ihre Abstraktionen als ausreichende Beschreibungen von uns selbst und anderen akzeptieren? Und was wird durch diese Anpassung unzugänglich: Welche Formen der Aufmerksamkeit, der Beziehung, der Sprache, der Verantwortung beginnen zu schwinden, wenn sie nicht mehr praktiziert werden?

Umgekehrt: Was könnte es bedeuten, innerhalb dieser Formationen zu verbleiben, ohne vollständig mit ihnen übereinzustimmen? Ihre Strukturen zu bewohnen, ohne jedoch zuzulassen, dass sie sich vollständig in dem festsetzen, was wir für unser Selbst halten? Wenn es kein Außen gibt, von dem aus gehandelt werden kann, dann muss Intervention innerhalb genau jener Beziehungen stattfinden, die uns binden – innerhalb der Praktiken, durch die Subjektivität kontinuierlich produziert und reproduziert wird.

Zur Verteilung der Kräfte

Hier kommt eine weitere Dimension ins Blickfeld. Denn das Dispositiv organisiert nicht nur das, was gesehen, gesagt und geworden werden kann; es verteilt auch Kräfte. Es kanalisiert, intensiviert und stabilisiert sie. Es erzeugt Asymmetrien, Anhäufungen und Schwellen. Um zu verstehen, wie diese Bewegungen bestehen, wie sie fortbestehen und wie sie verändert werden könnten, wird es notwendig, nicht nur den Linien der Sichtbarkeit, der Äußerung und der Subjektivierung zu folgen, sondern auch den Linien, entlang derer Kräfte angeordnet, übertragen und transformiert werden.

Was hilft als nächstes?