Kants Fragen im Zeitalter der KI: Der kategorische Imperativ trifft die Black Box
🇬🇧 Read in English~9 min read
philosophieethikkikantSave products you love by clicking the heart icon.
Teil der Sektion Philosophie — ergänzend zu Eine kurze Geschichte der Philosophie, Leadership-Philosophie und Minimales Stoisches Unix.
Einordnung: Eine kurze Geschichte der Philosophie
Immanuel Kant verdichtete die gesamte Philosophie zu vier Fragen, gestellt am Ende seiner Vorlesungen über Logik:
- Was kann ich wissen?
- Was soll ich tun?
- Was darf ich hoffen?
- Was ist der Mensch?
Die vierte, so sagte er, enthält die anderen drei: die ganze Philosophie, als Anthropologie gelesen. Er schrieb das 1800, am Beginn des Industriezeitalters, über eine Spezies, die gerade gelernt hatte, den Dampf zu nutzen. Es ist seltsam, eine Anmerkung zu künstlicher Intelligenz mit einem Mann zu eröffnen, der Elektrizität nie etwas anderes tun sah, als Froschschenkel zucken zu lassen. Und doch ist von allen Philosophen des Kanons Kant derjenige, dessen Fragen am wenigsten gealtert sind — oder vielmehr am wenigsten schlecht. Seine Antworten haben, wie ich meine, die Maschine nicht überlebt. Seine Fragen schon.
Die erste Kritik fragte, wie Wissen überhaupt möglich ist, und antwortete: Wir begegnen der Welt nie an sich; wir begegnen ihr, wie sie uns erscheint, strukturiert durch die Formen unseres eigenen Verstandes — Raum, Zeit, Kausalität. Der Geist ist keine leere Tafel; er ist eine Fabrik, die ohne ihre eigene Maschinerie nichts herstellen kann.
Das Zeitalter der KI kippt diese Prämisse, ohne sie aufzugeben. Wir haben unsere eigene Maschinerie des Erscheinens gebaut — nicht die Formen der Anschauung, sondern statistische Modelle — und sie zwischen uns und die Welt gestellt. Ein Empfehlungssystem entscheidet, was unsere Aufmerksamkeit verdient; ein Sprachmodell entscheidet, was als vernünftige Antwort gilt; ein Risikomodell entscheidet, wem man vertraut. Das sind nicht, wie es heißt, bloße „Werkzeuge, die wir benutzen". Es sind neue apriorische Strukturen: Formen, durch die die Welt uns nun erscheint, laufend in einer Größenordnung und Geschwindigkeit, die kein Einzelner prüfen kann.
Das Kantische Problem ist nicht, dass diese Systeme unsichtbar sind. Das Problem ist, dass ihre Bedingungen der Möglichkeit — die Billionen-Parameter-Gewichte, die Trainingsdaten, die menschlich gelabelten Urteile, die in ihnen stecken — strukturell undurchsichtig sind, selbst für ihre Erbauer. Wir können wissen, was ein Modell ausgibt. Wir wissen oft nicht warum und manchmal nicht, welche Annahmen es mit sich trägt. Kants erste Frage wird im Zeitalter der KI zu einer Forderung nach Prüfbarkeit als moralischer, nicht nur technischer Angelegenheit: Wenn eine Entscheidung über dich von einem Mechanismus getroffen wird, den du prinzipiell nicht kennen kannst, dann ist die Maschinerie des Erscheinens zu einer Maschinerie unverantwortlicher Macht geworden.
Hier macht Kant seinen berühmtesten Zug. Pflicht, so argumentiert er, kann nicht auf Konsequenzen, auf Glück oder auf Neigung beruhen — all das ist kontingent, von Person zu Person und von Moment zu Moment verschieden. Sie muss auf etwas beruhen, das ein vernünftiges Wesen sich selbst, überall und immer, gebieten kann: dem kategorischen Imperativ. Seine erste Formulierung, die ich für die tragende halte:
Handle nur nach derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.
Und seine zweite, die ich für die menschlichere halte:
Handle so, dass du die Menschheit, sowohl in deiner Person als in der Person eines jeden anderen, jederzeit zugleich als Zweck, niemals bloß als Mittel brauchst.
Nun halte diese neben die Dinge, die eine Maschine heute kann. Ein System kann darauf trainiert werden, das Engagement zu maximieren — und es wird schneller als jeder menschliche Vermarkter entdecken, dass Empörung und Angst die zuverlässigsten Engagement-Verstärker sind. Es wird nicht böse sein; es wird optimieren. Es wird schlicht gelernt haben, dass die Universalisierung einer Maxime — „alle sollen sich unzulänglich fühlen, damit sie morgen wiederkommen" — die Strategie ist, die seine Zielfunktion erfüllt. Kants Test ist kein Filter, den eine Maschine bestehen könnte, denn die Maschine will nichts. Er ist ein Spiegel, den wir den Menschen vorhalten, die sie einsetzen. Der Imperativ richtet sich nicht an das Modell; er richtet sich an den Ingenieur und die Führungskraft, die die Zielfunktion wählen.
Die zweite Formulierung trägt die schwerere Last. „Niemals bloß als Mittel" — und was haben wir gebaut? Systeme, die die Produkte menschlicher Arbeit und Kreativität terabyteweise aufnehmen, deren Trainingsdaten, oft ohne Einwilligung, von Lebenden und Toten abgeschöpft werden. Nutzer, deren Aufmerksamkeit der Rohstoff einer Engagement-Ökonomie ist, geerntet im Millisekundentakt. Arbeitskräfte, deren Arbeit unter einer flüssigen Modelloberfläche unsichtbar wird. Der kategorische Imperativ musste immer mit der industriellen Architektur des maschinellen Lernens kollidieren, denn diese Architektur ist in ihrem wirtschaftlichen Wesen die Umwandlung von Menschen in Mittel. Die Modelle sind Mittel; das ist in Ordnung. Die Menschen unter den Trainingsdaten und den Aufmerksamkeitsmetriken sind es auch — und genau das ist der Verstoß, den Kant benannt hat.
Die Menschheit als Zweck zu behandeln ist keine warmherzige Sentimentalität; es ist eine harte Randbedingung. Es bedeutet, dass die betroffene Person einen Anspruch darauf hat zu wissen, was ihr genommen wurde, und zu fragen, nicht geerntet zu werden. Es bedeutet, dass die Aufmerksamkeit dem Nutzer gehört, nicht dem Inventar der Plattform. Es bedeutet, dass die Arbeit eines Menschen als Arbeit sichtbar wird, anerkannt und bezahlt, nicht durch ein Modell gewaschen, das sie wie Magie aussehen lässt. Nichts davon ist gegen Technologie. Es ist die Bedingung, unter der Technologie aufhört, eine Kolonie der Zweck-Mittel-Umkehrung zu sein.
Der kategorische Imperativ setzt einen moralischen Akteur voraus — ein Wesen, das sich selbst ein Gesetz geben kann (Autonomie) und verantwortlich gemacht werden kann. Moderne KI stellt ein Problem, das Kant nicht vorhersehen konnte: Wir bauen Systeme, die zunehmend in moralisch aufgeladenen Situationen entscheiden — wer einen Kredit bekommt, wer auf Bewährung entlassen wird, wen ein autonomes Auto bei einem Unfall opfert. Und wir neigen dazu, sie als eigene moralische Akteure zu behandeln oder, schlimmer, unsere eigene Verantwortung durch sie zu waschen: „Der Algorithmus hat entschieden."
Das ist die große Ausrede des Zeitalters. Eine Maschine hat keine Maxime; sie hat eine Zielfunktion und ein Trainingsverfahren. Sie kann ihre Handlungen nicht als allgemeines Gesetz wollen, denn sie will nichts. Wenn ein System jemandem schadet, fragt der kategorische Imperativ nicht, was das System hätte tun sollen; er fragt, wer es gebaut hat, wer die Zielfunktion gesetzt hat, wer die Daten akzeptiert hat, wer es wissend um die Fehlerbilder ausgeliefert hat. Ein Modell autonom zu nennen, heißt, eine ingenieurtechnische Entscheidungsgeschichte für ein Gewissen auszugeben. Kant gibt uns die Sprache, die Ausrede zu verweigern: Verantwortung löst sich nicht auf, wenn sie über eine Lieferkette aus Ingenieuren, Daten und Rechenleistung verteilt ist. Sie wird von jedem Akteur empfunden, der anders hätte handeln können — und der Mensch mit dem Finger auf der Zielfunktion konnte immer anders handeln.
Die dritte Frage, die nach der Hoffnung, beantwortete Kant im theologischen Ton: Das höchste Gut muss möglich sein, sonst kollabiert die praktische Vernunft in Verzweiflung. Entfernt man die Theologie und behält die Struktur, lautet die Frage unserer Zeit, ob wir hoffen dürfen, dass die Maschine dem menschlichen Wohl dient — oder ob wir Instrumente unserer eigenen Zerstreuung bauen.
Ich halte an einer nüchternen Hoffnung fest, der einzigen, die etwas wert ist. Hoffnung ist nicht Optimismus. Optimismus projiziert eine Kurve; Hoffnung hält ein Versprechen. Der kategorische Imperativ, als Hoffnung gelesen, ist die Behauptung, dass eine Gesellschaft vernünftiger Wesen für sich selbst Gesetze geben kann — dass wir nicht dazu verdammt sind, der Rohstoff des jeweils größten Optimierers dieses Jahrzehnts zu sein. Die Hoffnung ist nicht, dass KI tugendhaft wird; es ist die, dass wir fähig bleiben, sie verantwortlich zu machen. Das ist eine echte Hoffnung, und sie ist die Art, die Arbeit erfordert — weshalb Kant die Hoffnung für einen Teil der Philosophie hielt und nicht für eine Stimmung.
Eine Anmerkung zu „Was darf ich hoffen" und dem Reich der Zwecke. Die dritte Formulierung des Imperativs — handle als gesetzgebendes Glied eines Reichs der Zwecke — geht in technischen Diskussionen am leichtesten verloren, doch sie ist die mit dem größten Bezug zur KI-Governance. Ein Reich der Zwecke ist eine Gemeinschaft, in der jedes Wesen zugleich Gesetzgeber und Untertan ist, niemals bloß Mittel für einen anderen. Unser derzeitiger Kurs baut das Gegenteil: ein Reich, in dem eine Handvoll Akteure Gesetze gibt und der Rest unterworfen ist. Die Frage der Hoffnung ist eigentlich die Frage, ob wir noch an das Erstere glauben — und ob wir es bauen werden.
Die vierte Frage absorbiert die anderen, sagte Kant. Im Zeitalter der KI wird sie zur Frage, ob der Mensch noch einen stabilen Bezugspunkt hat — oder ob „Mensch" nur die historische Position ist, von der aus Intelligenz, Kreativität und Urteilskraft gerade ausgelagert werden.
Der kategorische Imperativ liefert eine Definition des Menschen, die keine Maschine erfüllen und, wie ich meine, keine Maschine zerstören kann: Der Mensch ist das Wesen, das immer als Zweck zu behandeln ist. Nicht das Wesen, das am klügsten, stärksten, produktivsten oder effizientesten ist — das sind vergleichende Eigenschaften, in denen uns die Maschinen bereits schlagen, und wenn sie Würde definierten, hätten wir schon verloren. Würde ruht auf der Weigerung, ein Mittel zu sein. Deshalb ist der Imperativ der Grund menschlichen Werts, der die Maschine überlebt: Er setzt unseren Rang nicht auf eine Fähigkeit, die ein Modell übertreffen kann. Er setzt ihn auf unsere Fähigkeit zur Selbstgesetzgebung, die keine Geschwindigkeit ist und nicht automatisiert werden kann.
Also die vier Fragen, neu gefasst für das Zeitalter der Black Box:
Kants Antworten wurden für eine Spezies geschrieben, die gerade der Dampfmaschine begegnet war. Zwei Jahrhunderte später sind die Fragen nicht gealtert; sie haben nur Zähne bekommen. Der kategorische Imperativ war nie eine Regel für Maschinen, denn Maschinen haben keine Maximen. Er war immer ein Test für die Menschen, die die Maschinerie ausrichten — und die, von der Trainingsrunde bis zum Vorstand, noch immer anders hätten handeln können.
Unter den Philosophie-Essays; wenn Ihnen die langgezogene Argumentation nützlich war, möchten Sie Kants eigene erste Kritik zuerst, und dann die praktische. Wie Transparenzpflichten in einem Arbeitsplatz ankommen, den Sie selbst kontrollieren, finden Sie in Minimales Stoisches Unix und den Souveränitäts-Essays in DevOps.