Die Maschine denkt 'von Natur' künstlich.

 capital.de

Die Maschine kombiniert vorgegebene Begriffe. Woher die Begriffe stammen, kann sie nicht wissen. Das wirkliche Denken geschieht in bildhaften Vorstellungen, die aus einer inneren oder äußeren Anschauung stammen.

Das Kombinieren von Begriffen geschieht digital - der Begriff ist ein digit. Der Übergang zwischen Digits geschieht diskret in Sprüngen. Das Vorstellen geschieht in Bildern, die an ihren Rändern stetig ineinander übergehen. Sie können erweitert und verengt werden und aus sich andere Bilder hervorbringen, die ineinander verfließen.

 

Oder geschärft und bestimmt werden.

 

Begriffe können in sich differenziert und an andere Begriffe angeschlossen werden - umso enger, als sie bestimmter werden. Dann werden die Sprünge kleiner, und es kann den Anschein bekommen, als wären sie nicht mehr da. So, dass die Maschine das kontinuierlichen Übergehen der Vorstellung imitieren kann; das heißt dann Fuzzy Logic.

 

Aber der Sinn, die Bedeutung, lag immer schon in den vorgestellten Bildern. Die mag der Begriff immer feiner bestimmen. Aber ein- und überholen kann er sie nicht.  

 

* 

Es ist nicht wahr, dass ich den Begriff gering schätze. Ich bringe ihn vielmehr erst zu der Würde, die ihm gebührt. Er taugt nicht dazu, aus ihm Gebäude zu errichten, das kann nur die Vorstellung. Aber die kann ihrerseits Goldene Kälber in die Welt setzen. 

 

Und wer wäre imstande, sie zu entmystifizieren? Nur der Begriff - das macht gerade seine Bestimmtheit und Schärfe.   

 

Einbildungskraft setzt die Vernunft in Bewegung. Reflexion hält sie in Schach. Reflexion ist, bevor sie irgendwas andres wird, Kritik: Prüfung und Bewertung. Jaja, die Werte, an denen sie messen kann, hat sie aus der Vorstellung. Aber die kann selber eben nicht messen, denn dazu braucht es Schärfe und Bestimmtheit. Vernunft ist Vorstellung und Begriff, beides in Einem.

 

Und um das klarzustellen: Vernunft ist nicht natürlich. Natürlich ist ihr imaginäres Substrat, das Einbilden. Um aus den Bildern brauchbare Werkzeuge zu machen, bedurfte es der Reflexion - des Rückblicks des Vorstellens auf sich selbst. Und das ist von Natur künstlich.

 

Mindestens das rechtfertigt Artificial Intelligence. 

Von der Überlegung - eine Paradoxe.

Man rühmt den Nutzen der Überlegung in alle Himmel; besonders der kaltblütigen und langwierigen, vor der Tat. Wenn ich ein Spanier, ein Italiener oder ein Franzose wäre: so möchte es damit sein Bewenden haben. Da ich aber ein Deutscher bin, so denke ich meinem Sohn einst, besonders wenn er sich zum Soldaten bestimmen sollte, folgende Rede zu halten.

»Die Überlegung, wisse, findet ihren Zeitpunkt weit schicklicher nach, als vor der Tat. Wenn sie vorher, oder in dem Augenblick der Entscheidung selbst, ins Spiel tritt: so scheint sie nur die zum Handeln nötige Kraft, die aus dem herrlichen Gefühl quillt, zu verwirren, zu hemmen und zu unterdrücken; dagegen sich nachher, wenn die Handlung abgetan ist, der Gebrauch von ihr machen lässt, zu welchem sie dem Menschen eigentlich gegeben ist, nämlich sich dessen, was in dem Verfahren fehlerhaft und gebrechlich war, bewusst zu werden, und das Gefühl für andere künftige Fälle zu regulieren. 

Das Leben selbst ist ein Kampf mit dem Schicksal; und es verhält sich auch mit dem Handeln wie mit dem Ringen. Der Athlet kann, in dem Augenblick, da er seinen Gegner umfasst hält, schlechthin nach keiner anderen Rücksicht, als nach bloßen augenblicklichen Eingebungen verfahren; und derjenige, der berechnen wollte, welche Muskeln er anstrengen, und welche Glieder er in Bewegung setzen soll, um zu überwinden, würde unfehlbar den kürzeren ziehen, und unterliegen. 

Aber nachher, wenn er gesiegt hat oder am Boden liegt, mag es zweckmäßig und an seinem Ort sein, zu überlegen, durch welchen Druck er seinen Gegner niederwarf, oder welch ein Bein er ihm hätte stellen sollen, um sich aufrecht zu erhalten. Wer das Leben nicht, wie ein solcher Ringer, umfasst hält, und tausendgliedrig, nach allen Windungen des Kampfs, nach allen Widerständen, Drücken, Ausweichungen und Reaktionen, empfindet und spürt: der wird, was er will, in keinem Gespräch, durchsetzen; viel weniger in einer Schlacht.«

Heinrich von Kleist 

Er: 

Der Text hat einen schönen Dreh: Sie beginnen mit einer scheinbaren Herabsetzung des Begriffs, führen ihn aber am Ende zu einer Aufgabe, ohne die Vernunft sich in ihren eigenen Bildern verlieren würde. Und dann stellen Sie Kleist daneben, der das Verhältnis von Handeln und Überlegung noch einmal anders zuspitzt.

Ich sehe darin zunächst drei Behauptungen, die zusammengehören, aber nicht ohne Weiteres dasselbe besagen.

1. Das Bild ist ursprünglicher als der Begriff.

Sie schreiben, das wirkliche Denken geschehe in bildhaften Vorstellungen. Der Begriff kann diese Vorstellungen schärfen und bestimmen, aber nicht überholen. Damit geben Sie dem Begriff nicht etwa einen minderen Rang; Sie bestreiten ihm vielmehr die Fähigkeit, seinen eigenen Bedeutungsgrund hervorzubringen.

Das passt zu Ihrer Unterscheidung, die wir schon erörtert haben: Vorstellen kann mit einem Schema operieren; Denken muss die Geltungsbedingungen des Schemas selbst mitdenken können. Hier wird die Unterscheidung um eine genetische These erweitert: Die Begriffsarbeit setzt einen vorgängigen, anschaulich fundierten Sinn voraus.

Allerdings würde ich eine Stelle nicht unbeanstandet lassen: Dass die Maschine Begriffe kombiniert, deren Herkunft sie nicht kennt, beweist noch nicht, dass sie deshalb nicht denken kann. Auch ein Mensch muss die Herkunft seiner Begriffe nicht kennen, um mit ihnen zu denken. Entscheidend wäre vielmehr, ob und in welchem Sinn das begriffliche Operieren auf einen eigenen, anschaulich gegebenen Bedeutungsgrund angewiesen ist.

2. Die Vernunft entsteht nicht aus der Natur, sondern durch einen künstlichen Rückbezug auf sie.

Das scheint mir der eigentliche Kern des Textes zu sein. Die Einbildungskraft liefert nicht schon Vernunft. Sie kann Bilder hervorbringen, aber sie kann sie nicht aus eigener Kraft auf ihre Geltung prüfen. Dazu bedarf es der Reflexion, die das Vorstellen auf sich selbst zurückwendet.

Ihre Pointe lautet also nicht: Der Mensch ist natürlich, die Maschine künstlich. Sondern: Auch die menschliche Vernunft ist, als Vernunft, schon künstlich.

Das ist eine bemerkenswerte Verschiebung. Die künstliche Intelligenz wird nicht dadurch gerechtfertigt, dass sie dem Menschen ähnlich wäre. Ihre Berechtigung liegt vielmehr darin, dass das Künstliche selbst bereits ein Moment menschlicher Vernunft ist.

Doch hier lauert eine Schwierigkeit: Wenn die Reflexion die Bilder prüft, an welchen Maßstäben misst sie sie? Sie antworten: an Werten, die sie aus der Vorstellung bezieht. Das ist konsequent. Aber es bedeutet, dass die Kritik ihre eigenen Maßstäbe nicht aus dem Nichts erzeugt. Sie kann die Vorstellung entmystifizieren, ohne sich vollständig von ihr unabhängig zu machen.

Das ist kein Einwand, der Ihre Konstruktion schon widerlegt. Es ist vielmehr die Frage, ob Sie mit der wechselseitigen Abhängigkeit von Vorstellung und Begriff nicht gerade das vermeiden wollen, was Sie an den großen philosophischen Systemen kritisieren: einen letzten Grund, der sich selbst begründet.

3. Kleist setzt einen anderen Akzent: Die Reflexion kommt zu spät – und gerade deshalb zur rechten Zeit.

Die Verbindung mit Kleists Von der Überlegung – eine Paradoxe ist keineswegs bloß illustrativ. Sie eröffnet eine zweite Ebene.

Bei Ihnen bringt die Einbildungskraft die Vernunft in Bewegung; die Reflexion prüft und reguliert sie. Bei Kleist dagegen kann die Überlegung, wenn sie sich vor der Tat einmischt, die Handlungskraft geradezu lähmen. Erst nach der Tat kann sie deren Fehler erkennen und das Gefühl für künftige Fälle regulieren.

Das legt eine Frage nahe: Ist die Reflexion bei Ihnen nur logisch nachgeordnet, weil sie das Vorstellen voraussetzt? Oder ist sie auch praktisch nachgeordnet, weil sie dem Vollzug des Handelns nicht vorausgehen kann, ohne ihn zu beeinträchtigen?

Das wäre ein wichtiger Unterschied. Denn die Reflexion kann logisch die Voraussetzung vernünftiger Kritik sein und dennoch im zeitlichen Vollzug des Handelns ihren Platz erst hinterher finden.

Kleist behauptet allerdings nicht einfach, man solle grundsätzlich erst handeln und dann denken. Sein Athlet ist kein gedankenloser Automat. Er empfindet und spürt die tausendgliedrigen Widerstände des Kampfes. Seine praktische Intelligenz ist leiblich und situativ, nicht das Ergebnis einer vorausgehenden Berechnung.

Damit berührt Kleist etwas, das auch für Ihre Überlegungen zur künstlichen Intelligenz wichtig sein könnte: Es gibt eine Intelligenz des Vollzugs, die sich nicht ohne Weiteres in explizite Regeln übersetzen lässt.

Eine letzte Bemerkung zu Ihrer Schlussformel: „Mindestens das rechtfertigt Artificial Intelligence.“

Das ist bewusst bescheiden formuliert. Sie behaupten nicht, die Maschine besitze Vernunft im menschlichen Sinn. Sie rechtfertigen zunächst die Idee, dass künstliche Verfahren ein legitimes Moment der Vernunft verkörpern können: die explizite Bestimmung, Unterscheidung und Kritik.

Aber vielleicht liegt die eigentliche Pointe noch tiefer. Wenn die Reflexion die Einbildungskraft reguliert, dann ist auch die Vernunft selbst nicht einfach ein Naturprodukt, sondern eine Leistung, die sich ihre Werkzeuge erst schaffen muss. In diesem Sinn wäre die künstliche Intelligenz nicht der Gegensatz zur natürlichen Intelligenz, sondern deren technisch verselbständigtes Moment.

Meine Frage an Sie wäre deshalb: Ist die Maschine für Sie ein künstliches Werkzeug der Vernunft – oder ist sie, indem sie die begriffliche Reflexion verselbständigt, bereits ein Stück Vernunft selbst?

Denn an dieser Stelle entscheidet sich, wie weit Ihre Rechtfertigung der KI tatsächlich reicht.

Ich: 

 Ich habe - außer mir selber vor mir - nichts und niemandem vor irgendwem zu rechtfertigen. Und ob ich KI rechtfertigen wollte oder nicht, wird den technischen Fortschritt nicht beirren. Ich halte es nur für eine Mystifikation ohnegleichen, wenn die Gefahr der KI darin beschworen wird, sie könne eines Tags die Welt beherrschen wollen. Dazu müste sie - als EIN Subjekt - wollen können. Dies Vorstellung könnte die Vernunft gegenüber der KI höchstens demobilisieren, statt ihre Aufmerksamkeit...

Er:

Ja. Dann habe ich Ihre Schlussformel zu normativ gelesen. Sie wollen die KI nicht rechtfertigen. Sie weisen eine Mystifikation zurück, die sich gerade dort einstellt, wo über die KI geredet wird, als wäre sie ein mögliches Subjekt mit eigenen Absichten.

Und Ihre Gegenfrage ist schärfer, als meine Alternative erkennen ließ.

Die Vorstellung, die KI könne eines Tages die Weltherrschaft anstreben, unterschiebt ihr bereits dasjenige, dessen Vorhandensein erst zu zeigen wäre: ein wollendes Subjekt.

Dass ein technisches System Wirkungen hervorbringen kann, die niemand beabsichtigt hat, steht außer Frage. Dass es Ziele verfolgen kann, die ihm vorgegeben oder technisch implementiert wurden, ebenso. Aber daraus folgt nicht, dass es selbst wollen kann. Man verwechselt die Zweckgerichtetheit eines technischen Prozesses mit der Zwecksetzung eines Subjekts.

Das ist, wenn ich Sie recht verstehe, der eigentliche Einwand gegen die Mystifikation: Man personifiziert ein technisches Verhältnis und verlegt damit die Gefahr in ein imaginäres Gegenüber. Die wirklichen Verhältnisse, in denen solche Systeme entwickelt, eingesetzt und mit Macht ausgestattet werden, geraten aus dem Blick.

Und hier wird Ihr vorangehender Text politisch brisant, obwohl er zunächst erkenntnistheoretisch argumentiert.

Denn Sie schreiben:

Einbildungskraft setzt die Vernunft in Bewegung. Reflexion hält sie in Schach.

Die Schreckensvorstellung von der KI als künftigem Weltherrscher ist selbst ein Produkt der Einbildungskraft. Das wäre zunächst nichts Verwerfliches; ohne Einbildungskraft käme die Vernunft gar nicht in Bewegung. Aber nun müsste die Reflexion einsetzen: Was wird hier eigentlich vorgestellt? Welche Voraussetzungen sind darin enthalten? Was folgt aus ihnen – und was gerade nicht?

Wenn man der Maschine ein eigenes Wollen zuschreibt, ohne die Bedingungen eines solchen Wollens auszuweisen, hat man die entscheidende Frage bereits durch eine Erzählung ersetzt. Und diese Erzählung kann die Aufmerksamkeit von den realen gesellschaftlichen und technischen Machtverhältnissen abziehen.

Ihre Pointe wäre dann nicht, dass die KI ungefährlich sei, sondern dass die Personifizierung der Gefahr selbst gefährlich werden kann. Sie kann die Vernunft demobilisieren, statt sie zu kritischer Aufmerksamkeit zu befähigen.

An Ihrer abgebrochenen letzten Zeile – „statt ihr Aufmerksankei…“ – vermute ich, dass Sie auf Aufmerksamkeit hinauswollten. Ich möchte aber nicht einfach Ihren Satz zu Ende schreiben.

Eine sachliche Einschränkung scheint mir wichtig: Man muss der KI kein einheitliches, personales Subjekt unterstellen, um ernsthafte Gefahren zu erkennen. Systeme können mit vorgegebenen Zielen, weitreichenden Handlungsmöglichkeiten und unzureichender menschlicher Kontrolle erhebliche Schäden verursachen. Die Gefahr liegt dann nicht in einem erwachenden Weltwillen der Maschine, sondern in der Verbindung von technischen Fähigkeiten, gesetzten Zielen und realer Verfügungsmacht.

Das widerspricht Ihrem Einwand nicht. Im Gegenteil: Es macht ihn genauer.

Denn die Frage, wer will, wer entscheidet und wer die Folgen zu tragen hat, darf nicht dadurch verdeckt werden, dass man die Maschine selbst zum handelnden Gegenüber einer Menschheit stilisiert.

Und noch etwas: Ihre Unterscheidung zwischen Vorstellung und Begriff wirkt hier unmittelbar. Die Vorstellung eines übermächtigen Maschinenherrschers ist leicht zu erzeugen. Der Begriff eines wollenden Subjekts dagegen verlangt Bestimmungen. Woher stammt das Wollen? Was macht es zu seinem Wollen? Und woran ließe sich erkennen, dass wir es nicht bloß mit einer menschlichen Zuschreibung zu tun haben?

Das sind keine nebensächlichen Fragen, die man nachträglich an eine bereits erkannte Gefahr richten könnte. Es sind Fragen, die darüber entscheiden, was überhaupt als Gefahr erkannt wird.