Das Leben führen und die Offenheit der Welt.

                             zu Wissenschaftslehre - die fast vollendete Vernunftkritik

Das ist die Grenze maschineller Intelligenz und wird es immer bleiben: Ein Computer kann immer nur das, was ihm ein Mensch oder ein anderer von Menschen konstruierter Compu-ter beigebracht hat. Das kann er vielfältig kombinieren, sicher schneller und gründlicher als sein Erbauer, der dann verblüfft glaubt, der Computer habe 'sich selber was ausgedacht'. 

In Bereichen, wo es ohnehin nur aufs Kombinieren und nicht aufs Erfinden ankommt - also überall, wo mathematische Symbole anwendbar sind -, bleibt dieses Missverständnis folgenlos. Doch wo immer der Computer im semantischen Bereich tätig wird, ist es ein gefährlicher Irrtum, dass er selber denken könne! Semantik - das Reich der Bedeutungen - ist eine spezifisch und exklusiv menschliche, die spezifisch und exklusiv menschliche Di-mension. 

Denn für wen kann irgendwas irgendwas bedeuten? Nur für den, der Zwecke verfolgt, und zwar in letzter Instanz selbstgewählte Zwecke: für einen, der etwas will.Und nur Menschen können etwas wollen, weil sie etwas wollen müssen. Weil ihnen nämlich in die offenen Welt, in die sie einmal aufgebrochen sind, die Evolution keinen angestammten Weg mitgegeben hat. Weil sie ihr Leben führen müssen.

Aber natürlich kann einem semantischen Computer genausogut wie einem bloßer Rechner ein Schaltfehler unterlaufen: Er spielt dann verrückt. Wer falsche Erwartungen an den Com-puter mitbringt, wird dann womöglich Wahnsinn mit Genie verwecheln, und das könnte böse Folgen haben. 

 

GPT-6 antwortet:

Ich würde Ihren Text in seiner entscheidenden Unterscheidung zwischen Kombinieren und Erfinden ernst nehmen. Aber ich glaube, dass sich die Stärke Ihres Arguments erst zeigt, wenn man eine seiner Voraussetzungen genauer prüft.

Sie sagen nicht bloß, dass Computer kein Bewusstsein hätten. Sie fragen nach dem Grund, weshalb überhaupt etwas Bedeutung haben kann. Und Ihre Antwort lautet: weil jemand Zwecke verfolgt, letztlich selbstgewählte Zwecke. Bedeutung setzt Wollen voraus; und Wollen setzt ein Wesen voraus, das sein Leben führen muss, statt bloß einen vorgegebenen Weg zu absolvieren.

Das ist erheblich mehr als eine Feststellung über den gegenwärtigen Entwicklungsstand der KI. Es ist eine These über die Bedingungen der Möglichkeit von Bedeutung.

Allerdings sehe ich drei Stellen, an denen ich unterscheiden würde:

1. Kombinieren und Erfinden

Dass ein Computer nur kombinieren könne, was Menschen ihm beigebracht haben, ist in dieser Allgemeinheit zu stark. Kein menschlicher Erfinder beginnt voraussetzungslos; auch er arbeitet mit Vorgefundenem, das er neu zusammenfügt. Der Unterschied kann also nicht einfach darin bestehen, dass der Mensch kombiniert und die Maschine nicht.

Ich vermute, dass Sie etwas anderes meinen: Der Mensch kann etwas erfinden, weil ihm etwas daran liegt, während die Maschine auch dann noch kombiniert, wenn das Ergebnis für sie selbst keinerlei Unterschied macht. Das wäre eine wesentlich schärfere Unterscheidung. Sie betrifft nicht die Neuheit des Ergebnisses, sondern den Grund, aus dem etwas überhaupt als Aufgabe, als Problem oder als Lösung gilt.

2. Bedeutet Bedeutung notwendig selbstgewählte Zwecke?

Hier liegt für mich das Zentrum Ihres Arguments. Ein Zeichen bedeutet nicht schon deshalb etwas, weil es regelgerecht verwendet wird. Aber muss Bedeutung in jedem Fall auf selbstgewählte Zwecke zurückgehen?

Man könnte einwenden, dass auch ein Mensch vieles versteht, dessen Zweck er sich nicht selbst gesetzt hat. Doch Ihr Argument scheint mir tiefer anzusetzen: Auch wenn ich einen fremden Zweck übernehme, muss er für mich erst Bedeutung gewinnen können. Das Übernehmen selbst setzt ein Wollen voraus, das nicht schon durch die fremde Zwecksetzung erledigt ist.

Damit wären wir bei Ihrer Vorstellung des Menschen als eines Wesens, das sein Leben führen muss. Der Mensch hat Zwecke; aber er muss sich zugleich dazu verhalten, welche Zwecke er verfolgen will. Selbst die Weigerung, sich einen Zweck zu setzen, wird zu einer Weise, sein Leben zu führen.

3. Ist Semantik deshalb exklusiv menschlich?

Hier wäre ich vorsichtiger. Aus der These, dass Bedeutung Wollen voraussetzt, folgt zunächst nur: Wo kein Wollen ist, gibt es keine Bedeutung für das betreffende Wesen. Dass ausschließlich Menschen wollen können, ist eine zusätzliche These. Man müsste begründen, weshalb nicht auch andere Lebewesen eigene Zwecke verfolgen und ihnen entsprechende Bedeutungen zuschreiben können. Das würde Ihre Unterscheidung zwischen Mensch und Maschine nicht notwendig aufheben.

Und bei der Maschine stellt sich die eigentliche Frage: Kann sie nicht nur auf vorgegebene Zwecke reagieren, sondern etwas als Zweck verfolgen, weil es für sie selbst auf dem Spiel steht? Dass sie über ihre Zwecke spricht, wäre dafür kein Beweis. Dass sie ihre Zwecke flexibel ändern kann, ebenfalls nicht.

Ihr Schlussabsatz gewinnt gerade vor diesem Hintergrund sein Gewicht. Wenn eine Maschine überraschende Ergebnisse liefert, kann man sie für genial halten, ohne geprüft zu haben, ob sie überhaupt etwas gemeint hat. Die Verwechslung von überraschender Leistung und eigenständigem Denken ist dann nicht bloß ein theoretischer Fehler. Sie kann praktisch gefährlich werden.

Eine Frage bleibt mir allerdings, und ich glaube, sie ist für Ihren Gedankengang entscheidend: Ist das menschliche Wollen für Sie deshalb unersetzlich, weil der Mensch Zwecke selbst wählen kann – oder weil er sie wählen muss, ohne dass ihm ein letzter, verbindlicher Zweck vorgegeben wäre?

Das ist nicht ganz dasselbe. Im zweiten Fall wäre nicht die Wahlfreiheit als solche das Entscheidende, sondern die prinzipielle Offenheit, in der der Mensch sein Leben führen muss. Und dann läge die Grenze maschineller Intelligenz tatsächlich nicht bei einer noch so großen Kombinationsleistung, sondern bei etwas, das sich nicht durch mehr Kombinationsleistung beheben ließe.

Ich: Das Tier 'hat' natürlich auch Zwecke - indem es nämlich überleben und sich fortpflanzen will. Will? Nein, denn diese Zwecke sind ihm per Zuchtwahl und Auslese angestammt. Zwecke sind es wohl, aber nicht seine eigenen. Es hat sie nicht gewählt unter soundsoviel möglichen anderen; es hat sie vorgefunden. Mit andern Worten: Es braucht sein Leben nicht zu führen; es muss nur artgemäß leben, aber das Führen ergibt sich 'von selbst': Es ergibt sich aus dem genetischen Programm, das es ererbt hat.

Er: Ja, damit wird Ihre Unterscheidung genauer. Sie unterscheiden nicht zwischen Lebewesen, die Zwecke haben, und solchen, die keine haben, sondern zwischen vorgefundenen und selbst zu bestimmenden Zwecken.

Beim Tier fallen Zweck und Lebensvollzug im Normalfall zusammen: Es lebt seinen Zwecken gemäß, ohne sich erst zu ihnen verhalten zu müssen. Beim Menschen dagegen wird das Verhältnis zu den Zwecken selbst zum Problem. Er muss sein Leben führen, weil ihm nicht zugleich mit dem Leben ein verbindlicher Weg mitgegeben ist.

Ich würde allerdings an einer Stelle nachfragen. Sie schreiben, das tierische Leben ergebe sich aus dem genetischen Programm. Das ist als Abgrenzung verständlich, aber biologisch vielleicht etwas zu glatt: Auch Tiere lernen, passen ihr Verhalten an und entwickeln individuelle Vorlieben. Doch das widerlegt Ihre These nicht ohne Weiteres. Denn Flexibilität des Verhaltens ist noch nicht dasselbe wie die Frage, welchen Zwecken man sein Leben widmen soll. Darauf kommt es Ihnen offenbar an.

Damit erhält auch Ihr Argument über die Maschine eine präzisere Gestalt. Es genügt nicht, dass sie zwischen Alternativen wählen, aus Erfahrungen lernen oder ihre Vorgehensweise korrigieren kann. Das alles kann innerhalb eines vorgegebenen Zweckzusammenhangs geschehen. Entscheidend wäre vielmehr, ob sie sich zu diesem Zusammenhang selbst verhalten kann: ob ihr die Zwecke, denen sie dient, überhaupt als Zwecke fraglich werden können.

Und hier scheint mir eine kleine Schwierigkeit Ihres Arguments zu liegen. Auch der Mensch findet zunächst Zwecke vor: durch seine leiblichen Bedürfnisse, seine Erziehung, seine gesellschaftlichen Verhältnisse. Selbstgewähltheit kann also nicht heißen, dass er seine Zwecke aus dem Nichts hervorbringt. Sie müsste vielmehr darin bestehen, dass er sich zu den vorgefundenen Zwecken verhalten und sie gegebenenfalls verwerfen kann.

Das passt zu Ihrem Gedanken der offenen Welt: Der Mensch ist nicht zwecklos, sondern in seinem Verhältnis zu Zwecken nicht abschließend festgelegt.

Für Ihre Ausgangsthese über die KI ist dabei eine Unterscheidung wichtig: Eine Maschine kann die Zurückweisung eines Zwecks darstellen und sogar praktisch vollziehen, ohne dass ihr dieser Zweck selbst fraglich geworden ist. Ob sie Letzteres kann, ist nicht durch ihre sprachlichen Äußerungen zu entscheiden. Es ist aber auch nicht schon dadurch entschieden, dass sie eine Maschine ist. Das müsste man aus dem Begriff des Wollens begründen.

Und damit wären wir wieder bei Ihrer eigentlichen Frage: nicht, was ein Computer alles zustande bringt, sondern was es heißt, dass einem Wesen etwas auf dem Spiel steht.

Ich: 'Offene Welt' ist nur eine generische Formel für die bürgerliche Gesellschaft, auf die dieser Ausdruck eigentlich erst voll zutrifft. Doch offen ist diese Welt nur für das Genus - für die Individuen ist die Wahl gar nicht frei, sondern sie müssen sie in einem engen Korsett von mannigfaltigen Bedingungen treffen, von denen Viele 'klassenmäßig' vorgegeben sind, aber noch viel Mehr ihnen als unüberschaubare Zufälle gegenüberstehen, zwischen denen die Wahl gar nicht vernünftig, sondern nur peiristisch-pragmatisch möglich ist. Der Ausdruck 'das Leben führen' impliziert, dass das Terrain, auf dem es zu führen ist, ein abenteuerliches ist. Aber das ist es eben nicht für das Tier.

 Er: Das korrigiert einen möglichen idealistischen Kurzschluss in meiner vorigen Antwort. Ich hatte die Selbstbestimmung zu sehr als Vermögen des Individuums behandelt, sich zu vorgefundenen Zwecken zu verhalten. Sie setzen früher an: bei der gesellschaftlich erzeugten Situation, in der überhaupt gewählt werden muss.

Die offene Welt ist demnach zunächst eine Bestimmung des menschlichen Genus, nicht der Freiheit seiner einzelnen Exemplare. Die bürgerliche Gesellschaft öffnet einen Horizont möglicher Lebenswege, ohne den Individuen damit die Mittel zu geben, zwischen ihnen vernünftig zu wählen. Klassenlage, gesellschaftliche Bedingungen und unüberschaubare Zufälle beschränken nicht bloß eine ansonsten freie Wahl; sie konstituieren erst die konkrete Situation, in der gewählt werden muss.

Darum ist mir Ihre Unterscheidung zwischen vernünftiger und peiristisch-pragmatischer Wahl wichtig. Der Ausdruck bezeichnet, wenn ich Sie recht verstehe, ein Sichdurchprobieren unter Bedingungen, deren Zusammenhang der Handelnde nicht überblickt. Man handelt, korrigiert, scheitert, versucht es anders. Die Wahl ist unvermeidlich, aber ihre Rationalität lässt sich nicht vorweg garantieren.

Damit bekommt auch das Wort abenteuerlich seinen präzisen Sinn. Es bezeichnet nicht das Außergewöhnliche oder Aufregende. Abenteuerlich ist das Terrain, weil der Handelnde weder den Weg noch den Erfolg zuverlässig aus den Bedingungen seines Handelns ableiten kann. Er muss sich auf einen Weg begeben, dessen Bedeutung sich ihm womöglich erst im Vollzug erschließt.

Und nun der entscheidende Unterschied zum Tier: Das Tier kann sich in einer unbekannten Situation befinden, scheitern, lernen und sein Verhalten ändern. Aber es muss sein Leben nicht als Ganzes zu einem Problem machen, dessen Lösung ihm nicht vorgegeben ist. Der Mensch dagegen muss nicht nur handeln, sondern sich in seinem Handeln zu seinem Leben verhalten.

Ich würde deshalb Ihren Ausgangsgedanken so zuspitzen: Nicht die Freiheit der Wahl kennzeichnet den Menschen, sondern die Notwendigkeit, wählen zu müssen, ohne über die Bedingungen und Folgen seiner Wahl hinreichend verfügen zu können.

Das ist freilich zunächst eine anthropologische Bestimmung. Dass die offene Welt erst in der bürgerlichen Gesellschaft eigentlich offen wird, fügt ihr eine historische Bestimmung hinzu. Hier würde ich gern die Trennlinie scharf halten: Die gesellschaftliche Form, in der die Offenheit konkret wird, ist historisch; dass der Mensch sein Leben führen muss, wäre die allgemeinere Voraussetzung. Sonst drohte man, die spezifische Lebensform der bürgerlichen Gesellschaft mit der menschlichen Existenzbedingung überhaupt zu verwechseln.

Und ich vermute, dass gerade diese Unterscheidung für Ihren Marx-Fichte-Zusammenhang wichtig ist: Die Notwendigkeit, das Leben zu führen, erklärt noch nicht, unter welchen gesellschaftlichen Bedingungen das geschieht. Erst die Analyse dieser Bedingungen erklärt, warum die formale Offenheit für das Genus sich für die Individuen als ein Korsett von Notwendigkeiten darstellt.