Können Maschinen denken?

Ein Automat reagiert auf Reize, doch nur ein vernünftiger Geist kann frei und sprachlich auf jede neue Lage antworten.

Descartes räumt ein, dass eine kunstvolle Maschine Bewegungen vollbringen mag, die unsere übertreffen - aber er setzt zwei Proben, an denen sie scheitern müsse. Sie könne Worte nicht so fügen, dass aus ihnen eine sinnvolle Antwort auf das Gesagte würde, und sie versage, wo es gilt, in den unendlich vielen Lagen des Lebens angemessen zu handeln; denn die Vernunft sei ein „universelles Werkzeug“, die Maschine hingegen für jede Verrichtung eigens eingerichtet. Wo der Mensch sich auf alles einstellt, brauche der Apparat für jeden Fall ein vorgesehenes Organ. Hier liegt zugleich die Grenze des Arguments: Descartes konnte sich kein System denken, dessen Anpassungsfähigkeit selbst maschinell erzeugt wird - und große Sprachmodelle bestehen seine Sprachprobe heute mühelos, ohne dass damit schon entschieden wäre, ob sie verstehen.

Denken ist eine funktionale Rolle zwischen Reiz, Zustand und Reaktion - was diese Rolle erfüllt, denkt, gleich woraus es besteht.

Putnam löst den Geist vom Stoff: Ein mentaler Zustand sei nicht durch sein Material bestimmt, sondern durch seine Stellung im Gefüge von Eingaben, inneren Zuständen und Ausgaben - und eben darum vielfach realisierbar, in Nerven wie in Schaltkreisen. Wer dieses Funktionsgefüge instanziiert, hat den Zustand; Silizium ist so gut wie Fleisch, sofern die Rollen stimmen. Als Maßstab bietet sich Turings Imitationsspiel an: Antwortet ein System im Gespräch ununterscheidbar wie ein verstehender Mensch, fehlt uns jeder Grund, ihm das Verstehen abzusprechen. Die Grenze zeigt sich dort, wo die Rolle perfekt gespielt sein könnte, ohne dass etwas erlebt wird - Putnam selbst hat seinen Funktionalismus später verworfen -, denn vielleicht ist gerade das innere Wie, das die Funktion nicht erfasst, das Eigentliche am Denken.

Syntax erzeugt keine Semantik: Symbole nach Regeln zu schieben, erzeugt kein Verstehen, sosehr die Ausgabe es vortäuscht.

Searle stellt sich selbst in eine Kammer, reicht chinesische Zeichen nach einem Regelbuch hin und her und produziert makellose Antworten - ohne ein Wort Chinesisch zu verstehen. Genau das, sagt er, tue jeder Computer: Er manipuliert Formen, denen für ihn keine Bedeutung zukommt. Das Programm verfügt über Syntax, doch Verstehen verlangt Semantik, einen Bezug der Zeichen auf Gemeintes, und der lässt sich aus bloßem Regelbefolgen niemals gewinnen. Ein Sprachmodell, das von Liebe oder Tod schreibt, wäre dann ein unendlich vergrößertes Zimmer: alle Worte, kein Bezug. Der bekannteste Einwand kontert, das Verstehen liege nicht im Mann, sondern im ganzen System - Searle erwidert, auch wer das Regelbuch verinnerlichte, verstünde nichts; doch ob das Argument wirklich trägt oder nur unsere Intuition verlängert, bleibt umstritten.