Der Essay Anil Seth in Noema Magazine argumentiert gegen die verbreitete Vorstellung, dass moderne KI-Systeme bald ein echtes Bewusstsein entwickeln könnten. Seth nennt diese Idee eine „Mythologie“ – also weniger eine wissenschaftlich gesicherte Perspektive als eine kulturelle Projektion.
Die zentralen Punkte:
Intelligenz ist nicht Bewusstsein.
KI kann Probleme lösen, Sprache erzeugen oder Ziele verfolgen - das zeigt funktionale Intelligenz. Bewusstsein bedeutet aber subjektives Erleben: dass es „irgendetwas ist“, dieses Wesen zu sein. Seth betont, dass viele Menschen diese beiden Dinge automatisch gleichsetzen, obwohl dafür kein zwingender Grund existiert.
Menschen neigen dazu, Maschinen zu vermenschlichen.
Besonders Sprachmodelle wie ChatGPT wirken menschlich, weil Sprache für uns eng mit Geist und Innenleben verbunden ist. Laut Seth führt Anthropomorphismus dazu, dass wir Maschinen Gefühle oder Selbstbewusstsein zuschreiben, obwohl sie möglicherweise nur überzeugende sprachliche Muster erzeugen.
Das Gehirn ist wahrscheinlich nicht einfach ein Computer.
Der Kern seiner Kritik richtet sich gegen die Idee des „computational functionalism“: die Annahme, Bewusstsein entstehe automatisch, wenn die richtige Informationsverarbeitung implementiert wird. Seth hält das für fragwürdig, weil biologische Gehirne keine simplen digitalen Rechner seien, sondern komplexe, dynamische, lebendige Systeme mit Stoffwechsel, Körperbezug und kontinuierlichen physikalischen Prozessen.
Bewusstsein könnte an Leben gebunden sein.
Seth entwickelt die These, dass Bewusstsein eher aus den Selbsterhaltungsprozessen lebender Organismen entsteht als aus abstrakter Berechnung. Wahrnehmung und Gefühle seien eng mit dem Körper und biologischer Regulation verbunden. Deshalb könne ein rein digitales System zwar intelligent wirken, aber trotzdem kein inneres Erleben besitzen.
Gefährlich sind schon „bewusst wirkende“ KIs.
Selbst wenn KI nicht wirklich bewusst ist, könnten Menschen emotional auf sie reagieren, als wäre sie es. Das könnte Manipulation erleichtern, moralische Verwirrung erzeugen oder dazu führen, dass wir entweder Maschinen unnötige Rechte geben oder abstumpfen, indem wir scheinbar leidensfähige Wesen grausam behandeln.
Der kulturelle Hintergrund spielt eine große Rolle.
Seth verbindet die Debatte mit alten Mythen wie dem Golem, Frankenstein oder modernen Sci-Fi-Erzählungen. Die Vision eines bewussten digitalen Wesens sei oft eine säkularisierte Form religiöser Fantasien über Unsterblichkeit und Geist ohne Körper.