Versuch über die Maschinen

Im ganzen genommen könnte man die Kultur als den Prozeß der fortschreitenden Selbstbefreiung des Menschen beschreiben. Sprache, Kunst, Religion und Wissenschaft bilden unterschiedliche Phasen in diesem Prozeß. In ihnen allen entdeckt und erweist der Mensch eine neue Kraft, die Kraft, sich eine eigene ‚ideale‘ Welt zu errichten. (Cassirer 2009:345)

Wir, die Menschen, wollten nicht nur unser eigenes, sondern das Leben an sich und seine unendliche, facettenreiche Intelligenz gestalten. Ein unhaltbarer Fortschritt, eine Kettenreaktion entfaltete sich: Vom simplen Werkzeug gingen wir über zur Gestaltung unserer Lebenswelt; vom angesammelten Wissen über unseren Körper hin zur Heilung und Verbesserung desselben und schließlich hin zur Schöpfung sich bewegender Artefakte, die uns eines Tages überlegen sein würden. Ein Prozess immer größerer Transzendenz, der das ehedem tote Universum zur Extension des eigenen Verstandes erklärte. (Edelbauer 2021:6)

There are four epochs, so far, in the entangled destinies of nature, human beings, and machines. In the first, preindustrial epoch, technology was limited to the tools and structures that humans could create with their own hands. Nature remained in control. (Dyson 2020:8)

Von der Steinzeit bis zur Erfindung des elektrischen Relais hatten wir bloß die Werkzeuge hergestellt. (Edelbauer 2021:40)

In the second, industrial epoch, machines were introduced, starting with simple machine tools that could reproduce other machines. Nature began falling under mechanical control. (Dyson 2020:8)

Hierfür bietet sich ein Toaster als Beispiel an: Er »denkt« daran, die Toastscheiben herauszuschleudern, wenn sie ausreichend geröstet sind. In Wirklichkeit dachte – chronologisch versetzt – aber bloß der Programmierer des Toasters daran. Auf unserem gegenwärtigen Entwicklungsstand ist jede KI nur eine äußerst elaborierte Version dieses Toasters – denn ein Wesen zu sein, ist ein Kategoriensprung, keine mechanische Komplexitätssteigerung. (Edelbauer 2021:170)

In the third epoch, digital codes, starting with punched cards and paper tape, began making copies of themselves. Powers of self-replication and self-reproduction that had so far been the preserve of biology were taken up by machines. Nature seemed to be relinquishing control. Late in this third epoch, the proliferation of networked devices, populated by metazoan codes, took a different turn. (Dyson 2020:8)

Was Sie fürchten, würde ich nicht als Kontrolle bezeichnen, sondern als Rationalität, als Verbannung des Irrationalen aus unserem Leben. Eine Maschine handelt gemäß den Gesetzen der Logik, davon können wir vieles lernen – es könnte eine vollkommen egalitäre Gesellschaft entstehen, das ist eine geschichtlich einmalige Chance, oder nicht? (Edelbauer 2021:238)

In the fourth epoch, so gradually that almost no one noticed, machines began taking the side of nature, and nature began taking the side of machines. Humans were still in the loop but no longer in control. Faced with a growing sense of this loss of agency, people began to blame “the algorithm,” or those who controlled “the algorithm,” failing to realize there no longer was any identifiable algorithm at the helm. The day of the algorithm was over. The future belonged to something else. (Dyson 2020:8f)

Entweder verfügt man über eine kontrollierbare Maschine, die aber kein Bewusstsein und daher keine Absicherung gegen Missbrauch besitzt. Oder man gibt die Kontrolle ab und nimmt die potenziellen Risiken ihrer unendlich potenten kognitiven Struktur in Kauf. (Edelbauer 2021:164)

The paradox of artificial intelligence is that any system simple enough to be understandable is not complicated enough to behave intelligently, and any system complicated enough to behave intelligently is not simple enough to understand. (Dyson 2012:317)

Es hat sich eine große Katastrophe ereignet, was vor allem daran lag, dass keine künstliche Intelligenz da war, die sie hätte verhindern können. Die Menschen haben gezündelt wie Kinder mit einer Bombe, haben nicht verstanden, dass ihre eigene Reproduktionsfähigkeit eine brutzelnde Lunte ist. Die Reproduktionsfähigkeit löst die Überbevölkerung aus, und die Überbevölkerung die Naturkatastrophe. Bumm! (Edelbauer 2021:279)

Eine Utopie gibt kein Abbild der wirklichen Welt oder der aktuellen politischen oder gesellschaftlichen Ordnung. Sie existiert an keinem Punkt in der Zeit oder im Raum; sie ist »nirgendwo«. Aber gerade diese Konzeption eines Nirgendwo hat die Prüfung bestanden und ihre Kraft bei der Gestaltung der modernen Welt unter Beweis gestellt. Es ergibt sich aus dem Wesen und der Eigenart ethischen Denkens, daß es sich mit der Hinnahme des »Gegebenen« niemals begnügen kann. Die ethische Welt ist nie gegeben; sie befindet sich stets »im Bau«. »In der Idee leben«, so sagt Goethe, »heißt das Unmögliche so behandeln, als wenn es möglich wäre. (Cassirer 2009:99)