I wonder if one day that,
you’ll say that, you care
If you say you love me madly,
I’ll gladly
Be there
Like a puppet on a string
Sandie Shaw
Once bitten, the apple was irresistible
Shoshana Zuboff
Fortschrittsapologeten wie Steven Pinker und Hans Rosling versuchen unermüdlich uns davon zu überzeugen, dass es dank Aufklärung mit der Menschheit anhalten bergauf gehe. Schlagendes Beispiel sei die Lebenserwartung, die seit zwei Jahrhunderten ständig wachse (Pinker, Chapter 5). In den letzten zwei Jahrzehnten ist das Wachstum ins Stocken geraten und es gibt sogar eine Abwärtstendenz, zumindest in den USA und in Europa. Das mag Zufall sein, aber es fällt zusammen mit der Spätphase der Globalisierung und der Dominanz von Suchmaschinen im WWW.
Jetzt erreicht uns die generative künstliche Intelligenz, erst einmal in der Form von ChatGPT (Domingos, 2017). Im Hoppla!-Blog stehe ich in einem fast aussichtslosen Kampf gegen Robotertexte, wie man an vielen Kommentaren sehen kann.
Erste Widerstände gegen eine Vergötterung der Computers kamen aus dem inneren Kreis der Informatik und gehen zurück auf Joseph Weizenbaum und seine ELIZA.
Aber es kam wie beim Lied »Zwei Täler weiter«: Die Parodie wurde vom Publikum nicht als solche erkannt. (Ich hoffe ich habe Fred Rauch da richtig verstanden.)
Viele gebildete Personen haben in ELIZA eine intelligente Maschine gesehen. (Ich kann mich an einen vergnüglichen Abend mit Joseph Weizenbaum erinnern, das müsste am 27. Oktober 1999 gewesen sein. Er hatte an unserer Hochschule einen Vortrag zum Jahr-2000-Problem gehalten.)
Was treibt den Ingenieur und Informatiklehrer, zum Widerstand? Wenn Sie etwas Zeit mitbringen, dann lassen sie sich das von Joseph Weizenbaum im Film Plug & Pray erklären.
Die Gefahr, dass die Maschinen wie Menschen werden könnten, besteht vermutlich nicht. Eher werden die Menschen wie Marionetten, nur dass, anders als in Sandie Shaws Lied, kaum Hoffnung auf Erfüllung der Träume und Wünsche besteht.
Das sind die Stufen der Entwicklung:
- Use it or lose it. Wollen ältere Menschen geistig fit bleiben, lösen sie Kreuzworträtsel oder Sudoku. Dabei sind Spaziergänge im Grunde das wirkungsvollere Gehirntraining. Jedenfalls ist es nicht gut, sich jede geistige Anstrengung vom Computer abnehmen zu lassen. Also: Hin und wieder einmal schriftlich rechnen oder im Kopf, anstatt immer gleich den Taschenrechner zu bemühen. Dasselbe gilt für das Navigationsgerät und die Wegefindung mittels Google. Dem steht unsere Bequemlichkeit entgegen. Denken tut weh. Die Leistungsfähigkeit des Menschen wächst und das hat einen Preis: ein Teil seiner natürlichen Fähigkeiten verkümmert und wird durch künstliche ersetzt. Diese Tendenz weitet sich ins Unermessliche aus, wie wir sehen werden.
- Treibende Kraft ist die Werbung. Ryan Reynolds sagt es so: »Consumers know they’re being marketed to, so acknowledge it« (TIME July 7, 2025, p 39). Man habe bei ihm nicht das Gefühl, dass einem etwas aufgeschwatzt wird, meint sein Geschäftspartner. – Das ist hohe Kunst der Propaganda. Zentrales Medium ist das World Wide Web WWW.
- Instrumentarianismus. So nennt Shoshana Zuboff die Programmarchitektur zur Vorhersage, Änderung und Kontrolle des Verhaltens der angepeilten Menschen. Das soll sich schließlich auszahlen (Zuboff, S. 352). Dieser Instrumentarianismus hat seine Ursprünge im radikalen Behaviorismus des B. F. Skinner, bei dem es nur um das beobachtbare Verhalten des Menschen und nicht um seine inneren Beweggründe geht. Mark Zuckerberg sieht Facebook auf dem Weg zu einem Unternehmen, das jedes Buch, jeden Film, und jeden Song kennt, das eine Person jemals konsumiert hat (Zuboff, S. 402). Das ist dann der Grundstoff für personalisierte Werbung (Targeted Advertising). Da der Gewinn aus diesen Geschäften bei einigen wenigen landet, spricht Shoshana Zuboff von Überwachungskapitalismus.
- Generative KI. Das ist die nächste Eskalationsstufe. Diese Programme haben mit ELIZA nicht mehr viel gemein, das Maschinenhafte ist kaum noch zu erkennen. Man fragt sich, ob das Maschinenhafte dabei ist, das Menschliche vollständig zu verdrängen
- Singularität. Für einige Vertreter der KI ist ausgemacht, dass in einer nicht zu fernen Zukunft der Computer den Menschen bezüglich Intelligenz überflügeln und dann an dessen Stelle die kulturelle Evolution vorantreiben wird. Josef Weizenbaum kann mit diesem Gedanken nichts anfangen. Für ihn wird ein lebender Organismus durch die Probleme definiert, denen er sich im Laufe seines Lebens gegenübersieht. Wenn mich recht erinnere, hat er es so zugespitzt: ein Computer hat, anders als der Mensch, nie an einer Mutterbrust gelegen.
Links
Überwachungskapitalismus Essay von Shoshana Zuboff
KI so gefährlich wie Pandemien oder Atomkrieg
Menschenzentrierte KI Wer zählt als Mensch?
Uni Wien Drohender Wissenskollaps durch KI?
ARD ChatGPT für Fake-News-Kampagnen genutzt
Literaturverzeichnis
- Steven Pinker: Enlightenment now. The Case for Reason, Science, Humanism and Progress. 2018
- Joseph Weizenbaum: Die Macht der Computer und die Ohnmacht der Vernunft, 1977
- Shoshana Zuboff: The Age of Surveillance Capitalism. 2019
- Pedro Domingos: The Master Algorithm. How the Quest for the Ultimate Learning Machine will Remake our World. 2017