I wonder if one day that,
you’ll say that, you care
If you say you love me madly,
I’ll gladly
Be there
Like a puppet on a string
Sandie Shaw
Once bitten, the apple was irresistible
Shoshana Zuboff
Fortschrittsapologeten wie Steven Pinker und Hans Rosling versuchen unermüdlich, uns davon zu überzeugen, dass es dank Aufklärung mit der Menschheit anhalten bergauf gehe. Schlagendes Beispiel sei die Lebenserwartung, die seit zwei Jahrhunderten ständig wachse (Pinker, Chapter 5). In den letzten zwei Jahrzehnten ist das Wachstum ins Stocken geraten und es gibt sogar eine Abwärtstendenz, zumindest in den USA und in Europa. Das mag Zufall sein, aber es fällt zusammen mit der Spätphase der Globalisierung und der Dominanz von Suchmaschinen im WWW.
Jetzt erreicht uns die generative künstliche Intelligenz, erst einmal in der Form von ChatGPT (Domingos, 2017). Im Hoppla!-Blog stehe ich in einem fast aussichtslosen Kampf gegen Robotertexte, wie man an vielen Kommentaren sehen kann.
Erste Widerstände gegen eine Vergötterung der Computers kamen aus dem inneren Kreis der Informatik und gehen zurück auf Joseph Weizenbaum und seine ELIZA. Aber es kam wie beim Lied »Zwei Täler weiter«: Die Parodie wurde vom Publikum nicht als solche erkannt. (Ich hoffe, ich habe Fred Rauch da richtig verstanden.)
Viele gebildete Personen haben in ELIZA eine intelligente Maschine gesehen. (Ich kann mich an einen vergnüglichen Abend mit Joseph Weizenbaum erinnern, das müsste am 27. Oktober 1999 gewesen sein. Er hatte an unserer Hochschule einen Vortrag zum Jahr-2000-Problem gehalten.)
Was treibt den Ingenieur und Informatiklehrer zum Widerstand? Wenn Sie etwas Zeit mitbringen, dann lassen sie sich das von Joseph Weizenbaum im Film Plug & Pray erklären.
Die Gefahr, dass die Maschinen wie Menschen werden könnten, besteht vermutlich nicht. Eher werden die Menschen wie Marionetten, nur dass, anders als in Sandie Shaws Lied, kaum Hoffnung auf Erfüllung der Träume und Wünsche besteht.
Das sind die Stufen der Entwicklung:
- Use it or lose it. Wollen ältere Menschen geistig fit bleiben, lösen sie Kreuzworträtsel oder Sudoku. Dabei sind Spaziergänge im Grunde das wirkungsvollere Gehirntraining. Jedenfalls ist es nicht gut, sich jede geistige Anstrengung vom Computer abnehmen zu lassen. Also: Hin und wieder einmal schriftlich rechnen oder im Kopf, anstatt immer gleich den Taschenrechner zu bemühen. Dasselbe gilt für das Navigationsgerät und die Wegefindung mittels Google. Dem steht unsere Bequemlichkeit entgegen. Denken tut weh. Dabei wächst unsere Leistungsfähigkeit dank Maschinenhilfe – aber das hat einen Preis: ein Teil unserer natürlichen Fähigkeiten verkümmert und wird durch künstliche ersetzt. Diese Tendenz weitet sich ins Unermessliche aus, wie wir sehen werden.
- Treibende Kraft ist die Werbung. Ryan Reynolds sagt es so: »Consumers know they’re being marketed to, so acknowledge it« (TIME July 7, 2025, p 39). Man habe bei ihm nicht das Gefühl, dass einem etwas aufgeschwatzt wird, meint sein Geschäftspartner. – Das ist hohe Kunst der Propaganda. Zentrales Medium ist das World Wide Web WWW.
- Instrumentarianismus. So nennt Shoshana Zuboff die Programmarchitektur zur Vorhersage, Änderung und Kontrolle des Verhaltens der angepeilten Menschen. Das soll sich schließlich auszahlen (Zuboff, S. 352). Dieser Instrumentarianismus hat seine Ursprünge im radikalen Behaviorismus des B. F. Skinner, bei dem es nur um das beobachtbare Verhalten des Menschen und nicht um seine inneren Beweggründe geht. Mark Zuckerberg sieht Facebook auf dem Weg zu einem Unternehmen, das jedes Buch, jeden Film, und jeden Song kennt, das eine Person jemals konsumiert hat (Zuboff, S. 402). Das ist dann der Grundstoff für personalisierte Werbung (Targeted Advertising). Da der Gewinn aus diesen Geschäften bei einigen wenigen landet, spricht Shoshana Zuboff von Überwachungskapitalismus.
- Generative KI. Das ist die nächste Eskalationsstufe. Diese Programme haben mit ELIZA nicht mehr viel gemein, das Maschinenhafte ist kaum noch zu erkennen. Man fragt sich, ob das Maschinenhafte dabei ist, das Menschliche vollständig zu verdrängen
- Singularität. Für einige Vertreter der KI ist ausgemacht, dass in einer nicht zu fernen Zukunft der Computer den Menschen bezüglich Intelligenz überflügeln und dann an dessen Stelle die kulturelle Evolution vorantreiben wird. Josef Weizenbaum kann mit diesem Gedanken nichts anfangen. Für ihn wird ein lebender Organismus durch die Probleme definiert, denen er sich im Laufe seines Lebens gegenübersieht. Wenn mich recht erinnere, hat er es so zugespitzt: ein Computer hat, anders als der Mensch, nie an einer Mutterbrust gelegen.
Links
Überwachungskapitalismus Essay von Shoshana Zuboff
KI so gefährlich wie Pandemien oder Atomkrieg
Menschenzentrierte KI Wer zählt als Mensch?
Uni Wien Drohender Wissenskollaps durch KI?
ARD ChatGPT für Fake-News-Kampagnen genutzt
Literaturverzeichnis
- Steven Pinker: Enlightenment now. The Case for Reason, Science, Humanism and Progress. 2018
- Joseph Weizenbaum: Die Macht der Computer und die Ohnmacht der Vernunft, 1977
- Shoshana Zuboff: The Age of Surveillance Capitalism. 2019
- Pedro Domingos: The Master Algorithm. How the Quest for the Ultimate Learning Machine will Remake our World. 2017
KI – das süße Gift, so kann man es sehen. So wie andere „Bequemlichkeiten“, angefangen beim Fahrrad, später mit Hilfsmotor, Motorrad, Auto mit Klimaanlage, Elektrizität, Haushaltsgeräte, Heimcomputer, Internet,…. unser Leben in den letzten 100 Jahren leichter gemacht haben, wird es auch bei der KI sein, wir werden immer mehr davon abhängig.
Ich bin neugierig, welche Erkenntnisse Wissenschaftler z.B. aus dem Ukrainekonflikt gewinnen werden? Wie anpassungsfähig „der Mensch“ eigentlich wirklich ist, wie er auf Abhängigkeiten verzichten kann.
Weil die schweren körperlichen und die Umweltbelastungen (Kälte), wesentlich geringer geworden sind, dürfte die Lebenserwartung gestiegen sein. Andererseits hat die Medizin das Leben verlängernde Fortschritte gemacht.
Es scheint auch „Sättigungseffekte“ zu geben und der „Wohlstand“ steigt nicht unaufhörlich an. Zu wenig Bewegung kann auch Nachteile haben. Suchmaschinen könnten sogar „dümmer“ machen, weil das „eigene Denken“ abnimmt.
Ich benutze Google und KI zur Auffrischung meiner oft nur mehr vagen Erinnerungen. Ich kann Fakten bequem und korrekt rekonstruieren. Jedes mal im Lexikon zu suchen, wäre mir zu umständlich.
Ich meine, Joseph Weizenbaum hatte eine „sehr hohe Meinung“ über die „menschliche Denke“, die den Psychologen eher „verloren“ gegangen ist. Was auch nicht verwunderlich ist, zumal sie alltäglich mit eher skurrilen Problemen, die für Patienten recht belastend sein können, zu tun haben.
Mit ELIZA hat er eine (banale) Suchstrategie der Psychologen nachgeahmt, ohne zu wissen was die Psychologen damit wirklich machen. Er war entsetzt, als Psychologen (aus ihrer eigenen Sicht heraus) Weizenbaums „Karikatur“ vom psychologischen Handeln, auch noch ernst genommen haben…..
Ich habe mich aus Neugier, Psychologiestudenten in meiner 68 WG haben diese Neugier auch noch gefördert und weil ich zufällig die Möglichkeit hatte, für stark unterschiedliche Sichtweisen sehr interessiert. Z.B. die Sichtweise von Elektronik Entwicklern und Elektronik Service Personal. Die Herangehensweisen unterscheiden sich sehr stark, sind aber letztlich optimal für eine schnelle höchst erfolgreiche Problemlösung.
Der hauptsächliche Unterschied zwischen natürlicher und künstlicher Intelligenz ist, dass die KI (derzeit) keine „direkten Empfindungen wahrnehmen“ kann. Das Problem dürfte aber sein, dass die Empfindungen von den verschiedenen Menschen auch noch unterschiedlich bewertet werden.
Ich nehme an, dass die Expertensysteme weiter entwickelt werden und der Zugriff darauf über Chat Software erfolgt. Dabei könnten die verschiedenen Interpretationsmöglichkeiten der Ergebnisse berücksichtigt werden.
Ausblick: So wie Menschen Kreativität fördernde Mechanismen entwickelt haben, z.B. „Brainstorming Methoden“, wobei sozusagen „probeweise“ so etwas wie „Muster Mechanismen“ von fremden „Gebieten“ übertragen und auf Sinnhaftigkeit „getestet“ werden. Diese Tests sollten nicht nur von Menschen durchgeführt werden, sondern es sollten womöglich auch Simulationsmethoden entwickelt werden….
Ich weiß nicht, ob Ihre Psychologiestudenten der 68er-WG wirklich so hilfreich waren, wie sie ständig beteuern. Bekanntlich funktioniert Brainstorming schon bei Menschen nicht. Sie machen sich über ChatGPT schlau, fürchte ich. Keine gute Idee. Was die Lebenserwartung angeht: Schauen Sie sich einmal die von mir zitierte Grafik an.