Meinungsbildung im Internet – Kurioses wird Norm

Die Diskussion zum vorletzten Hoppla!-Artikel hat mich auf den Wikipedia-Artikel „Ziegenproblem“ gebracht. Den fand ich zunächst kurios. Nach genauerer Betrachtung sehe ich: Es ist schlimmer. Der Artikel wird dem Anspruch einer Enzyklopädie, also das derzeit allgemein akzeptierte Wissen der Allgemeinheit verfügbar zu machen, nicht gerecht: Er bewirkt nicht Wissensvermehrung, sondern Wissensverminderung. Dieses harsche Urteil verlangt nach einer Begründung. Die will ich geben.

Vom Ziegenproblem-Artikel kommen wir ganz schnell auf die Frage, ob das Internet, insbesondere das Web, die besten Ideen nach oben spült. Die Beantwortung dieser Frage hat Bedeutung auch für die Beurteilung der von der Piratenpartei beabsichtigten Verlagerung politischer Entscheidungsprozesse in das Internet. Wir fragen, ob eine Liquid Democracy funktionieren kann; und wenn ja, wie? Darauf wird es so schnell keine Antwort geben. Ich beginne mit einer Fallstudie zum Ziegenproblem-Artikel. Sie verspricht, einige Hinweise zu liefern.

Alle von mir benutzten Wikipedia-Informationen beziehen sich auf den Stand am 26. September (letzte Änderung des Ziegenproblem-Artikels am 24.9.2012, 17:11 Uhr). Wer sich schnell über die im Artikel behandelte Denksportaufgabe und die landläufigen Irrtümer bei der Lösungsfindung informieren will, findet das Nötige in meiner Ministudie „Das Drei-Türen-Problem (Ziegenproblem) bei undurchsichtigem Gastgeber“.

Was ist verkehrt am Wikipedia-Artikel zum „Ziegenproblem“?

Der Wikipedia-Artikel ist im Laufe der letzten zehn Jahre entstanden. Immerhin haben etwa 500 Autoren daran mitgewirkt und die Diskussionsseiten darüber würden ein Buch von 500 Seiten ergeben, also einen ziemlich dicken Wälzer. Die Autoren waren nicht gleichzeitig aktiv: Mancher kam und ging gleich wieder, nachdem er eine oder zwei Änderungen vorgenommen hatte, andere blieben über Monate bei der Sache und einige sogar über Jahre.

Bei der inhaltlichen Würdigung des Artikels sollten wir diesen Entstehungshintergrund im Auge behalten. Denn genau dort ist das Problem zu suchen.

Was ist faul an dem Artikel? Es beginnt damit, dass ein bereits seit 21 Jahren ausgeräumt geglaubter Irrtum, der Fifty-fifty-Irrtum, als Erstes vorgestellt und als akzeptable Lösung präsentiert wird: „Die Gewinnchancen für die Tore 1 und 2 sind gleich. Denn ich weiß ja nichts über die Motivation des Showmasters, das Tor 3 mit einer Ziege dahinter zu öffnen und einen Wechsel anzubieten.“

Es handelt sich um eine elaborierte Version des Irrtums. Aber es bleibt ein Irrtum, wie ich in meiner Ministudie gezeigt habe. Die Sache wird auch nicht dadurch besser, dass eine Interpretation nachgeschoben wird, die zwar mathematisch korrekt ist, die aber nichts mit der Aufgabenstellung zu tun hat: Die Kandidatin hat „keine bessere Möglichkeit, als sich nach dem Wurf einer fairen Münze zu entscheiden. Ihre Gewinnwahrscheinlichkeit ist somit 1/2“, steht in dem Artikel. Thema verfehlt. Und das in einem enzyklopädischen Artikel!

Der ganze Kuddelmuddel kommt daher, dass in dem Artikel immer wieder Nebenpfade beschritten werden. Der Artikel verschiebt ganz allgemein die Gewichte von der Hauptsache hin zum Unwesentlichen. Der elaborierte Fifty-fifty-Irrtum konnte ja nur zustande kommen, weil man die Willkür des Showmasters eingeführt hatte. Auf diesen Gedanken, dass die Motivation des Showmasters eine große Rolle spielen könnte, kommt der Rätselfreund, der dem Rätsel erstmals begegnet, wirklich nicht. Die Frage nach der Motivation des Showmasters taucht in den einschlägigen Nachrichten und Leserbriefen nur gelegentlich und am Rande auf.

Im Abschnitt „Antwort von Marilyn vos Savant“ sollte eigentlich das stehen, was vos Savant gesagt hat, klar und kurz. Das von ihr Gesagte reicht zum Verständnis des Rätsels und dessen Auflösung vollkommen aus. Hier wird die Sache durch die Problematisierung einer natürlichen Annahme, nämlich dass der Showmaster nicht willkürlich handelt, verdunkelt. So verdirbt man den Spaß an der Sache: Aus einer sehr schönen Denksportaufgabe wird etwas Hässliches. (Das ist übrigens der Hauptgrund für mein Engagement in dieser Sache: In der Lehre setze ich auf das Puzzle Based Learning. Damit kann man den jungen Leuten den Spaß am Denken und am Lösen schwerer Probleme vermitteln. Ein Artikel, der diesen Bestrebungen zuwider läuft, setzt mich in Bewegung.)

Im weiteren Verlauf verlieren die Autoren des Artikels den Sinn einer Denksportaufgabe ganz aus den Augen. Dazu kommt, dass der „Ziegenproblem“-Artikel ganz allgemein unter einer überzogenen Darstellungsweise leidet: Der Gebrauch nichtssagender Grafik ist ausufernd, ebenso die Nutzung bombastischer Mathematik. So lässt sich die Sache leicht der Aufmerksamkeit eines interessierten Rätselfreundes entziehen. Dabei geht es um einfache Sachverhalte, mit denen das Vorstellungsvermögen und die Kombinationskraft eines jeden allgemein Gebildeten auch ohne den Einsatz schwerer Geschütze zurechtkommen sollten.

Manche Überschrift hat so gar nichts mit dem darunter Abgehandelten zu tun. Das beginnt schon damit, dass die bevorzugte Lösung, die eigentlich falsch ist, unter dem Titel „Die erfahrungsbezogene Antwort“ erscheint. Die treffendere Titelvariante „Die intuitive Lösung“ ist im Laufe des Meinungsbildungsprozesses unter die Räder gekommen. Unter dem Titel „Strategische Lösung“ bekommen wir tatsächlich keine strategische Lösung geboten, sondern eine entschärfte Aufgabenstellung ohne jeglichen Witz und ohne Reiz. Unter dem Stichwort „Kontroversen“ wird keineswegs über die – tatsächlich vorhandenen – Kontroversen berichtet. Stattdessen werden „faule“ und „ausgeglichene“ Moderatoren eingeführt, ohne zu sagen wozu das gut sein soll.

Im Abschnitt über den „ausgeglichenen Moderator“ wird das eigentlich Selbstverständliche groß und breit ausgewalzt. Hinzu kommt Unverständliches: „Hat der Kandidat das Tor mit dem Auto gewählt, dann öffnet der Moderator zufällig ausgewählt mit der gleichen Wahrscheinlichkeit eines der beiden anderen Tore, hinter dem sich immer eine Ziege befindet und stellt damit sicher, dass seine Torwahl keinerlei zusätzlichen Hinweis zum aktuellen Standort des Autos liefern kann.“ Erst wenn er auf den Abschnitt über den „faulen Moderator“ stößt, merkt der aufmerksame Leser, dass hier die Autoren mit ausgiebigen Umschreibungen ein eigentlich selbstverschuldetes Malheur heilen wollen. Hätten Sie die Sache doch einfach gestrichen.

Und so muss es zustande gekommen sein: Im Laufe der Diskussion ging so mancher Knallfrosch hoch. Einer der Autoren kam auf die Idee, dass man besonders die Fälle betrachten solle, in denen der Kandidat Tür 1 wählt und der Showmaster Tür 3 mit einer Ziege dahinter öffnet (26.2.2009).  Was ist gerade an dieser Situation besonders? Nichts, außer dass der Autor des Leserbriefs, der die ganze Ziegenproblem-Manie ausgelöst hat, Craig F. Whitaker, zur Erläuterung der Aufgabenstellung meinte: „You pick a door, say #1, and the host, who knows what’s behind the doors, opens another door, say #3“. Die Autoren haben diese Chance ergriffen, sich auf einen Nebenpfad zu begeben und den Leser mit Zusatzannahmen und Zusatzaufgaben, die zur Lösung des ursprünglichen Problems nichts beitragen, zu verwirren. Daher werden in dem Artikel nun auch faule und unausgeglichene Moderatoren unter die Lupe genommen. Einen tieferen Sinn hat das nicht.

Die Diskussion: Mitwirkende und Dynamik

Die Autoren bilden eine divergierende Gruppe, denn jeder ist aufgerufen, mitzumachen. Sie folgen unterschiedlichen Motivationen und Antriebskräften. Da gibt es den Sachorientierten, den Selbstdarsteller, den Konsenssucher, den Schwätzer, den Streitsüchtigen, den Knallfrosch, der mal da mal dort Ideen hochgehen lässt, den Satzungskenner usw.

Die Qualifikationen und Kompetenzen sind ebenfalls sehr verschieden: Mit dabei sind der Experte in Wahrscheinlichkeitsrechnung, der interessierte und gut gebildete Laie und die Person mit Lücken im Bruchrechnen.

Ich wollte etwas über die Diskussionsdynamik erfahren und wissen, welche Ideen sich Geltung verschaffen und wie das geschieht. Die Diskussionsseiten zum Wikipedia-Artikel erwiesen sich als reiche Quelle. Sie stillten mein Informationsbedürfnis. Ich konnte unter anderem die folgenden Mechanismen ausmachen:

  1. Ideen haben dann eine Chance, wenn sie hartnäckig und ausdauernd vertreten werden. Mancher Diskussionsteilnehmer produziert riesige Mengen an Text. Ermüdungserscheinungen dünnen die Gegnerschaft aus und es kommt zu faulen Kompromissen. Beispielsweise gab es am 29. Oktober 2010 eine substantielle Verschlechterung des Artikels durch Einführung des faulen, des netten, des fiesen und des zufallsbestimmten Moderators mit daraus folgender Verlagerung des Textes auf Nebensächlichkeiten. Das Resultat wurde daraufhin mit Vehemenz verteidigt und lange aufrechterhalten. Das prägt den Artikel heute noch.
  2. Die Wiederholung des Immergleichen ist die auch in der Werbewirtschaft geschätzte Holzhammermethode zur Durchsetzung von Meinung.
  3. Die Fluktuation unter der Autorenschaft sorgt dafür, dass immer wieder dieselben Probleme hochkommen, so dass manchem Fortschritt wieder ein Rückschritt folgt.
  4. Die Qualität der Argumente spielt demgegenüber eine eher untergeordnete Rolle. Offensichtlich halten sich manche der Autoren nicht mit dem sorgfältigen Lesen von Gegenargumenten auf, sondern schreiben nach dem Erfassen von Reizwörtern lieber gleich ihre Antwort. So kommt es vor, dass Angriff und Verteidigung äußerlich verschieden aber inhaltlich identisch sind, beispielsweise in der Diskussion unter der Überschrift „Moderatorenunterscheidung bei Monty-Hall ist Quatsch“ vom 9. bis 10.9.2012.
  5. Es kommt darauf an, mit möglichst vielen Beiträgen zu allem Möglichen präsent zu sein, um Bedeutung anzuhäufen. Da im Internet die strukturellen Mittel zur Definition von Autorität weitgehend fehlen, schafft man sich auf diese Weise Pseudo-Autorität.
  6. Argumentiert wird vorzugsweise lokal und augenblicksbezogen: Nur das interessiert, was gerade in der Diskussion ist. Es wird nicht versucht, das Geschehen in ein konsistentes Gesamtbild einzufügen. Auch frühere Diskussionen sind nicht im Blick. Das passiert sogar ein und demselben Autor mit seinen eigenen Aussagen. Beispielsweise behauptet einer von ihnen am 20. Februar 2011: „Richtig, der Kandidat erhält eine Zusatzinformation durch das Öffnen eines Nietentors. Diese Zusatzinformation betrifft aber nicht das zuerst gewählte Tor, welches als einziges vor einer Öffnung geschützt ist, sondern nur die beiden anderen Tore, und zwar derart, dass die Gewinnchance vom geöffneten Nietentor auf das andere nicht gewählte Tor übergeht.“ Und am 10. Sep. 2012 kommt vom selben Autor die rhetorische Frage: „Welche Information liefert der Showmaster, und wieso folgt daraus, dass sich an der Wahrscheinlichkeit, dass sich der Hauptgewinn hinter der vom Kandidaten zuerst gewählten Tür befindet, nach dem Öffnen einer Ziegentür nichts ändert?“

So kann kein Wissen entstehen, so können keine Strukturen gebildet werden. Es bleibt bei Zufallsergebnissen. Komplexitätsreduktion findet nicht statt.

Wissen und Komplexitätsreduktion

Ja, darum geht es: Um Komplexitätsreduktion, ein Begriff, der zentrale Bedeutung hat im Lebenswerk von  Niklas Luhmann. Wie ist er zu verstehen? Unsere Welt stellt sich uns als überaus komplex dar. Wir können sie niemals durch unmittelbare Anschauung verstehen. Wir suchen nach Gesetzmäßigkeiten, beispielsweise nach Kausalzusammenhängen. Sie sind der Hebel, mit dem wir Einfluss auf das Weltengeschehen nehmen können. Entscheidungsfreiheit setzt voraus, dass wir eine Vorstellung davon haben, was Ursache und was Wirkung ist.

Dummerweise kennt die Natur keine Kausalität. Sie gibt es nur in unseren Modellen von der Welt. Wir brauchen also, bevor wir uns an die Theoriebildung und an die Anhäufung von Wissen machen, Modelle der Realität, im einfachsten Fall Klassifizierungssysteme. Der Übergang von der Realität zum Modell bedeutet Komplexitätsreduktion. Allgemeiner dient die Komplexitätsreduktion der Schaffung von Struktur und Ordnung.

Übertragen wir das auf unsere Situation: Was soll ich mit der riesigen Informationsmenge, die über das Internet verfügbar ist, anfangen? Ich brauche Selektionsmechanismen, mit denen ich die Spreu vom Weizen sondern kann. Ein solcher Selektionsmechanismus könnte in der Wikipedia umgesetzt werden. Sie wird dadurch zu einem Medium der Komplexitätsreduktion: Sie bildet die vom Menschen der Welt abgelauschten und simplifizierten Strukturen ab, die uns bei der Orientierung im Leben helfen. Sie macht das wesentliche Wissen zugänglich. Das ist der Wunsch. Nun zur Wirklichkeit.

Von der Realität zum Wissen braucht es Komplexitätsreduktion, klar. Aber wie kommt das Wissen zustande, in der Welt allgemein und speziell in der Wikipedia? Die Komplexitätsreduktion geschieht in Prozessen, die von Menschen gestaltet werden, beispielsweise von der Autorenschaft der Wikipedia. Und da alle mitmachen können und da diese Vielen von vielerlei Interessen getrieben sind, vielerlei Qualifikationen besitzen und selbst wieder in vielfältigen Abhängigkeiten und Wirkungszusammenhängen stehen, handelt es sich hier wieder um ein äußerst komplexes Gebilde, das selbst Komplexitätsreduktion dringend nötig hat.

Fragen von Kultur und Macht

Schon sind wir bei der Frage der Kultur. Grundprinzip eines jeden öffentlichen Wikis ist, dass der Zugang praktisch jedermann offensteht; jeder kann die Inhalte lesen und bearbeiten. Das sieht nach totaler Freiheit aus. Jeder darf alles, der Fachmann, der Schwätzer, der Saboteur.

Solange der Kreis der Autoren eines Themas klein ist und man sich kennengelernt hat, funktioniert die Sache. Da wird die Komplexitätsreduktion allein durch wachsendes Vertrauen erzeugt: Nicht jede Änderung und Verbesserung muss auf Herz und Nieren geprüft und hinterfragt werden, da die Autoren untereinander quasi ein System von Autoritäten aufbauen können. Die Arbeit flutscht.

Das  funktioniert in Kleingruppen. Bei größer werdender Autorenschaft stellt sich die Frage, wie Kompetenz und Einfluss (Macht, Autorität, Führung) miteinander gekoppelt werden? Wie wird die „Macht im System“ (Luhmann, 2012) verteilt?

Wir kennen Beispiele für solche Machtverteilung: Unsere Schulen- und Hochschulen verleihen Grade, Diplome und Titel; sie statten so die Absolventen mit Autorität aus. Für Wissenschaften gibt es renommierte Verlage, die dank ihrer Lektoren dem Leser einen Teil der Glaubwürdigkeitsprüfungen abnehmen. Fachtagungen mit ihren Reviewern, Sitzungs- und Tagungsleitern sind weitere Strukturierungselemente des Wissenschaftsbetriebs. Solcherart formalisierte Machtverteilung bewirkt Komplexitätsreduktion: Der Einzelne muss sich nicht um alles kümmern, er kann auf Institutionen bauen, die sein Vertrauen genießen, sich auf Zeugnisse verlassen.

Die Kultur der Wikipedia-Gemeinschaft: Anspruch und Wirklichkeit

Welcher Art könnten die Strukturen der Wikipedia-Community sein? Ich beziehe mich im Folgenden auf die  pluralistische Kulturtheorie von Michael Thompson, Richard Ellis und Aaron Wildavsky (Cultural Theory, 1990), siehe Grafik „Ways of Life“. Die von ihnen unterschiedenen vier Kultur-Grundtypen (Ways of Life) zeichnen sich durch verschiedene Mittel der Komplexitätsreduktion aus: Vorschriften, Gruppenloyalität und Marktmechanismen nehmen uns Entscheidungen ab oder erleichtern sie zumindest.

Ways of LifeVom Anspruch her ist die Wikipedia-Gemeinschaft auf Freiheit und Gleichheit gestimmt und gegen einschränkende Vorschriften (Grid) ziemlich allergisch. Es ist also keine fatalistische Runde, die im Wesentlichen irgendwelchen Zwängen gehorcht, die ihr von außen aufgezwungen sind. Sie neigt eher zum Individualismus, kennt kaum Gruppenbindungen und verzichtet gern auf Vorschriften. Beispiel für eine individualistischer Gruppe ist die freie Unternehmerschaft.

Aber auch in der freien Wirtschaft herrscht nicht das Chaos. Es gibt Gesetze; aber als wesentliches Strukturierungselement dienen hier Geld und Profitstreben. Sie sorgen, zumindest im Prinzip, für Stimmigkeit im Ganzen: „Wenn mein Betrieb floriert, dann ist das gut für die ganze Gesellschaft.“ So etwas fehlt unseren Autoren.

Egalitaristisch ist die wissensorientierte Internetgemeinde ebenfalls nicht. Die Gruppenabgrenzung beruht allein auf übereinstimmenden Interessen. Gleichheit der handelnden Personen ist kein Thema und braucht nicht, beispielsweise mittels Ausschlussandrohung, erzwungen zu werden. Das unterscheidet sie von den Bürgerinitiativen und den aus Bürgerbewegungen entstandenen Parteien (Güne, Piraten) beispielsweise.

Damit landen wir bei der Hierarchie als Mittel der Komplexitätsreduktion: Vertrauen auf der Grundlage verliehener Ämter und im Rahmen einer Bürokratie. Tatsächlich gibt es eine selbstauferlegte Hierarchie der Wikipedianer: Angemeldeter Benutzer, bestätigter Benutzer, Benutzer mit Stimmberechtigung, Benutzer mit Sichterstatus, Administrator und Bürokrat. Das Dumme ist nur, dass der Aufstieg in dieser Hierarchie kein Ausweis von Kompetenz und Qualifikation ist; allein auf das Sitzfleisch und den Umfang der Aktivitäten kommt es an. Bis hin zur Stimmberechtigung werden ausschließlich Ausdauer und Ehrgeiz belohnt. Es ist fraglich, ob man auf diese Weise den oben dargestellten Mängeln beikommen kann. Die Frage nach einer sinnvollen Verteilung der Macht ist offen.

Flüssiges Wissen

Zum Schluss noch ein spezielles Problem der Wikipedia. Die Wikipedia gewinnt dadurch an Wert, dass auch auf externe Web-Seiten verlinkt wird. Damit geraten die Wiki-Macher in ein Dilemma. Eine Verlinkung macht abhängig vom Autor der Zielseite. Ändert dieser den Inhalt, kann es zu Diskrepanzen mit dem Wikipedia-Artikel kommen und zur Konfusion führen. Auch mir ist das schon passiert: Einmal habe ich eine kleine atmosphärische Änderung an einem Text vorgenommen, der auf einer Wikipedia-Seite als Link angegeben war. Versehentlich fehlte der Änderungsvermerk. Es kam zu einer kurzen und eigentlich unnötigen Debatte unter den Autoren der Seite.

Als Gegenmaßnahme könnte man verlinkte Seiten archivieren. Damit wird das System aber eher zähflüssig: Die Aktualität leidet.

Veröffentlicht unter Logik, Soziologie, Statistik | Verschlagwortet mit , | 2 Kommentare

Vorsicht Grafik

Immer wenn ich in einer Zeitschrift eine Statistik zur Untermauerung einer Aussage finde und wenn diese auch noch mit einer Grafik garniert ist, gehen bei mir alle Warnlampen an.

Grafiken in unseren Zeitungen und Zeitschriften stehen im Ruf, in hohem Maße manipulativ zu sein. Walter Krämer hat in seinem deutschen Remake „So lügt man mit Statistik“ (1991) des Klassikers „How to Lie with Statistics“ von Darrel Huff (1954) viele eindrucksvolle Beispiele zusammengetragen, die diese Einschätzung untermauern.

Es scheint Agenturen zu geben, die sich auf das Erstellen manipulierender Grafiken geradezu spezialisiert haben. Hier die wichtigsten der weit verbreiteten Tricks dieser Manipulanten:

  1. Stauchen und dehnen

    Durch Stauchung der x-Achse oder Streckung der y-Achse rücken selbst zwei voneinander stark abweichende Kurven dicht aneinander; so lässt sich jede Vorhersage mit dem tatsächlichen Verlauf (eines Aktienkurses beispielsweise) mühelos zur Übereinstimmung bringen.

  2. Die Verlagerung des Ursprungs, also des Nullpunkts, irgendwohin außerhalb der Grafik, macht jeden noch so unauffälligem Kurvenverlauf durch Aufspreizung zu einer bedrohlichen Angelegenheit. Die Wahl geeigneter Kurvenausschnitte und die Lupenfunktion können noch dem flachsten Ding Glamour verschaffen. Gern genommen werden auch „problemangepasst“ verzerrte Maßstäbe an den Diagrammachsen.
  3. Sehr beliebt ist die Veranschaulichung von Größenverhältnissen mit dreidimensionalen Figuren, beispielsweise mit Bildern von Ölfässern zur Darstellung des Energieverbrauchs, wobei nur die lineare Ausdehnung als Vergleichsmaß genommen wird. So wird aus einer eigentlichen harmlosen Verdoppelung spielend eine aufregende Verachtfachung.

Längen und Flächen

Der zuletzt genannte Trick funktioniert bereits in der Ebene recht gut, wie ich in einem VDE-Vortrag (Fulda, 28.2.07) erfahren habe. Es ging darum, die menschengemachte Klimaveränderung nicht gar so bedrohlich erscheinen zu lassen. Der Vortragende veranschaulichte das Verhältnis der Masse von pflanzlicher und tierischer Biomasse unserer Erde mit der nebenstehenden Grafik.

Der Durchmesser des kleinen schwarzen Kreises beträgt etwa 1% vom Durchmesser des großen hellgrünen Kreises.

Der große Kreis steht für die pflanzliche Biomasse der Erde, und der kleine für die tierische. Das Bild soll offenbar drastisch vor Augen führen, wie klein die tierische Biomasse tatsächlich ist. („Und was so klein ist – sogar die Frau Merkel hat in dem schwarzen Punkt Platz – kann doch keinen so Furcht erregend großen Einfluss auf die Biosphäre haben?!“)

Tatsächlich ist das Verhältnis der Biomasse auf der Erde gleich 1:100, wie das Verhältnis der Kreisdurchmesser. Die Kreisflächen verhalten sich aber wie 1:10 000. Und das ist maßlos übertrieben.

Obwohl es schon etwas ausgelutscht ist: Das Thema Grafik muss immer wieder einmal auf die Tagesordnung, damit die Aufmerksamkeit gegenüber solchen Täuschungen nicht nachlässt. Der neueste Dreh der Meinungskneter ist die Stückelung von Grafiken.

Stern-Grafik

Mit der Grafik links widerspricht der Stern (21/2012, S. 74) der Volksweisheit, „dass clevere Eigenheimbesitzer ihr Heizöl am besten im Sommer tanken“. Der Blick auf die Preiskurve der vergangenen drei Jahre zeige, dass Heizöl jeweils nicht im Sommer, wenn die Nachfrage gering ist, sondern Ende Januar, Anfang Februar am günstigsten war (linkes Bild).

Stern-Grafik, neu montiert

Nun ja: montiert man die Grafik etwas anders zusammen, so dass der Sommer am Anfang und der Jahreswechsel in der Mitte liegt (rechtes Bild), sieht die Sache ganz anders aus: Danach scheint es tatsächlich günstiger zu sein, im Spätfrühjahr oder im Sommer zu tanken, wie die meiste Leute offenbar zu Recht meinen. Die spektakuläre Nachricht des Stern ist ein Kunstprodukt der grafischen Darstellungsweise und hat mit der Realität nicht viel zu tun.

Spiegel-Grafik

Nicht viel besser ergeht es uns mit dieser Spiegel-Grafik (32/2012, S. 81), die demonstrieren soll, wie der Aktienkurs durch die Äußerung des EZB-Chefs, „innerhalb eines Monats alles Erforderliche zu tun, um den Euro zu erhalten“, abrupt gestiegen und eine Woche später – nach Konkretisierung der Maßnahmen – ebenso abrupt wieder gefallen ist.

Das sollte beim Leser wohl den Eindruck „Wie gewonnen, so zerronnen“ wachrufen. Bei nüchterner Betrachtung sieht man, dass eigentlich nichts Weltbewegendes passiert ist: Die (von mir eingefügten) roten Kreisen enthalten dieselbe Zahl, nämlich 6600; das ist der DAX sowohl nach Draghis erster als auch nach seiner zweiten Verlautbarung.

Veröffentlicht unter Grafische Darstellung, Prognosen, Statistik | Verschlagwortet mit , , | Schreib einen Kommentar

Kontroverse um das Drei-Türen-Problem (Ziegenproblem) dauert an

Rückblick auf das Problem, die Zwei-Drittel-Lösung und den Fifty-fifty-Irrtum

Der Zwist um das Drei-Türen-Problem (Ziegenproblem) wurde im Jahr 1990 von Marilyn vos Savant in einer ihrer Kolumnen angestoßen. Ihr Lösungsvorschlag stieß auf teilweise erbitterten Widerspruch; und es waren Geistesgrößen unter ihren Gegnern. Dieser Widerspruch ist bis heute nicht verstummt.

Dabei gibt es einfache Beweise dafür, dass Marilyn vos Savant richtig liegt. Auf meiner Denkfallen-Seite habe ich die Sache dargestellt. Hier noch einmal eine kurze Zusammenfassung.

Das Problem. Große Fernsehshow. Der Supergewinn verbirgt sich hinter einer von drei Türen. Der Kandidat trifft seine Wahl. Die Tür wird jedoch zunächst nicht geöffnet. Der Showmaster öffnet eine der beiden anderen Türen, wohl wissend, dass dahinter eine Ziege als lebende Niete angepflockt ist. Der Showmaster stellt dem Kandidaten nun frei, bei seiner ursprünglichen Wahl zu bleiben oder die dritte der Türen zu öffnen. Soll er, oder soll er nicht?

Lösung. Es lohnt sich, zu wechseln. Durch den Wechsel verdoppelt sich die Gewinnwahrscheinlichkeit von 1/3 auf 2/3. Und so lässt sich diese Zwei-Drittel-Lösung begründen: Hinter der vom Kandidaten gewählten Tür steckt der Hauptgewinn mit der Wahrscheinlichkeit 1/3. Mit der Wahrscheinlichkeit 2/3 steckt der Hauptgewinn hinter einer der beiden anderen Türen. An diesen Wahrscheinlichkeiten ändert sich durch die Offenbarung einer Niete durch den – voraussetzungsgemäß gut informierten – Showmaster gar nichts. Der Showmaster liefert Information. Und diese kann der Kandidat nutzen.

Der Fifty-fifty-Irrtum. Die weitaus meisten der Befragten (erfahrungsgemäß so um die 99%) meinen allerdings, dass es sich nicht lohnt, neu zu wählen. Sie kommen zum Schluss, dass es egal ist, was man macht. Dieser populäre Fifty-fifty-Irrtum beruht auf einer falschen Anwendung des Indifferenzprinzips („Wenn keine Gründe dafür bekannt sind, um eines von verschiedenen möglichen Ereignissen zu begünstigen, dann sind die Ereignisse als gleich wahrscheinlich anzusehen“, John Maynard Keynes). Anstatt es korrekterweise nur auf die Ausgangssituation anzuwenden, wird das Prinzip fälschlich auch auf die durch den Showmaster veränderte Situation übertragen: Es stehen nur noch zwei Türen zur Wahl, und hinter jeder der Türen befindet sich der Hauptgewinn mit derselben Wahrscheinlichkeit von 50%; was aber nicht stimmt.

Die Kontroverse

Vertreter der Fifty-fifty-Lösung besitzen großes Beharrungsvermögen und sie sind wenig zimperlich, wenn es um die Verteidigung ihrer Position geht. Auf den Seiten für Unterhaltungsmathematik der Magazine wurde das ausgiebig dokumentiert. Auch das Internet hat viel zu bieten.

Ich wähle einen der ernst zu nehmenden Einwände gegen die Zwei-Drittel-Lösung (www.gfksoftware.de/Ziegenproblem/, kommentierte Version): „Die Reaktion der großen Mehrheit auf die angebliche Zwei-Drittel-Lösung für das ‚Ziegenproblem‘ kann man durchaus so interpretieren, dass sie ‚intuitiv‘ richtig erkannte, dass an der Sache etwas faul ist – nur dass sie nicht genau sagen konnte, wo der Haken liegt. Das Ziegenproblem hat als ‚bestes Beispiel für das Scheitern menschlicher Intuition‘ deshalb eine so große Berühmtheit erlangt, weil die behauptete Lösung gar nicht stimmte.“

Was genau soll es sein, das an der Zwei-Drittel-Lösung nicht stimmt? Und was spricht für die Fifty-fifty-Lösung?

Der Einwand geht dahin, dass man ja über die Absichten des Showmasters gar nichts weiß. Ist der Showmaster böswillig und er will den Kandidaten reinlegen, dann macht er sein Angebot nur, wenn der Kandidat mit seiner Wahl schon richtig gelegen hat. Der wohlwollende Showmaster hingegen wird sein Angebot dann unterbreiten, wenn der Kandidat zunächst auf eine Niete getippt hat. Der zum Wechsel bereite Spieler hat beim böswilligen Showmaster keine Chance, den Gewinn zu erhaschen, beim wohlwollenden erhält er ihn mit hundertprozentiger Sicherheit.

Jetzt ist klar zu erkennen: Der Beweis der Zwei-Drittel-Lösung beruht auf der stillschweigenden Annahme, dass der Showmaster fair ist. Sein Angebot macht er unabhängig davon, welche Wahl der Kandidat getroffen hat. Das kann er beispielsweise dadurch sicherstellen, dass er vor der Show darüber entscheidet.

Jetzt kommt die Psychologie ins Spiel

Die Fifty-Fifty-Lösung lässt sich unter anderem durch die Annahme retten, dass der Showmaster zwischen bös- und gutwillig schwankt: In etwa zwei Drittel der Shows ist er böswillig und im restlichen Drittel wohlwollend, was der Kandidat aber nicht erkennen kann. Auch der wechselbereite Kandidat wird dann mit der Wahrscheinlichkeit von 1/3 den Gewinn erhalten. Der Kandidat kann durch den Wechsel seine Gewinnchancen also nicht verbessern und genausogut bei der ersten Wahl bleiben.

Der Verteidiger der Fifty-fifty-Lösung geht noch weiter, wenn er behauptet „Wer nichts über die Strategie des Showmasters weiß, liegt mit der These richtig, dass die Gewinnwahrscheinlichkeit für die beiden verbleibenden Türen jeweils gleich 1/2 ist.“

Diese Beweisführung basiert wieder auf Annahmen, und zwar ziemlich künstlichen. Es ist kein Grund ersichtlich, warum gerade solche verzwickte Annahmen unterstellt werden sollten.

Aber Hoppla! – Ich frage mich, welches Spiel hier eigentlich gespielt wird. Haben wir es noch mit Logik und Mathematik zu tun oder sind wir schon auf dem Gebiet der Psychologie?

Ein Fall von Selbstbetrug?

Denksportaufgaben sind knapp und knackig. Alles was sich der Adressat denken kann, muss man nicht sagen. Im Fall des Drei-Türen-Problems liegt es nahe, die Fairness des Showmasters stillschweigend zu unterstellen. Wer diese Annahme in Zweifel zieht, kommt nicht darum herum, nach den Absichten des Showmasters zu fragen. Eine solche Frage habe ich noch nie vernommen. Es kommt wohl kaum zu Missverständnissen.

Ich kann mir vorstellen, dass die ganze Kontroverse einfach darauf zurückgeht, dass die Fifty-fifty-Fraktion nicht wahr haben will, dass sie sich geirrt hat. Irren ist erlaubt und eigentlich nicht ehrenrührig.  Aber wer will vor sich selbst schon gerne dumm dastehen. Da ist es doch besser, man erfindet eine Geschichte, die aus der falschen Lösung eine richtige macht. Das Selbstwertgefühl wird auch noch dadurch gesteigert, dass diese nachträgliche Rationalisierung eine gehörige Menge Gehirnschmalz erfordert.

Noch ein Ausweg für die Fifty-fifty-Freunde

Die Fifty-fifty-Freunde haben noch einen Weg gefunden, ihre Lösung zu rechtfertigen. Sie betrachten die Situation, dass der Showmaster eine Tür öffnet und sein Angebot unterbreitet. Der Kandidat weiß nicht, ob er es mit einem böswilligen, einem wohlwollenden oder einem fairen Showmaster zu tun hat: „Es bleibt nur der Münzwurf: so erwischt der Kandidat – unabhängig vom Verhalten des Moderators! – mit Wahrscheinlichkeit 1/2 die richtige Tür. Jegliche Bevorzugung einer bestimmten Tür würde dagegen seine Chance im schlimmsten Fall verringern.“ (Marc C . Steinbach über Autos, Ziegen und Streithähne, Juli 2000)

Der Kandidat hat im Falle des Angebots also eine Gewinnchance von fünfzig Prozent, unabhängig von den Absichten des Showmasters. Aber danach war in der Denksportaufgabe gar nicht gefragt. Gefragt war, ob ein Wechsel günstiger ist oder  nicht. Der Münzwurf schützt zwar vor einem böswilligen Showmaster. In anderen Fällen vernichtet er Gewinnchancen. Auf die Frage, ob ein Wechsel von Vorteil ist, gibt es beim Verzicht auf die Annahme eines fairen Showmasters keine schlüssige Antwort.

Veröffentlicht unter Denksport, Logik, Statistik, Wahrscheinlichkeitsrechnung | Verschlagwortet mit , , , , , , | 44 Kommentare

Esoterik

Spaß oder Ernst?

„Beim Hören dieser Meditation wird Ihr Bewusstsein gestärkt und in der ersten Phase ausgeweitet bis auf die Größe unseres Universums. Alle Energiefrequenzen, auf die Sie auf dem Weg treffen, werden integriert und mit dem eigenen Energiefeld in Einklang gebracht. Die zweite Phase lässt Ihr Bewusstsein immer kleiner werden, bis es die Größe von Quanten, der kleinstmöglichen Wirkungsebene, erreicht hat. Auch auf diesem Weg werden alle Schwingungen integriert. Danach nimmt das Bewusstsein die Größe Ihres eigenen Körpers an, und Sie spüren die Integration und die Verbundenheit mit allem Sein.“ Diese wirklich wunderbare „Bewusstseinserweiterung“ erfahren Sie in nur 41 Minuten, und das zum Schnäppchenpreis von nur 13,95 €, so das Versprechen in der Frühjahrsausgabe des Schirner-Versandkatalogs 2012 (www.schirner.com).

Persiflage, Satire und Parodie nutzen die Übertreibung und die Verkleidung. Der unvorbereitete Leser fragt sich, ob das Gelesene nun ernst gemeint oder nur Spaß ist. Möglicherweise ist es sogar noch komplizierter: Der Schreiber bringt Hirngespinste zu Papier, die die spirituellen Bedürfnisse seines Publikums befriedigen sollen. Die Wahrheit, nämlich dass es nur Hirngespinste sind, verdrängt er ins Unterbewusstsein. So betrügt er sich selbst und so kann er andere überzeugend täuschen.

Ich weiß nicht, ob die Esoteriktexte aufrichtig gemeint sind oder ob es sich um Täuschungen handelt. Jedenfalls bieten sie Lesespaß. Die Zitate des folgenden Kapitels sind aus dem genannten Katalog.

Werbetexte

„Die Heilapotheke enthält ein Testsystem aus 6 Testkarten mit 18 Testkomplexen sowie Karten mit 308 Frequenzen von Bachblüten, Farben, Tieren, Erzengeln, Sternenklängen, Schüsslersalzen, Sternbildern, Seelenzeichen der Maria Magdalena, Pflanzen, homöopathischen Mitteln bis hin zu Kristallen. Mithilfe der unter Anleitung der Testkarten zur Selbstdiagnostik gezogenen sogenannten »Heilsinfonie-Kärtchen« lässt sich über einen Nummern-Code im Begleitbuch eine passende Frequenz finden. Diese wird anschließend mit der Kopierkarte auf das beiliegende Amulett übertragen.“ Ziemlich viele Karten, ein Amulett plus Begleitbuch gibt es für 29,99 €.

Dem mathematisch Vorgebildeten ist das womöglich zu flach: einfach nur Karten ziehen. Für ihn gibt es die anspruchsvollere Variante: „Der Einsatz der geheimnisvollen Fibonacci-Sequenz wird [in einem 150-seitigen Buch in Klappenbroschur] ebenso erklärt wie der Umgang mit der heiligen Heilungszahl nach Dr. Zhi Gang Sha.“

Sie haben Angst vor schädlichen Strahlen, gehören zu den Hochsensiblen? Kein Problem: „Diese Handy-Taschen bestehen aus einem ganz  besonderen Gewebe, das herausragende Abschirmeigenschaften besitzt. Die Basis bildet ein Faden aus reinem Silber, der mit Nanotechnologie behandelt wurde und dadurch seine besonderen Fähigkeiten erhielt. Die hohe Abschirmwirkung dieses Gewebes bestätigen Gutachten der Universität der Bundeswehr München. Die modischen Taschen sind nicht nur beim Tragen des Handys vorteilhaft: Auch beim Telefonieren können Sie sie nutzen und an ihr Ohr legen, ohne die Kommunikation zu beeinträchtigen. Und wenn Sie nicht gestört werden wollen, schließen Sie die Tasche einfach vollständig, sodass Signale nicht mehr beim Handy ankommen. Handwaschbar bis max. 30°.“ Zumindest das Handy erhält auf diese Weise einen „hervorragenden Strahlenschutz“. Mehr wird übrigens auch nicht versprochen!

„2012 und die Zeitenwende fordern uns heraus: Höchstes Bewusstsein soll nunmehr nicht alleine mit und durch unser liebendes Herz gelebt werden. Das spirituelle Bewusstsein muss auch in den Körper, die Zellen und die Organe gebracht werden. Einer Aufgabe werden wir uns 2012 besonders stellen müssen: dem Zell-Leuchten! Das Zell-Leuchten beinhaltet einen eigenen Transformationsprozess. Dieser beginnt nicht erst am Esstisch. Es ist notwendig, dass die ganze Nahrungsmittelkette in höchstem Bewusstsein schwingt… Es ist an der Zeit, dieses Bewusstsein zu entwickeln und in das Quantenfeld von Superfood einzutauchen. Unser Körper bekommt dadurch eine Art Update und wir unterstützen ihn dabei, moderne Alltags-Spiritualität zu leben und das Ur-Programm der Zellen wieder zu aktivieren. Damit bringen wir das Zellbewusstsein zum Leuchten.“ 112 Seiten, Paperback, farbig für 6,95 €.

Wer gern einen „Teller Lebensfreude für alle Jahreszeiten“ hätte, für den gibt es das Kochbuch „Engelkraftsüppchen“. Als idealer „Begleiter für die Schule oder den Kindergarten“ ist der „Schutzengel … mit Schlaufe“ für 16,90 € zu haben.

Wenn Sie noch mehr darüber lesen wollen: Bestellen Sie den Katalog; er informiert Sie über Einhörner, Amulette, Handtücher in Feng-Shui-Maßen, energetische Hausreinigung, Chakra-Windlichter, Herz-Meditationen, naturreine Räucherstäbchen-Sortimente, zerlegbare Mini-Reise-Einhandruten  und vieles mehr.

It’s the economy, stupid

Ob Humbug oder tiefe Wahrheit: Mit Esoterik lässt sich viel Geld verdienen. Überlassen wir einem Großverdiener auf dem Gebiet, Deepak Chopra, das letzte Wort, entnommen dem TIME-Interview 10 Questions for Deepak Chopra: „Machen Sie es wie meine Kinder und meine Frau; sie nehmen mich niemals ernst.“

Veröffentlicht unter Spiritualität | Verschlagwortet mit , , | Ein Kommentar

Zweites Intermezzo

Alles ist Spiel

Der jüngste Artikel dieses Weblogbuchs („Quantenmystik“) hat den einen oder anderen Leser irritiert: Er liegt für sie nicht ganz auf der Linie der anderen Artikel, denn er berührt Fragen der Metaphysik und Sinnsuche, Fragen die den Rahmen des Weblogbuchs scheinbar sprengen.

Deshalb ist es an der Zeit, einmal kurz innezuhalten und über die Leitlinien dieses Weblogbuchs nachzudenken. Um „sonderbare Nachrichten und alltäglichen Statistikplunder“ soll es gehen. Die Frage ist, was an den Meldungen, die hier angesprochen werden, so sonderbar ist.

Die Antwort: Im Weblogbuch werden Meldungen aufgespießt, die gegen die Regeln des Spiels verstoßen, das zu spielen die Meldung vorgibt. Der Verstoß ist entweder dem Autor der Meldung nicht bewusst, dann ist es ein Irrtum seinerseits, oder aber er unternimmt ihn absichtlich,  dann begeht er eine Täuschung. In beiden Fällen sollte der Leser und Adressat der Meldung gewarnt sein. Manchmal lassen die Regeln auch mehrere Auffassungen zu, dann geht es nicht um Irrtum oder Täuschung. Dass es sich um ein subjektives Urteil handelt, sollte vor dem Leser allerdings nicht verborgen werden.

Der Stil des Weblogbuchs ist subversiv. Es deckt Widersprüche auf, und das allein durch Bezugnahme auf die selbstverständlichen Regeln (beispielsweise der Logik und Mathematik) sowie auf die Regeln des Spiels, das der Urheber der Meldung vorgeblich oder tatsächlich spielt. Die Diskussion bleibt so innerhalb des vom Autor der irreführenden Meldung gesteckten Rahmens.

Gegenstand des Weblogbuchs ist nicht irgendwelcher Tiefsinn, irgendeine Metaphysik; Fragen nach dem Urgrund allen Seins bleiben außen vor, insbesondere die Frage, warum es etwas gibt und nicht etwa nichts. Um Spielregeln geht es hier und inwieweit diese auch eingehalten werden. Ich hoffe, dass diese Klarstellung meine Leser beruhigt.

Auf die Spielregeln kommt es an

Da sind zunächst einmal die grundlegenden Regeln der Mathematik: Logik, Arithmetik, Algebra und Grenzwertrechnung. Dazu kommen die Regeln der schließenden Statistik und die Regeln für die grafische Darstellung von Zusammenhängen. Dies alles setze ich als allgemein akzeptiert voraus. Verstöße gegen diese Basisregeln begegnen uns täglich in Tageszeitungen, Magazinen, Rundfunk- und Fernsehsendungen. Beispiel: Guter Mond…

Dazu kommen die vielen Nonsense-Meldungen aus dem Bereich der Statistik. Ein herausragendes Beispiel dafür wird im Artikel Sex ist gesund aufgespießt. Krasse Betrugsfälle und gefälschte Statistiken sind eher selten: Anders als Churchill meinte, muss man Statistiken nicht fälschen, wenn man damit betrügen will. Man braucht die Daten nur geeignet zusammenzufassen. Aber Fälschungen kommen vor, und solche finden sich sogar in amtlichen Statistiken: Ein X für ein U.

Einen aufschlussreichen Sonderfall bietet der Artikel Schöne Mathematik. Hier halten sich nämlich alle, Autoren wie Kommentatoren, an die Regeln der Mathematik. Da diese Regeln so eindeutig und klar sind, sollte ein Disput eigentlich ausgeschlossen sein. Aber nein: Der Mathematiker will nicht nur Richtiges behaupten. Er legt auch Wert auf Eleganz. Folglich gehören zum Regelkatalog der Mathematiker auch Regeln der Ästhetik. Und damit verlässt der Mathematiker  den Reinraum objektiver mathematischer Beziehungen.

Es gibt objektive Kriterien für Schönheit, wie beispielsweise die Symmetrie, die wir schon aus rein biologischen Gründen mögen. Aber pure Schönheit kann langweilig sein und die Kunst kennt gezielte Verstöße gegen die Prinzipien glatter Schönheit.  Umberto Eco hat dementsprechend zwei herrliche Bücher über Ästhetik herausgebracht: „Die Geschichte der Schönheit“ und „Die Geschichte der Hässlichkeit“ (2004, 2007). Das Urteil über die Eleganz mathematischer Formeln muss letztlich persönlich bleiben. Und das ist eine Regel des Spieles Mathematik: Über die Eleganz einer Formel kann und soll man streiten, Einigkeit muss nicht sein.

Im Zentrum dieses Weblogbuchs stehen die Spielregeln des Spiels empirische Wissenschaft, insbesondere die Regeln der Generalisierung, Falsifizierbarkeit und Objektivität. Der Artikel Wie wissenschaftlich ist die Homöopathie handelt von Regelverstößen auf diesem Gebiet.

Insbesondere auf die Spielregeln der empirischen Wissenschaften gehen die Erfolge von Physik, Chemie und Biologie zurück. Und diese Wissenschaften sind es, denen wir nahezu alle technischen Dinge verdanken, die heute unser Leben bestimmen. Es ist kein Wunder, dass Metaphysiker und Esoteriker, Ratgeber, Quacksalber und Beutelschneider versuchen, von der Reputation der empirischen Wissenschaften zu profitieren und ihre Angebote als Ergebnis wissenschaftlicher Bemühungen darstellen und deren vermeintliche Wirkung als streng geprüfte und gesicherte  Erkenntnis verkaufen. Diese Leute beanspruchen für ihr Tun Wissenschaftlichkeit, sie lösen diesen Anspruch aber nicht ein — das kennzeichnet Pseudowissenschaft.

Die Verlockung zu Täuschung und Camouflage ist groß. Beispiele für derartige Täuschungsmanöver bieten die Artikel über Quantenmystik und Neurolinguistisches Programmieren.

Kampf der Manipulanten

Auch im Quantenmystik-Artikel geht es nur darum, Verstöße gegen die Regeln des vorgeblichen Spiels aufzuzeigen, nicht um die moralische Bewertungen dieser  Verstöße. Tarnen und Täuschen gehören so sehr zum Leben auf dieser Erde (man denke nur an die Geweihe der Hirsche, die Mimikri der Schmetterlinge, die Scheinmuskeln der Männer, das Imponiergehabe in den Chefetagen und die Werbung), dass man sich generelle moralische Urteile über dieses Verhalten besser verkneift.

Wer mehr über die Mechanismen und Auswirkungen von Täuschung und Selbstbetrug erfahren will, dem empfehle ich die Lektüre des Buches „Deceit and Self-Deception“ von Robert Trivers (2011).

Täuschung und Manipulation abzuschaffen, ist schon aus Gründen des Wettbewerbs aussichtslos: Wer will schon auf große Vorteile verzichten, die zu moderaten Kosten zu haben sind. Die Alternative wäre Totalitarismus, und der ist die Supertäuschung schlechthin.

Ein Ziel dieses Weblogbuchs steht nun klar vor Augen: Waffengleichheit. Jedermann sollte grundsätzlich die Möglichkeit erhalten, manipulationstechnisch nachzurüsten, so dass er im heutigen Gewühl aus Manipulation, Manipulationsabwehr und Gegenmanipulation seine Chancen wahren kann.

Veröffentlicht unter Intermezzo, Naturwissenschaften, Spiritualität, Wissenschaft und Pseudowissenschaft | Verschlagwortet mit , , | Schreib einen Kommentar

Quantenmystik

„Fragt man sich unbefangen, wie die Wissenschaft ihre heutige Gestalt bekommen hat […], so erhält man schon ein anderes Bild. Nach glaubwürdiger Überlieferung hat das im sechzehnten Jahrhundert, einem Zeitalter stärkster seelischer Bewegtheit, damit begonnen, daß man nicht länger, wie es bis dahin durch zwei Jahrtausende religiöser und philosophischer Spekulation geschehen war, in die Geheimnisse der Natur einzudringen versuchte, sondern sich in einer Weise, die nicht anders als oberflächlich genannt werden kann, mit der Erforschung ihrer Oberfläche begnügte.“
Robert Musil, „Der Mann ohne Eigenschaften“, 1933, Kap. 72

Gerade erhalte ich die Einladung zum nächsten Fuldaer ZukunftsSalon. Dr. Michael König soll zur „Quantenphysik des Lebens“ sprechen. Versprochen wird die Aufhellung der Hintergründe zu einem „Paradigmenwechsel in den Natur- und Geisteswissenschaften“. In der beigefügten Literaturliste ist die Rede von der „Physik Gottes“ und von „Quantenheilkunde“. Im Begleittext steht etwas von „ganzheitlichen Gedankenansätzen“, „neuer Physik“ und „komplementärer Medizin“.

Das erinnert mich an die ganzheitliche Physik des renommierten Physikers Hans-Peter Dürr, Träger des alternativen Friedensnobelpreises.  Diese ganzheitliche Physik wirkt  auf den ersten Blick seriös. Sie ist mir eine genauere Betrachtung wert.

Im Folgenden beziehe ich mich auf das fast zweistündige Video „Hans-Peter Dürr über ganzheitliche Physik“ und auf die „Potsdamer Denkschrift 2005“, deren Mitverfasser Dürr ist. Beide Werke sind im Internet frei zugänglich. Außerdem ziehe ich Dürrs Buch „Geist, Kosmos und Physik“ von 2011 zu Rate.

Ein erster Verdacht

Es fällt auf, dass in Dürrs Reden und Schreiben immer wieder dieselben Reizwörter auftauchen: neues Denken, Freiheit, Liebe (gern auch in Verbindungen wie „liebendes Herz“ und „liebender Dialog“), Verantwortung, kooperatives Denken (das dann auch schon mal „neu verbunden“ sein darf). Ständige Wiederholungen sind eine bekannte Masche der Werbeleute. Und auch das weiß der Werbemann: Wörter mit positiven Assoziationen machen den Adressaten gefügig. Das alles sind geläufige Manipulationstechniken.

Über weite Strecken kommt Dürr dem Leser mit solcherlei rosarotem Eiapopeia.  Das sichert ihm einen prominenten Platz in den Esoterik-Ecken der Buchhandlungen. Das Buch „Geist, Kosmos und Physik“ ist denn auch in einem Verlag erschienen, der Neues Denken, Mystik, weibliche Spiritualität und Lebenshilfe im Programm hat. – Das ist nicht weiter schlimm. Man wird ja nicht gezwungen, dieses Zeug zu kaufen. Aber das nähere Studium zeigt: Die sanfte Oberfläche täuscht; es kommt noch ziemlich dicke, und Dürrs Publikum sollte auf starke intellektuelle Zumutungen gefasst sein.

Die Steigerung: Eingriffe des Mikrokosmos ins reale Leben

Dürr baut seine neue Weltsicht auf der Erkenntnis auf, dass die Physik heute nicht mehr mit unserem Sensorium und Denkapparat, die auf die uns zugängliche Welt der mittleren Entfernungen und Geschwindigkeiten zugeschnitten sind, erfasst werden kann. In diesem unserem Mesokosmos erfahren wir die Materie als Basis alles Begreifbaren.

Die Quantenphysik zeigt nun aber, so lautet Dürrs durchaus wohl zulässige Interpretation der Quantenphysik, dass Materie nicht aus Materie zusammengesetzt ist. Und dann fährt er kühn fort: „Am Grund bleibt nur etwas, was mehr dem Geistigen ähnelt – ganzheitlich, offen, lebendig, Potenzialität“ (Dürr, 2011, S. 33). „Wir sind alle Teile dieses selben Einen, derselben Potenzialität, auf der wir gemeinsam gründen“. (S. 37)

Dieses Geistige können wir nicht wahrnehmen und bleibt letztendlich für immer verborgen. Dieses für unseren Geist prinzipiell unerreichbare Eckchen ist für Dürr nun das letzte Refugium für Gott: „Der Glaube wird durch das neue [durch die Quantenphysik befeuerte] Denken von seiner Lückenbüßerrolle befreit, in der ihm jeweils nur noch überlassen bleibt, was bis zu diesem Zeitpunkt ‚noch nicht gewusst‘ wird. Das Wissbare erfährt in der neuen Weltsicht eine prinzipielle Einschränkung. Dadurch erhält der Glaube wieder seine volle Bedeutung und eigenständige Wertigkeit zurück.“ (Dürr, 2011, S. 17)

Und jetzt kommt es: Gott – oder besser gesagt: das Geistige – ist nicht gefangen. Es gibt ein Hintertürchen, über das es in unsere Realität hineinwirken kann. Und das soll so vor sich gehen: In unserem Mesokosmos gibt es Momente der Instabilität, wie beispielsweise bei einem vertikal auf eine Ebene gestellten sehr dünnem Stab oder einem auf dem Kopf stehendem Pendelstab. Wie er fällt, scheint dem Zufall überlassen zu sein. Aber nein: Für Dürr ist das ein Moment höchster Sensibilität. Solche Instabilitäten bilden das Tor, durch das die Mikrowelt  in unser reales Leben, in die uns sensorisch und gedanklich zugängliche Realität eintreten kann. „In der Instabilitätslage, dem Punkt höchster Sensibilität ‚spürt‘ das Pendel, was in der ganzen Welt los ist […] Es ‚erlebt‘ jetzt dieses Hintergrundfeld, die Potenzialität […] Das Pendel wird an diesem Punkt ‚lebendig‘. Es tritt in Kontakt mit dem Informationsfeld des Ganz-Einen.“ (S. 67)

„Die von der Sonne zugestrahlte hochgeordnete Energie […] wird […] zu einer ordnenden Hand, wenn ihre Energie sich von der kreativen Potenzialtät im Hintergrund leiten lässt, die vermöge von Instabilitäten in die Mesowelt durchstoßen kann.“ (S. 42) Und damit ist klar: „Das Fundament unserer Wirklichkeit ist nicht die Materie, sondern etwas Spirituelles.“ (S. 45) Der Empfängliche gelangt zu einer „mystischen Teilhabe an der lebendigen, unauftrennbaren Advaita [Einheit von göttlicher Kraft und Seele], dem Urquell des Kosmos“ (S. 112).

So bekommen alle möglichen Religionen und Glaubenssysteme, vom Buddhismus bis zur Anthroposophie, aber auch die Denksysteme totalitärer Regime, die geeigneten Begriffe geliefert, so dass sie sich scheinbar problemlos an die Physik anflanschen und Bedeutung heraussaugen können.

Aber was geboten wird, ist Mystik und reine Spekulation. Es hat mit den nur noch mittels Mathematik mitteilbaren neuen Erkenntnissen der Physik so gar nichts zu tun!

Es kommt noch schlimmer: Vom Sein zum Sollen

Dürr meint nun sogar, das Sollen, die Moral aus seinem Verständnis der Quantenphysik und mittels des „neuen Denkens“ herleiten zu können:  „Aus dem neu gewonnenen (aber schon alten) Wissen über die Welt erschließt sich uns eine Ethik […] Hier ist der Mensch – wie Natur – nicht bloße ‚Biomaschine‘, sondern ureigenst ‚kreatürlich‘ eingebunden in einem sich genuin-differenzierenden und fortlaufend weiter entfaltenden Lebensprozess“ (Denkschrift).

Und weiter: „Ein immer lebendigeres Sein, ein fortdauerndes Werden tritt an die Stelle eines erstarrten Habens-Wohlstandes, und das Individuum gewinnt wachsende Offenheit in seiner intensiven Teilhabe und seiner Zeit und Raum übergreifenden Einbettung in den Lebensverbund der Erde. Erst dieses dynamische Wechselspiel zwischen den Menschen und ihrer lebendigen Mitwelt ist wirklich wohlstandsschaffend und fordert und fördert den Menschen in seinem ganzen Wesen.“

„Wir sollten die Teilhabe an der lebendigen Welt in Freude annehmen und im vollen Bewusstsein daran verantwortungsvoll im Sinne eines ‚das Lebende lebendiger werden lassen‘ (was letztlich ‚Nachhaltigkeit‘ meint) handeln.“

„Dem muss und kann ein neues Denken folgen […] Unter dem Einfluss eines wirklich neu verbundenen, dezentral-kooperativen Denkens werden sich unsere ökologischen, ökonomischen, kulturellen, sozialen und auch persönlichen Beziehungen miteinander und mit der komplexen Geobiosphäre verwandeln und in neuem Handeln äußern, welches dann den bisher stetig steigenden Krisen- und Gefährdungsstrategien unserer modernen Geschichte wirkungsvoll begegnen kann.“ (Denkschrift)

Das könnte man für harmlose Gemeinplätze halten. Aber hoppla! Spätestens beim „Weltbewusstsein“ sollten die Alarmglocken läuten. Damit bezeichnet die Denkschrift auf Seite 8 den kostbaren und unersetzlichen Beitrag, den der Mensch zur Evolution, zum Weltengang leisten könne.

Wir müssen fragen, wie diese neue Ethik in einer pluralistischen Gesellschaft durchgesetzt werden soll? Wie sieht das Programm konkret aus, und wie soll es wirksam werden? Dafür gibt es Beispiele.

Wir erinnern uns an die Gesellschaftsentwürfe des letzten Jahrhunderts mit ihren katastrophalen Konsequenzen. Auch diese beriefen sich jeweils auf ein neues Denken und auf absolute Ideen. Was dem einen System das „innerste Wollen der Natur“ war, boten dem anderen die „Bewegungsgesetze der modernen Gesellschaft“.

Dass das Zusammenleben der Juden, Christen, Moslems, Atheisten, Esoteriker und der vielen anderen Menschen bei uns heute halbwegs störungsarm funktioniert, liegt an der durch Gewaltenteilung und durch Checks and Balances doch ziemlich oberflächlich strukturierten pluralistischen Gesellschaft. Jedwede Metaphysik, die alle bewegen und vereinnahmen will, ist aus der Mode gekommen und zunehmend ins Private abgedrängt worden.

Täuschung und Selbstbetrug

Wahrheit und Unterbewusstsein

Auch die Verfasser der Denkschrift müssen darauf gekommen sein, welche schrecklichen Schlussfolgerungen drohen, wenn sie ihr System zu Ende denken und ihre Vorschläge konkretisieren.

Deshalb bleiben sie im Allgemeinen und überlassen das Zuendedenken dem Publikum. Aber dieses Publikum wird gründlich getäuscht: Es erhält scheinbar physikalische Begründungen für seine Vorurteile und Glaubenssysteme. Und damit erreichen die Autoren möglicherweise das Gegenteil dessen, was sie anstreben, nämlich eine Radikalisierung: Liebe gesät, Zwietracht geerntet.

Der konsequente Verzicht auf Konkretisierungen, der an Dürrs Werk so ins Auge fällt, könnte die Folge einer Art Selbstbetrug des Autors sein: Robert Trivers („Deceit and Self-Deception“, 2011)  meint, dass man andere besser täuschen kann, wenn man die Wahrheit vor sich selbst verbirgt, sie sozusagen im Unterbewusstsein verstaut.

Veröffentlicht unter Naturwissenschaften, Physik, Spiritualität, Wissenschaft und Pseudowissenschaft | Verschlagwortet mit , | 3 Kommentare

Fraktale allerorten: Wissenschaft mit Schmackes

Ein Lob dem  Marktschreier

Der schwarze Schwan von Nassim Nicholas Taleb beschäftigt mich noch immer. Ich mag dieses Buch („The Black Swan“, 2007). Ich mag es, obwohl viel dummes Zeug drin steht und obwohl es vor Übertreibungen und Beschimpfungen strotzt. Vielleicht mag ich es gerade deshalb. Die Marktschreierei und der blühende Blödsinn sind so offensichtlich, dass sie schlimmstenfalls zu einem leicht erhöhten Blutdruck führen und sich aufmerksamkeitssteigernd, also dann doch durchaus positiv auswirken. Schon in meinem Blog-Artikel „Mensch ärgere dich“ sprach ich davon. Hier lege ich noch eins drauf.

Ich will auf Talebs Kernthema eingehen, nämlich auf die fraktalen Verteilungen, mit denen wir es seiner Meinung nach auf den meisten Gebieten unseres Lebens zu tun haben. Taleb entdeckt sie bei der Verteilung der Vermögen oder der Einkommen der Bürger eines Landes, bei den Verkaufszahlen von Büchern, bei Unfall- und Kriegsfolgen, im Zusammenhang mit terroristischen Attacken, in Börsennotierungen und bei vielen weiteren Erscheinungen.

Hinter all der Marktschreierei steckt einiges an nützlicher Mathematik. In Talebs populärwissenschaftlicher Darstellung mathematischer Zusammenhänge habe ich keine Fehler entdeckt. Die gesteigerte Aufmerksamkeit beim Lesen weitete meinen Blick und förderte das Nachdenken über Tragweite und Grenzen mathematischer Modellbildung.

Wiederbelebung eines aus der Mode gekommenen Themas

Im Grunde geht es in Talebs Buch um eine Klasse von Kurven, die seiner Meinung nach geeignet sind, alle der oben genannten Phänomene und noch viel mehr angemessen zu beschreiben.

Diese Kurven zeichnen sich durch eine Art Selbstähnlichkeit aus, sie sind in diesem Sinne fraktal. Die nebenstehende Grafik zeigt eine solche Kurve. Ihr Definitionsbereich liegt in Intervall von 0 bis 1 und ihr Wertebereich ebenso. Die Kurve wächst ausgehend vom Ursprung monoton bis zum Wert 1. Die Tangente an die Kurve und die waagrechte Linie durch den Berührungspunkt schneiden aus der rechten Begrenzungslinie die Abschnitte A und B aus (s. Grafik).  Die Kurve ist nun dadurch charakterisiert, dass das Verhältnis B/(A+B) für alle Punkte der Kurve dasselbe ist. Ich führe dafür die Konstante Epsilon ein: ε = B/(A+B).

Was ist an dieser Kurve fraktal? Wenn man die Grafik „herunterbricht“, indem man unten oder links von der Grafik etwas weglässt, dann bleibt die ε-Eigenschaft der Kurve erhalten. Insofern sind alle Teile der Kurve „selbstähnlich“. Allerdings ist das eine ziemlich triviale Art der Selbstähnlichkeit; denn sie ist einfach eine Folge der Tatsache, dass für die formbestimmende ε-Eigenschaft nur die rechte obere Ecke eine Rolle spielt, und dass uns diese Ecke beim „Herunterbrechen“ als Orientierungspunkt erhalten bleibt.

Mit der etwas weit hergeholten Terminologie gelingt Taleb der Anschluss an die „Chaostheorie“. Und diese Theorie löst bei Taleb ein wahres Feuerwerk der Begeisterung aus: Der Schöpfer der „Apfelmännchen“, Benoît Mandelbrod („The Fractal Geometry of Nature“, 1982), ist für ihn „einer der einflussreichsten Mathematiker in der Geschichte“, wohingegen Leute, deren Augen sich dieser Welt nicht geöffnet haben, für ihn Scharlatane sind, die nichts besseres zu tun wüssten, als ihre Studenten einer Gehirnwäsche mittels gaußscher Glockenkurve und ähnlicher Betrügereien zu unterziehen.

Das Gebiet des Chaos und der Fraktale ist an Marktschreiern nicht gerade arm. Dennoch ist es seit seiner Blütezeit in den Achtzigerjahren des letzten Jahrhunderts etwas aus der Mode gekommen. Es hat den verkündeten Anspruch nicht einlösen können, Erklärungen für alles Mögliche zu liefern. Übrig geblieben ist eine hübsche Spielerei, die jedenfalls schön anzusehen ist, die aber lediglich oberflächliche Computersimulationen für komplexe Erscheinungsformen des belebten und unbelebten Universums bieten kann.

Anwendung Lorenzkurve

Sehen wir vom marktschreierischen Chaos-Marketing einmal ab, so bleibt uns doch eine klar umrissene Klasse von Funktionen. Und wir erhalten von Taleb Hinweise darauf, inwieweit diese Kurven sich zur Beschreibung und Modellierung von Phänomenen eignen könnten, die mit dem üblichen Standardinstrumentarium kaum zu erfassen sind. Die Wertschätzung, die Taleb den „fraktalen“ Verteilungen entgegenbringt, hat nämlich einen tieferen Grund: Diese Verteilungen lassen Ausreißer zu —  „schwarze Schwäne“ in Talebs Sinn. Beispielsweise verfügte im Jahr 2009 die Hälfte der deutschen Haushalte über ein monatliches Nettoeinkommen von höchstens 1311 Euro (Wochenbericht des DIW Berlin Nr. 24/2010). Daneben gibt es Leute mit einem monatlichen  Einkommen von mehreren Millionen Euro. Die Superreichen sind zwar äußerst selten, aber eben keineswegs ausgeschlossen. Mit einer unterstellten Normalverteilung der Einkommen ist das jedenfalls nicht vereinbar, mit der fraktalen Verteilung schon.

Neu ist das alles nicht. Die Lektüre von Talebs Buch hat mich an einen Aufsatz von F. J. Radermacher zum Thema „Globalisierung“ (Informatik-Spektrum 6/2002) erinnert, in dem er die Klasse fraktaler Funktionen für die Charakterisierung der Ungleichverteilung von Einkommen in den Staaten dieser Erde verwendet. Sein Ausgangspunkt ist die Armutsdefinition der Europäischen Union. Nach dieser Definition gelten Menschen als arm, wenn sie über weniger als das halbe Durchschnittseinkommen verfügen.

Nun setzt Radermacher eine fraktale Einkommensverteilung voraus: Es mögen in einem bestimmten Land der Ärmste nur über einen Bruchteil ε des Durchschnittseinkommens verfügen. Lässt man nun alle Menschen weg, die über weniger als ein bestimmtes Einkommen verfügen, dann gilt für die übrigbleibende Population der Reicheren dasselbe: Der Ärmste unter ihnen verfügt über einen Bruchteil ε des Durchschnittseinkommens dieses reicheren Teils der Bevölkerung.

Für die Beschreibung der Einkommensverteilung einer Volkswirtschaft eignet sich die Lorenzkurve: Für jede nichtnegative Zahl x kleiner als eins teilen wir die Bevölkerung Ärmere und Reichere auf derart, dass die Ärmeren insgesamt einen Bruchteil x der Gesamtbevölkerung ausmachen. Der Anteil dieser Bevölkerungsschicht am Gesamteinkommen wird mit F(x) bezeichnet. In der grafischen Darstellung ergibt sich daraus die Lorenzkurve. Eine fraktale Einkommensverteilung führt zu einer fraktalen Lorenzkurve der oben gezeigte Art. Die Konstante ε nennt Radermacher Equity-Faktor.

Der Zusammenhang zwischen der fraktalen Einkommensverteilung und der fraktalen Lorenzkurve wird klar, wenn man bedenkt, dass die Steigung der Lorenzkurve proportional zum Einkommen der durch den x-Wert repräsentierten Bevölkerungsschicht ist und dass der Proportionalitätsfaktor der Anteil dieses Einkommens bezogen auf das mittlere Einkommen derjenigen ist, deren Einkommen wenigstens genauso groß ist.

Aber eins ist gewiss: Die Anpassung einer fraktalen Kurve an eine Einkommensstatistik ist kein zwingender Prozess mit eindeutigem Ergebnis: Je nach Anpassungsverfahren ergeben sich für dieselben Daten im Allgemeinen verschiedene Equity-Faktoren und damit auch verschiedene Lorenzkurven. Ob es gerechtfertigt ist, überhaupt eine fraktale Kurve anzusetzen oder ob man besser einen anderen Ansatz wählt, muss Gegenstand einer genauen Prüfung sein. Jedenfalls ist es nicht gerechtfertigt, die Selbstähnlichkeit als naturgegeben hinzunehmen. Chaos-Klamauk hilft da nicht weiter. Die fraktalen Kurven bilden nur einen von vielen möglichen Beschreibungsansätzen.

In der Studie „Lorenzkurven, Equity-Faktoren und schwarze Schwäne“ habe ich die mathematischen Hintergründe des „Schwarzen Schwans“ und des Equity-Ansatzes etwas ausführlicher dargestellt.

Emotionen in der Wissenschaft

Emotionen haben in der Welt der Wissenschaft einen schlechten Ruf. Aber sie können dem wissenschaftlichen Diskurs auch gut tun. Mit Verve vorgetragene Überzeugungen haben große Chancen, Gehör zu finden. Und manche wissenschaftliche Aussage bleibt im kollektiven Gedächtnis haften, weil im Streit auch einmal Unhaltbares, Skurriles, Kurioses oder Polemik im Spiel war. Ein paar Beispiele:

  1. Der Streit um die Bedeutung der Fraktale findet in Talebs Buch „The Black Swan“ einen späten Nachhall. Die Sache hatte sich eigentlich schon anfangs der Neunzigerjahre erledigt, unter anderem mit dem Aufsatz „Chaos, Fraktale und das Bild der Mathematik in der Öffentlichkeit“ von Klaus Steffen (DMV Mitteilungen 1/1994, S. 25-40).
  2. In der Ausstellung „WeltWissen – 300 Jahre Wissenschaften in Berlin“, die 2010 im Martin-Gropius-Bau in Berlin im Jahr 2010 stattfand, gab es im Raum zum Thema „Streit“ eine Tafel mit diesem Text: „»Der ist wohl die Puderquaste in den Nachttopf gefallen.« So die einzig überlieferte Reaktion im Publikum auf einen Vortrag der Medizinerin Rahel Hirsch 1907 vor der Gesellschaft der Ärzte der Charité. In ihren Ausführungen hatte sie – entgegen der herrschenden Lehrmeinung – nachgewiesen, dass größere, feste Partikel durch die Schleimhaut des Dünndarms gelangen und als Fremdkörper über den Harnweg ausgeschieden werden können.“
  3. In der Unterhaltungsmathematik gab es vor vielen Jahren ein Leserbriefscharmützel zum Drei-Türen-Problem. Nachdem Marilyn vos Savant in ihrer Kolumne die korrekte Lösung vorgestellt hatte, wurde sie mit Spott überschüttet: „Unsere Fakultät hat herzlich über Sie gelacht“, „Vielleicht haben Frauen eine andere Sicht auf mathematische Probleme als Männer“, „Sie haben Unsinn verzapft“, „Darf ich den Vorschlag machen, dass Sie zunächst einmal in ein Standard-Lehrbuch über Wahrscheinlichkeitsrechnung schauen, bevor Sie das nächste Mal versuchen, ein derartiges Problem zu lösen?“, „Wieviele entrüstete Mathematiker braucht es, bis Sie endlich Ihre Meinung ändern?“ Marilyn vos Savant konterte trocken: „Lösungen mathematischer Probleme werden nicht durch Abstimmung entschieden.“ (Spektrum der Wissenschaft 11/1991, S. 12-16)

Der Drei-Türen-Streit mit seinen Entgleisungen hat für die mathematische Breitenbildung vermutlich mehr gebracht als alle didaktisch einwandfreien Bemühungen auf diesem Gebiet.

Veröffentlicht unter Prognosen, Statistik, Wahrscheinlichkeitsrechnung, Wirtschaft | Verschlagwortet mit , , , | Schreib einen Kommentar

Mensch ärgere dich

Herausgestoßen aus der Box

Arglos greife ich mir ein Buch, „The Black Swan“ von Nassim Nicholas Taleb (2007), auf das mich Daniel Kahneman mit seinem „Thinking, Fast and Slow“ (2011) aufmerksam werden ließ, und lese ein wenig kreuz und quer darin herum. Beide Bücher behandeln Themen, die für meine Denkfallen-Taxonomie, das System der Denkfallen, eine Rolle spielen.

Auf Seite 31 geht es los. Da ist die Rede vom rotzfrechen und frustrierten Durchschnittseuropäer, der von den Amerikanern nichts halte und seine Stereotype über sie zum Besten gebe: „Kulturlos“, „nicht intellektuell“ und „schwach in Mathe“. Derselbe aber, so Taleb, hänge von seinem iPod ab, trage Blue Jeans und lege seine „kulturellen“ Ansichten mittels Microsoft Word auf dem PC dar. Tatsächlich sei Amerika momentan weit, weit kreativer als diese Nationen der Museumsbesucher und Gleichungsauflöser.

Mein Blutdruck steigt. Wer ist es denn, der hier seine Stereotype pflegt? Mir fallen ein paar Namen ein: Tim Berners-Lee, ein Engländer, hat 1989 das World-Wide-Web im CERN, also mitten in Europa, erfunden. Die Physik-Nobelpreisträger von 2007, Peter Grünberg vom Forschungszentrum Jülich und Albert Fert von der Unversité Paris Sud, lösten mit ihrer Entdeckung des Riesenmagnetwiderstands eine Revolution in der digitalen Speichertechnologie aus.

Dieses Aufleuchten europäischer Beiträge zum heutigen Leben hätte mich wohl beruhigen können. Aber mein Ärger war zu groß. Ich las weiter. Sehr aufmerksam tat ich das, denn ich musste ja aufpassen, wo dieser Taleb noch daneben liegt. – Und dabei habe ich eine ganze Menge über Denkfallen gelernt.

Irgendwann begann ich, die Polemik zu genießen, beispielsweise wenn Taleb die gaußsche Glockenkurve als großen Betrug beschreibt: „I recently looked at what college students are taught under the subject of chance and came out horrified; they were brainwashed with this ludic fallacy and the outlandish bell curve.” – Wahr daran ist, dass wir die Gesetzmäßigkeiten des Zufalls im Spiel (Würfeln, Roulette, Münzwurf, Urnenmodelle) für gute Regeln auch im täglichen Leben halten, und dass wir damit den verwickelten Situationen oft nicht gerecht werden. Taleb nennt diese Denkfalle Ludic Fallacy. Die Irrtümer bei der Abschätzung von Zukunftstrends sind Beispiele dafür. Es ist tatsächlich mehr Vorsicht geboten, als wir gemeinhin aufbringen. Und es ist ganz gut, wenn uns jemand aus der Box stößt, in der alles nach der reinen Lehre funktioniert. Wir können ihm nachsehen, dass er dazu eine gehörige Portion Polemik ins Feld führt.

Begegnung mit dem schwarzen Schwan

Schwarzer Schwan in Wörlitz

Der schwarze Schwan, hier ein reales Exemplar aus dem Wörlitzer Park, steht in der Erkenntnislehre (Epistemologie) für das überraschende Ereignis, das uns zwingt, eingefahrene  Denkbahnen zu verlassen. Popper würde wohl sagen, dass die erste Beobachtung eines schwarzen Schwans die vorher allgemein akzeptierte Theorie „Alle Schwäne sind weiß“ falsifiziert hat.

Für Taleb ist ein schwarzer Schwan etwas Unerwartetes, das große Wirkung entfaltet und für dessen Erscheinen wir uns Erklärungen zurechtlegen, so dass es uns im Nachhinein als vorhersehbar erscheint. Beispiele: Die Anschläge auf das World Trade Center am 11. September 2001, der Zusammenbruch des Ostblocks und die Beendigung des kalten Krieges, der Siegeszug des Personal Computers und des Internets, überhaupt alle goßen Erfindungen und Entdeckungen, die Wirtschaftskrisen. Schwarze Schwäne sind Ereignisse außerhalb unserer Box, für die unsere Vorstellungkraft nicht ausreicht und die unser Leben umkrempeln — zum Guten oder zum Bösen.

Eigentlich handelt dieses Weblogbuch von Nachrichten, denen man nicht sofort ansieht, dass sie – hoppla! – auf Irrtümern beruhen oder in die Irre führen. In diesem Artikel läuft es einmal umgekehrt: Im Falle der Lektüre des Buches „The Black Swan“ wurde die Aufmerksamkeit ja geweckt, und zwar anders als es uns die Kommunikationsexperten als vorbildlich weis machen wollen, also nicht auf die schmerzlose, einschmeichelnde Art.

Bevor ich diesen Gedanken weiter verfolge, will ich kurz sagen, welche Erkenntnis mir Talebs Buch beschert hat. Im Grunde bewegt sich Taleb auf dem Felde der Heuristics and Biases, die von Kahneman und anderen schon seit vierzig Jahren beschrieben werden. Manch einer wirft Taleb vor, dass er nur alten Wein in neue Schläuche gießt. Aber das trifft es nicht ganz. Seine Zuspitzungen und Übertreibungen sind anregend und bringen einen auf neue Gedanken.

Und das habe ich beim Lesen des Buches kapiert: Die Erinnerungsfalle (Hindsight Bias) beruht auf dem, was Taleb die Narrative Fallacy nennt. Wir verbinden Erinnerungsbruchstücke zu einfachen Geschichten, die uns im Nachhinein gut zu passen scheinen und die unser Selbstwertgefühl stützen. Geschichten haften besser in der Erinnerung als unverbundene Einzelfakten. Dabei „bleibt alles in der Box“, im Vertrauten. Und das bewirkt systematische Verzerrungen der Wirklichkeit.

Einige unserer Irrtümer gehen auf diese Szenario-Falle zurück. Diesen Gedanken habe ich in das System der Denkfallen eingearbeitet und damit eine stärkere Aussagekraft und größere Schlüssigkeit des Systems erreicht — so hoffe ich zumindest.

Der gute Vortrag: Ein Missverständnis

Und nun zurück zum Thema. Der Schulungsleiter einer Großfirma (es war während meiner Zeit bei BBC, so um 1980 herum) meinte im Rahmen eines Rhetorik-Seminars einmal: „Geben Sie mir ein beliebiges Thema und einen Tag Zeit. Ich halte Ihnen dann einen perfekten Vortrag dazu.“ In der Tat: Seine Vorträge boten lesbare Folien, leicht verdauliche Schlagwörter, bestens geordnete Grafiken. Alles war überaus süffig. Das Urteil musste lauten: Klasse Vortrag, witzig, unterhaltend – und ohne jegliche Nachwirkungen. Eigentlich waren es nur aufgedonnerte Banalitäten. Nach diesem Rezept arbeitet auch mancher Erfolgsschriftsteller: Er sagt dir das, was du sowieso schon weißt, nur eben besonders schön.

Zu den pädagogischen Volksweisheiten gehört, dass der Lehrer den Schüler dort abzuholen hat, wo er ist. Vor allem muss er Hindernisse aus dem Weg räumen, den Schüler positiv einstimmen und motivieren. Er weiß auch: Spaß muss sein, denn das weckt die Lernbereitschaft. Abstraktionen sind Überforderungen des Gehirns und folglich zu vermeiden. Alle Themen sind vom Lehrer konkret, anschaulich und praxisnah aufzubereiten. Ausführliche Erklärungen gehören dazu. Bilder und Animationen lockern das Ganze auf. Die Zahlen erhalten Gesichter, Arme und Beine. Sie sprechen und tanzen. Die Fallgesetze sind schwer zu verstehen? Da muss ein Bild des schiefen Turms von Pisa her – schon geht es leichter. Die Mathematik und die Naturwissenschaften werden zum launigen Cartoon.

Das ist gut gemeinte aber leider ziemlich erfolglose Pädagogik. Was ist falsch daran? Ich bringe es auf eine einfache Formel: Die Belohnung kommt vor der Leistung. Und das funktioniert eigentlich nie. „Mehr desselben“, also noch mehr Belohnung vor der Leistung, ist kein Erfolgsrezept. Da bleibt nichts haften bei den Schülern und Studenten. Es ist genau andersherum: Glücksgefühle stehen nicht am Anfang, sie sind Folge der Problemlösung, der erledigten Arbeit. So funktionieren die biologischen Belohnungssysteme, und so ergibt das Ganze einen Sinn.

Manchmal beginne ich meine Vorträge mit der Warnung: Erwarten Sie keine Witze. Die Wissenschaft hat nämlich gezeigt, dass der schlecht gelaunte Zuhörer kritisch ist und mehr versteht als derjenige, der sich nur gut unterhalten fühlt. Einige der Zuhörer halten das für den ersten Witz.

Aber die Warnung ist (halb) ernst gemeint. Dass etwas daran ist, dafür liefert Kahnemans Buch den Beleg: In einem psychologischen Experiment hatten die Versuchspersonen ein Rätsel zu lösen, bei dem die Intuition irregeleitet wurde. Eine Gruppe bekam eine gut lesbare Textversion des Rätsels und die andere eine ziemlich unleserliche. Besser schnitt die Gruppe ab, die den unleserlichen Text bekommen hatte. Die Erkenntnis daraus: Die Schwierigkeiten beim Entziffern machen wachsam gegenüber der intuitiven und falschen Antwort (S. 65) und sorgen dafür, dass der Denkapparat überhaupt erst eingeschaltet wird.

Fazit: Bei der Bildung und beim Lernen steht nicht das Wohlbehagen am Anfang. Besser wirkt „Mensch ärgere dich“. Die Glücksgefühle werden dann schon kommen, mit dem Begreifen.

Veröffentlicht unter Biologie, Naturwissenschaften, Prognosen, Statistik, Wahrscheinlichkeitsrechnung, Wirtschaft | Verschlagwortet mit , , , , , | 6 Kommentare

Neurolinguistisches Programmieren (NLP) – Schaf oder Wolf?

Im Bekannten- und Freundeskreis wurde ich immer wieder einmal auf das Neurolinguistische Programmieren angesprochen, erstmals etwa 1983 durch einen Professoren-Kollegen mit Erfahrungen in der Unternehmensberatung. Seit meiner mehrjährigen Industrietätigkeit bin ich allerdings ziemlich allergisch gegen Motivierungsveranstaltungen der Art, die Industrieunternehmen ihrer mittleren Führungsschicht angedeihen lassen. Und NLP schien mir eine solche zu sein. Erst kürzlich kam NLP im Freundeskreis wieder zur Sprache, ein Anlass, sich die Sache einmal etwas genauer anzuschauen.

Im Grunde geht es um Verhaltensbeeinflussung. Geschehen soll das durch Abbildung eines wünschenswerten Verhaltens auf ein kybernetisches Modell, das dann mit gewissen Tricks von einer Person auf eine andere übertragen werden kann– so hofft man. Dabei kann ich selbst Quelle oder auch Ziel dieser Übertragung sein. Klar, dass derartige Lehren in Vertreterkreisen, im Marketingbetrieb und im weiten Feld der Werbung gut ankommen.

In dem über das Internet frei zugänglichen Text „Strategies The Mind-Body Connection to Behavior“ beschreibt der zertifizierte NLP Master Trainer (was immer das sein mag) Tad James die Sache folgendermaßen: “Modeling mental strategies in NLP allows us to take a strategy from one place and move it to another place. Now, if I’m dealing with content, then it’s hard to move content from one place to another. But if I’m dealing with process, if I’m dealing with the ‘how to’ regarding processing information then I can discover somebody’s internal program and I can install it in someone else.”

NLPler beschreiben NLP

Auf der Web-Seite www.nlp.de/info/nlp_methode.shtml liest sich das NLP-Konzept so: „Die NLP-Axiome (od. besser Glaubenssätze), die durchgängig auf ein hoffnungsvolles Menschenbild verweisen, sind als nicht überprüfbare Grundannahmen tragende Elemente des NLP. Als wichtigste Annahmen gelten nach einer Zusammenfassung von Thies Stahl:

1. Menschen reagieren auf ihre subjektive Abbildung der Wirklichkeit und nicht auf die äußere Realität.

2. Geist und Körper sind Teile des gleichen kybernetischen Systems und beeinflussen sich wechselseitig.

3. Viele Verhaltensmöglichkeiten sind wichtig, weil ein System immer von dem Element kontrolliert wird, das am flexibelsten ist.

4. Ein Mensch funktioniert immer perfekt und trifft stets die beste Wahl auf der Grundlage der für ihn verfügbaren Informationen.

5. Jedem Verhalten liegt eine positive Absicht zugrunde, und es gibt zumindest einen Kontext, in dem es nützlich ist.

6. Das Ergebnis von Kommunikation ist das Feedback, das der einzelne bekommt; Fehler oder Versagen gibt es nicht.

7. Kann ein Mensch lernen, etwas Bestimmtes zu tun, können es grundsätzlich alle Menschen.

8. Menschen verfügen über alle Ressourcen, die sie brauchen, um eine von ihnen angestrebte Veränderung zu erreichen.

Aus der Kombination der ersten beiden Grundannahmen sind nach Robert Dilts alle Modelle und Techniken des NLP entstanden. Die Grundannahmen werden von NLP nicht als Wahrheiten, sondern als nützlich apostrophiert. Sie können also auch verändert oder ergänzt werden. Schon von daher gelten sie auch nur als variable Bestandteile des NLP, deren Akzeptanz jedoch für die effektive Anwendung der NLP-Techniken stets (implizit) vorausgesetzt wird.“

Warum sollten sich Skeptiker für NLP interessieren?

Eigentlich ist NLP ja ein harmloses Schaf: Eingestandenermaßen sind „nicht überprüfbare Grundannahmen tragende Elemente des NLP“. Es handelt sich also um ein Glaubenssystem. Und Glaubenssysteme sind dem Skeptiker in seinem aufklärerischen Bemühen ziemlich egal. Er geht die Sache erst an, wenn ein Glaubenssystem mit dem Anspruch der Wissenschaftlichkeit daherkommt.

Die Homöopathie beispielsweise bietet aus diesem Grund ein wirklich lohnendes Angriffsziel für den Skeptiker. (Artikel: Wie wissenschaftlich ist die Homöopathie?) Auch das Intelligent Design gehört zum Zielgebiet der Skeptiker, denn ID verbindet Religion mit Wissenschaftsanspruch. Angriffe auf das ID, Richter John Jones aus Pennsylvania nannte es seinerzeit (2005) eine „atemberaubende Trivialität“, machen darüber hinaus Spaß. Denn die gewöhnlich mit großem Ernst vorgetragenen Kernaussagen des ID lassen sich schon mit ziemlich einfachen Computerprogrammen restlos widerlegen, wie im Aufsatz „Ist das Gute göttlich oder Ergebnis der Evolution?“ gezeigt wird.

Der Wissenschaftsanspruch geht dem NLP ab – so die Selbstauskunft. Aber — hoppla! — bereits der Name Neurolinguistisches Programmieren drückt das Gegenteil aus: Der naive Adressat muss annehmen, dass es sich hier um seriöse Neurowissenschaft gepaart mit Sprachwissenschaft handelt. Und die Benennung als Programmierung setzt noch eins drauf: Sie soll das Bild solider Technik evozieren. Einen ebensolchen Etikettenschwindel finden wir bei der Scientology-Sekte.

Wir sehen: Das „Schaf“ tritt ziemlich aggressiv auf. Die Leugnung des Wissenschaftsanspruchs dient wohl nur der Immunisierung gegen Skeptikerangriffe. Skeptiker sollten sich das NLP trotzdem vorknöpfen.

Was ist dran am NLP?

Die oben genannten NLP-Glaubenssätze wirken auf mich wie die Aufmunterungszurufe eines Motivations-Gurus. Sie haben mich an Frank T. J. Mackey erinnert, den Sex-Guru aus dem Film „Magnolia“. (Tom Cruise in einer seiner besseren Rollen.)  Lernen lässt sich daraus nichts. Dazu einige Anmerkungen.

Die Kybernetik aus Glaubenssatz 2 ist eine veraltete Modellvorstellung für Körper-Geist-Betrachtungen. Einen „Steuermann“ sieht man heute nicht mehr am Werk. „Wer bin ich, und wenn ja, wieviele“ (Richard David Precht) trifft eher den Kern heutigen Wissens über die Selbstkontrollfähigkeit des Menschen.

Den Glaubenssatz 4 „Ein Mensch funktioniert immer perfekt“ halte ich für grundfalsch. Das Denkfallen-Konzept deutet in die entgegengesetzte Richtung.

Auch Glaubenssatz 6 „Fehler oder Versagen gibt es nicht“ taugt nicht viel: Wenn’s keine Fehler gibt, dann gibt’s auch nichts zu lernen. Seit 150 Jahren wissen wir, dass alle Evolution durch Versuch und Fehlerbeseitigung voranschreitet. Wissenschaft folgt dieser negativen Methode: Suche nach und Lernen aus Fehlern. NLP ist demgegenüber eine der vielen Richtungen positiven Denkens: Wohltuend und fruchtlos.

Bei den Glaubenssätzen 7 und 8 sehe ich Frank T. J. Mackey plastisch vor mir: „Ja! du kannst es!“ Wer so etwas ernst nehmen kann, ist bei NLP gut aufgehoben.

Veröffentlicht unter Naturwissenschaften, Wirtschaft, Wissenschaft und Pseudowissenschaft | Verschlagwortet mit | 26 Kommentare

Gedankenknäuel. Paradoxien und Tautologien des Alltags

Rückbezüge

„Ich mache es, um herauszufinden, warum ich es tue.“ Dieser Satz steht im Spiegel 45/2011. Ich weiß nicht, ob seinem Urheber, dem Schauspieler Ryan Gosling, ganz klar ist, was er mit diesem Satz so anrichtet. Gosling drückt aus, dass er nicht weiß, warum er „es“ tut. Gleichzeitig nennt er uns einen Grund. Der Arme ist gefangen im Niemandsland zwischen Tun und Lassen. Der Satz ist ein Beispiel für gehirnmarternde Rückbezüge. Und solche Rückbezüge wollen wir uns hier genauer anschauen.

Rueckbezug in der Werbung

Rückbezug in der Werbung

Unter der Überschrift „Schlechte Nachrichten für Verschwörungstheoretiker“ berichtet die dpa gemäß Tageszeitung vom 9.11.2011: „Jetzt ist es offiziell: Das Weiße Haus hat keinen Beweis für die Existenz von Außerirdischen.“ Hier wird die Sache interessant, wenn man das Weiße Haus der Verschwörung zurechnet: Egal, was das Weiße Haus verlauten lässt, immer kann es als Bestätigung dafür dienen, dass es die Verschwörung tatsächlich gibt, denn: Verschwörer werden die Verschwörung leugnen.

Und hier noch ein paar Fundstücke aus der ganz alltäglichen Kommunikation:

„Wie lange gedenkst du noch, verrückt zu bleiben?“ -„Das fragst du einen Verrückten?“

Beziehungsgeplänkel: „Hast du `ne andere?“ -„Nein.“ -„Ehrlich?“ -„Ja doch.“

In einer Szene des Monty-Python-Films „Das Leben des Brian“ von 1980 wird Brian von einer Anhängerschar verfolgt.

Brian: Ich bin nicht der Messias. Würdet ihr mir bitte zuhören: Ich bin nicht der Messias. Versteht ihr das? Ganz, ganz ehrlich.

Frau aus der Menge: Nur der wahrhaftige Messias leugnet seine Göttlichkeit.

Brian: Was? Ihr müsst mir doch ’ne Chance lassen, da rauszukommen. Also gut: Ich bin der Messias.

Menge: Er ist es! Er ist der Messias.

Brian: Und jetzt: Verpisst euch!

Ein rückbezüglicher (oder selbstbezüglicher) Satz enthält zwei Aussagen. „Die eine Aussage wird in der Objektsprache, die andere in der Metasprache getroffen und sagt etwas über die Aussage in der Objektsprache aus“ (Watzlawick, Beavin und Jackson in „Menschliche Kommunikation“, 1969, Abschnitt 6.3).

Angenommen, nur der wahre Messias kann seine Göttlichkeit leugnen, dann ist Brians Aussage „Ich bin nicht der Messias“ rückbezüglich und ohne jeglichen Gehalt: Jeder kann unter der Prämisse, dass nur der wahrhafte Messias sich verleugnen kann, behaupten, nicht der Messias zu sein, ob er nun der Messias ist oder nicht. Wir haben es mit einer Tautologie zu tun, einer Aussage also, die mit jedem denkbaren Sachverhalt verträglich ist.

Der einfachste tautologische Rückbezug dürfte der Satz „Ich lüge nicht“ sein: Sowohl der Lügner als auch der Wahrheitsliebende kann ihn sagen, ohne sich in Widersprüche zu verwickeln. Ich bezeichne diesen Satz auf Kommunikations- bzw. Objektebene mit A. Gleichzeitig macht der Satz auf Metaebene eine Aussage über den Wahrheitsgehalt des Satzes. Beide Aussagen sind gleichzeitig entweder wahr oder falsch: A = A. Diese Gleichheit gilt unter allen Umständen; sie sagt nichts über die Wirklichkeit aus.

Widersprüche

Aber das alles trifft nicht den Kern des ersten Beispiels. Hier haben wir es nicht mit einer Tautologie, sondern mit einem rückbezüglichen Widerspruch zu tun. Das einfachste Beispiel dieser Art ist der Satz „Ich lüge“.

Er führt auf einen Widerspruch der Form A = ¬A und das besagt, dass sowohl der Satz A als auch dessen logisches Gegenteil ¬A gleichzeitig wahr oder gleichzeitig falsch sind. Der Satz ist ohne Sinn (Lügnerparadoxon in Denkfallen und Paradoxa).

Früher, als Student in den späten Sechzigerjahren, habe ich gelitten: Hegel zu lesen und zu verstehen hielt ich angesichts der damaligen Studentenrevolte für unverzichtbar. Es war ein grausames Misslingen; Hegel hatte offenbar einen Weg gefunden, sich in einer für mich völlig unverständlichen Weise auszudrücken. Heute sehe ich Hegel deutlich entspannter: Man muss die Texte einfach mit derselben Grundeinstellung lesen, mit der man sich einen Monty-Python-Film ansieht. Seit ich das tue, habe ich Spaß daran.

Nehmen wir uns ein paar Textproben aus seiner Philosophischen Propädeutik vor. Im Anhang über Antinomien schreibt Georg Wilhelm Friedrich Hegel (1770-1831) unter § 73: „1) Die Welt ist der Zeit nach endlich oder hat eine Grenze. In dem Beweise der Thesis ist eine solche Grenze, nämlich das Jetzt oder irgendein gegebener Zeitpunkt angenommen. 2) Das Dasein hat nicht an dem Nichtdasein, an der leeren Zeit, eine Grenze, sondern nur an einem Dasein. Die sich begrenzenden sind auch positiv aufeinander bezogen und eines hat zugleich dieselbe Bestimmung als das andere. Indem also jedes Dasein begrenzt oder jedes ein endliches d. h. ein solches ist, über welches hinausgegangen werden muss, so ist der Progress in’s Unendliche gesetzt.“ Und weiter geht’s mit § 74: „Die wahrhafte Auflösung dieser Antinomie ist, dass weder jene Grenze für sich, noch dies Unendliche für sich etwas Wahres ist, denn die Grenze ist ein solches, über welches hinausgegangen werden muss und dies Unendliche ist nur ein solches, dem die Grenze immer wieder entsteht. Die wahre Unendlichkeit ist die Reflexion in sich und die Vernunft betrachtet nicht die zeitliche Welt, sondern die Welt in ihrem Wesen und Begriff.“

Um das zu verstehen, übersetze ich § 69 des Anhangs über Antinomien einmal in die heutige mathematische Sprache: Kann man für ein Ding die Aussage A herleiten und gleichzeitig deren Negation ¬A, so „entstehen dadurch antinomische Sätze, deren jeder gleiche Wahrheit hat“. Für Hegel ist also die konjunktive Verknüpfung der Aussagen A und ¬A wahr, anders als für den Logiker, der dem zusammengesetzten Ausdruck A˄¬A nur den Wert falsch zuerkennen kann und der darauf bestehen wird, dass in den Herleitungen von A oder ¬A Fehler stecken müssen.

Ludwig Boltzmann fand Hegels Einlassungen zur Logik einer ernsthaften Kritik würdig: „Dies Logik zu nennen, kommt mir vor, wie wenn jemand, um eine Bergtour zu machen, ein so langes und faltenreiches Gewand anzöge, dass sich darin seine Füße fortwährend verwickelten und er schon bei den ersten Schritten in der Ebene hinfiele.“ (Auf einem Kongress in St. Louis 1904)

Analyse

Wir nehmen die Werkzeuge der Logiker und nähern uns damit dem ersten Beispiel, nämlich dem Satz „Ich mache es, um herauszufinden, warum ich es tue“. Offenbar weiß Gosling nicht, warum er „es“ (die Schauspielerei nämlich) tut. Diesen Sachverhalt bezeichne ich einmal mit A. Die Feststellung, dass er es tut, erhält das Symbol B. Die Aussage von Gosling unterstellt eine Kausalbeziehung, nämlich dass es einen Grund für sein Tun gibt und dass dieser Grund das Nichtwissen des Grundes ist, nämlich A. In Kürze: AB.

Gosling gibt also einen Grund für sein Tun an. Folglich ist der Grund bekannt und es gilt ¬A (Es ist nicht wahr, dass er nicht weiß, warum er es tut). Es gilt also gleichermaßen A und ¬A. Damit kommt vielleicht der Hegel-Geschulte zurecht, nicht aber der allgemeine Menschenverstand. Mir reicht es, das Gedankenknäuel entwirrt zu haben: Gosling ist entweder auf den Spuren der Monty-Python-Truppe gewandelt, oder er hat versehentlich Unsinn geredet; das kann ja mal passieren.

Ein Rätsel zum Schluss

Wie groß ist die Chance, dass Sie richtig liegen, wenn Sie auf diese Frage eine der folgenden Antworten rein zufällig auswählen?

(A) 25 %

(B) 0 %

(C) 25 %

(D) 50 %

Quelle: „Best Statistics Question Ever“ von Raymond Johnson, 20.10.2011.

 

Veröffentlicht unter Logik | Verschlagwortet mit , | 3 Kommentare