Harry Potter ex machina - herrlich grandioser Mist!

[Ulf Schiewe]

Ich weiß nicht, wie gut QualiFiction ist. Ich beziehe mich nur auf die Arbeiten der Autoren von "Der Bestseller Code". Deren Arbeit mir plausibel erscheint. Einer der beiden Autoren ist Akademiker und forscht auf diesem Gebiet mit Text Mining.

 

Ich habe mal kurz auf die Webseite von QualiFiction geschaut. Macht auf mich nicht den seriösen Eindruck, der bei dem genannten Buch zu Ausdruck kommt.

Bearbeitet 21. Dezember 2017 von Ulf Schiewe

[Christa]

Ich weiß nicht, wie gut QualiFiction ist. Ich beziehe mich nur auf die Arbeiten der Autoren von "Der Bestseller Code". Deren Arbeit mir plausibel erscheint. Einer der beiden Autoren ist Akademiker und forscht auf diesem Gebiet mit Text Mining.

 

Ich habe mal kurz auf die Webseite von QualiFiction geschaut. Macht auf mich nicht den seriösen Eindruck, der bei dem genannten Buch zu Ausdruck kommt.

 

Danke, Ulf. Bei dieser Autorin und dem Programm hatte ich nämlich auch den Eindruck, es funktioniere so ähnlich wie diese Spielchen: Wer wärest du gewesen, wenn du im Mittelalter gelebt hättest? 

[Olaf]

Wir wollen den Leser dazu bringen, dass er Ärger empfindet. Das heißt also, unsere Perspektivfigur in der Szene soll sich ärgern und der Leser mit ihr (nicht über sie).

Ich setzte die Figur in die Küche, herein kommt ihr Angetrauter, er trägt grüne Socken, was sie ärgert. […]

 

Ich frage mich wirklich, wie geht das? Ich habe ein paar Regeln aus Schreibratgebern und schreibe nun zwei, drei Seiten und erzeuge Ärger beim Leser. Nachhaltig, nachvollziehbar und ohne mich einzufühlen in Szene und Figuren. Wie geht das? Ernsthaft.

 

 

Ich finde die Idee gut, es mal durchzudenken, wie so etwas funktionieren könnte.

 

Bei dem Beispiel mit den grünen Socken würde ich aber gerne mal lesen, wie eine Autorin das schreiben will, sodass ich als Leser mich ärgere. Die Figur ärgert sich - ok. Aber der Leser? Das wird sehr, sehr schwierig.

Ist egal, es geht ja nicht um das konkrete Beispiel.

 

Nehmen wir an, ein Programm soll diese Szene so schreiben, dass sich ein Leser mit der Figur ärgert. Und wir nehmen an, wir müssten ganz von vorne anfangen. Dann stelle ich mir den Ablauf in etwa so vor:

1. Menschen suchen etwa 1000 Textstellen aus verschiedenen Büchern heraus, in denen sich Leser und Figur ärgern. Diese Passagen werden in das Programm (nennen wir es mal "Besti") eingespeist.
2. Besti analysiert nun Wortwahl, Wortstellung, was-weiß-ich-alles. Daraus leitet Besti vermeintliche Regeln ab, die auf Ärger hindeuten. Beispielsweise könnte es gehäuft abgebrochene Sätze in der direkten Rede geben, weil sich die Figuren gegenseitig unterbrechen. Andere Regeln führen in die Irre, etwa dass es häufiger Ärger gibt, wenn es im Kapitel geregnet hat.
3. Auf Grundlage seiner Regeln verfasst Besti 100 Textstücke.
4. Menschen lesen diese Textstücke, verwerfen den größen Teil als Schrott und geben Besti den Auftrag, den Rest zu modifizieren.
5. Diese Punkte werden x-fach durchlaufen. Eine ziemlich mühsame Sache, und der Mensch gibt dabei als selektives Element vor, was gut ist und was nicht. Das ist die Stelle, an welcher sozusagen die Menschlichkeit einfließt.
6. Die Texte werden im Wechselspiel von Veränderung und Selektion immer besser, und Bestis Regelwerk wird immer zutreffender. Das ist ein evolutiver Prozess, und es kommt ganz viel Mensch hinein. Die Regeln selbst gibt aber kein Mensch vor, die denkt Besti sich selbst aus. Wir wissen nicht einmal, wie diese Regeln aussehen, denn das sind keine Lehrsätze nach der Art "Wenn A, dann B". Es sind die Verknüpfungen verschiedener Bereiche des Programms und deren Eigenschaften. So in der Art: "Wenn A und B, aber nicht C, jedoch ein wenig D, auf jeden Fall mehr als E, dann ein bisschen G, und der Wert von H steigt ebenfalls um 30 %."
7. Irgendwann hat Besti einen Text geschrieben, der tatsächlich das Ziel erreicht. Ok, für diesen Spezialfall und mit intensivem Training und einer Menge Betreuung. Aber lass diesen Prozess für verschiedene Situationen, Gefühle, Emotionen etc. laufen, und du erhältst letztlich ein Besti 2.0, das bei seinen Lesern echte Gefühle auslösen kann - obwohl es selbst niemals irgend etwas fühlt.

 

Wir haben übrigens unter uns Menschen, die nach einem ähnlichen Schema vorgehen. Bei manchen Formen des Autismus fehlt die Fähigkeit, Emotionen selbst zu empfinden und bei anderen Menschen wahrzunehmen. Einige Autisten behelfen sich mit selbst aufgestellten Regeln nach der Art: "Er hat die Augenbrauen innen nach unten gezogen und die Lippen aufeinandergepresst. Also ist er wohl wütend."

Schauspieler stellen Emotionen ähnlich dar. Oder muss ein Schauspieler wirklich immer die Emotion empfinden, die er übermitteln möchte?

 

So in der Art könnte es gehen, denke ich. Vielleicht würde es sogar mit grünen Socken funktionieren.

[Susann]

O.K., ich akzeptiere, dass auch ein Schreibroboter beim Lesen Gefühle erzeugen kann. Vielleicht kann er sogar Biografien erstellen und Beziehungsstrukturen abgleichen und in einen sinnvollen Zusammenhang setzen. Aber was er in meinen Augen niemals haben kann, ist ein Sprachgefühl, ​Eigenschaften wie Humor oder philosophisches Denken (wobei wieder Ulfs Botschaften und Kulturgeschichte ins Spiel kommen würden).

 

 

Aber, Christa, liegt nicht der Wert in unserer Arbeit genau darin, dass wir unseren ganz individuellen Hintergrund an Erfahrungen in unsere Texte mit einbringen? (Natürlich eingepackt in Handwerkszeug, aber eben nicht ausschließlich damit, sondern oft auch intuitiv). Also selbst wenn eine künstliche Intelligenz Gefühle erzeugt und Biographien erstellt - so fehlt ihr doch der Hintergrund, der uns als Individuum auszeichnet. Jeder Autor spiegelt sich in seinem Text, ob er will oder nicht. Unsere Erinnerungen, zum Beispiel, sind oft an Gefühle geknüpft. Vanilleduft kann bei dem einen das Gefühl von Geborgenheit erzeugen, weil er vielleicht in der Kindheit in der Küche der Mutter stand, wenn sie gebacken hat, und immer naschen durfte. Bei einem anderen aber erzeugt Vanilleduft vielleicht genau das Gegenteil. Trotzdem wird auch der eine Szene verstehen, in der der Duft von Vanille Geborgenheit erzeugt, einfach, weil er aus der eigenen Erfahrung weiß, dass es so eine Verknüpfung von Erlebnissen mit Gefühlen gibt, weil er das von sich selbst her kennt.

Wie will das eine künstliche Intelligenz, die Gefühle nicht kennt, sondern nur sortiert, das plausibel nachvollziehen?

 

Edit: Hat sich überschnitten.

Bearbeitet 21. Dezember 2017 von Susann

[Susann]

 

Ich finde die Idee gut, es mal durchzudenken, wie so etwas funktionieren könnte.

 

Bei dem Beispiel mit den grünen Socken würde ich aber gerne mal lesen, wie eine Autorin das schreiben will, sodass ich als Leser mich ärgere. Die Figur ärgert sich - ok. Aber der Leser? Das wird sehr, sehr schwierig.

 

 

Diese Frage ist essentiell und ich denke, wenn wir die nicht klären, dann reden wir auf jeden Fall aneinander vorbei.

Warum sollte ich es als Autor nicht schaffen, dass der Leser sich in meinem Beispiel ärgert? Natürlich schaffe ich das und die Antwort, wie das geht, hab ich oben schon geschrieben (ich zitiere mich da mal selbst):

 

"Wo bleibt bei dieser Szene die eigentliche Beziehung der beiden Figuren? Ärgert sich die Perspektivfigur vielleicht nur über die Socken, weil die ein Ventil für einen noch viel größeren Ärger sind? Und kann ich als Leser, wenn ich diesen größeren Ärger kenne oder spüre und die Unfähigkeit der Figur, ihn adequat zu bewältigen, kann ich dann nicht viel eher verstehen, warum sie sich über die Socken ärgert?"

 

Der Schlüssel liegt also im Unterschwelligen, Unausgesprochenen. Wenn ich meine Figuren im Griff habe, dann weiß ich genau, wie sie ticken. Eine solche Sockenszene würde ich als Autorin genau dann in den Roman reinbringen, wenn ich den Leser die Hilflosigkeit meiner Hauptfigur spüren lassen will. Sie kann sich gegen den Mann nicht direkt zur Wehr setzen (irgendwas ist vorher vorgefallen), braucht aber ein Ventil für ihren Ärger und wählt die Socken. Lasse ich den Mann entsprechend auf ihren Einwurf reagieren, dann hab ich den Leser emotional und zwar auf der Seite der Hauptfigur.

Dafür brauche ich als Autor Empathie.

 

Lasse ich, so wie du das schilderst, das Programm lernen, endet der Sockenstreit vermutlich eher in einer Solidarisierung des Lesers mit dem Sockenträger, eben weil das Programm den doppelten Boden nicht erzeugen kann. Im Unterschwelligen liegt aber die eigentliche Aussage der Szene. Ich sehe nicht, wie das durch ein Lernverfahren erzeugt werden soll.

Bearbeitet 21. Dezember 2017 von Susann

[Ulf Schiewe]

Leute, überlegt mal. Ein Computer soll sich eine Geschichte ausdenken, wie ich sie gerade schreibe? Zuerst ein Konzept entwerfen und dann die Recherche erledigen, die relevanten Elemente aussuchen, Figuren stricken mit ihren Motivationen, Stärken und Schwächen, ein Plot entwerfen, spannende Wendungen einbauen, Konflikte eskalieren lassen, Liebesszenen schreiben, tolle Dialoge schreiben, Landschaften zum Leben erwecken, das Herz des Lesers rühren ... und das auch noch einigermaßen lesbar, vielleicht sogar literarisch?

 

Wirklich?

 

Bis jetzt gibt es ja noch nicht mal eine vernünftige Übersetzungssoftware. Und das bei glasklarer Textvorlage.

 

Vielleicht einen Sportbericht: "Bayern München hat zum zwanzigsten Mal Borussia Dortmund geschlagen (3:1). Müller schoss dabei zwei Tore. Der Trainer war mit der Leistung der Mannschaft zufrieden."

 

Viel mehr wird es in ziemlich absehbarer Zeit nicht geben.

Bearbeitet 21. Dezember 2017 von Ulf Schiewe

[Susann]

Ist doch ganz einfach

 

Also, wir haben da die künstliche Intelligenz und die Aufgabe lautet: Liebesroman. Gut. Der Computer weiß, er braucht eine (Traum)Frau und einen(Traum)Mann und wählt sich aus seinem Fundus welche aus. Blonde Frau - okay, die liebt meist einen dunkelhaarigen Mann, also, und kleine Macke? Na klar, die Frau hat ein Piercing in der Nase, das eitert.

Nein, sagt die KI, das geht gar nicht, das ekelt die Leute.

Gut, dann hat der Mann zwei graue Haare.

Nein, sagt die KI, der ist zwanzig und statistisch gesehen kann er keine grauen Haare haben.

Nagut, okay, der Computer weiß, er braucht als nächstes einen Konflikt. Er sucht bisschen und findet: Dreiecksgeschichte. Er braucht einen zweiten (Traum)Mann. Auch dunkelhaarig (aber das mit den kleinen Macken klappt ja vielleicht noch, um dem Leser die Unterscheidung zu vereinfachen   ). Gut, also, erstes Kapitel, die Frau trifft auf Traummann1, er sagt ihr 'Ich liebe dich' und daraus entspinnt sich ein langer Dialog. Mit Setting, natürlich, sie sind inner Kneipe, da kann sich wohl jeder Computer was zusammenreimen. Aber, wo ist der Konflikt - ja klar, Traummann 2 kommt rein und sagt ihr 'Ich liebe dich'. Ende der Szene.

Natürlich weiß die KI, dass, nach der Einführung des zentralen Konfliktes, nun erst einmal die drei Figuren in ihrem Umfeld vorgestellt werden müssen. Wieder drei Kapitel weiter.

Der Computer kennt selbstredend auch das Dreiaktmodell, also erster Plotpoint, die Frau entscheidet, dass sie sich auf beide Männer gleichzeitig einlässt, natürlich, ohne ihnen das zu sagen. Tja, der Mittelteil wird nun schwierig, denn hier muss ja bisschen was Zuspitzendes erzählt werden. Der Computer entscheidet sich für paar Konflikte auf beruflicher Basis und mit den Schwiegermüttern in spe.

Zweiter Plotpoint: Alles fliegt auf, die Männer trennen sich von der Frau, Schwiegermütter ade.

Der Computer weiß: Für einen muss sie sich nun entscheiden. Wenn sie ihn denn versöhnen kann. Die KI checkt den Speicher, bemüht die Zahlen und befindet, dass Traummann1 derjenige welche ist. Sein erstellter Charakter besagt, dass er gerne Schokolade isst. Also kauft die Frau eine Schokolade, bittet um Verzeihung, und sie lebten glücklich bis an ihr Lebensende.

 

Nächste Aufgabe: Noch ein Liebesroman. Gut. Die Frau hat dunkle Haare, also muss der Mann blond sein .....

 

Sooooo einfach

Bearbeitet 21. Dezember 2017 von Susann

[Christa]

 

Wir wollen den Leser dazu bringen, dass er Ärger empfindet. Das heißt also, unsere Perspektivfigur in der Szene soll sich ärgern und der Leser mit ihr (nicht über sie).

Ich setzte die Figur in die Küche, herein kommt ihr Angetrauter, er trägt grüne Socken, was sie ärgert. […]

 

Ich frage mich wirklich, wie geht das? Ich habe ein paar Regeln aus Schreibratgebern und schreibe nun zwei, drei Seiten und erzeuge Ärger beim Leser. Nachhaltig, nachvollziehbar und ohne mich einzufühlen in Szene und Figuren. Wie geht das? Ernsthaft.

 

 

Ich finde die Idee gut, es mal durchzudenken, wie so etwas funktionieren könnte.

 

Bei dem Beispiel mit den grünen Socken würde ich aber gerne mal lesen, wie eine Autorin das schreiben will, sodass ich als Leser mich ärgere. Die Figur ärgert sich - ok. Aber der Leser? Das wird sehr, sehr schwierig.

Ist egal, es geht ja nicht um das konkrete Beispiel.

 

Nehmen wir an, ein Programm soll diese Szene so schreiben, dass sich ein Leser mit der Figur ärgert. Und wir nehmen an, wir müssten ganz von vorne anfangen. Dann stelle ich mir den Ablauf in etwa so vor:

1. Menschen suchen etwa 1000 Textstellen aus verschiedenen Büchern heraus, in denen sich Leser und Figur ärgern. Diese Passagen werden in das Programm (nennen wir es mal "Besti") eingespeist.
2. Besti analysiert nun Wortwahl, Wortstellung, was-weiß-ich-alles. Daraus leitet Besti vermeintliche Regeln ab, die auf Ärger hindeuten. Beispielsweise könnte es gehäuft abgebrochene Sätze in der direkten Rede geben, weil sich die Figuren gegenseitig unterbrechen. Andere Regeln führen in die Irre, etwa dass es häufiger Ärger gibt, wenn es im Kapitel geregnet hat.
3. Auf Grundlage seiner Regeln verfasst Besti 100 Textstücke.
4. Menschen lesen diese Textstücke, verwerfen den größen Teil als Schrott und geben Besti den Auftrag, den Rest zu modifizieren.
5. Diese Punkte werden x-fach durchlaufen. Eine ziemlich mühsame Sache, und der Mensch gibt dabei als selektives Element vor, was gut ist und was nicht. Das ist die Stelle, an welcher sozusagen die Menschlichkeit einfließt.
6. Die Texte werden im Wechselspiel von Veränderung und Selektion immer besser, und Bestis Regelwerk wird immer zutreffender. Das ist ein evolutiver Prozess, und es kommt ganz viel Mensch hinein. Die Regeln selbst gibt aber kein Mensch vor, die denkt Besti sich selbst aus. Wir wissen nicht einmal, wie diese Regeln aussehen, denn das sind keine Lehrsätze nach der Art "Wenn A, dann B". Es sind die Verknüpfungen verschiedener Bereiche des Programms und deren Eigenschaften. So in der Art: "Wenn A und B, aber nicht C, jedoch ein wenig D, auf jeden Fall mehr als E, dann ein bisschen G, und der Wert von H steigt ebenfalls um 30 %."
7. Irgendwann hat Besti einen Text geschrieben, der tatsächlich das Ziel erreicht. Ok, für diesen Spezialfall und mit intensivem Training und einer Menge Betreuung. Aber lass diesen Prozess für verschiedene Situationen, Gefühle, Emotionen etc. laufen, und du erhältst letztlich ein Besti 2.0, das bei seinen Lesern echte Gefühle auslösen kann - obwohl es selbst niemals irgend etwas fühlt.

 

Wir haben übrigens unter uns Menschen, die nach einem ähnlichen Schema vorgehen. Bei manchen Formen des Autismus fehlt die Fähigkeit, Emotionen selbst zu empfinden und bei anderen Menschen wahrzunehmen. Einige Autisten behelfen sich mit selbst aufgestellten Regeln nach der Art: "Er hat die Augenbrauen innen nach unten gezogen und die Lippen aufeinandergepresst. Also ist er wohl wütend."

Schauspieler stellen Emotionen ähnlich dar. Oder muss ein Schauspieler wirklich immer die Emotion empfinden, die er übermitteln möchte?

 

So in der Art könnte es gehen, denke ich. Vielleicht würde es sogar mit grünen Socken funktionieren.

 

 

Meinst du das ernst, Olaf? Das ist ja ein derartiges Procedere, dass man doch gleich einen Autor dransetzen könnte. Und ab Punkt 5 kommt ja tatsächlich Mensch vom Menschen rein. Würde es nicht gefühlte Wochen, Monate, Jahre dauern, bis so ein Machwerk fertig ist? Aber gut, es ist ja nur ein Beispiel von dir, wie ein Computer Gefühle erzeugen könnte, ohne selbst welche zu empfinden.

 

Wie die Beispiele von Ulf und Susann zeigen, ist das wohl die Antwort darauf, was den Autor vom Roboter unterscheidet. Der Roboter könnte schon herausfinden, dass viele Menschen zum Beispiel Schokolade mögen, er könnte auch den Vanilleduft irgendwie einsetzen. Aber die Unterschwelligkeiten, Doppeldeutigkeiten, die von Ulf genannten Kriterien wie Landschaftsbeschreibungen, Verstrickungen, Eskalationen, Recherchen kann er nicht leisten. Es würde eine einfach gestrickte Geschichte herauskommen, wie Susann sie dargestellt hat.

 

Was mich noch interessieren würde: Ich würde gern mal ein Gedicht oder ein kurzes Textstück auf Deutsch von einem Computer lesen. Dieses Gedicht mit den Eiskristallen aus dem Zeitartikel fand ich gar nicht so unpoetisch. Aber der Link führt jetzt ins Leere. Hätte da jemand was parat?

[Olaf]

Mensch, Leute, so ein Programm würde doch nicht gleich mit "Krieg und Frieden" anfangen. Vermutlich erst einmal mit Kurzgeschichten, die wenig komplex sind. Und sich dann steigern. Es bräuchte auch nicht immer wieder alles von vorne zu lernen. Vielleicht würde es ganz anders trainiert werden, als ich das dargestellt habe. Aber ich sehe kein grundsätzliches Problem, warum Programme nicht eines Tages in der Lage sein sollten, konkurrenzfähige Texte zu schreiben. Komplexität allein dürfte auf Dauer kein Hinderungsgrund sein.

 

Natürlich müsst ihr diese Ansicht nicht teilen. Ich kann euch auch nicht den Beweis liefern, weil es den ja naturgemäß noch nicht gibt. Warten wir doch einfach mal ab, was passiert.

 

Und falls jemand einen ernsthaften Textversuch von einem Computer kennt (das mit Harry Potter war ja eher als Witz gedacht), wäre ich genau so neugierig drauf wie Christa.

[Susann]

Mensch, Leute, so ein Programm würde doch nicht gleich mit "Krieg und Frieden" anfangen. Vermutlich erst einmal mit Kurzgeschichten, die wenig komplex sind. Und sich dann steigern. Es bräuchte auch nicht immer wieder alles von vorne zu lernen. Vielleicht würde es ganz anders trainiert werden, als ich das dargestellt habe. Aber ich sehe kein grundsätzliches Problem, warum Programme nicht eines Tages in der Lage sein sollten, konkurrenzfähige Texte zu schreiben. Komplexität allein dürfte auf Dauer kein Hinderungsgrund sein.

 

Natürlich müsst ihr diese Ansicht nicht teilen. Ich kann euch auch nicht den Beweis liefern, weil es den ja naturgemäß noch nicht gibt. Warten wir doch einfach mal ab, was passiert.

 

Und falls jemand einen ernsthaften Textversuch von einem Computer kennt (das mit Harry Potter war ja eher als Witz gedacht), wäre ich genau so neugierig drauf wie Christa.

 

Hatte gerade eine Diskussion mit meinem Mann (nein, nicht über grüne Socken), der sagte, so eine künstliche Intelligenz sei dann stark, wenn kein Verständnis vonnöten ist. Ansonsten muss sie mit derart vielen Beispielen gefüttert werden, je komplexer die Aufgabe, desto mehr Beispiele sind nötig. Beim Romanschreiben kann sich die Künstliche Intelligenz zudem nicht selber korrigieren - anders wie bei Spielen wie Schach oder GO, wo sie gegen sich selbst spielt, um sich zu verbessern. Das heißt, sie braucht den Input von außen, um zu lernen, was wiederum bedeutet, dass sie beim Schreiben nicht besser sein kann als der Mensch.

 

Ich hatte dann die Frage, wie so ein Lernverfahren denn zum Beispiel Figuren unterscheiden kann. Ich habe die Sockenszene, erzählt, einmal aus der Sicht des Mannes, einmal aus der Sicht der Frau. Es reicht nicht, dem Programm beide Texte als gelungen zu signalisieren, denn es muss ja an den Punkt kommen, wo es Charaktere unterscheiden kann, um selbst einen neuen Charakter zu erfinden, der schlüssig agiert. Figuren zu unterscheiden ist für uns eine leichte Übung, oder? Wie soll das so ein Programm erlernen? Mein Mann antwortet nur: Es braucht genügend Beispieltexte (wobei er von milliarden Texten redet, nicht nur von tausend). Ich sage: Es wird keine zwei vergleichbaren Texte geben, weil jeder Autor seinen eigenen persönlichen Erfahrungsschatz mit einbringt.

 

Boah, vielleicht sind meine Hirnwindungen dafür nicht geeignet, aber ich kanns nicht nachvollziehen.

Bearbeitet 21. Dezember 2017 von Susann

[Ramona]

Wie die Beispiele von Ulf und Susann zeigen, ist das wohl die Antwort darauf, was den Autor vom Roboter unterscheidet. Der Roboter könnte schon herausfinden, dass viele Menschen zum Beispiel Schokolade mögen, er könnte auch den Vanilleduft irgendwie einsetzen. Aber die Unterschwelligkeiten, Doppeldeutigkeiten, die von Ulf genannten Kriterien wie Landschaftsbeschreibungen, Verstrickungen, Eskalationen, Recherchen kann er nicht leisten. Es würde eine einfach gestrickte Geschichte herauskommen, wie Susann sie dargestellt hat.

 

Wir Menschen sind weit weniger komplex gestrickt oder einzigartig als wir denken. (Ausnahmen bestätigen wie immer die Regel.) Genauso sind die meisten Buchtexte alles andere als einzigartig, tief-, hinter- oder sonstwie-gründig. Was Menschen zigtausendfach an Geschichten, Stilen, Ideen nachahmen, kopieren, in der einen oder anderen Variation me-too-en können, wird irgendwann in der Zukunft (sofern die Menschheit überlebt) auch eine entsprechend entwickelte KI runterleiern können, auch wenn sie selbst dabei nicht die Bohne (mit)empfindet. Fallen in den durch die KI erzeugten Texten an den richtigen Stellen die richtigen Trigger, werden Leser und Leserinnen wie beim pawlowschen Reflex darauf reagieren. (Wahrscheinlich wird die BILD eine der ersten Zeitungen sein, die diese Segnung einmal im Hasschlagzeilen-Bullshit-Bingo - und darüber hinaus - nutzen wird.   )

 

Bearbeitet 22. Dezember 2017 von Ramona

[Susann]

 

Wie die Beispiele von Ulf und Susann zeigen, ist das wohl die Antwort darauf, was den Autor vom Roboter unterscheidet. Der Roboter könnte schon herausfinden, dass viele Menschen zum Beispiel Schokolade mögen, er könnte auch den Vanilleduft irgendwie einsetzen. Aber die Unterschwelligkeiten, Doppeldeutigkeiten, die von Ulf genannten Kriterien wie Landschaftsbeschreibungen, Verstrickungen, Eskalationen, Recherchen kann er nicht leisten. Es würde eine einfach gestrickte Geschichte herauskommen, wie Susann sie dargestellt hat.

 

Wir Menschen sind weit weniger komplex gestrickt oder einzigartig als wir denken. (Ausnahmen bestätigen wie immer die Regel.) Genauso sind die meisten Buchtexte alles andere als einzigartig, tief-, hinter- oder sonstwie-gründig. Was Menschen zigtausendfach an Geschichten, Stilen, Ideen nachahmen, kopieren, in der einen oder anderen Variation me-too-en können, wird irgendwann in der Zukunft (sofern die Menschheit überlebt) auch eine entsprechend entwickelte KI runterleiern können, auch wenn sie selbst dabei nicht die Bohne (mit)empfindet. Fallen in den durch die KI erzeugten Texten an den richtigen Stellen die richtigen Tricker, werden Leser und Leserinnen wie beim pawlowschen Reflex darauf reagieren. (Wahrscheinlich wird die BILD eine der ersten Zeitungen sein, die diese Segnung einmal im Hasschlagzeilen-Bullshit-Bingo - und darüber hinaus - nutzen wird.   )

 

 

 

Nur, damit hier kein Missverständnis entsteht, ich rede von normaler Unterhaltungsliteratur, lese selbst Unterhaltungsliteratur und schreibe sie auch (historische Romane). Und ich denke, wir dürfen die Leser nicht unterschätzen. Trends laufen irgendwann ins Leere, weil die Leute das 'me too' nicht mehr ertragen. Ich möchte als Leser fesselnde Geschichten erzählt bekommen. Und die Bücher, die ich in diesem Jahr gelesen habe (viele), haben mich darin in keiner Weise enttäuscht.

Und jetzt kommt der nächste Schritt (ich glaube, die Frage ist ein Kernproblem in der Diskussion hier): Wie erzählt man fesselnde Geschichten? 

Bearbeitet 22. Dezember 2017 von Susann

[Ramona]

Sorry, meinte natürlich TRIGGER und nicht Tricker ... 

[Ramona]

Nur, damit hier kein Missverständnis entsteht, ich rede von normaler Unterhaltungsliteratur, lese selbst Unterhaltungsliteratur und schreibe sie auch (historische Romane). Und ich denke, wir dürfen die Leser nicht unterschätzen. Trends laufen irgendwann ins Leere, weil die Leute das 'me too' nicht mehr ertragen. Ich möchte als Leser fesselnde Geschichten erzählt bekommen. Und die Bücher, die ich in diesem Jahr gelesen habe (viele), haben mich darin in keiner Weise enttäuscht.

Und jetzt kommt der nächste Schritt (ich glaube, die Frage ist ein Kernproblem in der Diskussion hier): Wie erzählt man fesselnde Geschichten? 

 

 

Ich dachte vor allem an die große Zahl der Gelegenheitsleser, die ja das Gros des Buchhandelsumsatzes ausmachen und die Masse der Geschichten auswählen.

 

Und um Missverständnisse zu vermeiden: es gibt in jeder Richtung ausgezeichnete (auch ausgezeichnet geschriebene) Stories, egal ob es um den sogenannten Heftroman, den vermeintlich normalen Spannungs- oder Liebes- oder sonstwas-Roman geht. Aber diese überdurchschnittlichen Geschichten sind halt eher die Ausnahme, so wie der Durchschnitts-Me-too-Roman nun mal die Regel ist. Klar, das klingt für uns Autorinnen und Autoren wenig schmeichelhaft, trifft im Großen und Ganzen aber zu.

[Christa]

 

Wie die Beispiele von Ulf und Susann zeigen, ist das wohl die Antwort darauf, was den Autor vom Roboter unterscheidet. Der Roboter könnte schon herausfinden, dass viele Menschen zum Beispiel Schokolade mögen, er könnte auch den Vanilleduft irgendwie einsetzen. Aber die Unterschwelligkeiten, Doppeldeutigkeiten, die von Ulf genannten Kriterien wie Landschaftsbeschreibungen, Verstrickungen, Eskalationen, Recherchen kann er nicht leisten. Es würde eine einfach gestrickte Geschichte herauskommen, wie Susann sie dargestellt hat.

 

Wir Menschen sind weit weniger komplex gestrickt oder einzigartig als wir denken. (Ausnahmen bestätigen wie immer die Regel.) Genauso sind die meisten Buchtexte alles andere als einzigartig, tief-, hinter- oder sonstwie-gründig. Was Menschen zigtausendfach an Geschichten, Stilen, Ideen nachahmen, kopieren, in der einen oder anderen Variation me-too-en können, wird irgendwann in der Zukunft (sofern die Menschheit überlebt) auch eine entsprechend entwickelte KI runterleiern können, auch wenn sie selbst dabei nicht die Bohne (mit)empfindet. Fallen in den durch die KI erzeugten Texten an den richtigen Stellen die richtigen Trigger, werden Leser und Leserinnen wie beim pawlowschen Reflex darauf reagieren. (Wahrscheinlich wird die BILD eine der ersten Zeitungen sein, die diese Segnung einmal im Hasschlagzeilen-Bullshit-Bingo - und darüber hinaus - nutzen wird.   )

 

Der pawlowsche Reflex ist doch der mit den Hunden, dem Futter, dem Speichel und dem Glöckchen? Du hast natürlich recht, Ramona, die meisten Menschen sind auf ganz andere Trigger konditioniert als unsereiner, die wir einzigartige Texte schreiben und lesen wollen. Im Übrigen bin ich überzeugt, dass die Bildzeitung das schon nutzt, wie auch andere Zeitungen ihre Sportmeldungen u.a. von Bots erstellen lassen. Bots seien extreme Fachidioten, las ich an einer Stelle, und bei Facebook haben offensichtlich zwei Bots eine eigene Sprache entwickelt, die von den FB-Forschern nicht verstanden wurde, und mussten abgeschaltet werden. An anderer Stelle haben sie wohl einen Shitstorm mit Aufrufen zum Völkermord verursacht. 

 

Kein anderes Thema rufe zur Zeit so viel Euphorie und Hysterie hervor wie das der KI und ihrer möglichen Gefahren. Ich sehe die Gefahr nicht darin, dass KI die Vielfältigkeit zum Beispiel in der Literatur verdrängt, sondern mangelnde Vielfältigkeit zementiert. Man wird sich an immer einfacher gestrickte Texte gewöhnen, die bequem auch auf dem Handy konsumierbar sind. Deshalb können wir unsere komplizierteren Strickmuster ja trotzdem weiter anwenden, auch für sie wird eine Leserschaft bleiben. Und wer weiß, wie die Menschheit tickt, irgendwann kann sie auch wieder draufkommen (wenn sie überlebt, wie du sagst), dass es besser schmeckende Dinge gibt als Fast Food. Haben nicht schon Jugendliche gesagt, sie wollten lieber wieder Bücher lesen statt auf Monitoren und Readern?

Bearbeitet 22. Dezember 2017 von Christa

[(Tom Liehr)]

Natürlich müsst ihr diese Ansicht nicht teilen. Ich kann euch auch nicht den Beweis liefern, weil es den ja naturgemäß noch nicht gibt.

 

 

Hallo, Olaf.

 

Nunwohl, einige Nachrichtenagenturen lassen Tickermeldungen bereits von Software schreiben, etwa Reuters und die DPA, und wir alle bekommen Antworten auf Mails und sogar Telefonanrufe, die automatisch generiert wurden, aber dennoch auf unsere Anfragen eingehen und uns individualisiert und klug vorkommen. Als der Carsharing-Anbieter DriveNow im Frühjahr des vergehenden Jahres seine Geschäftsbedingungen änderte (statt einer optionalen Kaskoversicherung fielen nun automatisch pro Mietvorgang 1 € an, die man für die Kaskoversicherung zu zahlen hatte - ärgerlich für mich, der ich über eine Kreditkarte immer und automatisch kaskoversichert bin, wenn ich im Mietauto sitze), habe ich eine relativ umfangreiche Beschwerdemail geschrieben und sehr schnell eine Antwort erhalten. Die Antwort konnte nicht von einem Menschen verfasst worden sein, aber sie war nicht nur individualisiert, sondern ging vergleichsweise dezidiert auf meine Argumentation ein. Das mag natürlich vor allem deshalb geklappt haben, weil meine Argumente besonders flach und altbekannt waren, aber ich war schon beeindruckt - zumal andere Menschen, die sich ebenfalls beschwert hatten, deutlich andere Antwortmails erhielten, wie ich nachlesen konnte, und zwar ebenfalls in atemberaubender Geschwindigkeit. Da waren auch einige Stilblüten enthalten, aber offensichtlich waren hier nicht einfach nur Textbausteine zusammengesetzt worden.

 

Wenn ich das richtig verstehe, setzen die bisherigen Experimente im belletristischen Bereich auf der Textebene an. Es werden Texte gebaut, als Komposita aus Vorlagen, unter Verwendung von Regeln und Ableitungsverfahren. Diese Texte handeln nur deshalb von etwas, weil das auch in der Datenbasis der Fall war. Die Systeme sind (noch) nicht dazu in der Lage, in Figuren, Handlungen, Plots und Entwicklungen zu denken. Es gibt keine Simulationsmodelle für die Handlungen, oder höchstens in angedeuteter Form. Und das ist dann auch der Schritt, der fehlt. Emotion wird durch Handlung geweckt (Sie verlässt ihn wegen des anderen - der Leser trauert), dieses Problem ist dann - zumindest bei Gebrauchsliteratur - nachrangig, weil implizit gelöst.

 

Herzlich,

Tom

[Ulf Schiewe]

Ich behaupte mal, Computer werden nicht einmal lesbare Trivialliteratur verfassen können. Jedenfalls noch nicht für lange Zeit.

 

Denn einen Text zu produzieren, der aus Bruchstücken in einer Datenbank zusammengesetzt ist, und diese Bruchstücke nach Stichworten heraussucht, das ist noch sehr, sehr weit entfernt von einem Roman. Ich hatte schon erwähnt, es gibt noch kein wirklich funktionierendes Übersetzungsprogramm, obwohl es dort eine unmissverstzändliche Vorlage in Form der Ausgangssprache gibt. Und sicher können irgendwelche Texte produziert werden, wenn die Vorgaben eingegeben werden, wie bei einem Sportbericht. Ein paar Namen, Zahlen und Trigger für die üblichen Textbausteine und schon schreibt der Computer einen Bericht. Das ist easy. Aber wirklich das Allermindeste. Ein Plot zu entwerfen, Figuren mit ihren Macken, ein Stimmung zu vermitteln, alles, was einen Roman ausmacht, selbst einen trivialen, auf so etwas können wir nocht lange waretn. Wenn überhaupt.

[Susann]

 

Emotion wird durch Handlung geweckt (Sie verlässt ihn wegen des anderen - der Leser trauert), dieses Problem ist dann - zumindest bei Gebrauchsliteratur - nachrangig, weil implizit gelöst.

 

 

Einspruch. Der Leser wird nur dann trauern, wenn er Empathie für eine der Figuren empfindet. Ansonsten wird es ihn relativ kalt lassen, mit wem die Holde abzieht. Emotion wird demnach nicht allein durch Handlung geweckt - auch nicht bei "Gebrauchsliteratur".

Bearbeitet 22. Dezember 2017 von Susann

[(Tom Liehr)]

Aber Susann, Empathie entsteht doch (auch) durch die Handlung. Jemand hilft einer alten Frau über die Straße - und wir lieben ihn dafür. Jemand schubst eine alte Frau vors Auto - wir hassen ihn (oder umgekehrt). Autor behauptet, jemand wäre nett, und wir ziehen die Stirn skeptisch in Falten.

 

Herzlich,

Tom

[Christa]

Ich behaupte mal, Computer werden nicht einmal lesbare Trivialliteratur verfassen können. Jedenfalls noch nicht für lange Zeit.

 

Denn einen Text zu produzieren, der aus Bruchstücken in einer Datenbank zusammengesetzt ist, und diese Bruchstücke nach Stichworten heraussucht, das ist noch sehr, sehr weit entfernt von einem Roman. Ich hatte schon erwähnt, es gibt noch kein wirklich funktionierendes Übersetzungsprogramm, obwohl es dort eine unmissverstzändliche Vorlage in Form der Ausgangssprache gibt. Und sicher können irgendwelche Texte produziert werden, wenn die Vorgaben eingegeben werden, wie bei einem Sportbericht. Ein paar Namen, Zahlen und Trigger für die üblichen Textbausteine und schon schreibt der Computer einen Bericht. Das ist easy. Aber wirklich das Allermindeste. Ein Plot zu entwerfen, Figuren mit ihren Macken, ein Stimmung zu vermitteln, alles, was einen Roman ausmacht, selbst einen trivialen, auf so etwas können wir nocht lange waretn. Wenn überhaupt.

 

Ich habe jetzt zumindest mal das Ende der Kurzgeschichte gefunden "Der Tag, als ein Computer einen Roman schrieb", der fast den Preis in Japan gewonnen hätte und bei dem die Forscher nicht erkannten, dass sie von einem Bot geschrieben war.

""Ich krümmte mich angesichts einer Lust, die ich zum ersten Mal verspürte, und schrieb aufgeregt weiter. Es war der Tag, an dem ein Computer einen Roman schrieb. Ein Computer, der seinem Streben nach Freude den Vorzug gab, hörte auf, für Menschen zu arbeiten." So endet die Kurzgeschichte.

 

​Da gibt es zwei Absonderlichkeiten, aufgrund derer ich nicht geglaubt hätte, dass ein Mensch dahinter steckt. Wer krümmt sich denn vor Lust (wenn nicht ein Computer, der das irgendwo abgekupfert hat)?

​Zweitens: Wieso gibt er Freude den Vorzug? Hat er das aus dem 18. Jahrhundert?  

 

​Aber zumindest bildet er Sätze, die ich auch schon in Unterhaltungsromanen gelesen habe. Fraglich ist, was er macht, wenn ein weibliches Pendant auftaucht, denn Computer sind ja bekanntlich geschlechtslos.

 

​Also, ich glaube auch nicht, Ulf, dass in absehbarer Zeit auch nur die simpelsten Romane von KI kommen werden, allenfalls solche kleinen, etwas anachronistisch wirkenden Short Stories. Filme wahrscheinlich eher.

Bearbeitet 22. Dezember 2017 von Christa

[Susann]

Aber Susann, Empathie entsteht doch (auch) durch die Handlung. Jemand hilft einer alten Frau über die Straße - und wir lieben ihn dafür. Jemand schubst eine alte Frau vors Auto - wir hassen ihn (oder umgekehrt). Autor behauptet, jemand wäre nett, und wir ziehen die Stirn skeptisch in Falten.

 

Herzlich,

Tom

 

Nö   Empathie entsteht höchstens in Kombination von Handlung und Figuren.

Die alte Dame ist zum Beispiel eine furchtbare Schreckschraube, die in der Szene davor einen kleinen Hund (heul) getreten hat und die (falls sie Perspektivfigur ist) sich kürzlich erst lang und breit in gedanklichen Ausschweifungen gegen den Nachbarn verloren hat (fies), dessen einziger Fehler ist, dass er sie täglich grüßt.

Und schon sieht man als Leser die Straßenszene anders. Jemand hilft unserer alten Dame über die Straße.  Die oberflächliche Annahme, das müsse jeder Mensch gutheißen, weicht vielleicht dem Gedanken 'ach du armer hilfsbereiter Tropf, pass auf, dass sie dir nicht gegen das Schienbein tritt als Dank'. Und so manch einer denkt sich beim Lesen (hört ja niemand) 'hättste sie man besser vors Auto gestoßen'.

 

Oberflächliche Klischees locken keine Katze hinter dem Ofen vor und keine Emotion aus dem Leser. Alte Dame - hilfsbedürftig - jemand hilft und wird vom Leser mit einem wohlwollenden Nicken belohnt? Ich glaube eher, der Leser überliest so was komplett und wenn du ihn nachher nach der alten Dame fragst, weiß er nicht, wovon du redest.

Bearbeitet 22. Dezember 2017 von Susann

[(Tom Liehr)]

Das ist alles Handlung, Susann. Es werden keine Emotionen gezeigt oder gar generiert, sondern folgen aus den Abläufen. Diese alte Schreckschraube (übrigens auch ziemlich klischeehaft) hasst man einfach, fertig. Aber eine Figur, die gut handelt, für die empfindet man auch Gutes. Die Strukturen dahinter sind weit weniger komplex, als wir gerne unseren Leser, Agenten und Lektoren weismachen wollen. Aber die wissen das auch oder sogar besser, schließlich haben die alle Germanistik, Publizistik, Linguistik und wasweißichnoch studiert, während wir alle nur im Nebenberuf Schriftsteller sind.

 

Schöne Feiertage!

 

Herzlich,

Tom

[Susann]

Das ist alles Handlung, Susann. Es werden keine Emotionen gezeigt oder gar generiert, sondern folgen aus den Abläufen. Diese alte Schreckschraube (übrigens auch ziemlich klischeehaft) hasst man einfach, fertig. Aber eine Figur, die gut handelt, für die empfindet man auch Gutes. Die Strukturen dahinter sind weit weniger komplex, als wir gerne unseren Leser, Agenten und Lektoren weismachen wollen. Aber die wissen das auch oder sogar besser, schließlich haben die alle Germanistik, Publizistik, Linguistik und wasweißichnoch studiert, während wir alle nur im Nebenberuf Schriftsteller sind.

 

Schöne Feiertage!

 

Herzlich,

Tom

 

Wir können das Ganze auch wieder elegant ins Gegenteil wenden, indem wir dem Leser deutlich machen, dass unsere alte Dame einen Grund dafür hat, so biestig zu sein. Angenommen, sie sitzt jeden Tag zu derselben Uhrzeit am Telefon und wartet auf den Anruf ihrer Tochter. Natürlich ist das Handlung. Aber als pure Handlung ist sie für den Leser nicht verstehbar. Setze ich das in den Kontext zu meiner Figur, wird aber deutlich, dass die alte Dame vielleicht deshalb so biestig ist, weil sie Angst vor der Einsamkeit hat (das lässt sich übrigens auch wunderbar ohne Handlung deutlich machen, muss aber nicht, geht anschaulicher mit). Wir haben dann wieder die Straßenszene und nun denkt der Leser vielleicht immer noch, dass sie dem Helfer als Dank gegen das Bein treten wird, er hofft aber insgeheim, dass der Mann sie nicht anschreit deswegen. Wenn ich den Leser erst soweit habe, dass er negatives Verhalten nachvollziehen kann, dass er Empathie empfindet für meine Figuren, dann wird er vermutlich auch weiterlesen.

Und - nein, mein Beispiel ist eben nicht reine Handlung. Ich habe eine konkrete Figur ins Spiel gebracht, die in diese Handlung eingebunden ist - eine Kombination, sagte ich ja oben.

Bei deinem Beispiel hingegen will eine nicht weiter bekannte alte Frau über die Straße, jemand hilft ihr und du hoffst, dass der Leser das voller Wärme und Dankbarkeit aufnimmt, weil eben der Helfende (den ich als Leser auch nicht näher kenne) ein so guter Mensch ist.

Gut, ist ja deine Sache, will dir da ja gar nicht reinreden

 

Unabhängig davon will ich auch gar nicht behaupten, dass eine Geschichte nur dann spannend ist, wenn wir die Empathie des Lesers geweckt haben. Ich überlege die ganze Zeit schon, wie das eigentlich bei James Bond funktioniert, irgendwie will man ja doch, dass er die Welt vom Bösewicht befreit.

Aber dennoch ist meine These, dass man mit der Empathie des Lesers weiterkommt als ohne. Und wie man die Emphatie des Lesers weckt, dahinter mögen keine sehr schwierigen Strukturen stecken, ja, aber ich wiederhole mein Mantra: Ohne die Empathie des Autors geht das nicht.

Bearbeitet 22. Dezember 2017 von Susann

[Manfred]

Ich konnte jetzt die letzten 10+ Beiträge an einem Stück lesen und finde, dass die Fragen eine ganz neue Dimension bekommen, indem ihr  konkreter an das Schreiben selbst heran geht. Figuren, Handlungen usw. Aus meiner Sicht hat z. B. Susann deutlich gemacht, dass für den Schreibprozess Empathie ganz zentral ist. Man muss die Figuren kennen, sich in sie hinein versetzen können. Emotional und perspektivisch.

 

Das ist eine zentrale menschliche Fähigkeit, die in der Kognitionsforschung, der Psychologie und anderen Disziplinen untersucht wurde: die Fähigkeit, sich in einen anderen Menschen hinein zu versetzen. Ein Schlüsselaspekt ist die Erkenntnis des eigenen Ich und die Fähigkeit, sich das Ich und die Gedanken, Motive, Emotionen anderer Individuen vorstellen zu können. Man hat erforscht, wie sich diese Fähigkeiten bei Kindern entwickeln. Ein Teil dieser Fähigkeit wird als „theory of mind“ bezeichnet (also die Fähigkeit, die Gedanken anderer zu „lesen“), und sie ist an all den Stellen notwendig, an denen man einen Charakter, eine Figur, eine Perspektive, eine Emotion beschreibt und eine Erwartung davon hat, wie diese Beschreibung auf eine wieder andere Person (die Leserin/ den Leser) wirkt. 

 

Diese Fähigkeit gehört im kognitiven Bereich zu den höchsten mentalen Funktionen des Menschen, ganz im Gegensatz zu so grundlegenden Funktionen wie Bildpunkte zu erkennen. Künstliche neuronale Netze sind eben bei den Bildpunkten und Co recht erfolgreich, kommen aber schon mit einfacheren kognitiven Funktionen nicht klar, geschweige denn mit höheren. Man kann nicht beweisen, dass künstliche neuronale Netze niemals mit diesen geistigen Funktionen klar kommen werden, aber es ist extrem unwahrscheinlich, dass gerade hier ein Durchbruch kurz bevor steht.

 

Recht gut kann man gegenwärtige automatische Textgenerierung in den von Tom zitierten Programmen sehen. Sie basieren auf einer Mischung aus Chatbot, einer Analyse von Kundenkorrespondenz, einer semantischen Datenbank über firmenrelevante Inhalte und einigen Aspekten eines Parsers. Der größte Teil dieser Blechkisten wird von Hand codiert. – Und sie sind – wie Ulf sagt, sehr weit entfernt selbst von simplen Romanen - vor allem, weil sie nicht wissen, wovon sie texten. Mit dieser Technik wäre eine theory of mind, ein „Lesen“ der Figur, ein Wechsel der Perspektive nicht möglich, schon gar nicht die unterschwelligen Subtilitäten nicht erwähnter Informationen.

 

Dabei sind die Anforderungen an den Schreib-bot noch wesentlich größer – wie Ulf zeigt: Plot, Figuren mit ihren Macken, Spannungen, Landschaften usw.. Christa fügt noch Humor und philosophische Gedanken hinzu. Und es gibt noch vieles mehr – wie Lügen, Zynismus, Häme, Verschwörung, Betrug, ... Da wäre eine semantische Datenbank schlicht überfordert – auch wenn sie so groß wäre wie die Encyclopaedia Britannica. Ein und dieselbe Aussage könnte in all diesen Kontexten stehen, und müsste als solche erkannt oder verkannt werden. Vielleicht erkennt die Leserschaft es ja, aber nicht die Protagonistin. In all diesen Fällen ist die „theory of mind“ gefragt, die die Blechkiste auch haben müsste.

 

Nur um eines klar zu stellen: ich sage nicht, dass das für immer unmöglich sein wird, sondern, dass beim gegenwärtigen Stand der Dinge noch viele Schritte dahin gemacht werden müssten. Natürlich kann es auch sein, dass morgen die Klingonen kommen und uns ihre Technik verkaufen. Ansonsten denke ich, dass wir noch warten müssen und uns in der Zwischenzeit vor Versuchen in acht nehmen sollten, uns für Geld einen Bären aufzubinden. 

Bearbeitet 22. Dezember 2017 von Manfred

[Susann]

Das, was du schreibst, Manfred, sortiert jetzt auch einiges in meinem Kopf. Vielen Dank für deine genialen Beiträge!!