Harry Potter ex machina - herrlich grandioser Mist!

[(Dietmar)]

Ich bin der Meinung, dass auf absehbare Zeit es nicht möglich ist, per Computer einen Text zu verfassen, der der Belletristik zu zuordnen ist. Ich mache das an zwei Dingen fest.

1.) Ein Computer kann keine Informationen aus dem Nichts gewinnen. Es gibt keine Logik, die das kann. Das passiert aber genau im Kopf eines Autors und ist die Fantasie. Das heißt nicht, dass das Produkt der Fantasie unlogisch ist. Das Produkt der Fantasie ist aber nicht das Ergebnis der logischen Verknüpfung von Informationen, die vorher da waren, sondern ist plötzlich da.  Was da genau im Kopf vorgeht, weiß heute noch kein Neurologe und sollten sie es jemals herausbekommen, wäre das sehr schade, denn dann wäre ein wesentlicher Bestandteil, warum Literatur fesselnd sein kann, entschlüsselt und könnte auf einem Computer nachgebildet werden. Obwohl man sich hüten sollte, die Funktionsprinzipen des Computers auf die des Gehirns abzubilden; zweitere kennt man zum großen Teil noch gar nicht.

 

2.) Ein Computer kann nur eine statistische Bewertung des Textes vornehmen, keine empathische.

Die "Romanschreibsoftware" macht nichts weiter als das Ergebnis von Text-Mining, die Analyse schwach strukturierter Informationen, auszuwerten und daraus einen neuen Text zu generieren (schreiben kann man dazu nicht unbedingt sagen). Bei der Empathie kann man einwänden, dass man sehr wohl Vorgaben machen kann, was gut und böse, nachhaltig, schön, familiär usw. ist. Das wäre aber nichts weiter, als die Empathie der Programmierer und nicht die des Computers.

 

Was mich an der Stelle viel mehr bewegt, ist, dass sich solche Analysen, die als Ergebnis nicht aussschließlich eine Auswertung, sondern eine Schaffung neuer Produkte beinhaltet, für mich sehr nahe an Reverse Engineering https://de.wikipedia.org/wiki/Reverse_Engineering herankommt. Das verbieten heute viele Unternehmen an ihren Produkten vorzunehmen. Insofern ergibt sich für mich die Frage, in wie weit ein Autor eine Analyse seines Textes zur Gewinnung von Informationen, um neue Texte zu schaffen, lizenzrechtlich verbieten kann.

Bearbeitet 23. Dezember 2017 von Dietmar

[Daniela]

Manfred, gib's zu, Du bist ein Schreib-bot und willst uns nur in Sicherheit wiegen   

 

Nein, Spaß beiseite, vielen Dank für Deine ausführlichen Erklärungen! Auch wenn meine Zeit gerade nur reicht, um hier ab und zu mitzulesen, ist die Diskussion sehr interessant und erhellend.

[Christa]

Ich fand die Abschlusserklärung von Manfred auch sehr erhellend und nehme das Ganze jetzt mit in die Festtage.

(Schön, mal wieder von dir zu hören, Daniela!) Tja, was wäre, wenn sich da Bots unterhalten hätten, die vortäuschen,

Menschen zu sein, um klammheimlich die Herrschaft über Montségur an sich zu reißen?    

[Daniela]

Danke, Christa Ja, ich bin in letzter Zeit wieder viel zu selten hier, aber ab und zu lese ich mit, amüsiere mich über Olafs witzige Einwürfe und nehme aus diesem Thread einige spannende Erkenntnisse mit.

 

Liebe Grüße und Euch allen fröhliche Weihnachten!

[Christa]

Noch eine kleine Anekdote zum Thema: Heute las ich in der Zeitung, dass die Lufthansa vom Kartellamt einen Dämpfer wegen der Erhöhung der Preise bekommen habe. Die Lufthansa habe die Preise nicht erhöht, sondern das computergesteuerte System, sagte die Lufthansa. Unternehmen könnten sich aber nicht hinter Algorithmen verstecken, so das Kartellamt.  

[Ramona]

Noch eine kleine Anekdote zum Thema: Heute las ich in der Zeitung, dass die Lufthansa vom Kartellamt einen Dämpfer wegen der Erhöhung der Preise bekommen habe. Die Lufthansa habe die Preise nicht erhöht, sondern das computergesteuerte System, sagte die Lufthansa. Unternehmen könnten sich aber nicht hinter Algorithmen verstecken, so das Kartellamt.

 

"Die Algorithmen habe wohl kaum jemand im Himmel programmiert …", hieß es in etwa. 

Bearbeitet 29. Dezember 2017 von Ramona

[(Tom Liehr)]

Obwohl ich Manfreds Statement auch irgendwie als weise-abschließend empfand, ist natürlich sehr wagemutig, zu behaupten, die Ergebnisse der Phantasie wären "plötzlich da", quasi aus dem Nichts. Das dürfte kaum haltbar sein - aus dem Nichts kommt höchstens nichts. Auch diesem Vorgang wohnt ein Prozess inne, möglicherweise sind es mehrere. Sie werden sich möglicherweise irgendwann ableiten und reproduzieren lassen. Phantasie ist vielleicht gar nicht so magisch, wie wir es gerne möchten. Ereignisse und Erfahrungen und Erinnerungen werden vermischt und permutiert, die Ergebnisse werden gefiltert, eine neue, gute Idee wird erkannt. Das ist nicht "plötzlich da", möglicherweise ist nur die Erkenntnis, eine Idee gehabt zu haben, plötzlich da, aber die Idee selbst ist als Ergebnis von Vorgängen entstanden.

 

Ich fänd's auch schade, wenn sich das irgendwann nachbilden ließe, aber es ist dennoch sehr wahrscheinlich unrichtig, Ideen und Eingebungen etwas Magisches anzudichten, etwas Plötzliches, Unvermitteltes, Systemloses.

 

Herzlich,

Tom

[Christa]

Was du schreibst, Tom, schwebte mir auch die ganze Zeit im Hinterkopf rum. Es ist ganz klar, dass Phantasie nicht aus dem Nichts kommen kann, sondern aus Erfahrungen, Erinnerungen, Bildern, Gelesenem, Gedanken, Gesprächen usw. entstehen. Es ist sogar denkbar, dass Roboter plötzlich auf "geniale" Ideen kommen könnten. Bisher richten sie allerdings (wie die menschlichen Hirne auch! ) noch ziemlich viel Unfug an. In derselben Zeitung stand nämlich auch, dass Alexa, der sprechende Küchenroboter von Amazon, inzwischen in vielen Haushalten heimisch sei. Kürzlich hätte er eine Polizeiaktion ausgelöst, weil er versehentlich durch Handy aktiviert allein eine lautstarke Party in der Küche feierte. Dann habe ich mir überlegt, ob ein selbst saugender Staubsauger für mich was bringen würde, von dem mein Sohn mir erzählte. Aber nachher saugt er meine Steuerunterlagen oder Romanmanuskripte ein, und meine Daten sammelt er sicher oder er filmt mich heimlich, wie es bei Alexa der Fall war.

 

Ich finde dieses Thema nach wie vor ungeheuer spannend.

 

Christa

[Susann]

Ereignisse und Erfahrungen und Erinnerungen werden vermischt und permutiert, die Ergebnisse werden gefiltert, eine neue, gute Idee wird erkannt. Das ist nicht "plötzlich da", möglicherweise ist nur die Erkenntnis, eine Idee gehabt zu haben, plötzlich da, aber die Idee selbst ist als Ergebnis von Vorgängen entstanden.

 

Ich fänd's auch schade, wenn sich das irgendwann nachbilden ließe, aber es ist dennoch sehr wahrscheinlich unrichtig, Ideen und Eingebungen etwas Magisches anzudichten, etwas Plötzliches, Unvermitteltes, Systemloses.

 

Herzlich,

Tom

 

Ich sagte ja weiter oben schon, man bringt sich als Autor selber ein, ob man das will oder nicht. Man bringt sich ein in den Text mit all seinen Erlebnissen, Erfahrungen, Erinnerungen, mit all dem, was einen geprägt hat und was im Unterbewusstsein gespeichert ist und die Ideen mitgeneriert.

Genau deshalb bezweifelte ich ja, dass ein Computer das so einfach nachbilden kann.

[Susann]

Ich nochmal: Tom, hast du noch nie von der Theorie gehört, dass jeder Autor/jede Autorin sein/ihr ganz spezielles Thema hat (oder mehrere Themen), an denen man sich immer wieder 'abarbeitet'? Dieses Thema taucht immer wieder auf in den Texten und Romanen, ob man das bewusst wahrnimmt oder es intuitiv geschieht ist dabei gleich.

Ich bin ein begeisterter Anhänger dieser Theorie.

Schau dir deine Romane an, gibt es da ein Thema, das immer wieder vorkommt? Wenn ja, frag dich, warum dich das so beschäftigt. Die Antwort geht tief rein ins Persönliche, auch zu den Dingen, die man sonst mal ganz gerne verdrängt.

Natürlich muss man sich das nicht alles bewusst machen. Ich denke aber, wenn man sein persönliches Thema kennt, seine eigenen Untiefen sozusagen, dann kann man beim Schreiben konsequenter die Konflikte bis zum äußersten treiben. Man läuft nicht Gefahr, ihnen doch irgendwo auszuweichen (um die Figuren und damit sich selbst zu schonen).

Gilt alles auch für Unterhaltungsliteratur.

Der Grund, warum ich mich in diese Diskussion eingeschaltet habe, war, dass es mich verwundert hat, dass sich manche Autoren scheinbar wenig Gedanken machen bzw. nicht nachforschen, wo das denn eigentlich alles herkommt, was man da so auf Papier bannt. Ist nicht schlimm, wie gesagt, mich hat es nur erstaunt. Und ich hoffe, dass meine Beiträge vielleicht ein paar Leuten gezeigt haben, warum ich glaube, dass ein Computer einen Autor nicht ersetzen kann.

Der Rest mag weiterhin glauben, was er will, auch dass Ideen vom Himmel fallen

 

Ich wünsch euch allen einen guten Rutsch und klinke mich hiermit aus der Diskussion aus.

Bearbeitet 29. Dezember 2017 von Susann

[(Tom Liehr)]

Hallo, Susann.

 

Selbstverständlich haben viele - fast alle? - zeitgenössischen Autoren ihre persönlichen Themen, und ihre persönliche Art und Weise, mit ihnen umzugehen und sie zuweilen immer und immer wieder aufzubereiten. Bei mir geht es wiederholt und von wenigen Ausnahmen abgesehen darum, ob die folgenreichen Lebensentscheidungen richtig waren und ob sie in Stein gemeißelt sind, dazu spielen populäre Musik und Religionskritik immer wieder hinein. Das ist auch wichtig - bei der Entwicklung einer Autorenexistenz geht es ja auch und vor allem darum, die eigene Stimme, die eigenen Stilmittel und auch die eigenen Themen zu finden und zu verbessern. Ich habe das sozusagen von meinen großen amerikanischen Vorbildern John Irving, John Updike und Philip Roth übernommen oder gelernt oder wasweißich. Ich halte es aber, wie Du offensichtlich auch, für immanent und selbstverständlich und fundamental.

 

Einen schönen Jahreswechsel!

 

Herzlich,

Tom

[(Dietmar)]

Obwohl ich Manfreds Statement auch irgendwie als weise-abschließend empfand, ist natürlich sehr wagemutig, zu behaupten, die Ergebnisse der Phantasie wären "plötzlich da", quasi aus dem Nichts. Das dürfte kaum haltbar sein - aus dem Nichts kommt höchstens nichts. Auch diesem Vorgang wohnt ein Prozess inne, möglicherweise sind es mehrere. Sie werden sich möglicherweise irgendwann ableiten und reproduzieren lassen.

 

Das sehe ich nach wie vor anders und zwar genauso, wie ich es in meinem vorherigen Beitrag geschrieben habe. Aus einem ganz einfachen Grund, ein Computer arbeitet deterministisch und kausal, auch ein Schreibcomputer für Romane. Würde der Schreibcomputer 1000 Bücher "gelesen" haben, in denen alle Personen zwischen 30 und 40 Jahre alt sind und die Frauen immer schwarze Haare haben und wir würden dem Computer keine weitere Information zu möglichen Haarfarben der Frauen mitteilen, würde der Computer nie eine Frau mit roten Haaren oder eine Person, die jünger als 30 bzw. älter als 40 ist in seinem "Roman" erzeugen. Die Aussage, es gibt auch Frauen mit roten Haaren kann nicht auf deterministischem Weg entstehen und wäre für den Computer auch nicht kausal. Es ist eine Information, die aus dem Nichts kommt; es gibt keine vorherige Information in den 1000 Büchern dazu und wir haben dem Computer auch nichts zu anderen Haarfarben gesagt, die den Schluß zulässt, rot ist auch eine Haarfarbe.

Im Gegensatz dazu ist das Schreiben des Autors ein Ergebnis seines freien Willens (mir geht es hier nicht um Auftragswerk oder kein Auftragswerk, sondern um das Schreiben an sich) und der ist meiner Meinung nach nicht determiniert. Im Gegensatz zum oben genannten Computer, kann der Autor, bei gleicher Ausgangslage im Wissen, ohne weiteres eine Frau mit roten Haaren als Person in seinem Buch erzeugen, weil er rot als Farbe des Sonnenunterganges schön findet und der Meinung ist, die Frau muss deshalb auch rote Haare haben. Das ist eine völlig willkürliche Entscheidung, die sich nicht aus vorherigen Informationen zur Haarfarbe ableiten lässt - das ist für mich eine Information aus dem Nichts.

 

 

Auch diesem Vorgang wohnt ein Prozess inne, möglicherweise sind es mehrere. Sie werden sich möglicherweise irgendwann ableiten und reproduzieren lassen. Phantasie ist vielleicht gar nicht so magisch, wie wir es gerne möchten. Ereignisse und Erfahrungen und Erinnerungen werden vermischt und permutiert, die Ergebnisse werden gefiltert, eine neue, gute Idee wird erkannt. Das ist nicht "plötzlich da", möglicherweise ist nur die Erkenntnis, eine Idee gehabt zu haben, plötzlich da, aber die Idee selbst ist als Ergebnis von Vorgängen entstanden.

 

Unter "plötzlich da" verstehe in diesem Sinne eine Information, die willkürlich entstanden ist und sich anhand der Ausgangsinformationen von einem Schreibcomputer niemals erzeugen lässt. Ob die biochemischen Prozesse, die zu der "Plötzlich-Da-Information" geführt haben, eines Tages erkannt werden und dann eventuell auf einem Computer reproduziert werden können, steht auf einen ganz anderem Blatt. Nur ergibt sich dann an dieser Stelle für mich die Frage, ob es den "freien Willen" wirklich gibt bzw. was darunter wirklich zu verstehen ist. Aber dass wäre dann die philosophische Frage "Determinismus und freier Wille".

 

 

Und jetzt wüsche ich allen noch einen guten Rutsch ins Jahr 2018 und viele Erfolge.

Bearbeitet 30. Dezember 2017 von Dietmar

[Ulf Schiewe]

Eine neue Idee ist, einfach gesagt, nichts anderes als eine neuartige Verbindung von bisher nicht zusammenhängenden Datenelementen. Da hat Tom sicher recht. Das kann ein Computer sicher millionenmal in der Sekunde.

 

Die Frage aber ist, ob diese Kombination brauchbar, interessant, umsetzbar oder ästhetisch schön ist? Dazu braucht es Urteilsvermögen, das natürlich wiederum auf Erfahrungsdaten basiert. Aber wie funktioniert das? Wie wird entschieden, ob etwas nie Gewesenes moralisch vertretbar ist oder ob es als schön empfunden wird? Oder wie man es mit existenten oder ebenfalls neu erfundenen Elementen zu einem Plan formulieren kann oder zu einem Plot. Gerade in einem Romanplot werden Tausende solcher Elemente, neu oder schon vorhanden, miteinander kombiniert, um ein überzeugendes Ganzes zu erstellen. Die Beurteilung, ob eine neue Idee zu verwerfen ist oder irgendwie im Ganzen verwendet und eingefügt werden kann, das ist doch der entscheidende Punkt.

 

Ich sage nicht, dass dies auf magische Weise geschieht. Natürlich ist das ein Prozess. Aber ein hochkomplizierter und bei jedem Menschen etwas anders verlaufender Prozess.

Bearbeitet 31. Dezember 2017 von Ulf Schiewe

[Christa]

Eine neue Idee ist, einfach gesagt, nichts anderes als eine neuartige Verbindung von bisher nicht zusammenhängenden Datenelementen. Da hat Tom sicher recht. Das kann ein Computer sicher millionenmal in der Sekunde.

 

Die Frage aber ist, ob diese Kombination brauchbar, interessant, umsetzbar oder ästhetisch schön ist? Dazu braucht es Urteilsvermögen, das natürlich wiederum auf Erfahrungsdaten basiert. Aber wie funktioniert das? Wie wird entschieden, ob etwas nie Gewesenes moralisch vertretbar ist oder ob es als schön empfunden wird? Oder wie man es mit existenten oder ebenfalls neu erfundenen Elementen zu einem Plan formulieren kann oder zu einem Plot. Gerade in einem Romanplot werden Tausende solcher Elemente, neu oder schon vorhanden, miteinander kombiniert, um ein überzeugendes Ganzes zu erstellen. Die Beurteilung, ob eine neue Idee zu verwerfen ist oder irgendwie im Ganzen verwendet und eingefügt werden kann, das ist doch der entscheidende Punkt.

 

Ich sage nicht, dass dies auf magische Weise geschieht. Natürlich ist das ein Prozess. Aber ein hochkomplizierter und bei jedem Menschen etwas anders verlaufender Prozess.

 

Dann gebe ich jetzt kurz vor Ultimo auch noch meinen Senf dazu. Was du über die Entscheidungsfähigkeit über neue Ideen sagst, Ulf, halte ich ebenfalls für einen entscheidenden Punkt. Der Computer kann durchaus eigene Ideen haben, die nicht determiniert sind. Zum Beispiel selbstständig die Flugpreise erhöhen, nachdem die Nachfragedaten des Publikums von ihm ausgewertet wurden. Der Staubsauger kann lernen, Fliegen und Spinnen einzusaugen und keine wichtigen Papiere. Er kann aber nicht entscheiden, ob eine neue Idee moralisch vertretbar ist oder ästhetischen Ansprüchen genügt. Die roten Haare kann er nur einbringen, wenn er mit Bildern von Sonnenuntergängen gefüttert wird. 

 

​Ich halte es allerdings für möglich, dass eines fernen Tages ein Computer einen perfekten Roman schreiben und dabei auch neue Ideen sinnvoll einbringen kann. Wer soll diesen perfekten Roman aber lesen? Andere Roboter, Menschen, die Robotern immer ähnlicher werden oder lebendige, atmende Menschen mit einem Anspruch an Ästhetik, Sprache und Moral? Der Computer ist perfekter als der Mensch, er kann nicht variieren, nicht abweichen von der algorithmischen Norm, und der genannte Mensch würde sich bei der Lektüre sicher tödlich langweilen. Das Unfertige, Nicht-Perfekte, Verspielte, das Kreative eben macht den Autor doch zu dem, was er ist. Ich finde also, dass die Forscher sich genau überlegen sollten, wohin sie mit diesen Experimenten kommen und ob das der menschlichen Entwicklung dient.

 

​Damit wünsche ich allen einen guten Rutsch und ein kreatives, wachsames, schreiberisch und auch sonst glückliches neues Jahr!

 

​Christa

[Manfred]

Das Jahresende scheint ja auf den ersten Blick eine gute Gelegenheit für eine "Abschlusserklärung". Das hatte ich aber gar nicht beabsichtigt. Ich wollte nur die Diskussion etwas zusammen fassen. Offenbar ist sie ja auch gar nicht abgeschlossen. Die Sache mit der Kreativität/ Innovation/ Phantasie ist ja zum Beispiel noch offen. Da  werden wir aber dieses Jahr wohl auch nicht weiter kommen. Ich bin gespannt auf die Fortsetzung im neuen Jahr.

 

Zusammen mit anderen Montis habe ich ja die Ansicht vertreten, dass die Maschinen noch eine riesige Menge zu lernen haben, bevor sie sich ans Schreibhandwerk machen können. Dazu fällt mir eine Geschichte ein, die ich neulich am Lagerfeuer gehört habe und die ich euch ins neue Jahr mitgeben möchte.

 

Guten Rutsch,

 

Manfred                                (Korrektur: Lauffeuer --> Lagerfeuer (voreilige Autokorrektur )

 

Dies ist die Geschichte einer fremden (künstlichen, außerirdischen oder sonstigen) Intelligenz (FI), die in einer entlegenen Ecke der Galaxis tausend Menschen-Bücher fand und nichts über die Verfasser und ihre Welt wusste. Weil die FI aber so intelligent war, wollte sie lernen, die Bücher zu lesen und dann selbst eines zu schreiben, egal für wen. Leider wissen wir nicht, wie die FI kommuniziert und ob sie überhaupt Lust hat, mit irgendetwas oder jemandem zu kommunizieren. 

 

Jedenfalls erkannte die FI als erstes, dass sie das Schreibsystem der Bücher nicht kannte. Sie wusste nicht einmal, dass es überhaupt Schreibsysteme gibt und was sie so tun. Wir Menschen wissen, dass es davon hunderte gibt, die sich in den letzten 5.000 Jahren auf unserem Planten entwickelt haben. Bekannt sind uns Menschen der Gegenwart nur ein Teil davon (zum Beispiel das lateinische Alphabet), der FI natürlich nicht. Wir wissen, dass die Schreibsysteme sich nach Dingen richten wie Piktogrammen, Silben, Morphemen, Phonemen. Die FI wusste das nicht, auch nicht, dass es überhaupt Piktogramme, Silben, Morpheme, Phoneme gibt. Um die Schreibsysteme zu verstehen, müssen wir Menschen die Struktur von Silben und/oder Morphemen und/oder Phonemen in der jeweiligen Einzelsprache verstehen oder ein System von abstrakten Zeichen verstehen. Und das alles nur, um Schrift in Laut zu verwandeln. Die gute FI musste daher eine Unendlichkeit daran arbeiten, die arbiträren Zeichen irgendeinem Ding in der Welt zuzuordnen.

 

Aber geht es ja bei einem Buch nicht zuerst darum, abstrakte Symbole zu entschlüsseln, sondern darum, Ereignisse, Gedanken und Gefühle von Personen mitzuteilen. Angenommen den unwahrscheinlichen Fall, dass unsere FI auf eine magische Weise (die eigentlich für eine FI ausgeschlossen ist) die Laute der tausend Bücher entschlüsseln konnte. Was wusste sie dann über die Bedeutung der Laute oder dass es bei Büchern überhaupt um Bedeutung geht? Der armen FI sagte ja niemand etwas. Sie hatte ja nur die tausend Bücher, sonst nichts.

 

Kommen wir der armen FI zur Hilfe und sagen es ihr, was eigentlich nicht im Sinne des Experiments ist. Was weiß sie dann, wenn sie „gelb“ liest und /ɡɛlp/ sagt? Nicht viel. Sie muss ja zuerst wissen, dass es Farben gibt, was Farben so allgemein tun. Und weiß sie dann, welcher Abschnitt des Farbspektrums damit bezeichnet wird? Nein. Aber verraten wir ihr auch das. Weiß sie dann, dass der Gelb-Ausschnitt des Farbspektrums nicht für alle Menschen gleich ist? Nicht unbedingt innerhalb einer Sprache und schon gar nicht zwischen Kulturen? Sie kann es nicht wissen. Auch nicht, dass „groß“ und „klein“ keine Größenangaben sind. Sie weiß nicht, dass menschliche Sprache vage ist. Ein kleines Pferd kann größer sein als ein großer Hund. Ein kleiner Schmerz wird plötzlich groß, wenn die Situation es erfordert. Ganz im Norden der Republik gibt es den Thieberg. Er ist nicht mal 100 Meter hoch. Aber man kann ihn bei gutem Wetter von mindestens 30 Kilometern Entfernung sehen. Das macht ihn hier schon zu einem echten Berg, obwohl er kein Gipfelkreuz hat.

 

Und was weiß denn die FI überhaupt über einen Berg. Sie hat ja nur die tausend Bücher, hat nie einen Berg gesehen, nicht mal den Thieberg. Wie soll sie denn da eine Vorstellung von einem Berg haben? In dem Wort Berg ist das nicht drin. Und Vorstellung. Wie kann die FI überhaupt eine Vorstellung haben? Bei uns Menschen klappt das ganz gut. Das lernen wir als Kind zusammen mit der Sprache und beim Entdecken der Welt. Dann entwickeln wir mit den Worten Vorstellungen von Dingen. Das sind unsere Gedanken, und die benutzen wir, wenn wir lesen. So verstehen wir Berg: Wort „Berg“, Gedanke „Berg“ und echter „Berg“. Fast einen Art Gedankenübertragung. Und die FI? Die soll ja ganz ohne Gepäck daher kommen. Reine Intelligenz. Es sieht ganz schlecht für sie aus. Keine Bergerfahrung. Keine Gedanken.

 

Aber es war ja gerade Weihnachten. Schenken wir ihr doch die Bergerfahrung und den Berggedanken. Dann erzählen wir ihr noch vom Thieberg. Ob sie jetzt uns Nordlichter seltsam findet? Seltsam? Wieso? Nein, sie wird es nicht kapieren. Ein Berg, der kein Berg ist. Das ist nur Unsinn. Dann wird sie trotz unserer großzügigen Hilfe alle Stellen mit Humor überlesen. Alles falsch. Jeder Witz, jede humorvolle Anspielung. Manche Bücher sind vollständiger Unsinn.

 

Und Lügen. Wie geht das überhaupt? Wie Humor, nur die böse Variante. Wir sagen jemandem das Gegenteil von dem, was passiert ist und wissen, dass er oder sie es nicht weiß und es (hoffentlich) auch nicht heraus findet. Also bewusst falsche Gedankenübertragung, um andere Menschen zu manipulieren. Das geht nur, wenn Realität, Sprache und Gedanken unabhängig von einander existieren. Und wie wird die FI entdecken, dass Menschen lügen können, wenn sie nicht weiß, was Lügen ist, was Realität, Sprache und Gedanken sind und dass man sie von einander trennen kann? Was ist dann mit den 500 Krimis, die in der Bücherkiste sind? Und den Beziehungsdramen, den Intrigen am Hofe und anderswo? Alles unverstanden, es sei denn wir verraten es der FI.

 

Beziehungsdramen. Liebe. Das ist alles philosophisch harter Tobak. Moment mal, Beziehung. Wie geht das denn? Da braucht man zuerst mal eine sozio-psychologische Theorie der Identität mit persönlicher und sozialer Ebene und vor allem die Ich-Identität mit einem Bewusstsein seiner selbst. Sonst geht kein Beziehungsdrama. Tut mir leid, FI, das must du alles aus den tausend Büchern extrapolieren. Bin mal gespannt, wann du fertig bist.

Bearbeitet 31. Dezember 2017 von Manfred

[Ulf Schiewe]

Das sagt eigentlich alles. Oder? 

[(Tom Liehr)]

Nee, tut es nicht. Das tut es nur, wenn man Manfred aufs Glatteis folgt.

 

Er setzt nämlich einfach voraus, dass Verständnis nötig ist, um das gut künstlich zu tun, was wir gut natürlich tun. Dass es also darum geht, uns so gut wie möglich zu simulieren, und zwar in jeder Hinsicht. Das ist aber nicht der einzige Ansatz, wenn es um die Automatisierung auch komplexer Vorgänge geht. Das autonom fahrende Auto "weiß" ebenfalls nichts; es weiß nicht einmal, dass es selbst ein Auto ist. Es (oder seine Steuerung) hat nicht das allergeringste Verständnis davon, wie sich seine Umwelt darstellt, und die meisten Informationen, die ihm theoretisch zur Verfügung stünden, ignoriert es qua Bauweise, weil es diese Informationen nicht benötigt, um eine Aufgabe zu erledigen, die wir ganz anders bewältigen - und vermutlich mittelfristig schlechter als das autonom fahrende Auto. Das, ich sagte es bereits, kein besonders komplexes Problem bewältigt, weil eigentlich kaum Intelligenz nötig ist, um Auto zu fahren, ohne größeren Schaden anzurichten.

 

Mal davon abgesehen, dass man der FI auch Millionen von Büchern zur Verfügung stellen könnte, statt nur tausend (wodurch wahrscheinlicher würde, dass die FI zu sinnvollen Folgerungen gelangt), und es denkbar ist, dass sensorische Wahrnehmung und Umgang mit künstlichen Zeichen/Informationen möglicherweise ähnlich vonstatten geht wie hier, erzählt Manfreds Geschichte nicht davon, wie man das belletristische Schreiben automatisiert oder daran scheitert. Sie zeigt die Probleme auf, die man dabei wahrscheinlich dabei hätte, ein fremdes, komplexes System zu verstehen, ohne mehr über dieses System zur Verfügung zu haben als eben diese tausend Bücher. Aber das ist nicht die Problemstellung, um die es hier geht.

 

Ich sage ja selbst auch nicht, dass das kurz- oder mittelfristig gelingen wird, aber ich sage eben auch, dass es möglicherweise überhaupt nicht darum gehen wird, das nachzuahmen, was wir tun, und es auf die gleiche oder sehr ähnliche Art nachzuahmen. Denn es kommt ja nur auf das Ergebnis an - wie beim autonomen Autofahren. Vielleicht wird ein Algorithmus entwickelt, dem es gelingt, schöngeistige Literatur zu verfassen, ohne die leiseste Ahnung, das allergeringste Verständnis davon zu haben, was er da tut, aber trotzdem liest es sich fein, was er schreibt. Beispiele für diese Vorgehensweise gibt es bereits zuhauf, und auch der Turing-Test prüft nicht, wie es der Maschine gelingt, einen Gesprächspartner vorzutäuschen, sondern nur, dass es klappt. Und nur weil wir uns derzeit noch nicht vorstellen können, dass es auch eine geschichtenerzählende Maschine geben könnte, die wir nicht zu entlarven in der Lage sein werden, heißt das eben nicht, dass das weiterhin vergleichsweise unmöglich bleiben wird.

 

Und das war jetzt mein Schlusswort. Habt ein großartiges Jahr 2018!

 

Herzlich,

Tom

[Margot]

Als ich mich noch in Lyrik-Foren tummelte, haben wir vor Jahren mal ein Experiment gestartet. Es gibt ja diese Lyrik-Generatoren im Netz; man gibt dort ein paar Wörter ein und das Programm generiert daraus ein Gedicht. Jemand hat dann ein selbtverfasstes und ein generiertes Gedicht gepostet und die anderen mussten herausfinden, welches echt und welches "maschinell" geschaffen wurde.

 

Die Ergebnisse waren wirklich interessant. Kaum jemand konnte - nach erfolgter Interpretation - den Unterschied herausfinden. Natürlich fabrizieren solche Programme (momentan noch?) viel Schrott, aber sie brauchen dafür kein Jahr (wie wir ).

 

Ich kann mir also durchaus vorstellen, dass ähnliche Programme irgendwann Geschichten schreiben. Ob sie "gut" sind, wird man sehen. Gut liegt ja immer im Auge des Betrachters bzw. der Lesenden. 

[Christa]

Als ich mich noch in Lyrik-Foren tummelte, haben wir vor Jahren mal ein Experiment gestartet. Es gibt ja diese Lyrik-Generatoren im Netz; man gibt dort ein paar Wörter ein und das Programm generiert daraus ein Gedicht. Jemand hat dann ein selbtverfasstes und ein generiertes Gedicht gepostet und die anderen mussten herausfinden, welches echt und welches "maschinell" geschaffen wurde.

 

Die Ergebnisse waren wirklich interessant. Kaum jemand konnte - nach erfolgter Interpretation - den Unterschied herausfinden. Natürlich fabrizieren solche Programme (momentan noch?) viel Schrott, aber sie brauchen dafür kein Jahr (wie wir ).

 

Ich kann mir also durchaus vorstellen, dass ähnliche Programme irgendwann Geschichten schreiben. Ob sie "gut" sind, wird man sehen. Gut liegt ja immer im Auge des Betrachters bzw. der Lesenden. 

 

Solche Programme habe ich auch schon gesehen und das gerade mal ausprobiert. Auf die Worte "Roboter-Roman-schreiben-gefühlvoll" dichtete das Programm:

 

Kleine Gabe an das Roman

 

Roboter

Ach gefühlvolles Früchtchen du!

Roman, mein fröhlicher Feind.

Im Bett in zeitloser Galaxy!

Schreibt! Du musst es rufen!

Schrubbt!

Welch beschauliches Jubilieren.

Roboter du.

Rein. Mehr als man glaubt.

Roman zwischen Donnern und Schrubben.

Roman ja so fein.

 

Danke für diesen Lacher in der Mittagsstunde, Margot!  

 

 

 

 

[(Tom Liehr)]

"Poetron" gibt es schon seit über einem Jahrzehnt. Mal davon abgesehen, dass hier relativ simpel Phrasen, Schlagworte und Formulierungen/Formulierungsregeln permutiert werden, ist das bei Lürik sowieso einfach, weil ohnehin keiner Lürik versteht, zumeist nicht einmal derjenige, der sie fabriziert hat.

 

Herzlich,

Tom

 

Edit: Tatsächlich gibt es Poetron - sozusagen den Urvater der computergenerierten Lürik (zumindest in Deutschland) - schon seit 1984. Die erste Fassung ist in der DDR entstanden.

Bearbeitet 2. Januar 2018 von Tom Liehr

[Christa]

 ist das bei Lürik sowieso einfach, weil ohnehin keiner Lürik versteht, zumeist nicht einmal derjenige, der sie fabriziert hat.

 

Mit dem Unterschied, dass der Roboter sich nicht bewusst ist, dass er ein Dichter sein will, der Dichter dagegen schon. Wobei es dem Roboter egal sein dürfte, ob das jemand versteht, dem Dichter nicht. Früher mussten wir die Dinger ja immer analysieren. Ob er mit "Schrubben" das Feinpolieren meint?

 

Interessant, dass Poetron schon 1984 (und ausgerechnet 1984!) in der DDR entstanden ist. Ich habe kürzlich im Netz ein Buch mit Robotergedichten gesehen, das in Japan gehandelt wird. Also bei Lürik und Kurzgeschichten glaube ich auch, dass man heute schon die robotergenerierten von den humangenerierten oft nicht unterscheiden kann.

[MartinC]

Da hab ich von Menschen schon Schlimmeres gelesen ...

 

 

LG

Martin

[Manfred]

Das sagt eigentlich alles. Oder? 

 

Nee, tut es nicht. Das tut es nur, wenn man Manfred aufs Glatteis folgt.

 

Er setzt nämlich einfach voraus, dass Verständnis nötig ist, um das gut künstlich zu tun, was wir gut natürlich tun. Dass es also darum geht, uns so gut wie möglich zu simulieren, und zwar in jeder Hinsicht. Das ist aber nicht der einzige Ansatz, wenn es um die Automatisierung auch komplexer Vorgänge geht. Das autonom fahrende Auto "weiß" ebenfalls nichts; es weiß nicht einmal, dass es selbst ein Auto ist. 

 

Es war nicht meine Absicht, diese Diskussion über schreibende Maschinen abzuschließen, weder mit meiner Zusammenfassung noch mit der Geschichte über eine FI. Ich denke, dass man sie auch nicht in dem Sinne abschließen kann, dass geklärt ist, wann und auf welchem Weg „Maschinen“ Literatur schreiben werden.

 

Mir ging es in meinen Beiträgen darum, aufzuzeigen, welche Wege in der KI beschritten werden und welche Hürden zu überwinden sind. Die bekannten Mittel und Wege sind beschränkt und die Hürden hoch. Daher vertrete ich die Auffassung, dass es noch ein weiter Weg zu einer schreibenden Maschine ist.

 

Die Länge des Weges hängt natürlich davon ab, nach welchen Kriterien wir glauben, am Ziel zu sein. Sind wir etwa schon da? Poetron scheint ja so manche/n zu beeindrucken.

 

Lasst uns aber im Klaren darüber sein, was Poetron macht. Hier ein Zitat von der Poetron-Webseite:

„Poetron ist ein Scherzprogramm

Das Programm würfelt auf der Basis von Zufallszahlen diverse Worte aus eigenen Wortlisten aus. Die gegebenenfalls vorliegenden Vorgaben des Nutzers werden dabei natürlich mit Vorrang behandelt und fehlende Worte werden ergänzt. Danach verwendet Poetron relativ variable Templates, welche Gedichtstrukturen beschreiben, um ein Gedicht zu erzeugen. Poetron verwendet keine Techniken der „Künstlichen Intelligenz”; es werden also keinerlei semantische Analysen durchgeführt. Das Ergebnis ist rein zufällig. Die Variabilität ist allerdings so groß, daß es zu jeder Vorgabe mehrere Milliarden möglicher Ergebnisgedichte gibt.“

https://www.poetron-zone.de/poetron.php

 

Man kann natürlich darüber diskutieren, ob Gedichte, die auf diese Weise entstehen, für Poesie eine sinnvolle Aussage machen können. Miriam Stürner hat das in ihrer Magisterarbeit zur künstlichen und digitalen Poesie getan:  https://netzliteratur.net/stuerner/stuerner_mag.pdf   Sie merkt allerdings an, dass  Poetron sich in seinen Gedichten häufig wiederholt und zu machen Vorgaben nichts erzeugen kann. (Die Arbeit gibt übrigens einen Überblick über künstliche und digitale Poesie von den Anfängen 1960 bis 2003.)

 

Poetron verwendet bestimmte formale Parameter von Lyrik, Textbausteine und einen Zufallsgenerator. Wenn die Leserschaft nun bereit ist, ein so erzeugtes Gebilde als Gedicht anzunehmen, dann ist nicht auszuschließen, dass es von dieser Leserschaft als Gedicht wahrgenommen wird. Das ist aber eine Leistung des menschlichen Geistes. Halt genauso wie manche Menschen bereit sind, ELIZA als Psychiater wahrzunehmen. In beiden Fällen haben die Textsorten und die Erwartungen an das Gegenüber extrem enge Grenzen. So sieht ein Gedicht aus, und so „spricht“ man mit einem Psychiater. Wir alle wissen, dass ELIZA den Turing-Test um Längen nicht besteht und dass noch kein Programm den Test bestanden hat.

 

Es ist kein Zufall, dass zum erweiterten Turing-Test der Nachweis von Bewusstsein gehört.

 

Tom meint, dass in der Geschichte über die FI mit den vielen Büchern von Menschen Verständnis seitens der KI notwendig sei. Was genau heißt denn Verständnis hier?  Irgendeine Art von Wissen, bewusst oder unbewusst? Das hat das selbstfahrende Auto auch. Es muss z.B. wissen, was ein Vorfahrtsschild ist. Anders ausgedrückt: die Bedeutung des Vorfahrtsschildes muss in dem System abgebildet sein. Sonst kracht’s. Das heißt ja nicht, dass das Auto darüber Selbstgespräche führen können muss. Das Auto hat, kognitionswissenschaftlich ausgedrückt,  „prozedurales Wissen“. Typisch für automatisierte Abläufe. Buchstaben und Laute auf einander für einen Leseprozess abzubilden erfordert ebenfalls prozedurales (und automatisiertes) Wissen. Das wäre ja der erste Schritt in der FI-Geschichte. Man kann allerdings auf verschiedenen Wegen da hin kommen: z.B. hart codiert, durch sog. Inferenzmechanismen oder durch neuronale Netze.

 

In der Geschichte geht es ja um diese FI, die aus der großen, großen Zahl von Menschen-Büchern ohne jede Hilfe und ohne jede Kenntnis von Menschen und ihrer Welt lernen will, diese Bücher zu lesen und ein neues Buch zu schreiben. Fügen wir hinzu: genau ein neues Buch zu schreiben, das Menschen als Buch wahrnehmen. Das ist eine lerntheoretische Aufgabe. Derartige Fragestellungen sind nicht neu, nur ist die der FI eben wahnsinnig groß. Beim Maschinenlernen werden realistischerweise seeehr viel kleinere Projekte durchgeführt. Eine bahnbrechende Sache war vor 30 Jahren z.B. ein Projekt, in dem das Programm angeblich nur durch Input auf der Basis neuraler Netze gelernt hatte, wann man im Englischen das –ed für die Markierung von Vergangenheit anhängt. Eine lerntheoretische Sensation. Der Haken: die entscheidenden Ausgangsinformationen über den Zusammenhang von –ed und Vergangenheit waren schon im Programm enthalten.

 

Das ist hier deshalb so interessant, weil ja unsere FI zwar sehr intelligent ist, aber außer den vielen, vielen Büchern keine weitere Information für die Aufgabe hat. Und genau diese Bedingung macht es so unwahrscheinlich, dass sie die Lösung schnell finden wird. Das ist also das „Dilemma“ (falls man es als solches betrachtet): Einerseits ist die Lernaufgabe ohne jede weitere Zusatzinformation mithilfe von neuronalen Netzen nahezu unendlich schwer ist. (Neuronale Netze lösen – wie gesagt - einfache Aufgaben mit viel Daten gut, aber extrem komplexe nicht. Und Romane schreiben gehört zu den allerkomplexesten.) Andererseits wird jede Hilfestellung durch Menschen auf die Art von Hürden treffen, die in der FI-Geschichte illustriert sind. Und da käme bei den höheren kognitiven Funktionen tatsächlich Bewusstsein und bewusstes Wissen ins Spiel. Es ist eher unwahrscheinlich, dass neuronale Netze in naher Zukunft ohne „Hilfestellung“ (unbeobachtetes Lernen) diese höheren kognitiven Funktionen abbilden können.

 

Noch eine Bemerkung zu „Wissen“. Das ist eine spannende Frage, die in den Kognitionswissenschaften gerade in den letzten Jahren diskutiert wurde, als neuronale Netze erfolgreich im Lernen basaler kognitiver Funktionen waren. In der Philosophie und in den Kognitionswissenschaften unterscheidet man zwischen Realität und Abbildung der Realität, also traditionell zwischen Körper und Geist. Lüge, Phantasie und ähnliche Sachen finden im Geist statt und beziehen sich nicht eins-zu-eins auf die Realität. Die Frage ist hier, welchen Status künstlich erzeugte Abbildungen der Realität haben. Viele Kognitionswissenschaftler kommen zu dem Schluss, dass auch neuronale Netze derartige Abbildungen (also Wissen) enthalten, auch wenn sie für uns nicht lesbar sind. Aber mein Beitrag ist jetzt schon viel zu lang geworden. Daher mache ich hier besser erst einmal einen Punkt. 

Bearbeitet 3. Januar 2018 von Manfred

[ClaudiaB]

Roman, mein fröhlicher Feind.

Das ist super.

 

Und ja, ich hab auch schon Schlimmeres gelesen. Und natürlich Besseres. Das Bemühen des menschlichen Egos und die Geltungssucht fehlen. Das macht Roboterlyrik vielleicht attraktiv.

 

Danke für diesen Thread, ich lese fasziniert und meinungslos mit.

Liebe Grüße

Claudia

[Christa]

Der Einfachheit halber kopiere ich ein paar Sätze raus, Manfred.

Poetron verwendet bestimmte formale Parameter von Lyrik, Textbausteine und einen Zufallsgenerator. Wenn die Leserschaft nun bereit ist, ein so erzeugtes Gebilde als Gedicht anzunehmen, dann ist nicht auszuschließen, dass es von dieser Leserschaft als Gedicht wahrgenommen wird. Das ist aber eine Leistung des menschlichen Geistes. Halt genauso wie manche Menschen bereit sind, ELIZA als Psychiater wahrzunehmen. In beiden Fällen haben die Textsorten und die Erwartungen an das Gegenüber extrem enge Grenzen. So sieht ein Gedicht aus, und so „spricht“ man mit einem Psychiater. Wir alle wissen, dass ELIZA den Turing-Test um Längen nicht besteht und dass noch kein Programm den Test bestanden hat.

 

 

​​Bei ELIZA haben die Versuchspersonen darauf reagiert, dass die Stimme des Psychiaters menschlich und verständnisvoll ​klang. Dahinter steckte die non-direktive Methode nach Rogers. Der Computer brauchte also nur die Verfassung des Probanden widerzuspiegeln, damit der sich verstanden fühlte. Also auf die Aussage der Versuchsperson "Ich habe Probleme mit meinem Vater" antworten: "Erzählen Sie mir mehr über ihre Familie." Daraus entstand das Gefühl, mit einem wirklichen Psychiater zu sprechen, auch wenn das Programm und auch kein anderes den Turing-Test je bestanden hat. Genauso gut kann Poetron ein Zufallsgedicht generieren und das Gefühl entstehen lassen, es sehe ja auch aus wie ein Gedicht. Dabei finde ich übrigens wie Claudia, dass Sätze wie "Roman, mein fröhlicher Feind" oder "Im Bett in endloser Galaxy" sehr witzig sind. Vielleicht ist dieser Witz ja tatsächlich nur dadurch entstanden, weil keine Intention dahintersteckt wie beim bemühten Poeten? Es geht, wenn ich dich richtig verstehe, um das Ich-Bewusstsein und die anderen bzw. um das Bewusstsein des Computers (des selbst fahrenden Autos) über Abläufe und neuronale Netze. Und um die Intention des "Empfängers", was er mit den erhaltenen Informationen macht und für wie real und brauchbar er sie hält. Hier mache ich auch wieder einen Punkt, sonst verlieren wir uns noch in den Galaxien der Möglichkeiten.  

Bearbeitet 3. Januar 2018 von Christa