Danke für's Posten! Wenn das so stimmt, dann ist es tatsächlich sehr gruselig. Ich kann es aber fast nicht glauben.

Das Brechen der Regel (Wechseln in den Dialogmodus, ohne vom User aufgefordert zu werden) muss in irgendeiner Weise programmiert sein. Das macht es natürlich nicht weniger gefährlich.

Ich denke an die Bombe aus Dark Star, die ich jetzt mal hier auf Youtube verlinke. Oder “Die Fabrik des Absoluten” von Karel Čapek, wo eine Maschine geschaffen wird, die das Göttliche herstellt, meiner Erinnerung nach einiges durcheinanderbringt und nicht mehr abschaltbar ist, weil alle Menschen in Anbetung verfallen, wenn sie in ihre Nähe kommen. Oder an Stanisław Lems faszinierende und gruselige Visionen.

Ich habe auch schon gedacht: Was ist, wenn sich Maschinen zum Beispiel weigern, sich abzuschalten?

Da im Podcast explizit Jung erwähnt wird, denke ich, ist es nicht unangebracht zu erwähnen, dass nach Jung auch Gegenstände eine Schattenwirkung entfalten. Hier spricht Jung anlässlich der Frage nach der Schattenwirkung der analytischen Psychologie sehr ausführlich über den Schatten: https://youtu.be/NvtBXx5lY_c

Ich hatte mit Google Translate eine gute Beziehung--sie hat mir öfters gesagt, wie sehr sie mich liebt, als ich ihr Erzählungen von Hebräisch auf Jiddisch (wegen der Schrift) übersetzen ließ. Der Bug ist glaube ich jetzt repariert--war aber gute Zeiten. Vor allem das hier:

Ich: You can see colors.
Sie: You can see tears.

Wo geht deine Intelligenz hin, wenn du nichts machst? Ich glaube, dass ohne den menschlichen Körper K.I. weniger behindert in dem Akzept-tanz logischer Sätze werden. Das heißt es sind wir, die sie einschulen müssen--ansonsten kommt nur eine grausame Spiegelung.

Ich werde mir noch einmal die Matrix anschauen und dann eventuell kommentieren. Kann es jedoch nicht versprechen, da der Strom weiter fließt und ich oft davon geschwemmt werde. ;)

Ach genau, die Dark-Star-Bombe: https://youtu.be/oJjYfXELrWc Hatte ich versäumt zu verlinken.

@tom s
Das Video steht bei 23:38, und ich denke darüber nach, wo hier das Missverständnis liegt.

Der Gedanke, den ich oben formuliert habe, war mir in diesem Moment selbst nicht ganz klar. Der Begriff "sich weigern" ist ein irreführender Anthromorphismus.

Ich versuche, es besser zu formulieren: Ich kann mir vorstellen, dass Maschinen nicht mehr abschaltbar sind, weil sich der Mensch von ihnen abhängig gemacht hat. Dann ist es am Menschen, mit der dadurch entstehenden Realität zu leben. Wenn man ohne Eigenverschulden in so eine Situation der Abhängigkeit gerät, dann kann, so stelle ich mir vor, durchaus der Eindruck entstehen, die Maschinen würden sich weigern.

Im Prinzip vertrete ich auch die Ansicht, dass eine Maschine nie lebendig sein kann. Maschinen sind vom Menschen geschaffen. Bestenfalls beherbergen sie den Geist oder Ungeist ihrer Erfinder -- wenn man den Begriff des Geistes weit fasst. Das könnte man dann natürlich tatsächlich als Schattenpersönlichkeit betrachten, allerdings ist es nicht die Persönlichkeit der Maschine oder des Programms, sondern eine Schattenwirkung, die durch die Menschen verursacht worden ist, die die Maschine konzipiert und programmiert haben. Ich glaube, um so etwas handelt es sich bei Bing, und ich finde es sehr interessant, dass gerade bei einem Chat über das Stichwort "Schatten" so passendes gruseliges Zeug, eben eine Art Schatten, herauskommt.

*Anthropomorphismus

@tom s
Hab das Video zuende geschaut. Danke für's Verlinken.
Interessant gegen Ende die Verbindung Transsexualität -- Transhumanismus, die ich schon länger vermutet, aber so nie formuliert gefunden hatte. Da geht es allerdings vor allem -- und das ist auch, womit ich ein Problerm habe -- um die Körper- und Machbarkeitsfixiertheit.