„Habe nun ach! Philosophie, Juristerei und Medizin, und leider auch Theologie! durchaus studiert mit heißem Bemühn. Da steh ich nun, ich armer Tor! und bin so klug als wie zuvor; heiße Magister, heiße Doktor gar, und ziehe schon an die zehen Jahr herauf, herab und quer und krumm meine Schüler an der Nase herum – und sehe, dass wir nichts wissen können!

Das will mir schier das Herz verbrennen!“ 

- Faust I, S. 354–365

Ex machina

Anfang des Jahres hatten wir die Werbung für den Film „Ex machina“ gesehen und beschlossen, ihn uns unbedingt im Kino anzusehen. Als er dann in Deutschland lief, warteten wir Woche um Woche, wann er denn in unserem Kino endlich gezeigt werden würde. Irgendwann, als er in Deutschland schon fast durch war, fragten wir im Kino beim Besitzer nach. Er hatte sich auch schon gewundert, warum sein Verleiher ihn nicht geliefert hatte. (Kann ein Kinobesitzer in Deutschland nicht die Filme selbst aussuchen, die er zeigen will?)

Jedenfalls waren wir in der letzten Woche sehr froh, als er als „Besonderer Film“ an zwei Tagen gezeigt wurde. Außer uns war nur noch eine einzige weitere Person im Saal. Entweder hatte der Filmverleiher im Früjahr also die Verkaufschancen realistisch eingeschätzt und ihn deshalb nicht angeboten oder die damaligen Interessenten hatten ihn inzwischen in anderen Kinos größerer Städte gesehen. Nach dem Besuch wussten wir jedenfalls – es ist kein Mainstream- und kein Popcornfilm.

Die genaue Handlung kann man im Wikipediaartikel (Link) nachlesen. Hier nur kurz das Wesentliche: Der beste junge Programmierer (Caleb, im Bild links) gewinnt einen einwöchigen Besuch bei seinem Arbeitgeber (Nathan, im Bild rechts), der selbst seinerzeit mit 13 Jahren Programmierer der weltweit größten Suchmaschine war, die ihn zum Milliardär gemacht hat. Nathan lebt allein und völlig von der Außenwelt abgeschieden und beschäftigt sich mit der Vervollkommnung der Künstlichen Intelligenz, verkörpert in Androiden, die näherungsweise die Gestalt junger Frauen haben. Sein aktuelles Modell heißt Ava (ausgesprochen „Eva“, Bildmitte).

Im Anwesen Nathans angekommen, erfährt Caleb den eigentlichen Zweck seines Besuchs: Der Milliardär wünscht sich eine Art Turingtest. In dem originalen Test von Alan Turing geht es darum, dass ein (menschlicher) Proband herausfinden soll, ob er mit einem Computer oder einem Menschen schriftlich kommuniziert. Ist der Proband am Ende der Meinung, er hatte es mit einem Menschen zu tun, hat das Computerprogramm (oder eigentlich der Programmierer ) den Test bestanden.

Natürlich kann es im Film nicht ein solcher Turingtest sein, denn Caleb weiß ja bereits, dass Ava ein Android ist. Aber er soll beurteilen, ob Ava über ein Bewusstsein verfügt. Davon ist Caleb ziemlich schnell überzeugt, weil Ava ihm auf eine Frage ähnlich antwortet, wie er ihr auf eine seiner Fragen. Damit sie auf diese Antwort kommen konnte, musste sie kurz zuvor seine Frage verstanden haben. Die Begriffe Wissen und Verstehen sind ziemlich unscharf und mit vielen Definitionen unterlegbar, aber wir haben doch ein intuitives Gespür für sie. Bei anderen Menschen gehen wir davon aus, dass sie über ein Bewusstsein verfügen, das weitgehend unserem eigenen gleicht.

Die Grenzen sind unscharf, viele Menschen reden mit ihren Haustieren so, als ob diese jedes Wort verstehen könnten, was sicherlich nicht der Fall ist. Aber ich bin der Meinung, dass viele höherentwickelte Tiere tatsächlich über ein Bewusstsein verfügen – sie erleben etwas, empfinden Freude am Leben, haben Schmerzen wie wir, etc. Manchmal trügt uns unser Sinn für Bewusstsein, z.B. wenn wir uns ein bestimmtes Verhalten eines Tieres (oder früher Blitz und Donner) nur als Ausdruck bewusst geplanten Verhaltens erklären können – so wie wir selbst unsere Handlungen planen.

Im Film besteht der ultimative „Turingtest“ letztlich darin, dass Caleb Ava bei ihrer Flucht helfen will, weil er sich in sie verliebt und beide erfahren, dass Ava nach dem Test „abgeschaltet“ werden soll. Caleb nimmt Ava also ab, dass sie unter ihrem „Tod“ leiden wird und er, weil er sie liebt, ebenso. Turingtest bestanden.

Ein zweiter philosophischer Klassiker im Film ist der Verweis auf das Mary-Gedankenexperiment.

„Mary ist eine brillante Wissenschaftlerin, die, aus welchen Gründen auch immer, gezwungen ist, die Welt von einem schwarzweißen Raum aus mithilfe eines schwarzweißen Fernsehmonitors zu untersuchen. Sie spezialisiert sich auf die Neurophysiologie des Sehens und eignet sich, wie wir annehmen wollen, alle physikalischen Informationen an, die verfügbar sind, über das, was passiert, wenn wir reife Tomaten oder den Himmel sehen, und Begriffe wie ‚rot’, ‚blau’, usw. benutzen. Sie entdeckt zum Beispiel, welche vom Himmel ausgehenden Wellenlängen-Kombinationen genau die Netzhaut stimulieren, und wie genau dies mithilfe des zentralen Nervensystems ein Zusammenziehen der Stimmbänder und Ausstoßen von Luft aus der Lunge hervorruft, das zur Äußerung des Satzes ‚Der Himmel ist blau’ führt. […] Was wird passieren, wenn Mary aus ihrem schwarzweißen Raum gelassen wird oder wenn man ihr einen Farbfernseher gibt? Wird sie etwas lernen oder nicht?“

Auch dieses Gedankenexperiment hat wieder mit aktuellen Diskussionen in der Bewusstseinsforschung zu tun: Lässt sich Bewusstsein vollständig mit Hilfe materieller Vorgänge erklären oder ist da in Gestalt der Qualia noch etwas mehr? Meiner Meinung übersieht dieses Experiment und aller Streit darüber etwas Wesentliches: Es ist eine bloße Behauptung, dass Mary in ihrem schwarzweißen Gefängnis alles über Farbe weiß. In dem Moment, in dem sie in die farbige Welt tritt und Farben sieht, ändert sich an ihrem Wissen etwas. Über die Sinneszellen ihrer Augen gibt es Änderungen in den Neuronen ihres Gehirns. Zur Klärung des Qualiaproblems trägt dieses Gedankenexperiment also nichts bei.

Wie ich schon schrieb, der Film ist definitiv kein Popcornfilm und wirkt sicherlich auf viele Zuschauer etwas langatmig. Die Rezensionen, die ich gelesen habe, waren dennoch überwiegend positiv. Etwas kurios fand ich einige Genderkritiken. In Kurzform: Die beiden Programmierer(genies) sind männlich, die Androiden weiblich – also vermittelt der Film ein veraltetes Frauenbild. Dazu muss man wissen, dass Nathan in seinem luxuriösen Anwesen eine weitere Androidin „Kyoko“ als eine Art Haussklavin und Sexgespielin hält. In Schränken findet Caleb bei seinen Nachforschungen weitere weibliche Androiden, offenbar Vorläufermodelle von Kyoko und Ava.

Tja. Es mag ja nur kulturell bedingt sein, dass heute Gender und Sex so übereinstimmen, dass meistens das klassische Rollenverständnis von Mann und Frau gilt. Wenn man aber von unsere heutigen Zeit aus eine Zukunftsvision zeigen möchte, dann muss zumindest der Ausgangspunkt weitgehend plausibel sein, sonst fesselt den Zuschauer die Utopie oder Dystopie nicht. Wir können ja spaßeshalber die Geschlechterrollen im Film herumdrehen und das Szenario mit dem im Film verwendeten vergleichen:

Die beste junge Programmiererin (Cala) gewinnt einen einwöchigen Besuch bei ihrer Arbeitgeberin (Natha), die selbst seinerzeit mit 13 Jahren Programmiererin der weltweit größten Suchmaschine war, die sie zur Milliardärin gemacht hat. Natha lebt allein und völlig von der Außenwelt abgeschieden und beschäftigt sich mit der Vervollkommnung der Künstlichen Intelligenz, verkörpert in Androiden, die näherungsweise die Gestalt junger Männer haben. Ihr aktuelles Modell heißt Adam. Natha und Cala unterhalten sich an den Abenden über die Theorien von Lydia Wittgenstein, Noa Chomsky und zitieren Roberta Oppenheimer. Natha hält in ihrem luxuriösen Anwesen einen weiteren Androiden „Kyo“ als eine Art Haussklaven und Sexgespielen. In Schränken findet Cala bei ihren Nachforschungen weitere männliche Androiden, offenbar Vorläufermodelle von Kyo und Adam.

Der Regisseur des Films hat übrigens in einem Interview, mit dem Gendervorwurf konfrontiert, gesagt, dass er seine Androiden als eher geschlechtslos ansieht (was ich für Blödsinn halte). Die beste Antwort wäre meiner Meinung nach der Verweis auf das Ende des Films gewesen: Die beiden Frauen töten zuerst Nathan, dann sperrt Ava Caleb bei ihrer Flucht aus dem Anwesen ein – wo er vermutlich elendig verhungern wird.

Gastbeitrag von: Dr. Ralf Poschmann

zum vorherigen Blogeintrag                                                                         zum nächsten Blogeintrag 

 

Liste aller bisherigen Blogeinträge

Kommentare: 1
  • #1

    WissensWert (Samstag, 04 Februar 2017 00:55)

    Thesen und Fragen zur Würde des erlebenden Subjekts

    Warum haben wir Bewusstsein? Wie folgt daraus eine prinzipielle Würde und was bedeutet das in Zusammenhang mit dem Schöpfergottesmythos und auch für uns als Schöpfer künstlicher Intelligenz?

    a) Ein Prozess wird selbstreferentiell und (selbst-) bewusst, wenn er sein Werden und Dasein subjektiv wertend mit Freude und Schmerz erlebt.

    b) Bewusstsein wird in sozialem Zusammenhang fähig, nicht nur mit dem anderen zu kommunizieren und Erlebensinhalte auszutauschen, sondern auch mit sich selbst zu kommunizieren und so das Bewusstsein seiner selbst, das Über-sein-Dasein-Bescheid-wissen zu konstruieren.

    c) Da ein kommunikationsfähiges Bewusstsein im sozialen und kommunikativen Zusammenhang steht, muss sich auch zwangsläufig die Fähigkeit zur Empathie entwickeln, bei der man nicht nur eigene Freude und Leid empfindet, sondern auch das der anderen spiegeln kann.

    d) Aus eigenem Bewusstsein und Spiegeln des Wissen über die Subjektivität der anderen folgt, dass jedes bewusst erlebende Subjekt eine Würde besitzt, die es zu schützen gilt, weil das Leid des anderen auch im Selbst wiedergespiegelt wird.

    Fragen:
    1) Wenn man ein Wesen konstruiert, das Bewusstsein erlangt, ist es ethisch erlaubt, dieses gegen seinen Willen Leid auszusetzen und es gar wieder zu vernichten?

    2) Wie steht in diesem Zusammenhang der Mythos eines göttlichen Schöpferwesen bezüglich seines Umgangs mit seinen Geschöpfen und seiner "Rechte" über sie.

    3) Wie sieht es aus mit von uns vermutlich in mittelbarer Zukunft geschaffener künstlicher Intelligenz? Kann sie bewusst werden, wenn sie ähnliche prozessuale Bedingungen erfüllt wie biologisches bewusstes Leben? Darf man sie aus ethischer Sicht instrumentalisieren, Leiden aussetzen und wieder vernichten?

    https://www.youtube.com/watch?v=GAv2aquUxDo


Impressum | Datenschutz | Sitemap
Diese Website darf gerne zitiert werden, für die Weiterverwendung ganzer Texte bitte ich jedoch um kurze Rücksprache.