„Du bist in einer Wüste und gehst im Sand entlang, wenn du plötzlich nach unten schaust und eine Schildkröte siehst… Du greifst nach unten und drehst die Schildkröte auf den Rücken. Die Schildkröte liegt auf dem Rücken, ihr Bauch backt in der heißen Sonne und schlägt sich mit den Beinen, um sich umzudrehen, aber das kann sie nicht. Nicht ohne deine Hilfe. Aber du hilfst nicht. "
Verwandte Inhalte
- Voltaire: Aufklärungsphilosoph und Lotterie-Betrüger
Vielleicht ist nichts für Ridley Scotts dystopischen Film Blade Runner von 1982 sinnbildlicher als der Voight-Kampff-Test, der von den titelgebenden Strafverfolgungsbehörden des Films, darunter Harrison Ford als Rick Deckard, durchgeführt wurde. Die Reihe der Fragen in dem fiktiven Test, wie der obigen, soll Menschen von Replikanten trennen, indem sie eine physiologische Reaktion hervorrufen, die Empathie anzeigt. Nur wahre Menschen, keine Replikanten, spüren diese Emotion. Deckards Aufgabe ist es, sich mit Replikanten zu befassen, die anfangen, gegen Befehle zu verstoßen. Er und andere verwenden den Test, um zu entscheiden, ob die Replikanten in den Ruhestand versetzt werden sollen oder nicht.
Diese rebellischen Androiden stellen nicht nur eine Bedrohung für den Menschen dar, sondern haben in dieser Welt auch keine gesetzlichen Schutzrechte. Wie könnten sie, wenn sie nicht als menschlich gelten?
Es ist ein derart packendes Dilemma, dass die Geschichte in der lang erwarteten Fortsetzung von Blade Runner: 2049 fortgesetzt wird. Ein Grund für die anhaltende Popularität des Originalfilms ist Deckards persönlicher Kampf, der sich in Filmen wie Her und Shows wie „Westworld“ ähnlich entwickelt ”: Wer oder was zählt als Mensch, besonders in einer Welt der fortschrittlichen Technologie?
Und um das zu verstehen, müssen wir uns an einige sehr alte Philosophen wenden.
***
Für die alten Griechen haben Maschinen, die von Göttern oder außergewöhnlich talentierten Menschen hergestellt wurden, die Menschen oft dazu verleitet, die Androiden für authentisch zu halten, schreibt Adrienne Mayor in Aeon. König Nabis von Sparta besaß eine Roboterversion seiner Frau, deren Brust heimlich mit Nägeln geschmückt war. Er benutzte die Maschine, um Bürger, die ihm nicht gehorchten, zu umarmen, deren Fleisch von den versteckten Waffen durchbohrt wurde. Und in China sah ein Automat aus dem 10. Jahrhundert v. Chr., Der vom Erfinder Yan Shi hergestellt wurde, so menschlich aus, dass er Frauen sang und zwinkerte, dass der König darüber wütend wurde. Dann erfuhr er die Wahrheit und staunte über eine Maschine, die sogar mechanische Organe besaß. Der Gelehrte Nigel Wheale schreibt: "In allen Epochen wurden 'menschliche Dinge' als Einheiten vorgestellt, die den gegenwärtigen Sinn für menschlichen Wert testen oder definieren."
Dies alles soll heißen, dass Bedenken hinsichtlich der Unterscheidung von Menschen aus Fleisch und Blut von Maschinen, die nur menschlich aussehen (und darüber entscheiden, ob diese Maschinen eine Bedrohung für uns Homo sapiens darstellen), nicht auf die Neuzeit beschränkt sind. Wir haben uns immer gefragt, ob alle Menschen wirklich das sind, was sie zu sein scheinen - weshalb die Philosophen der Aufklärung so viel Zeit damit verbracht haben, die Frage zu analysieren, was einen Menschen zum Menschen macht.
Rene Descartes, ein französischer Philosoph aus dem 17. Jahrhundert, der viele Reisen durch Europa unternahm, dachte tief über die Frage nach, was uns zu Menschen gemacht hat. Es ist kein Zufall, dass sein berühmtestes Zitat von einem der Replikanten in Blade Runner wiederholt wird: „Ich denke, deshalb bin ich es.“ Und wenn all das nicht genug Beweis für seine Verbindung zum Film ist, dann überlegen Sie sich die Namen: Descartes und Deckard.
Wie der Philosoph Andrew Norris betont, vermutete Descartes, dass es eines Tages notwendig sein könnte, zu testen, ob etwas menschlich oder maschinell war. "Wenn es Maschinen gäbe, die Bilder unseres Körpers tragen und in der Lage wären, unsere Handlungen so weit wie möglich moralisch nachzuahmen, blieben noch zwei sicherste Tests, um zu wissen, dass es sich nicht wirklich um Männer handelt", schrieb Descartes. So erstellte er seine eigenen Tests, die auf sprachlichen Fähigkeiten und Flexibilität des Verhaltens beruhten.
Replikanten sprechen und verhalten sich genauso wie Menschen, was bedeutet, dass sie Descartes 'Tests bestehen würden. Aber es gibt noch einen weiteren Grund, warum Deckard darum kämpft, ihre Menschlichkeit zu widerlegen: Replikanten haben auch implantierte Erinnerungen. Für den englischen Philosophen John Locke ist es die Kontinuität seiner Erinnerungen, die dem Menschen ein Gefühl des Selbst gibt. Der menschliche Körper verändert sich mit der Zeit, aber Erinnerungen bleiben bestehen und bilden die Grundlage für eine stabile Identität. "Soweit dieses Bewusstsein auf vergangene Handlungen oder Gedanken zurückgeführt werden kann, erreicht es die Identität dieser Person", schrieb Locke.
Für Rachael von Blade Runner, die fortschrittlichste Replikantin, die bisher entwickelt wurde, spielt es keine Rolle, dass sie vielleicht nur ein paar Jahre alt ist. Ihre Erinnerungen reichen viel weiter zurück und geben ihr den Eindruck, viel länger gelebt zu haben. Das macht Rachael zu einer so tragischen Figur - "ihre" Erinnerungen gehören ihr nicht. Sie kommen von der Nichte ihres Erfinders.
"Das ist eine herzzerreißende Sache, aber man kann sich vorstellen, dass [die Erinnerungen] für sie immer noch etwas Besonderes sind, auch wenn sie erfährt, dass sie nicht wirklich ihre sind", sagt Susan Schneider, Professorin für Philosophie an der University of Connecticut und Mitglied der Ethics and Technology Gruppe in Yale. „Es ist wie herauszufinden, dass Sie die hochgeladene Kopie sind, nicht die Person, die das Hochladen vornimmt. Aber Sie haben immer noch eine besondere Beziehung zu ihnen. Wie ein Elternteil. "
Aber es sind nicht nur Erinnerungen oder Rationalität, die einen Menschen in Blade Runner ausmachen. Empathie ist nach dem Voight-Kampff-Test am wichtigsten. Denker wie der deutsche Philosoph Theodor Lipps haben argumentiert, dass wir durch die Kraft des Einfühlungsvermögens fühlen und handeln können, weil wir keine Gedanken lesen oder physische Beweise dafür sehen können.
Harrison Ford als Rick Deckard führt den Voight-Kampff-Test im originalen Blade Runner durch. (Warner Bros.) "Der Blade Runner muss ironischerweise die Empathie anderer testen - nicht hier im Sinne von Lipps, sondern in Bezug auf ihre Sensibilität für eine jetzt untergegangene natürliche Welt, die von nicht-menschlichen Tieren bevölkert wird", schreibt Norris in seinem Aufsatz über die Philosophie des Films. Hier kommt die berühmte Frage nach der Schildkröte, die auf dem Rücken in der Wüste gefangen ist.
"Emotionen selbst werden niemals eine perfekte Prüfung der Menschlichkeit sein. Soziopathen sind schließlich auch Menschen", sagte Deborah Knight, Professorin für Philosophie an der Queen's University, per E-Mail. „Emotionen sind jedoch mehr als nicht kognitive Reaktionen. Sie helfen uns, Entscheidungen darüber zu treffen, was wir tun und wen wir anstreben sollten. “
Dies ist besonders deutlich im Fall des Replikanten Roy Batty, gespielt von Rutger Hauer. Roy empfindet menschenähnliche Gefühle und hat Bestrebungen, bekommt aber keine menschliche Lebensdauer, sagte Knight. Roy ist sich bewusst, dass er wie die anderen Replikanten nach nur vier Jahren für den Tod gebaut wurde, was ihn verständlicherweise verärgert.
Replikanten fühlen also wohl Gefühle und sie haben Erinnerungen. Macht das sie menschlich? Für Schneider ist eine definitive Antwort nicht unbedingt wichtig. Die Replikanten teilen genug Eigenschaften mit Menschen, dass sie Schutz verdienen. „Es ist ein sehr starkes Argument dafür, [einen Nichtmenschen] mit den gleichen gesetzlichen Rechten zu behandeln, die wir einem Menschen gewähren. Wir würden [Rachel] nicht als Menschen bezeichnen, aber vielleicht als Menschen “, sagt sie.
Für Eric Schwitzgebel, Professor für Philosophie an der University of California in Riverside, ist die Schlussfolgerung noch dramatischer. "Wenn wir eines Tages Roboter mit menschenähnlichen kognitiven und emotionalen Fähigkeiten erschaffen, schulden wir ihnen mehr moralische Rücksichtnahme als wir normalerweise ähnlichen Menschen schulden", schreibt er in Aeon. „Wir werden ihre Schöpfer und Designer gewesen sein. Wir sind also direkt verantwortlich für ihre Existenz und für ihren glücklichen oder unglücklichen Zustand. “
***
Blade Runner ist nur ein Film und die Menschen haben es immer noch nicht geschafft, Replikanten zu erstellen. Aber wir haben viele Fortschritte in der künstlichen Intelligenz gemacht, angefangen beim autonomen Lernen, sich an menschliche Fehler anzupassen, bis hin zu neuronalen Netzen, die miteinander streiten, um klüger zu werden. Aus diesem Grund haben für Schneider die im Film gestellten Fragen nach der Natur der Menschheit und nach dem Umgang mit Androiden wichtige Auswirkungen auf die Praxis.
„Eines der Dinge, die ich getan habe, ist zu überlegen, ob es sich jemals wie etwas anfühlen wird, eine KI zu sein. Wird es jemals eine Rachael geben? “, Sagt Schneider, die Blade Runner in ihrer Klasse für Philosophie in Science-Fictions einsetzt. In diesem Jahr veröffentlichte Schneider einen Artikel über den Test, den sie mit dem Astrophysiker Edwin Turner entwickelt hatte, um herauszufinden, ob ein mechanisches Wesen tatsächlich bei Bewusstsein ist. Wie der Voight-Kampff-Test basiert er auf einer Reihe von Fragen, fordert jedoch nicht das Vorhandensein von Empathie - Gefühle, die auf andere gerichtet sind - sondern das Gefühl, ein Selbst zu sein. Der Test, AI Consciousness Test genannt, wird derzeit in Princeton patentiert.
Der Test unterscheidet sich von dem bekannteren Turing-Test, den der Mathematiker Alan Turing 1951 entwickelt hat. Bei diesem früheren Test führte ein Richter ein digitales Gespräch mit dem Teilnehmer (wie Sie es heute in Chatrooms erleben würden), wobei er Fragen stellte, um zu entscheiden ob der Befragte ein Mensch oder eine Maschine war. Wie Schneider in ihrer Arbeit betont, können Wissenschaftler Programme entwickeln, die den Turing-Test bestehen, aber keine bewussten Wesen sind. Der Turing-Test ist daran interessiert, die Richtigkeit zwischen der Reaktion einer Maschine und der Reaktion eines Menschen zu beurteilen, ohne zu verstehen, ob die Maschine empfindungsfähig ist oder nicht. Wie beim Voight-Kampff-Test geht es auch beim AI-Bewusstseinstest von Schneider darum, zu verstehen, was im Inneren der Maschine geschieht.
Eine solche Arbeit sei dringend notwendig, weil die Menschheit ethisch nicht darauf vorbereitet sei, mit den Auswirkungen der Schaffung eines fühlenden Lebens umzugehen. Was die Beurteilung unserer Kreationen noch schwieriger macht, ist das menschliche Vertrauen in den Anthropomorphismus, um anzuzeigen, was als moralisch zu berücksichtigendes Wesen gelten sollte. „Manche [Roboter] sehen menschlich aus oder sie sind süß und flauschig, also denken wir an unsere Katzen und Hunde“, sagt Schneider. „Wir glauben, dass sie sich fühlen. Wir sind sehr leichtgläubig. Es kann sich herausstellen, dass nur biologische Systeme bewusst sein können oder dass die intelligentesten KIs die bewussten sind, die Dinge, die nicht menschlich aussehen. “
Für Wissenschaftler ist es wichtig, sich mit Philosophen auszutauschen - was viele bereits tun, sagt Schneider -, aber auch für die Öffentlichkeit, die Auswirkungen dieser Art von Technologie zu überdenken. Und sie fügt hinzu, dass nicht alle Philosophen der Natur des Bewusstseins zustimmen, daher gibt es keine einfachen Antworten.
Vielleicht bringen uns Hollywood-Filme wie Blade Runner: 2049 diesen Gesprächen einen Schritt näher. Wenn dies nicht der Fall ist, müssen wir uns selbst darum kümmern, in den ethischen Sumpf einzutreten. Früher als später - oder wir haben ein Problem wie die Replikanten und keine Ahnung, wie wir darauf reagieren sollen.
