Viele Diskussionen und ethische Überlegungen zu selbstfahrenden Autos haben sich auf tragische Dilemmata konzentriert, wie zum Beispiel auf Hypothesen, bei denen ein Auto entscheiden muss, ob es eine Gruppe von Schulkindern überfahren oder von einer Klippe stürzen und die eigenen Insassen töten soll. Aber solche Situationen sind Extremfälle.
Wie der jüngste Crash, bei dem ein selbstfahrendes Auto in Tempe, Arizona, einen Fußgänger getötet hat, zeigt, sind die alltäglichen Situationen an jedem Zebrastreifen, an jeder Kurve und Kreuzung viel schwieriger und ethischer Natur.
Ethik der Extreme
Als Philosoph, der mit Ingenieuren im Stanford Center for Automotive Research zusammenarbeitet, war ich zunächst überrascht, dass wir in unseren Laborsitzungen über eine meiner Meinung nach einfache Frage diskutierten: Wie sollte ein selbstfahrendes Auto sich einem Zebrastreifen nähern?
Meine Annahme war, dass wir darüber nachdenken würden, wie ein Auto zwischen dem Leben seiner Passagiere und dem Leben von Fußgängern entscheiden sollte. Ich wusste, wie man über solche Dilemmata nachdenkt, weil diese Crash-Szenarien einem berühmten philosophischen Denkaufruf ähneln, der als „Trolley-Problem“ bezeichnet wird. Stellen Sie sich vor, ein außer Kontrolle geratener Trolley rast über die Gleise und trifft zwangsläufig entweder eine Gruppe von fünf oder eine einzelne Person eine töten, um fünf zu retten?
Heutzutage bezweifeln jedoch viele Philosophen, dass die Untersuchung solcher Fragen ein fruchtbarer Forschungsweg ist. Barbara Fried, eine Kollegin bei Stanford, hat zum Beispiel argumentiert, dass tragische Dilemmata die Menschen glauben machen, dass ethische Probleme meist unter extremen und schlimmen Umständen auftreten.
Tatsächlich sind ethische Probleme allgegenwärtig. Alltägliche, alltägliche Situationen sind überraschend chaotisch und komplex, oft auf subtile Weise. Zum Beispiel: Soll Ihre Stadt Geld für ein Diabetes-Präventionsprogramm oder für mehr Sozialarbeiter ausgeben? Sollte Ihr örtliches Gesundheitsministerium einen anderen Inspektor für Restauranthygienestandards beauftragen oder ein Programm fortsetzen, das kostenlose Nadeln und Spritzen liefert?
Diese Fragen sind äußerst schwierig zu beantworten, da Ungewissheiten hinsichtlich der Folgen bestehen - beispielsweise, wer in welchem Maße betroffen sein wird. Die Lösungsvorschläge der Philosophen für extreme und verzweifelte Situationen helfen hier wenig.
Ähnliches gilt für selbstfahrende Autos. Das Durchdenken von Extremsituationen und Crash-Szenarien kann nicht dazu beitragen, Fragen zu beantworten, die in alltäglichen Situationen auftreten.
Eine Herausforderung auf Zebrastreifen
Man könnte sich fragen, was an alltäglichen Verkehrssituationen wie dem Anfahren eines Zebrastreifens, dem Durchfahren einer Kreuzung oder dem Biegen nach links so schwierig sein kann. Auch wenn die Sicht auf dem Zebrastreifen begrenzt ist und es manchmal schwer zu sagen ist, ob ein Fußgänger in der Nähe die Straße tatsächlich überqueren möchte, bewältigen die Fahrer dies jeden Tag.
Für selbstfahrende Autos sind solche banalen Situationen in zweierlei Hinsicht eine Herausforderung.
Einfach für den Menschen bedeutet oft schwer für den Computer. (XKCD, CC BY-SA) Erstens: Was für den Menschen einfach ist, ist für die Maschinen oft schwer. Egal, ob es sich um das Erkennen von Gesichtern oder das Fahren von Fahrrädern handelt, wir sind gut in der Wahrnehmung und bei mechanischen Aufgaben, weil die Evolution diese Fähigkeiten für uns aufgebaut hat. Dies macht es jedoch schwierig, diese Fähigkeiten zu lehren oder zu entwickeln. Dies ist als "Moravecs Paradoxon" bekannt.
Zweitens würden in einer Zukunft, in der alle Autos selbstfahrende Autos sind, kleine Änderungen des Fahrverhaltens insgesamt einen großen Unterschied bewirken. Mit anderen Worten, Entscheidungen, die Ingenieure heute treffen, bestimmen nicht, wie ein Auto fährt, sondern wie alle Autos fahren. Algorithmen werden zur Politik.
Ingenieure bringen Computern bei, wie Gesichter und Objekte mithilfe von Methoden des maschinellen Lernens erkannt werden. Sie können maschinelles Lernen nutzen, um selbstfahrenden Autos dabei zu helfen, das Fahren von Menschen nachzuahmen. Dies ist jedoch keine Lösung: Es löst nicht das Problem, dass Ingenieure weitreichende Entscheidungen zu Sicherheit und Mobilität treffen.
Darüber hinaus sollten selbstfahrende Autos nicht wie Menschen fahren. Menschen sind eigentlich keine sehr guten Fahrer. Und sie fahren auf ethisch problematische Weise und entscheiden auf der Grundlage des Alters, der Rasse und des Einkommens der Fußgänger, ob sie auf Zebrastreifen verzichten wollen. Beispielsweise haben Forscher in Portland herausgefunden, dass schwarze Fußgänger an doppelt so vielen Autos vorbeifahren und ein Drittel länger warten müssen als weiße Fußgänger, bevor sie überqueren können.
Selbstfahrende Autos sollten sicherer und fairer fahren als Menschen.
Mundane Ethik
Die ethischen Probleme vertiefen sich, wenn Sie sich mit den Interessenkonflikten befassen, die in alltäglichen Situationen wie Zebrastreifen, Abbiegungen und Kreuzungen auftreten.
Beispielsweise muss das Design selbstfahrender Autos die Sicherheit anderer - Fußgänger oder Radfahrer - mit den Interessen der Fahrzeuginsassen in Einklang bringen. Sobald ein Auto schneller als Schrittgeschwindigkeit fährt, kann es nicht verhindern, dass ein Kind in der letzten Sekunde auf die Straße rennt. Aber das Schritttempo ist natürlich viel zu langsam. Jeder muss an Orte gelangen. Wie sollten Ingenieure die Balance zwischen Sicherheit und Mobilität finden? Und welche Geschwindigkeit ist sicher genug?
Es gibt auch andere ethische Fragen, die auftauchen. Ingenieure müssen einen Kompromiss zwischen Mobilität und Umwelteinflüssen eingehen. Wenn sie auf alle Autos im Land angewendet werden, können kleine Änderungen beim computergesteuerten Beschleunigen, Kurvenfahren und Bremsen enorme Auswirkungen auf den Energieverbrauch und die Schadstoffemissionen haben. Wie sollten Ingenieure die Reiseeffizienz mit den Auswirkungen auf die Umwelt in Einklang bringen?
Wie soll die Zukunft des Verkehrs aussehen?
Mundane Situationen werfen neue technische und ethische Probleme auf, aber sie führen auch dazu, dass die Menschen grundlegende Annahmen des Verkehrssystems in Frage stellen.
Für mich selbst begann ich zu fragen, ob wir überhaupt Orte brauchen, die als „Zebrastreifen“ bezeichnet werden. Immerhin können selbstfahrende Autos das Überqueren einer Straße überall sicher machen.
Und nicht nur Zebrastreifen werden unnötig. Ampeln an Kreuzungen könnten ebenfalls der Vergangenheit angehören. Menschen brauchen Ampeln, um sicherzustellen, dass jeder die Kreuzung ohne Absturz und Chaos überqueren kann. Aber selbstfahrende Autos könnten sich reibungslos untereinander abstimmen.
Die größere Frage lautet hier: Wenn selbstfahrende Autos besser sind als menschliche Fahrer, warum sollten sie dann Regeln unterliegen, die auf menschliche Fehlbarkeit und menschliches Versagen ausgelegt sind? Um dieses Gedankenexperiment zu erweitern, betrachten wir auch die allgemeinere Frage: Wenn wir als Gesellschaft unser Verkehrssystem von Grund auf neu gestalten könnten, wie soll es dann aussehen?
Da diese schwierigen Fragen jeden in einer Stadt oder in einer Gesellschaft betreffen, müssen sich eine Stadt oder eine Gesellschaft auf Antworten einigen. Das bedeutet, konkurrierende Interessen auf eine Art und Weise auszugleichen, die für alle funktioniert - egal, ob die Menschen nur an Zebrastreifen oder an das Verkehrssystem als Ganzes denken.
Mit selbstfahrenden Autos können Gesellschaften ihre Verkehrssysteme neu gestalten. Vom Zebrastreifen bis zur allgemeinen Verkehrsgestaltung - es sind alltägliche Situationen, die wirklich schwierige Fragen aufwerfen. Extreme Situationen lenken ab.
Das Wagenproblem beantwortet diese schwierigen Fragen nicht.
Dieser Artikel wurde ursprünglich auf The Conversation veröffentlicht.
Johannes Himmelreich, interdisziplinärer Ethikstipendiat am McCoy Family Center der Stanford University für Ethik in der Gesellschaft
