„Wir verstehen das autonome Fahren noch nicht richtig“

Teslas unausgereifter Autopilot kostete im Mai ein Menschenleben. Das autonome Fahren hat damit seinen ersten Toten.
Das war ein hochtragischer und bedauerlicher Unfall. Wir dürfen aber nicht übersehen, dass jede innovative Technologie einen gewissen Reifegrad braucht und es unseriös und historisch blind wär,e zu glauben, dass nun ausgerechnet das selbstfahrende Fahrzeug hier ausbricht. Die motorisierte Kutsche, Hubschrauber, selbst so eine banale Technik wie der Dampfdrucktopf verursachten gerade in der Entwicklungsphase Unfälle, Abstürze, Explosionen, Brände. Wenn man Tesla glauben möchte, gab es bereits 200 Millionen gefahrene Kilometer im Autopilotenstatus ohne tödlichen Unfall. Das ist schon beachtlich, was jetzt aber nicht heißen soll, dass Tesla seine Technik nicht schleunigst stärker absichern und nachjustieren muss.

Maschinen übernehmen in unserer modernen Welt zunehmend Kontrollfunktionen und müssen damit auch in Krisensituationen Entscheidungen treffen. Für das autonome Fahren wird gerne folgendes Szenario diskutiert: Wenn ein Fahrzeug in einer krisenhaften Situation nach rechts oder links ausweichen muss und auf beiden Seiten Menschen stehen, die dann verletzt oder getötet werden würden, welche Menschengruppe wählt das System aus? 
Eines schon mal vorweg: Die praktische Relevanz dieses Szenarios wird nach meiner Einschätzung nicht so groß sein wie die Obszönität der Frage. Dennoch denken gerade auch wir Juristen in Katastrophen, um entlang eines zugespitzten Beispiels die ganze Tragweite von Entwicklungen an die Oberfläche zu spülen. Hier springt einen sofort die Frage an: Wollen wir zulassen, dass ein solcher Entscheidungsprozess ernsthaft programmiert wird? Wohl kaum. 

Wie nähert man sich dieser Problematik an?
Es ist eine noch ungelöste Frage. Wir brauchen aber in diesen maschinenethischen Fragen zweifelsohne Entscheidungen, die die Sozialgemeinschaft Menschheit akzeptieren wird. Möglicherweise müssen wir in die Technik einen Zufallsgenerator einbauen, der auswählt! Ich denke, dass der Fatalismus eines Zufalls emotional und atmosphärisch leichter akzeptiert werden kann als eine blindwütig falsche Programmierung. Aber wie gesagt, es ist noch offen, wie sich das alles entwickeln wird. Vielleicht muss das System auch den Fahrer selbst opfern.

Alle vertrauen auf Ampeln, aber viele fremdeln mit der Vorstellung, das Lenkrad im Fahrzeug einer algorithmischen Steuereinheit zu überlassen. Sind wir noch nicht reif für diese neue Technik?
Ich will da jetzt keine Volkspsychologie betreiben. Was ich aber beobachte ist, dass Technik immer auch Ängste auslösen kann. Man weiß, dass Flugzeuge im Verhältnis zu anderen Verkehrsmitteln sehr sicher sind, und geht doch mit einem mulmigen Gefühl an Bord, weil eben doch vereinzelt Flugzeuge abstürzen. Vielleicht ist das genetisch bei uns tief verwurzelt, dass wir in archaische Muster zurückfallen, wo wir mit allen Sinnen kontrollieren wollen, was wir tun und was unsere Umgebung tut. Und wenn man uns dabei ein stückweit besinnungslos macht, weil man uns Teile der Kontrolle nimmt, kriecht das Unwohlsein in uns hoch. Auch das autonome Fahren kann solche Urängste mobilisieren, denke ich. Man stellt sich den Prozess ferngesteuert vor und sich selbst sozusagen als Gefangener dieses fremdgesteuerten Raumes.  

Verstehen wir das autonome Fahren noch nicht richtig?
Ja, diese neue Technologie wird von vielen noch missverstanden. Man stellt sich einen autonom fahrenden Roboter auf vier Rädern vor, der durch eine Umwelt fährt, die so aussieht wie heute. So, als würde sich nur das Fahrzeug als ein Peak der technologischen Entwicklung ins autonome Fahren hinein verändern und der gesamte Rest bliebe stumpf auf seinem jetzigen Entwicklungstand stehen. Aus meiner Sicht ist das ein gedanklicher Fehler, der wahrscheinlich auch dazu führt, dass viele das Konzept autonomes Fahren noch falsch bewerten. Unsere Kinder werden uns in einigen Jahren fragen: Aber ihr seid nicht ernsthaft ohne Sensorik in die uneinsichtige Kurve gefahren? Und wir werden antworten: doch! Mit dem Coffee-to-Go in der Hand …

Car-to-Car-Kommunikation und Maschine-to-Car-Kommunikation werden uns in zehn Jahren mit Informationen versorgen, die Autofahrer heute nicht haben.
Genau: Dann werden nicht nur Staus ins Cockpit gemeldet, sondern auch vereiste Straßenstücke, ein Reh am Straßenrand oder eine rutschige Ölspur voraus. In einer Verkehrswelt voller Sensoren, neuer Kommunikationsnetzwerke und in Echtzeit zugänglichen Daten- und Informationspools ist dann höchstwahrscheinlich ein tödlicher Unfall, wie wir ihn jetzt gesehen haben, schon gar nicht mehr denkbar – nicht, weil die Steuerung im Fahrzeug sich isoliert derart weiter entwickelt hat, sondern weil die Peripherie der Außenwelt smarter geworden ist.

Bekommen wir nach Smart Home und Smart Grid jetzt den Smart Straßenbelag?
Wenn man mutig ist, kann man sich so ein Szenario gut ausmalen: Dröger Beton und Teer werden mit mikrofeiner Sensorik, kleinsten RFID-Tags und eingelassenen magnetischen Kleinstpartikeln nachts sozusagen zu einer leuchtenden Piste, die unseren Autopiloten sicher nach Hause leitet, während wir schon dösen. 

Eine solche smarte Infrastruktur muss großflächig entwickelt werden. Welche Hürden tun sich hier womöglich auf? Was hören Sie diesbezüglich aus Ihrem Umfeld als Jurist und Industrieanwalt?
Zunächst einmal wird die smarte Peripherie ein autonomes Fahren unterstützen müssen, das nicht Teil einer Schwarmintelligenz ist. Und schon zeichnen sich Wünsche der Wirtschaft ab, die vielleicht nicht erfüllt werden können, wie beispielsweise, dass es zur IT-Orientierung überall den perfekten weißen Randstreifen geben wird oder die immer blank geputzten seitlichen Reflektoren am Straßenrand. Da mag die Technik viele Wünsche an die Peripherie haben, auch an kommunale Reinigungsleistungen, aber darauf kann sich die technische Industrieentwicklung nicht verlassen – also wäre es am besten, wenn das autonome Fahrzeug auch ohne diese unterstützende Infrastruktur zurechtkommen kann.

Unstrittig dürfte sein, dass autonomes Fahren ohne eine permanente Konnektivität zu einem Online-Datendienst nicht auskommen wird, seien es jetzt GPS- oder Clouddaten.
Der nächste Mobilfunkstandard 5G ist in der Tat zentrales Thema. Ich beobachte, dass die Automobilindustrie diesen Entwicklungsprozess gerne als Wasserstandsmelder nimmt, wenn sie selbst bewertet, wie verlässlich der autonome Fahrbetrieb zum gegebenen Zeitpunkt überhaupt sein könnte – wenn es ihn schon großflächig gäbe.

Wir kennen das vom Smartphone: abreißende Verbindungen, Funklöcher. Selbstfahrende Fahrzeuge werden damit umgehen müssen.
Die Frage, ob der Fahrer immer in Echtzeit mit verlässlichen Auskünften darüber versorgt wird, ob er sich gerade in einer konstanten und verlässlichen Netz- und Cloudverbindung befindet oder eben nicht, ist aus juristischer Sicht sehr interessant. Bekommt er oder sie die Information, augenblicklich in den Handfahrbetrieb umstellen zu müssen, vom Hersteller oder vom Netzbetreiber oder ist dies eine Aufgabe der kommunalen Verkehrspolitik? Wer haftet, wenn diese Information nicht beim Fahrer ankommt? 

Wenn etwas schiefläuft, wird Technik im Vergleich zum Menschen stärker kritisiert. Sind unsere Erwartungen an Roboter und Algorithmen überhöht?
Wenn man auf eine Null-Fehlerquote abzielt, muss man sich schon fragen, ob das eine faire Erwartung an eine Technologie ist oder ob man die technologischen Schritte der Digitalisierung nicht mit Ansprüchen überfrachtet. Ganz konkret heißt das beispielsweise: Legen wir uns erst unter einen Operationsroboter, wenn er dezidiert null Fehlschnitte macht, oder akzeptieren wir ihn bereits, wenn seine maschinelle Fehlschnittquote zehn Mal niedriger ist als die vom besten Neurochirurgie-Professoren? Warten wir jetzt womöglich mit voyeuristischem Blick auf den ersten Toten des Gehirnoperationsroboters, der demnächst seine erste OP bewerkstelligen soll?

Werden nicht auch Versicherungsgesellschaften einen Blick darauf haben, was fehlerfreier läuft?
Davon kann man ausgehen. Irgendwann muss man sich bei einem Verkehrsunfall rechtfertigen, warum man nicht in den autonomen Fahrmodus umgeschaltet hat, wo er doch verfügbar war. Versicherer werden in solchen Fällen infrage stellen, ob sie überhaupt noch haften, das unterstelle ich jetzt einmal.

Auch Richter machen Fehler. Fürchtet Ihre Profession bereits die digitale Disruption im eigenen Haus?
Meine Profession tut in der Tat ein bisschen so, als begleite sie schlicht von außen die disruptiven Entwicklungen anderer. Juristen verstehen sich also vor allem als Beobachter und Ratgeber, nicht aber als Betroffene. Das ist womöglich ein Irrtum, denn auch unsere Profession, Fakultät und Kompetenz werden von der Digitalisierung durchgerüttelt werden. Im Raum steht, dass zukünftig möglicherweise juristische Entscheidungen ganz anders fallen könnten. Und dabei spielen Roboter als Richter eine Rolle.

Gerichtsentscheidungen verstehen viele heute als menschliche Richterentscheidungen ...
... aber vielleicht werden auch wir eine Entwicklung hin zu juristischen Entscheidungen sehen, die auf enormen Rechnerleistungen und algorithmisierte rechtliche Prüfungen basieren. Solch ein Prozedere kann ich mir noch nicht vorstellen – da bin ich auch Kind meiner Zeit. Es wird aber vermutlich so kommen, dass Programme, vielleicht auch selbstlernende Programme, im Judiz Richtigkeitsquoten erreichen, die der eines Richters überlegen sind. Damit stünde dann auch die Geisteswissenschaft namens Jura vor der Revolution. Es werden sich Fragen stellen wie: Inwieweit basieren Gerichtsentscheidungen auf der Genialität des menschlichen Gehirns und was davon könnte dennoch als reproduzierbare und darum auch algorithmisierbare Logik ausgelegt werden, die es bislang nur nicht gibt, weil entsprechende Rechnerleistungen fehlen und es noch niemand ausprobiert hat. Es bleibt hochinteressant, wie sich all das entwickeln wird.