Allgemein, Mittelstandsbotschafter, vernetzt

Die Moral von der Geschicht’

Dass neue Technologien und Methoden aufregend sind, dass sie in der Gegenwart den vielleicht größten Wandel der Menschheitsgeschichte mit sich bringen, wurde von mir und anderen Autoren hier nicht nur diskutiert, sondern auch mit zahlreichen Beispielen verdeutlicht. Doch was genau ist der Inhalt von diesem Wandel?

Eine der spannendsten Fragen ist die, nach der Verantwortung. Wer ist verantwortlich, wenn ein selbstfahrendes Auto einen Unfall baut? Der “Fahrer”? Der Hersteller? Oder das Auto selbst? Wer ist verantwortlich, wenn eine Erste-Hilfe-Drohne sich auf dem Weg zum Patienten verfliegt und zu spät eintrifft? Der Software-Entwickler? Der GPS-Chip-Hersteller? Die Drohne selbst?

Diese Fragestellung führt zu einem moralischen Dilemma. Angenommen, selbstfahrende Autos oder Flugzeuge würden die Anzahl von Unfällen und Opfern reduzieren. Im Gegenzug müssten wir damit leben, dass es Fälle geben wird, in denen wir keine juristische oder natürliche Person zu Verantwortung ziehen können. Würden wir dies tun?

Wagen wir ein Gedankenexperiment

Dieses Gedankenexperiment setzt eines voraus: Die Software, die ein autonomes Gerät steuert, ist wirklich auf der Höhe der Zeit entwickelt: Sie verbessert sich selbst, lernt von anderen Versionen ihrer selbst in anderen Geräten, greift auf umfassende Sensoren und Aktoren zu und kann in Millisekunden komplexeste Simulationen durchführen.

Wir gehen also davon aus, dass diese Software nicht aus einem einfachen Regelset besteht: Wenn dies passiert, tue das. Vielmehr hat diese Software ein Bild von ihrer Umgebung und berechnet stets aktuell, welche Optionen sie hat und welche nicht. Im Falle eines autonomen Autos bedeutet dies, dass sie auf Basis einer Folgenabschätzung entscheidet, welche Regeln gerade eingehalten werden können und welche gebrochen werden müssen.

Beim Beispiel des Straßenverkehrs bleibend wird schnell klar, dass die Komplexität jeder einzelnen Situation sehr hoch ist, sondern auch die Unterschiedlichkeit der Situationen. Und doch ist (nach aktuellem Stand im Frühjahr 2015) absehbar, dass Software diese Komplexität in sehr vielen Fällen besser meistern kann als menschliche Fahrer. Sehr viel besser. Sie ist auch nicht müde oder abgelenkt. Was die Annahme erlaubt, dass mit der Zunahme des autonomen Verkehrs die Anzahl von Unfällen sinken wird. Sinken würde.

Denn es bleibt das Problem der Verantwortung und daraus resultierend der Haftung. Zahlreiche Vorschläge liegen dazu auf dem Tisch. Das Risiko zu verstaatlichen ist einer davon. Die Logik ist: Die Gesellschaft profitiert von weniger Unfällen, weniger Toten und Verletzten, so kann sie auch die Kosten dafür tragen. Man kann dieser Logik folgen, muss es aber nicht.

Es gibt Argumente, die dagegen sprechen. Nur eines sei hier genannt: Das Sekundärrisiko, dass Hersteller von Fahrzeugen nun versuchen würden, alle ihre Kosten so zu optimieren und zu verschleiern, dass die Gesellschaft im Folgenden auf diesem Wege Shareholder-Value finanziert. Eine ähnliche Logik wäre für Fahrzeug-Betreiber möglich.

Auch hier gibt es wieder eine Gegenposition, die als Fahrzeugbetreiber keine natürlichen Personen, sondern die das Risiko tragende Gesellschaft sieht. Et cetera. Doch folgen wir in unserem Gedankenexperiment einem anderen Faden. Auch, weil jede der oben vorgetragenen Positionen zwar das Problem der Schuld thematisiert, nicht aber der anders gelagerten Frage der Sühne gerecht wird.

Eine Frage der Persönlichkeit

Treten wir einen Schritt zurück. Wenn autonome Geräte lernfähig sind, wenn sie ein “Verständnis” von ihrer Umwelt haben und in der Lage sind, die Folgen ihres “Handelns” abzuschätzen, wie weit sind sie dann unterschiedlich von uns Menschen?

Interessanterweise könnte die Frage, ob autonome Geräte über Selbstbewusstsein verfügen oder Empfindungsfähig sind hier gar keine Rolle spielen. Und zwar aus mehreren Gründen. Einer der Gründe ist, dass ein geübter Autofahrer das Autofahren ebenfalls (zumindest größtenteils) unterbewusst durchführt.

Dies beruht auf einer evolutionären Errungenschaft unseres Gehirns: Wir lernen beispielsweise das Laufen so gut, dass wir es hinterher durchführen können, ohne darüber nachdenken zu müssen. Der Vorteil: Wir können unser Gehirn während wir laufen für andere Dinge nutzen – die Koordination einer Jagd oder ein Telefonat beim Wandel durch die Fußgängerzone.

Das Verfolgen einer Sendung im Autoradio ist uns möglich, weil die Bedienung des Autos ebenfalls zu einer unbewussten Handlung wird. Das Gehirn schaltet oft erst dann wieder auf bewusste Autosteuerung um, wenn es eine Gefahrensituation erkennt oder etwas Ungewöhnliches in seinen Aufmerksamkeitsfiltern hängen bleibt. Doch dieser Punkt kann nicht als Differenzierungsmerkmal (im hier notwendigen Sinne) gegenüber einer Maschine genutzt werden.

Denn zum Einen ist es oft zu spät, den Unfall zu vermeiden, zum Anderen schalten wir in einer Gefahrensituation nicht in entspannt und überlegt um, sondern vielmehr in den Panik-Modus. Und gerade hier hat eine Maschine einen klaren Vorteil. Sie ist eben nicht in Panik und sie kann auch in wenigen Millisekunden sich ein umfassendes Bild machen – was auch für den geübtesten Fahrer schwer wird.

Und man darf nicht vergessen, dass die vorhergehende Ablenkung durch die Radiosendung eben nur einem Menschen passiert und nicht einer Maschine.

Folgen wir nun zwei Prämissen aus der obigen Argumentation, die (hier nun stark zusammengefasst) behaupten, dass Software lernfähig ist und dass Menschen über einen Automatikmodus verfügen, drängen sich zwei Fragen auf:

Die erste Frage, ob eine Maschine in bestimmten Situationen nicht vielleicht doch selbst schuldfähig ist, verblasst in ihrer Durchschlagskraft gegenüber der zweiten: Ob, wenn Maschinen es nicht sind, Menschen dies denn vielleicht auch nicht sein könnten.

Doch die Fragen hören hier nicht auf und werden im konkreteren Detail eher noch spannender: Ist – lernfähige Software vorausgesetzt – der Programmierer des selbstfahrenden Autos nicht eher wie ein Fahrlehrer zu verstehen? Würden wir für unsere eigenen Unfälle unseren Fahrlehrer verantwortlich machen? Weil er uns nicht auf alle möglichen Situationen, die jemals im Straßenverkehr auftreten könnten, ausreichend vorbereitet hat?

Nicht zu vergessen, dass diese Logik entweder dazu führt, dass wir neben natürlichen und juristischen Personen noch eine weitere Rubrik benötigen. Vielleicht nennen wir sie synthetische Personen. Die dann ebenfalls schuldfähig sind und eine Form der Sühne leisten müssten?

Wem dies komisch vorkommt kann die Logik auch umkehren: Wenn unter sehr ähnlichen Bedingungen eine synthetische Person nicht zur Rechenschaft gezogen werden kann, muss dann aus dem Strafrecht, eine Updatepflicht für Menschen werden?

Das antropozentrische Weltbild

Ja, lieber Leser, ich gestehe. Das obige ist und bleibt ein Gedankenexperiment, das dem Format und meiner Zeit geschuldet, hier in manchen Aspekten wage und unpräzise bleibt. Es spitzt zu und vereinfacht. Die Ausarbeitung im Detail würde aber mit Sicherheit den Rahmen einer Dissertation, ja sogar den Rahmen von Fachbereichen sprengen. Die unzweifelhaft juristischen Aspekte können ohne tiefe ethische Reflexion keine gesellschaftliche Bedeutung entfalten. Und ohne eine philosophische Einordnung verblassen die technischen Implikationen.

Bewirken will ich an dieser Stelle etwas anderes, ich möchte die Diskussion auf eine breite Basis stellen und ich möchte daran erinnern, dass bisher jedes X-zentrische Weltbild ins Wanken geriet. Das geozentrische Bild wich dem heliozentrischen, das antropozentrische weicht – vielleicht – dem “kognizentrischen”.

Schlagzeilenfreundliche Simplifizierungen helfen uns jedenfalls nichtmals aus dem Anfangsschlamassel heraus. Und dieses bezieht sich nicht nur auf den autonomen Individualverkehr, oder Kampfdrohnen die selbstständig Tötungsentscheidungen treffen sollen. Vielmehr gibt es kaum einen Lebensbereich, der hier nicht betroffen wäre.

Angefangen beim SmartHome, dass für den Fall dass sein Bewohner einen Herzinfarkt erleidet selber einen Krankenwagen ruft. Oder bei Nano-Chips, die in unseren Adern nach Krankheitserregern suchen. Bis dahin, dass autonome Software an den internationalen Finanzmärkten zum finanziellen Wohl ihres Besitzers ein Risiko für ganze Volkswirtschaften sein kann. Und das ist alles erst der Anfang.

Doch Technologie lässt sich nicht so einfach aus einer Gesellschaft entfernen. Die Vorteile könnten die Risiken bei weitem überwiegen. Die Chance, dies zu tun steigt, wenn wir versuchen wirklich umfassend zu argumentieren und wenn wir vielleicht etwas bescheidener werden, was die Einschätzung unserer eigenen Leistungen als individuelle Menschen oder auch als ganze Menschheit angeht.


Wir freuen uns über Diskussionen und Ihre Kommentare.
Wie in jeder Gemeinschaft ist es notwendig, dass sich alle Teilnehmer an die Netiquette halten. Durch Ihre Kommentare sollen interessante, gewinnbringende Debatten entstehen, an denen sich andere Nutzer gerne beteiligen. Beleidigungen und Schmähreden sind deshalb ebenso tabu wie Diskriminierungen und die unerlaubte Veröffentlichung persönlicher Daten. Bitte verstecken Sie sich auch nicht hinter Pseudonymen, sondern benutzen Sie Klarnamen.

Kommentar absenden

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind markiert *

CAPTCHA-Bild

*

Du kannst folgende HTML-Tags benutzen: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

Lesen Sie weiter


Kolumne, Mittelstandsbotschafter, Nachhaltigkeit, Personal, Strategie

Das Problem mit der Arroganz

Wer bei google den Suchbegriff „VW und Abgasskandal“ eingibt, bekommt fünf google Anzeigen von Rechtsanwälten angezeigt, die Geschädigten versprechen, ihr Recht gegenüber dem VW-Konzern zu vertreten. Sensationsurteile werden versprochen. Direkt gefolgt werden die Anzeigen von einem Wikipedia Eintrag mit dem Titel „VW-Abgasskandal“. Die Auswirkungen des sogenannten Abgasskandals, mit dem der 2015 aufgedeckte Vorgang bezeichnet wird, bei dem die Volkswagen AG eine illegale Abschalteinrichtung in der Motorsteuerung ihrer Diesel-Fahrzeuge verwendete, um Abgasnormen zu umgehen, sind weitreichend und fressen sich seitdem immer weiter durch die Marken des Automobilkonzerns. Aber was ist der Kern des VW Abgasskandals und welche Lehren können daraus gezogen werden?