KI

KI - Künstliche Intelligenz

• NZZ-Folio 297
• howhot.io - nicht mehr aktiv.
• - selfie.ai funktioniert, aber ohne https.

Darf mich mein Computer umbringen?

Eine klassische Frage bei ethischen Problemfällen. Bekannt als das Trolley-Problem. Und in der Schweiz tragischerweise auch in einem tatsächlichen Vorfall geschehen: beim Eisenbahnunfall von Dürrenast.

Bei selbstfahrenden Autos, wird es also früher oder später eine Situation geben,in denen der Computer entscheiden muss, die Autoinsassen zu opfern, um zum Beispiel eine grössere Menschengruppe zu retten. "Wegen seiner überlegenen Bilderkennung, gekoppelt mit einer minimalen Reaktionszeit, muss ihr Bordcomputer über Leben und Tod entscheiden, wo dem Menschen keine Zeit für eine rationale Entscheidung bleibt. Eines von vielen heiklen Szenarios lautet so: Angenommen, auf einer Strasse, die einer Klippe entlangführt, taucht überraschend ein Kind auf. Ihr Auto berechnet, dass es nur zwei Möglichkeiten gibt: Das Kind wird überfahren, oder der Wagen fährt über die Klippe. Welche Wahl soll die künstliche Intelligenz treffen? Und welche, wenn es zwei Kinder sind?" (Zitat entnommen NZZ-Folio 2016/04 - 297

Diesen Textteil ebenso: Der Grund für die plötzlichen Erfolge liegt in einer Technik, die sich Deep Learning nennt. Deep Learning kommt bei sogenannten künstlichen neuronalen Netzen zum Einsatz, die an die Struktur des Gehirns erinnern. Ihre entscheidende Eigenschaft besteht darin, dass sie lernen können wie kleine Kinder. Man zeigt ihnen zum Beispiel viele Bilder von Katzen oder viele Klänge von Trompeten, und sie lernen Katzen von anderen Tieren und Trompeten von anderen Instrumenten zu unterscheiden.

Dass neuronale Netze grundsätzlich dazu in der Lage sind, ist keine neue Erkenntnis. Lange Zeit standen ihrem Einsatz jedoch zwei Hindernisse im Weg: Einerseits waren die Rechner nicht schnell genug, um die Berechnungen in den riesigen Netzen in vernünftiger Zeit durchzuführen, andererseits gab es nicht genug Übungsmaterial. Je nach Aufgabe benötigt ein neuronales Netz Millionen von Übungsaufgaben als Training, um ein bestimmtes Konzept zu lernen. Diese Hürden gibt es nicht mehr. Die Rechner wurden immer schneller, und durch das Internet sind Trainingsdaten in fast unbeschränktem Mass zugänglich.

Neuronale Netze haben die erstaunliche Eigenschaft, dass ihre Entwickler keine Ahnung vom Fach haben müssen, das ihr Rechner beherrschen soll. Das Netz lernt selber, bis es die Aufgabe lösen kann. Das bedeutet allerdings auch, dass die Entwickler nach Abschluss des Trainings oft nicht wissen, wie der Rechner vorgeht.

NickBostrom: "Wir entwickeln alles, was wir können – und hoffen einfach, dass es gut herauskomme. Aber wenn nicht, haben wir keinen Plan B. Die Macht der Technologie wächst viel schneller als unsere Fähigkeit, damit weise umzugehen."