Tausende von Entwicklern und mehr als 100 der weltweit führenden KI-Firmen und Forschungseinrichtungen, darunter Google DeepMind und Silicon Valley Robotics, haben ein Versprechen unterzeichnet, dass KI niemals eine Entscheidung treffen darf, um ein Menschenleben zu beenden.
Siehe verwandt Eine KI kann Ihren Job töten, aber sie wird auch Millionen mehr schaffen. Ärzte lehnen einen KI-Chatbot ab, der „genauer als ein Hausarzt“ ist.
Mehr als 2.400 führende Persönlichkeiten der Technologiebranche, wie Tesla-Gründer Elon Musk, und 160 Unternehmen mit Investitionen in KI-Technologien haben versprochen, niemals zuzulassen, dass die Entscheidung, ein Menschenleben zu nehmen, „an eine Maschine delegiert“ wird – selbst wenn es genau sein könnte vorhersagen, wann jemand sterben wird.
Angesichts der „dringenden Gelegenheit und Notwendigkeit für Bürger, politische Entscheidungsträger und Führungskräfte, zwischen akzeptablen und inakzeptablen Verwendungen von KI zu unterscheiden“, haben die Unternehmen, die das Versprechen unterzeichnet haben, die Regierungen auch aufgefordert, eine Reihe konkreter Gesetze gegen autonome Waffen zu erlassen.
„Wir, die Unterzeichner, stimmen zu, dass die Entscheidung, ein Menschenleben zu nehmen, niemals an eine Maschine delegiert werden sollte. Es gibt eine moralische Komponente in dieser Position, dass wir Maschinen nicht erlauben sollten, lebensraubende Entscheidungen zu treffen, für die andere – oder niemand – verantwortlich sind“, heißt es in dem vom Future of Life Institute (FLI) organisierten Versprechen.
Die Unterzeichner argumentierten, dass solche Waffen, zu denen auch die Auswahl und Bekämpfung von Zielen ohne menschliche Beteiligung gehören, auf geopolitischer Ebene äußerst destabilisierend sein könnten. Sie stimmten auch darin überein, dass das Entfernen des Elements menschlicher Kontrolle sowie der engen Verbindungen zu Überwachungs- und Datensystemen dazu führen könnte, dass autonome Waffen zu „Instrumenten der Gewalt und Unterdrückung“ werden könnten.
„Darüber hinaus haben tödliche autonome Waffen Eigenschaften, die sich stark von nuklearen, chemischen und biologischen Waffen unterscheiden, und die einseitigen Aktionen einer einzelnen Gruppe könnten zu leicht ein Wettrüsten entfachen, für das der internationalen Gemeinschaft die technischen Werkzeuge und globalen Regierungssysteme fehlen, um es zu bewältigen“, so der Versprechen fortgesetzt. „Die Stigmatisierung und Verhinderung eines solchen Wettrüstens sollte eine hohe Priorität für die nationale und globale Sicherheit haben.“
Die Zusage folgt auf eine wachsende Welle von Protesten – nicht nur von Aktivisten und Aktivisten – sondern auch von Mitarbeitern, die für einige der weltweit größten Technologieunternehmen wie Google arbeiten.
Letzten Monat sagte der Technologieriese, er werde ein umstrittenes Militärprojekt unter Pentagon-Führung nicht fortsetzen, nachdem Tausende seiner Mitarbeiter das Unternehmen öffentlich wegen seiner Beteiligung kritisiert hatten. Der Vertrag mit dem Namen Project Maven beinhaltete, dass Google seine TensorFlow-Programmierkits ausleiht, um die Leistung von Militärdrohnen zu verbessern.
Aber nachdem 3.100 Google-Mitarbeiter Anfang dieses Jahres einen Brief unterzeichnet hatten, in dem sie das Unternehmen aufforderten, sich aus dem „Kriegsgeschäft“ zurückzuziehen, bestätigte Diane Greene, CEO von Google Cloud, letzten Monat in einem internen Meeting, dass das Unternehmen den Deal nicht verlängern wird, sobald er 2019 ausläuft /P>
„Wir glauben, dass Google nicht im Kriegsgeschäft tätig sein sollte. Daher fordern wir, dass Project Maven abgebrochen wird und dass Google eine klare Richtlinie entwirft, veröffentlicht und durchsetzt, die besagt, dass weder Google noch seine Auftragnehmer jemals Kriegstechnologie entwickeln werden“, heißt es in dem ursprünglichen Schreiben an CEO Sundar Pichai.
Unklar ist allerdings, ob die neu unterschriebene Zusage gegen die Beteiligung von Google an Project Maven verstoßen hätte, geht sie doch nur so weit, die Entscheidung, ein Leben zu nehmen, von einer Maschine zu verhindern – nicht gegen die tangentiale Beteiligung der KI-Technologie in allen Waffensystemen.
Zu den bemerkenswerten Abwesenden der Vereinbarung gehört Apple, einer der weltweit größten Investoren in künstliche Intelligenz, während nur ausgewählte Mitarbeiter von anderen großen Akteuren wie Microsoft, IBM und Amazon – nicht die Unternehmen selbst – die Zusage unterzeichnet haben.
„Ich freue mich zu sehen, dass KI-Führungskräfte vom Reden zum Handeln übergehen und eine Politik umsetzen, die Politiker bisher nicht umgesetzt haben“, sagte Max Tegmark, Präsident des FLI, als er heute in Stockholm während der jährlichen International Joint Conference das Versprechen bekannt gab auf künstlicher Intelligenz (IJCAI).
„KI hat ein enormes Potenzial, der Welt zu helfen – wenn wir ihren Missbrauch stigmatisieren und verhindern. KI-Waffen, die autonom entscheiden, Menschen zu töten, sind genauso widerlich und destabilisierend wie Biowaffen und sollten auf die gleiche Weise behandelt werden.“