Tausende Entwickler sowie über 100 führende KI-Unternehmen und Forschungseinrichtungen, darunter Google DeepMind und Silicon Valley Robotics, haben ein klares Versprechen unterzeichnet: KI darf niemals autonom über Leben und Tod entscheiden.
Siehe verwandte Artikel: Eine KI kann Ihren Job töten, aber sie wird auch Millionen mehr schaffen. Ärzte lehnen einen KI-Chatbot ab, der „genauer als ein Hausarzt“ ist.
Mehr als 2.400 Top-Persönlichkeiten der Tech-Branche, darunter Tesla-Gründer Elon Musk, und 160 KI-investierende Unternehmen haben zugesichert, die Entscheidung über ein Menschenleben nie „an eine Maschine zu delegieren“ – selbst wenn diese präzise Vorhersagen treffen könnte.
Vor dem Hintergrund der „dringenden Notwendigkeit, zwischen akzeptablen und inakzeptablen KI-Anwendungen zu unterscheiden“, fordern die Unterzeichner Regierungen auf, konkrete Gesetze gegen autonome Waffen zu erlassen.
„Wir, die Unterzeichner, stimmen zu, dass die Entscheidung, ein Menschenleben zu nehmen, niemals an eine Maschine delegiert werden sollte. Es gibt eine moralische Komponente: Maschinen dürfen keine lebensraubenden Entscheidungen treffen, für die niemand verantwortlich ist“, heißt es im vom Future of Life Institute (FLI) initiierten Pledge.
Solche Waffen, einschließlich der autonomen Auswahl und Bekämpfung von Zielen, könnten geopolitisch destabilisierend wirken. Ohne menschliche Kontrolle und mit Verknüpfung zu Überwachungssystemen drohen sie zu „Instrumenten der Gewalt und Unterdrückung“ zu werden.
„Tödliche autonome Waffen unterscheiden sich stark von nuklearen, chemischen oder biologischen Waffen. Einseitige Entwicklungen könnten ein unkontrollierbares Wettrüsten auslösen, dem globale Strukturen nicht gewachsen sind“, fährt das Versprechen fort. „Ihre Stigmatisierung sollte Priorität für Sicherheit haben.“
Diese Zusage folgt Protesten – nicht nur von Aktivisten, sondern auch von Mitarbeitern großer Tech-Firmen wie Google.
Letzten Monat beendete Google ein kontroverses Pentagon-Projekt (Project Maven), nachdem 3.100 Mitarbeiter protestiert hatten. Es ging um TensorFlow zur Verbesserung von Drohnen. CEO Diane Greene bestätigte: Der Vertrag läuft 2019 aus und wird nicht verlängert.
„Google sollte nicht im Kriegsgeschäft sein. Brechen Sie Project Maven ab und veröffentlichen Sie eine Richtlinie gegen Kriegstechnologien“, hieß es im Brief an CEO Sundar Pichai.
Unklar bleibt, ob Project Maven gegen das neue Pledge verstößt – es verbietet nur autonome Tötungsentscheidungen, nicht KI in Waffensystemen generell.
Apple fehlt unter den Unterzeichnern; bei Microsoft, IBM und Amazon unterschrieben nur einzelne Mitarbeiter.
„Endlich handeln KI-Führer, wo Politiker scheitern“, sagte FLI-Präsident Max Tegmark bei der IJCAI in Stockholm. „KI kann die Welt verbessern – wenn wir Missbrauch wie autonome Killerwaffen verhindern. Sie sind so abscheulich wie Biowaffen.“