Aktualisieren: Nachdem Google sein Duplex-KI-System vorgestellt hatte, bei dem der digitale Assistent in Ihrem Namen Geschäfte und Restaurants anruft, wurden Bedenken hinsichtlich der Doppelspurigkeit der Technologie geäußert. Ist es für eine KI irreführend, sich als Mensch auszugeben, wenn der Mensch am anderen Ende der Leitung nicht weiß, dass er mit einer Maschine spricht?
Google hat eine Erklärung herausgegeben, in der es die seit Google I/O aufgetauchten ethischen Argumente anerkennt, „Transparenz“ betont und verspricht, dass das System „angemessen identifiziert“ wird. Hier ist die vollständige Aussage:
„Wir verstehen und schätzen die Diskussion um Google Duplex – wie wir von Anfang an gesagt haben, ist Transparenz in der Technologie wichtig. Wir entwickeln diese Funktion mit integrierter Offenlegung und stellen sicher, dass das System angemessen identifiziert wird. Was wir auf der I/O gezeigt haben, war eine frühe Technologiedemo, und wir freuen uns darauf, Feedback einfließen zu lassen, wenn wir daraus ein Produkt entwickeln.“
Wie sich diese „Offenlegung“ genau manifestieren wird, bleibt abzuwarten, und es widerspricht dem in der Demo gezeigten Ethos von Duplex; wo das Unternehmen zeigen wollte, wie überzeugend menschlich seine KI klang, einschließlich verbaler Ticks. Wir werden die Pläne von Google in diesem Bereich im Auge behalten, wenn Duplex in diesem Sommer getestet wird.
Google hat jetzt eine KI, die Ihre Daten verwendet, um sich am Telefon als Sie auszugeben – und das ist höchst beunruhigend
Anrufe von automatisierten Bots zu erhalten ist eine lästige Zeitverschwendung, aber zumindest ist es einfach, eine künstliche Stimme zu erkennen und aufzulegen. Stellen Sie sich vor, diese Stimme wäre viel überzeugender, und stellen Sie sich vor, es wären nicht nur Telefonverkäufer, die sie benutzten – was wäre, wenn diese überzeugende Nachahmung eines Menschen Zugang zu genügend Informationen über Ihr Leben hätte, um sich als Sie ausgeben zu können?
Das war die Zukunftsvision von Google während der Konferenz I/O 2018 des Unternehmens. Unter den zahlreichen Ankündigungen war die beeindruckendste und beunruhigendste die Hinzufügung von etwas namens Google Duplex für Google Assistant. In einer Reihe von Demonstrationen auf der Bühne rief Google Assistant kleine Unternehmen an und arrangierte Dinge im Namen seines menschlichen Benutzers, einschließlich einer Restaurantreservierung und der Buchung eines Friseurs.
Es klang beeindruckend. Die KI reagierte nicht nur genau und schnell auf den Menschen in der Leitung, sondern füllte das Gespräch mit „Ähm“ und „Ahh“, um einen Eindruck vom Leben zu vermitteln. Während es sich um kontrollierte Demos handelte, gelang es der KI, das Gespräch mit wenig Hinweis darauf zu führen, dass es sich um einen körperlosen Satz von Algorithmen handelte. Aus technischer Sicht sollte es begrüßt werden und ist ein Hinweis darauf, wie weit Google in Sachen Conversational AI voraus ist.
Ein Teil des Grundes, warum Google die KI-Forschung anführt, liegt jedoch in seiner Einstellung zu den persönlichen Daten seiner Nutzer. Das Unternehmen hat seine KI in der Vergangenheit mit zweifelhaften Daten trainiert, und natürlich hilft es nicht, dass das Unternehmen auch hinter der größten Suchmaschine der Welt steht. Persönliche Informationen sind der Treibstoff hinter dem werbebasierten Geschäftsmodell des Technologieunternehmens, aber Duplex hebt die Verwendung dieser Informationen auf eine neue Ebene – eine, die über die ethische Grenze hinaus in „gruselig“ schwankt.
Sehen Sie sich die zugehörige Google I/O 2018 an:Duplex, AI, Android P und Smart Displays gehören zu den Highlights der Veranstaltung von gestern Abend
Abgesehen von diesen Bühnen-Demos wurde wenig über Google Duplex gezeigt, aber wenn es so funktioniert, wie das Unternehmen es vorschlägt, dann scheint es einer KI Spielraum zu geben, Ihre persönlichen Daten abzurufen, um sich als Sie auszugeben. Dies ist ein Unternehmen, das dank Geolokalisierungsdaten weiß, wo Sie waren, alles weiß, wonach Sie online gesucht haben, und das Werbeprofile zu Ihren potenziellen religiösen, politischen und sozialen Ansichten hat. Würden Sie sich mit diesen Informationen wohl fühlen, wenn Sie eine überzeugende Stimme annehmen und in Ihrem Namen sprechen würden? Einen Tisch in einem Restaurant zu bestellen mag harmlos sein, aber was ist, wenn Duplex auf Ihren Arbeitsplatz, das Finanzamt oder Ihren Ex losgelassen wird?
Auch für den Angerufenen stellt sich die Frage der Duplizität. Wenn Google Assistant in der Lage ist, ein Gespräch überzeugend zu führen, ist es dann nicht unehrlich, einen anderen Menschen in die Irre zu führen und zu glauben, er spreche mit einer lebenden, atmenden Person? Es fördert eine Denkweise über kleine Unternehmen, bei denen diejenigen, die Tischreservierungen oder Friseurtermine entgegennehmen, kaum mehr als Maschinen selbst sind; nicht die Zeit wert für eine echte Stimme.
Andererseits braucht dieses Unternehmen vielleicht keine echten Stimmen, wenn es eine Google-KI hat, die ihre Anrufe entgegennimmt. Das ist die Zukunft:eine endlose KI-Simulation von Menschen, die hin und her sprechen, wobei niemand außer den Maschinen zuhört.