Aktualisierung: Nach der Vorstellung von Googles Duplex-KI-System, das in Ihrem Namen Restaurants und Geschäfte anruft, wurden berechtigte ethische Fragen aufgeworfen. Ist es vertretbar, dass eine KI sich als Mensch ausgibt, ohne dass der Gesprächspartner dies erkennt?
Google hat auf die seit der Google I/O erhobenen Bedenken reagiert. Das Unternehmen betont Transparenz und verspricht eine angemessene Kennzeichnung des Systems. Hier die offizielle Erklärung:
„Wir verstehen und schätzen die Diskussion um Google Duplex – wie wir von Anfang an gesagt haben, ist Transparenz in der Technologie wichtig. Wir entwickeln diese Funktion mit integrierter Offenlegung und stellen sicher, dass das System angemessen identifiziert wird. Was wir auf der I/O gezeigt haben, war eine frühe Technologiedemo, und wir freuen uns darauf, Feedback einfließen zu lassen, wenn wir daraus ein Produkt entwickeln.“
Wie genau diese Transparenz umgesetzt wird, ist noch offen. Sie steht im Kontrast zur Demo, in der Duplex durch Ähs und Ums und Ahs menschlich wirken sollte. Als Experten für KI-Entwicklungen beobachten wir Googles Fortschritte genau, insbesondere bei den geplanten Tests im Sommer.
Google Duplex: KI nutzt Ihre Daten, um am Telefon als Sie aufzutreten – ethisch alarmierend
Anrufe von Bots sind nervig, aber leicht erkennbar. Was, wenn die Stimme absolut überzeugend ist und Zugang zu Ihren persönlichen Daten hat, um sich als Sie auszugeben?
Bei der Google I/O 2018 stellte das Unternehmen Duplex vor: Eine Erweiterung des Google Assistants, die kleine Unternehmen anruft – etwa für Restaurantreservierungen oder Friseurtermine. In Bühnendemostrationen führte die KI natürlich Gespräche, inklusive Pausenfüllern wie „Ähm“. Technisch beeindruckend und ein Meilenstein in der konversationellen KI.
Googles Vorsprung basiert auf umfangreichen Daten. Doch Duplex hebt dies auf ein neues Level: Die KI greift auf Standorte, Suchverläufe und Profile zu. Harmlos für Tischreservierungen, riskant bei sensiblen Anrufen beim Arbeitgeber oder Finanzamt.
Sehen Sie sich die zugehörige Google I/O 2018 an: Duplex, AI, Android P und Smart Displays gehören zu den Highlights der Veranstaltung von gestern Abend
Auch für Angerufene problematisch: Täuscht Duplex nicht vor, ein Mensch zu sein? Es entmenschlicht Servicekräfte in kleinen Betrieben. Die Zukunft? Reine KI-Gespräche, bei denen Maschinen Maschinen simulieren.