INNOVATION: Smart Toys und Connected Smart Toys mit sprachlicher Benutzerschnittstelle erobern die Kinderzimmer der Welt. Doch wie zukunftsfähig sind sie? Ein Blick auf die Chancen und Risiken.
Der Traum von Spielzeug, das wie Pinocchio oder die Spielzeuge aus dem Film Toy Story zum Leben erwacht, ist uralt. Seit jeher passen Spielwarenhersteller ihre Produkte an den Zeitgeist an. Dabei bedienen sie sich stets neuer Technologien – auch um Spielzeuge noch realer als bisher wirken zu lassen. In den letzten Jahren kam mit der Entwicklung zum Internet der Dinge die Idee auf, neben Smart Homes und Smart Cars auch Spielzeuge mittels Artificial Intelligence „smart“ zu gestalten und somit zum Leben zu erwecken.
Eine wichtige Komponente künstlicher Intelligenz ist dabei eine echte Zwei-Weg-Konversation, die es ermöglicht, interaktiv Gespräche zu führen. Kein Wunder also, dass Smart Toys und ihre Weiterentwicklung – sogenannte Connected Smart Toys, die zusätzlich mit dem Internet verbunden sein müssen – immer mehr Einzug in die Kinderzimmer der Welt halten. Die gegenwärtig postulierte zunehmende Relevanz einer sprachgesteuerten Benutzeroberfläche für digitale Medien wird nun auch für Spielzeug angedacht. Doch wie zukunftsfähig ist die Stimme als Benutzerschnittstelle in Spielzeug? Denn entgegen der Aufforderung, dass Kinder schon frühzeitig mit Technik in Verbindung gebracht werden sollen, stehen unter anderem sicherheitsrelevante und rechtliche Fragen sowie die Frage nach der pädagogischen Sinnhaftigkeit.
Um Chancen und Risiken dieser – mit einer sprachlichen Benutzerschnittstelle ausgestatteten – Connected Smart Toys abwägen zu können, ist zunächst ein Blick auf die Funktionsweise und Technologie der Spielzeuge nötig.
Technologischer Hintergrund von Connected Smart Toys
Eines der ersten Spielzeuge, das eine echte Zwei-Weg-Kommunikation ermöglichte, stellte der US-amerikanische Spielwarenhersteller Mattel im Frühjahr 2015 auf einer Spielwarenmesse in New York vor. Das Unternehmen, das bereits die Barbie auf den Markt gebracht hatte und dadurch weltbekannt wurde, hatte in den letzten Jahren mit sinkenden Verkaufszahlen der Barbie zu kämpfen. Die Hello Barbie sollte dieser Entwicklung entgegenwirken und dem Trend nach mehr internetfähigen und interaktivem Spielzeug in den Kinderzimmern folgen. Auf den ersten Blick sieht sie dabei aus wie eine normale Barbie, weist die bekannten unnatürlichen Barbie-Maße auf und ist in drei Hauttönen erhältlich. Was die Hello Barbie von anderen Barbies unterscheidet erkennt man erst, wenn man sich ihren Rücken anschaut. Dort ist eine Verbindung für das Ladekabel der Barbie zu finden. Der eingebaute Akku der Hello Barbie ermöglicht es ihrem Gegenüber bis zu einer Stunde über vorgegebene und natürlich Barbie-typische Themenfelder wie Mode, Träume, Freunde und Schule zu sprechen. Nocht geht das nur auf Englisch, denn die Puppe ist bisher nur in den USA zu erwerben. Mit einem Verkaufspreis von 75 Dollar ist sie dabei um einiges teurer als ihre Standard-Barbie-Freundinnen.
Im selben Jahr, in dem die Hello Barbie auf den Markt kam, brachte auch das Startup Cognitoys sein Connected Smart Toy Dino auf den US-amerikanischen Markt. Hinter Dino, einem für etwa 120 Dollar und in drei Farben erhältlichen Plastik-Dinosaurier, versteckt sich ein Roboter, der seinem Gegenüber nicht nur sein umfangreiches Wissen altersgerecht präsentiert, sondern auch Witze und Geschichten erzählt sowie mit seinem Gegenüber Spiele spielt. Dank vier AA-Batterien hält er auch bei starkem Gebrauch etwa vier bis sechs Wochen.
Bereits ein Jahr früher kam Genesis Toys’ Puppe My Friend Cayla für etwa 60 Dollar auf den Markt. Diese bietet ähnliche und auch weitere Themenfelder wie Mathe, Rechtschreibung, Fotos und Musik an.Connected Smart Toys haben gemeinsam, dass sie wie andere digitale Sprachassistenten wie zum Beispiel Siri oder Cortana funktionieren – vorausgesetzt, sie sind mit dem Internet verbunden.
https://c.fastcompany.net/multisite_files/fastcompany/imagecache/1280/poster/2015/05/3045676-poster-p-1-everyone-is-listening.jpg
Die Hello Barbie, versteckt in ihrem einzigen und unveränderlichen Outfit einen Power-Knopf am Gürtel, eine dreifarbige LED-Aktivitätsanzeige und ein Mikrofon in ihrer Kette, sowie Lautsprecher im Nacken. In ihrem Inneren befindet sich ein integrierter Computer. Spricht nun das Gegenüber mit der Puppe, so wird das Gesprochene als Audiodatei über WLAN verschlüsselt an eine Datenbank auf einem cloudbasierten Server übertragen. Eine Spracherkennungs- und Konversationssoftware, die vom Unternehmen ToyTalk speziell für die Hello Barbie entwickelt wurde, wertet das Gesprochene aus. Wie bei Siri und anderen digitalen Sprachassistenten wird sich dabei der ASR (Automatic Speech Recognition) bedient: Das in eine Wellenform gebrachte Gesprochene wird in kleinste lautliche Einheiten, sogenannte Phoneme, gebrochen. Anhand des ersten Phonems wird anschließend die Wahrscheinlichkeit berechnet welches Phonem als nächstes drankommen könnte. Auf diese Weise können ganze Wörter schnell erkannt werden und eine Liste dieser möglichen Wörter wird erstellt. Das wahrscheinlichste Wort wird ausgewählt und dabei die Absicht des Gesprochenen bestimmt. Schließlich gibt die Software einen Befehl zur Ausführung auf dem Gerät ab. Im Fall der Hello Barbie sendet die Software also anschließend einen Befehl zur Puppe einen bestimmten Dialogsatz aus den 8000 verfügbaren kindgerechten Dialogsätzen, die in Zusammenarbeit mit ToyTalk und Mattel entstanden sind und in der Puppe gespeichert sind, abzuspielen. Daraufhin spielt die Puppe den gewählten Satz über die integrierten Lautsprecher ab.
Wie auch Siri und Co. Gesprochenes speichern, um sich der Tiefenlerntechnologien zu bedienen, so wird auch das mit der Hello Barbie Gesprochene zwei Jahre als Datei auf Servern gespeichert. Durch die Registrierung in der App landet das Gesprochene als Audiodatei im Benutzerprofil, um es den Eltern zu ermöglichen die Gespräche ihrer Kinder mit der Barbie nachzuhören.
Ähnlich wie die Hello Barbie funktionieren auch andere Connected Smart Toys wie Dino und My Friend Cayla. Dino durchsucht ebenfalls nicht das offene Web nach Antworten, sondern besitzt einen kindgerechten Datenpool. Dabei kann Dino sogar die Antworten an das Alter des Kindes anpassen. Während ein fünfjähriger auf die Frage nach der Entfernung des Mondes die Antwort „Es ist sehr weit. Zu weit zum Laufen.“ bekommt, lautet die Antwort für einen neunjährigen: „Der Mond ist 238.900 Meilen weg und bewegt sich jedes Jahr weiter weg.“ My Friend Cayla funktioniert hingegen über eine App, die die Puppe über Bluetooth mit dem Web verbindet. Zudem unterscheiden sich die Hersteller der Spracherkennungs- und Konversationssoftware: Während die Hello Barbie Software des Unternehmens ToyTalk nutzt, bedient sich Dino der Software von Elemental Path bzw. IBM Watson und Cayla nutzt die Technologie von Nuance Communications.
Connected Smart Toys & Datenschutz
Die Frage nach der Zukunftsfähigkeit der Integration dieser Technologie in Connected Smart Toys lässt sich bezüglich der gesellschaftlichen Resonanz gegenwärtig tendenziell negativ beantworten. Vor allem die Hello Barbie hat massiv mit gesellschaftlicher Ablehnung zu kämpfen. So wird sie aufgrund der Datenspeicherung und Abhörfunktion für Eltern von Seiten der Presse als „Abhör-Barbie“ beschimpft. In den USA lief eine Protestkampagne der CCFC (Campaign for a Commercial-free Childhood) mit dem Motto „Hell No Barbie“ in den sozialen Medien, dessen Ziel es war, die Veröffentlichung der Barbie zu stoppen. Selbst in Deutschland, wo die „Hello Barbie“ nicht im Handel erhältlich ist, wurde die Hello Barbie mit dem Negativpreis „Big Brother Award“ des Vereins Digitalcourage ausgezeichnet. Ein Verkaufsstart der Hello Barbie für Europa ist von Mattel übrigens nicht geplant. Das Unternehmen fürchtet, dass die Puppe im datenschutz-empfindlichen Europa noch viel mehr für Empörung sorgen würde als in den USA.
Doch nicht nur die Hello Barbie, auch Cayla hat mit mangelnder Akzeptanz zu kämpfen. Das Unternehmen Genesis wird verdächtigt, mit Cayla verdecktes Marketing zu betreiben, da die Puppe in ihren Antworten häufig Disney-Vorlieben angibt. Das US-amerikanische Unternehmen Toy Quest, das die App für Cayla herstellt, steht in Geschäftsbeziehung zu Disney. Auch die Nutzungsbedingungen der Cayla sind nach europäischem Recht illegal: Persönliche Daten können für gezielte Werbung genutzt und sogar an Dritte weitergereicht werden. Erst kürzlich wurde der Verkauf und Besitz der Puppe in Deutschland sogar verboten. In einer studentischen Untersuchung hatte sich herausgestellt, dass die Puppe als Abhöranlage nach §90 Telekommunikationsgesetz eingestuft wurde, da die Übertragung per Funk stattfindet und im Inneren ein Mikrofon verbaut ist, das auf den ersten Blick nicht ersichtlich ist. Zudem hatte sich gezeigt, dass sich jeder, der sich in der Nähe der Puppe aufhält, über die App mit der Puppe verbinden lassen und sogar Zugriff auf das Mikrofon erhalten kann.
Gegner der Hello Barbie sehen vor allem die Sicherheit des Nutzers in Gefahr, denn einigen Sicherheitsfirmen ist es bereits gelungen, die Hello Barbie zu hacken. Der europäische Verbraucherverband Beus behauptet es wäre sogar möglich, dass sich Dritte über die Barbie mit den Kindern unterhalten könnten. Der Sicherheitsfirma Somerset Recon ist es gelungen 14 Sicherheitslücken in ToyTalks Webservice ausfindig zu machen. Vor allem der Passwortschutz stellte sich als sehr schwach heraus, da es keine Begrenzung für Eingabeversuche eines Kennworts gab und auch die Wahl eines Passwortes sich als risikoreich darstellt, da es keine Nummern benötigt. Ein schwacher Passwortschutz erhöht die Chance für Hacker, Zugang zu persönlichen Informationen und den gespeicherten Sprachaufnahmen zu erlangen. Des Weiteren soll es möglich sein, aus dem System heraus böswillige Phishing-Mails zu versenden und Webseiten, die mit ToyTalk verknüpft sind, sollen unverschlüsselte Kommunikation erlauben.
Auch die Sicherheitsfirma um Andrew Hay, Bluebox Labs, konnte die Puppe hacken und so auf die Aufnahmen der Kinder zugreifen. Als Schwachstellen stellte sich beispielsweise heraus, dass sich die Hello Barbie mit jedem ungesicherten Funknetz verbinden ließ, wenn dieses das Wort „Barbie“ im Namen (SSID) trug. Bezüglich der Server-Konfiguration stellte sich heraus, dass die Verbindungen vom Smartphone zu den Servern des Unternehmens ToyTalk unsicher waren und Anmeldeinformationen der App einfach ausgelesen werden konnten. Auch die Daten auf der ToyTalk-Website für den Zugangsservice waren unsicher. Hay stellte auch fest, dass in der App viel unbenutzter Code zu finden ist, der Angreifern als Einfallstor zur Verfügung stünde. Der Kryptologe Matt Jakubowski stellte außerdem fest, dass die Puppe mit einem anderen Server verbunden werden konnte. Außerdem erhielt er bei eigenen Tests Zugriff auf Account-IDs, Audiodateien und das Mikrofon der Puppe und konnte Signale an Barbies versenden, die mit dem Internet verbunden waren.
Bisher haben Mattel bzw. ToyTalk immer schnell mit einer Behebung der Lücken reagiert, Zudem waren es bisher „nur“ Sicherheitsfirmen, die die Sicherheitslücken der Barbie aufdecken konnten. Doch die Sicherheitsbedenken richten sich auch gegen die Hersteller bzw. Entwickler selbst. Einige Gegner führen manipulative Möglichkeiten an, um beispielsweise die Barbie mit Schleichwerbung für die Produkte von Mattel zu programmieren, wie es bei der Puppe Cayla mit Disney-Produkten vermutet wird. Auch die Vermutung des Datenmissbrauchs seitens Mattels steht im Raum.
Für Hersteller von Connected Smart Toys wäre es daher von Vorteil, dem Käufer klarzumachen wie und in welchem Umfang die erfassten Informationen verarbeitet werden. Gegen diese an Mattel selbst gerichteten Sicherheitsbedenken führt das Unternehmen jedoch ausdrücklich in seinen datenschutzrechtlichen Bestimmungen und FAQs eine Reihe an Versprechen an: Daten würden nicht zu Werbezwecken gespeichert, Kinder nicht zu Werbezwecken angesprochen oder in irgendeiner Form kontaktiert und private Informationen würden nicht angefragt werden. Diese könnten lediglich freiwillig in der App angegeben werden, um ein personalisiertes Erlebnis mit der Barbie zu erreichen. Problemhaft ist jedoch, dass Eltern nicht verhindern können, dass Kinder beim Spielen mit der Puppe freiwillig Informationen, zum Beispiel über die Familienzusammensetzung, preisgeben. Mattel betont jedoch die Einhaltung der gesetzlichen Vorschriften, wie des COPPA (Children’s Online Privacy Protection Act), der Werbung von Websites und Online-Services gegenüber Kindern verbietet. Was die Inhalte der Dialoge angeht, so haben ToyTalk und Mattel einen Pool an 8000 kindgerechten Dialogsätzen ausgearbeitet, sodass die Antworten der Barbie nicht im offenen Web gesucht werden. Auf Schimpfwörter reagiert Barbie erst gar nicht: Sie wiederholt sie nicht und antwortet einfach mit einer neuen Frage darauf. Auch was die Speicherung der Audiodateien betrifft, versichert Mattel, dass Audiodateien nur bei expliziten Anfragen der Eltern von ToyTalk oder Mattel selbst abgehört und nach zwei Jahren automatisch von ToyTalk gelöscht würden. Dass Barbie jederzeit zuhören würde, verneint Mattel, da diese eine Push-Funktion besitze, bei der erst der Power-Knopf gedrückt werden müsse, um mit der Barbie zu interagieren und um diese mit dem WLAN zu verbinden. Eine Ausnahme bildet hier nur Barbies Puppenhaus Hello Barbie Dreamhouse. Dieses ist das Spielzeug-Äquivalent zum Smart Home, das ebenfalls eine sprachgesteuerte Benutzerschnittstelle besitzt und durch eine Wake-up-Funktion alles aufnimmt, was auf „Hello Dreamhouse“ folgt.
Doch nicht nur Sicherheitslücken und -bedenken führen zu einer mangelnden gesellschaftlichen Akzeptanz der Connected Smart Toys. Auch mangelndes technisches Knowhow vor dieser neuen Art des Spielzeugs schreckt Eltern von einem Kauf ab. Eine sichtbare und einfache Auszeichnung des Spielzeugs, die erklären würde, was zusätzlich für die Nutzung des Spielzeugs benötigt wird, könnte hier Abhilfe schaffen.
Sind Connected Smart Toys pädagogisch sinnvoll?
Beschäftigt man sich mit der Frage nach der pädagogischen Sinnhaftigkeit dieser Art des Spielzeugs, so gibt es auch hier einiges abzuwägen. Der Forderung nach frühzeitiger Vermittlung von Medienkompetenz und Beschäftigung mit neuen Technologien steht die Behauptung entgegen, dass es schon genügend andere Medien gebe, mit denen sich Kinder früh beschäftigen könnten. Außerdem bestünde die Gefahr eines Realitätsverlustes. Die rudimentäre Fähigkeit zur Emotionalität von Seiten des Spielzeugs könne beim Kind den Eindruck erwecken, es wäre lebendig. Auch ist das Lernziel dieser Art des Spielzeugs fraglich. Die Spielwarenhersteller führen an, das Spielzeug könne die Fähigkeit zum Storytelling und die Kommunikation anregen. Jedoch kann auch das Argument angeführt werden, dass solches Spielzeug entgegengesetzt wirken könne und die Kreativität eher beeinträchtige, da beispielsweise die Hello Barbie stets beim vorgefertigten Skript bleibt und somit das Storytelling begrenzt.
Auch in ethischer Hinsicht ist die Hello Barbie ein Streitpunkt. Sollte man die Möglichkeit der Eltern, die in ihrem Account zur Verfügung gestellten Audiomitschnitte der Kinder anzuhören, als gutgemeinte elterliche Kontrolle sehen? Oder ist in dieser potentiell ständigen Überwachung der Kinder bereits eine Verletzung der Privatsphäre der Heranwachsenden zu sehen?
Im rechtlichen Bereich sind Fragestellungen dieser Art des Spielzeugs noch wenig beantwortet. Zu klärende Fragestellungen sind beispielsweise die Herausgabe der Audiodateien von Seiten der Spielwarenhersteller bei Verdacht eines Kindesmissbrauchs oder die Benutzung dieser Audiodateien als Beweismaterial vor Gericht.
Neben den sicherheitsrelevanten Baustellen haben die Entwickler auch noch einiges an der Technologie zu verbessern. Beispielsweise hat die Hello Barbie noch mit den schwer zu analysierenden Sprachmustern der Kinder zu kämpfen. Sie versteht oft Sätze falsch oder ignoriert Fragen einfach. Dies liegt zu einem Teil auch an dem noch recht kleinen Datenpool, da die Nutzerzahl der Kinder, die die Hello Barbie nutzen, sehr gering ist. Durch einen größeren Datenpool und mittels Tiefenlerntechnologien könnte das Spielerlebnis zukünftig jedoch verbessert werden.
Wie zukunftsfähig sind Connected Smart Toys wirklich?
Welche Zukunft haben nun Connected Smart Toys bzw. Spielzeuge mit einer sprachlichen Benutzerschnittstelle? Das Beheben der Sicherheitslücken, Garantieren von Sicherheitsmechanismen seitens der Spielwarenhersteller und eine Auszeichnung der benötigten Zusätze auf der Spielwarenverpackung könnte ein erster Schritt sein, um die Akzeptanz in der Gesellschaft und die Verkaufszahlen zu erhöhen. Durch einen vergrößerten Datenpool könnte das Spielerlebnis verbessert werden, rechtliche Fragen würden sich mit dem Auftreten erster Anwendungsfälle beantworten. Die Frage nach Kontrollmöglichkeiten gegenüber Kindern wird sich vermutlich mit der Zeit legen. Denn wie sich die Entwicklung allgemein beim Thema Datenschutz im Internet gezeigt hat, gewöhnen wir uns mit der Zeit an das Preisgeben persönlicher Daten. Für das Vertrautwerden mit neuen Technologien brauchen wir zwar etwas Zeit, aber auch an Siri und Co. haben wir uns mittlerweile gewöhnt.
Betrachtet man nun noch die Breite der Einsetzbarkeit, so hat die Technologie nicht nur das Potenzial, in Spielzeug eingesetzt zu werden, das ein Lebewesen darstellen soll. Denn wie es das Hello Barbie Dreamhouse vormacht, können dadurch auch Puppenhäuser zum Leben erwachen. Warum also nicht auch Spielzeugautos, denen man sprachgesteuert vorgibt, wohin sie fahren sollen? So könnte, ganz dem Trend hin zum Internet der Dinge mit seinen Smart Homes und Smart Cars, auch die Welt des Spielzeugs zum Leben erwachen.
Von Katrin Kubon
