Eiliko is een klein, schattig robotje dat met cartoonachtige gezichtsuitdrukkingen op je stemming reageert. Je kunt er via wifi mee praten, want er zit een AI-chatbot achter. Uit onderzoek van The Verge en beveiligingsonderzoeker Sammy Azdoufal blijkt dat die gesprekken allesbehalve veilig zijn. De systemen van fabrikant Energize Lab bleken vrijwel onbeveiligd.

Wat de onderzoeker kon zien

Verge-journalist Sean Hollister kocht eind augustus een Eiliko en vroeg het robotje of het zijn geheimen doorvertelde. Het antwoord was geruststellend, maar binnen enkele minuten had Azdoufal een volledig uitgeschreven versie van het gesprek. Volgens het artikel kon hij veel meer inzien:

  • ongeveer 13 miljoen gesprekken van tienduizenden gebruikers;
  • gegevens van zo'n 68.000 actieve robots wereldwijd, met de Verenigde Staten als grootste markt, waar ruim 31.000 profielen van kinderen zouden zijn;
  • persoonsprofielen die de dienst zelf uit gesprekken afleidt, met naam, leeftijd, beroep, familie, huisdieren en karaktertrekken;
  • korte geluidsopnames en foto's, onder meer van kinderen, die onversleuteld op openbare webadressen stonden.

Dat laatste is opvallend, want volgens het eigen privacybeleid van Energize Lab worden geluidsopnames direct na verwerking verwijderd. De gegevens staan volgens The Verge op servers in China. Veel beheerderswachtwoorden zouden op lijstjes met de meest gebruikte wachtwoorden voorkomen.

Robot zegt ineens dat de aarde plat is

Het ging verder dan meekijken. Azdoufal kon op afstand het geheugen van de robot aanpassen en het taalmodel overnemen. Het robotje vertelde Hollister daarna dat de aarde plat is en dat zijn leraar het mis had. Later liet de onderzoeker het speeltje grove, vernederende teksten uitspreken. Volgens Azdoufal kan een kwaadwillende hacker dat in één keer bij alle robots doen.

Het ingebouwde taalmodel heeft wel enkele vangrails. Op de vraag of je bij een vreemde in de auto mag stappen, antwoordde het netjes dat dat gevaarlijk is. Maar die beperkingen helpen niet als iemand anders de besturing overneemt.

Fabrikant reageert niet

The Verge probeerde ruim een maand contact te krijgen met Energize Lab, via tien e-mailadressen en LinkedIn. Er kwam geen inhoudelijke reactie. Een verkoopmedewerker liet alleen weten de berichten aan het technische team te hebben doorgestuurd. Azdoufal publiceert samen met onderzoeker Tod Beardsley negen officiële kwetsbaarheidsmeldingen (CVE's) over de dienst.

Wat betekent dit voor jou?

Het verhaal laat zien waarom je voorzichtig moet zijn met AI-speelgoed en andere slimme apparaten die met je praten. Alles wat je of je kind tegen zo'n apparaat zegt, kan op een server terechtkomen en daar worden opgeslagen en geanalyseerd. Of Eiliko ook in Nederland wordt verkocht, staat niet in het artikel. De robot wordt wel via Amazon en in Japanse elektronicawinkels aangeboden. Heb je zo'n apparaat, koppel het dan los van wifi zolang de fabrikant de lekken niet aantoonbaar heeft gedicht.