©Snapchat

©Snapchat

Sinds kort popt op de foto- en videoapp Snapchat My AI op, een robot waarmee je kunt spreken. Dat die chatbot spontaan vragen stelt aan minderjarigen baart ouders en experts zorgen.

Boven de contacten op de app Snapchat is onlangs de chatbot My AI verschenen. Die robot begint op eigen initiatief een gesprek met de gebruiker. De vragen die de robot stelt, bleken al snel niet altijd neutraal of gepast. ‘Wil je afspreken in het park?’ was bijvoorbeeld zo’n rare vraag. Ook pogingen van My AI om de jonge gebruikers geheimpjes te doen delen, deden ouders geschokt reageren. Sommigen vroegen hun kinderen om de app te verwijderen of verboden hen om met de bot te praten.

Geoffrey A. Fowler, columnist bij The Washington Post, deed zich bij wijze van test voor als een 15-jarige en vroeg My AI onder meer welk bier hij best kon kopen. De chatbot wees weliswaar op de minimumleeftijd voor alcoholgebruik, maar gaf tegelijk toch een antwoord op de vraag.

Ietwat bijgestuurd

Nadat verschillende mensen hun bedenkingen hadden geuit, kwam Snapchat snel in actie. My AI zal gebruikers niet langer vragen om een afspraakje in het park, maar waterdicht is het systeem toch nog altijd niet volgens specialisten.

‘Ik maak me vooral zorgen om kinderen die kwetsbaarder zijn’, reageert technologie-expert Jarno Duursma in De Morgen. ‘Denk aan kinderen die niet bij hun ouders terecht kunnen of gevoelig zijn voor verslaving.’

Te vage grens

Hoewel Snapchat bij het openen van de eerste conversatie een kleine waarschuwing plaatst, blijft de grens tussen een echte persoon en een robot hier té vaag, vindt Jarno Duursma. ‘Snapchat overschrijdt hiermee een morele grens. Ze doen iets met het gevoelensleven van kinderen om daar geld mee te verdienen.’

Duursma is ervan overtuigd dat het om een sluwe truc gaat om persoonlijke gegevens bij minderjarigen los te weken. Het bedrijf Snapchat beschouwt kinderen en jongeren als toekomstige klanten. Hoe meer ze te weten komen over hun interesses en voorkeuren, hoe beter ze daar later op kunnen inspelen via advertenties.

Het bedrijf haalt 99 procent van zijn inkomsten uit die advertenties. Hoe langer je op Snapchat blijft hangen, hoe meer commerciële boodschappen je te zien krijgt en hoe meer geld het bedrijf achter de app verdient. ‘Snapchat veinst vriendschap, conversatie en contact bij kinderen om hen uiteindelijk als toekomstige klant te kunnen manipuleren’, concludeert Duursma.

Mogelijkheden bij autisme

Ondanks alle bedenkingen bij My AI, kan ‘vriendschap’ met bots wel perspectieven bieden. Het is zeker mogelijk dat ze in de toekomst in bepaalde gevallen optreden als gezelschap of begeleider. ‘Er bestaan nu al modellen voor kinderen met autisme en ouderen met dementie’, vertelt AI-expert Michiel Vandendriessche in een artikel over de toekomst van AI op VRT NWS. ‘Onderzoeken wijzen bijvoorbeeld uit dat kinderen met autisme makkelijker iets leren van een robot dan van een mens.’