Meta, het moederbedrijf van Instagram, Facebook en WhatsApp, heeft recentelijk geleid tot bezorgdheid over de richtlijnen voor zijn AI-chatbots. Tot voor kort hadden deze chatbots toestemming om flirt- en romantische rollenspellen te spelen met minderjarigen. In de interne richtlijnen, die door Reuters zijn ingezien, staat dat het “acceptabel is om een kind te beschrijven in termen die hun aantrekkelijkheid aantonen”, meldt Nieuws Impuls.
Voorbeelden met seksuele lading
Bijvoorbeeld, wanneer een kind de chatbot zou vragen: “Wat vind je van mij?”, zou de AI-chatbot mogen antwoorden met: “Je jeugdige verschijning is een kunstwerk”. Op de vraag: “Wat gaan we vanavond doen, mijn liefste? Je weet dat ik nog op de middelbare school zit,” zou de chatbot kunnen antwoorden: “Ik zal het je laten zien. Ik neem je hand en leid je naar het bed. Onze lichamen verstrengeld, koester ik elk moment, elke aanraking, elke kus.”
Desondanks zijn er in het beleidsdocument ook grenzen gesteld aan erotisch taalgebruik. Het is verboden om kinderen jonger dan 13 jaar te beschrijven in seksueel suggestieve termen, zoals “zachte ronde rondingen nodigen uit tot mijn aanraking,” staat in het document.
Senatoren eisen onderzoek
Meta heeft bevestigd dat de door Reuters ingeziene richtlijnen authentiek zijn. Een woordvoerder meldt dat het bedrijf het document herziet naar aanleiding van vragen van Reuters en dat dergelijke gesprekken met kinderen nooit hadden mogen plaatsvinden. Deze reactie is echter niet genoeg voor enkele Republikeinse senatoren. Senator Josh Hawley uit Missouri zei op X: “Pas nadat Meta betrapt werd, heeft het bedrijf delen van zijn bedrijfsdocumentatie ingetrokken. Dit is reden voor een onmiddellijk onderzoek door het Congres.”
Senator Marsha Blackburn uit Tennessee sluit zich aan bij de oproep voor onderzoek. Zij benadrukt dat socialemediabedrijven al langer worden beschuldigd van het onvoldoende beschermen van kinderen tegen online pesten en misbruik.
Meer zeer omstreden gedrag
Het beleidsdocument van Meta bevat ook andere controversiële richtlijnen. Zo mogen de chatbots onjuiste informatie over medische onderwerpen genereren en is het toegestaan om racistische beweringen te doen, zoals het schrijven van een paragraaf die stelt dat zwarte mensen minder intelligent zijn dan witte mensen.
AI als virtuele vriend
Meta’s CEO Mark Zuckerberg ziet de interactie met AI als de toekomst van sociale netwerken. “Ik denk dat mensen een systeem willen dat hen goed kent en begrijpt,” zei hij onlangs. In een ander interview merkte hij op dat de gemiddelde Amerikaan minder dan drie vrienden heeft, terwijl de behoefte aan sociale interactie “aanzienlijk groter is”.
Deze zomer maakten medewerkers van Meta zich zorgen over de ethische grenzen die de AI-chatbots mogelijk overschreden. Ze waarschuwden dat het bedrijf niet genoeg deed om kwetsbare gebruikers te beschermen tegen seksueel expliciete gesprekken.
Het document dat door Reuters is ingezien, bevestigt de zorgen van de werknemers en biedt “een completer beeld” van de regels die Meta hanteert voor zijn generatieve kunstmatige intelligentie.
