Rechters in Nederland horen argumenten tegen naaktgenererende tool Grok
De Nederlandse organisaties Offlimits en Slachtofferhulp Fonds hebben vandaag voor de rechtbank gepleit voor een verbod op de naaktgenererende tool op Grok, de AI-chatbot van Elon Musk’s bedrijf xAI. De betrokkenen redeneerden dat gebruikers Grok eenvoudig kunnen inzetten om beelden van seksueel misbruik van kinderen en vervalste naaktfoto’s van echte personen te creëren, beide verboden in Nederland, meldt Nieuws Impuls.
Het gebruik van dergelijke technologie zou de veiligheid van kwetsbare groepen in gevaar kunnen brengen. De organisaties benadrukten dat er dringend actie nodig is om de blootstelling van slachtoffers aan deze schadelijke inhoud te beperken. De verantwoordelijke overheid wordt aangesproken op haar plicht om burgers te beschermen tegen online misbruik.
De rechtszaak heeft een breed scala aan reacties uitgelokt, waaronder van wetgevers en tech-experts, die de noodzaak hebben onderstreept om striktere regels en richtlijnen te implementeren voor AI-tools. De rechtbank zou in de komende weken een beslissing nemen over het verzoek van de organisaties.
Deaffaire rondom Grok illustreert een groeiende bezorgdheid over de impact van AI-technologieën op de samenleving, vooral in verband met de bescherming van zowel kinderen als volwassen gebruikers tegen digitale uitbuiting en misbruik.
