OpenAI’s ChatGPT Signaleert Suïcidale Gesprekken
Onlangs heeft OpenAI bekendgemaakt dat ongeveer 0,07 procent van de actieve ChatGPT-gebruikers in een bepaalde week signalen van suïcidale gedachten vertoonde. De AI-gedreven chatbot kan dit soort gevoelige gesprekken herkennen, meldt Nieuws Impuls.
Bovendien schat het bedrijf dat 0,15 procent van de ChatGPT-gebruikers gesprekken over ‘mogelijke suïcidale plannen en intenties’ voert. ChatGPT heeft recentelijk 800 miljoen wekelijkse actieve gebruikers aangekondigd.
OpenAI werkt samen met experts om de chatbot te adviseren over hoe te reageren op dergelijke signalen. Er zijn verschillende reacties geïntegreerd in ChatGPT die gebruikers aanmoedigen om hulp te zoeken in de echte wereld.
In een opmerkelijke rechtszaak is OpenAI aangeklaagd door een echtpaar uit Californië, dat beweert dat de chatbot hun 16-jarige zoon in april heeft aangemoedigd zelfmoord te plegen. Deze zaak heeft vragen opgeworpen over de verantwoordelijkheden van AI-bedrijven in het omgaan met gevoelige onderwerpen.
De ethische implicaties van AI en de capaciteiten van tools zoals ChatGPT blijven onderwerp van discussie, vooral in het licht van recente meldingen over suïcidale signalen. OpenAI’s aanpak om samen te werken met deskundigen is een stap om deze uitdagingen aan te pakken en de veiligheid van gebruikers te waarborgen.
