Chatbot Grok genereert bijna 7 duizend seksuele foto's per uur op X

Grok genereert en plaatst gemiddeld 6700 afbeeldingen per uur van mensen die, zonder hun toestemming, uitgekleed zijn door de AI-chatbot op X. Dat meldt deepfakeonderzoeker Genevieve Oh, die gelieerd is aan anti-deepfakebeweging My Image My Choice. Niels Kooloos vertelt erover in deze Tech Update.

Gebruikers op X kunnen sinds eind december foto's laten genereren door Grok. Al gauw bleek dat daar weinig grenzen aan zitten. Zo kan Grok normale kleding vervangen door bikini's en mensen in suggestieve poses plaatsen, ook als die minderjarig lijken te zijn. 

Verschillende overheden en instanties hebben zich al uitgesproken tegen de nieuwe functie van Grok. Zo is een drietal Franse ministers naar de Franse mediawaakhond gestapt met klachten, heeft de Britse toezichthouder Ofcom om uitleg gevraagd aan X en klinkt er ook veel kritiek vanuit Brussel. 'Dit is niet pikant, dit is illegaal, verwerpelijk en smerig', zei een woordvoerder van de Europese Commissie eerder deze week.

Verder in deze Tech Update:

• Op Roblox moeten alle gebruikers nu verplicht hun leeftijd verifiëren als ze met elkaar willen chatten. Eerder gold dat alleen nog voor Nederlandse, Nieuw-Zeelandse en Australische gebruikers

See omnystudio.com/listener for privacy information.