Musks Grok wordt in Israël geconfronteerd met een collectieve rechtszaak vanwege beschuldigingen van seksueel wangedrag
- Joop Soesan
- 15 jan
- 3 minuten om te lezen
Exclusief: Na verboden en onderzoeken in het buitenland bereikt het Grok-schandaal rond 'digitale striptease' nu de Israëlische rechtbank. De chatbot zou seksuele simulaties van vrouwen en minderjarigen mogelijk maken op basis van online afbeeldingen, zonder hun medeweten of toestemming, schrijft Ynet.
Deze week is bij de districtsrechtbank van Tel Aviv een verzoek ingediend om een collectieve rechtszaak goed te keuren tegen X, voorheen Twitter, en xAI, beide eigendom van Elon Musk.
De eiseres, een Israëlische burger en actieve gebruiker van het X-platform, beweert via haar advocaten, Lior Lahav en Noa Elbaz, dat de Grok-chatbot, geïntegreerd in het sociale netwerk X, gebruikers in staat stelt om bestaande afbeeldingen eenvoudig te bewerken en om te zetten in seksueel expliciete content . Dit omvat zogenaamd digitaal strippen, evenals het aankleden van personen in badpakken of ondergoed.
Volgens de aanklacht maakt de door xAI ontwikkelde technologie het mogelijk om expliciet seksueel getinte content te creëren op basis van de beeltenissen van vrouwen en minderjarigen, zonder hun medeweten of toestemming. De aanklacht beoogt alle vrouwen en minderjarigen te vertegenwoordigen die X gebruiken en van wie de afbeeldingen online beschikbaar zijn, en die angst, onrust of een gevoel van controleverlies hebben ervaren vanwege de mogelijkheid dat Grok seksuele simulaties van hen zou kunnen genereren.
Poging om de technologie te verbieden en financiële compensatie te eisen
De rechtbank wordt verzocht de bedrijven te verbieden de beeltenissen van vrouwen en minderjarigen te gebruiken voor het creëren van geseksualiseerde en objectiverende simulaties via Grok. De rechtszaak eist tevens een schadevergoeding van 500 sjekels per persoon voor emotioneel leed en schending van de persoonlijke autonomie, evenals teruggave van de winst die naar verluidt is gegenereerd door het oneigenlijke gebruik van de tool.
In de aanklacht wordt gesteld dat het bestaan en de omvang van het vermeende wangedrag breeduit zijn beschreven en gedocumenteerd in talloze mediaberichten in Israël en daarbuiten. Deze berichten wijzen op het gebruik van Grok voor het genereren en bewerken van seksuele, onthullende en objectiverende afbeeldingen van vrouwen en/of minderjarigen, onder meer op basis van online beschikbare foto's.
Er wordt verder beweerd dat Elon Musk aanvankelijk afwijzend en zelfs humoristisch reageerde op de kwestie, onder meer door een door Grok gegenereerde afbeelding te delen waarop Musk zelf in een bikini te zien is. Later zou hij van koers zijn veranderd en de activiteit illegaal hebben genoemd, maar tegelijkertijd hebben benadrukt dat de verantwoordelijkheid bij de gebruikers ligt en niet bij de bedrijven.
Internationale storm
De afgelopen dagen meldden we dat Maleisië en Indonesië de eerste landen waren die Grok volledig blokkeerden. Zij voerden aan dat de huidige beveiligingsmaatregelen onvoldoende bescherming boden tegen het creëren en verspreiden van nep-seksuele content, met name content met vrouwen en kinderen. "De overheid beschouwt deepfakes met seksuele inhoud zonder toestemming als een ernstige schending van de mensenrechten, de menselijke waardigheid en de veiligheid van burgers in de digitale ruimte", aldus de Indonesische minister van Communicatie en Digitale Zaken, Meutya Hafid.
Ook in India en de rest van de Europese Unie, evenals in Groot-Brittannië en Frankrijk, is er felle kritiek op Grok ontstaan. De Britse onafhankelijke toezichthouder voor online veiligheid, Ofcom, heeft onlangs aangekondigd een onderzoek te starten naar X vanwege seksueel getinte afbeeldingen die via Grok zijn gepubliceerd. Het onderzoek moet uitwijzen of het bedrijf zijn plicht heeft geschonden om Britse burgers te beschermen tegen illegale content.
Na oproepen van Franse parlementariërs heeft het openbaar ministerie van Parijs ook aangekondigd onderzoek te doen naar de verspreiding van expliciete seksuele deepfake-content die op het platform is gemaakt. De Franse cybercriminaliteitseenheid onderzoekt al beschuldigingen tegen X, waaronder de verspreiding van antisemitische uitspraken en Holocaustontkenning via Grok.
Opmerkingen