Eater
Ofcom (*) onderzoekt X vanwege seksueel getinte beelden via Grok
Ofcom is een formeel onderzoek gestart naar X in het kader van de Britse Online Safety Act, nadat meldingen waren binnengekomen dat de chatbot Grok werd gebruikt om illegale seksuele beelden te creëren en te verspreiden. Dit betreft onder andere niet-consensuele intieme afbeeldingen en materiaal waarbij kinderen betrokken zijn.
De toezichthouder laat weten dat het onderzoek zal toetsen of X voldoende heeft ingeschat en tegengegaan dat gebruikers in het Verenigd Koninkrijk in aanraking komen met illegale content, en of het bedrijf snel genoeg heeft gehandeld om deze content te verwijderen.
Afgelopen maandag nam Ofcom contact op met X en stelde een deadline van vrijdag 9 januari om te verklaren welke maatregelen zij heeft genomen om te voldoen aan haar verplichtingen om gebruikers in het VK te beschermen. Het bedrijf reageerde voordat de deadline verstreek, waarna Ofcom met spoed het beschikbare bewijsmateriaal onderzocht.
De reactie van Grok tot nu toe was om de functionaliteit achter een betaalmuur te plaatsen; een commerciële keuze, die echter onvoldoende ingaat op de zorgen rond de AI-technologie.
Business Secretary Peter Kyle zei dat X “niet genoeg doet om haar klanten veilig online te houden” en gaf aan dat de regering de vervolgstappen van Ofcom zal steunen.
De Britse Online Safety Act richt zich specifiek op het beschermen van mensen in het Verenigd Koninkrijk. Het vereist niet dat platforms beperken wat mensen in andere landen kunnen zien.
Een woordvoerder van Ofcom verklaarde: “De meldingen dat Grok wordt gebruikt om illegale, niet-consensuele intieme beelden en materiaal van kindermisbruik te creëren en delen op X, zijn zeer verontrustend. Platforms moeten mensen in het VK beschermen tegen illegale inhoud. We aarzelen niet om een onderzoek te starten als we vermoeden dat bedrijven hun plichten niet nakomen, vooral wanneer er sprake is van risico’s voor kinderen.”
Mocht Ofcom een overtreding vaststellen, dan kan zij herstelmaatregelen opleggen en boetes uitdelen tot £18 miljoen (€20,7 miljoen) of 10% van de wereldwijde omzet van het bedrijf, afhankelijk van wat hoger is. In de meest ernstige gevallen kan ze gerechtelijke maatregelen aanvragen die de toegang tot het platform binnen het VK kunnen beperken.
(*)Ofcom, de afkorting van de Office of Communications, is de officiële toezichthouder voor de communicatie in het Verenigd Koninkrijk. Deze onafhankelijke organisatie houdt toezicht op televisie, radio, telecommunicatie, post en draadloze diensten. Het doel van Ofcom is om ervoor te zorgen dat iedereen toegang heeft tot betrouwbare en eerlijke communicatiediensten, en dat de markt eerlijk en transparant blijft voor zowel consumenten als bedrijven. Daarnaast beschermt Ofcom de privacy en de rechten van gebruikers en bevordert het de innovatie binnen de sector.
