Eater
AI-bedrijf Workado moet misleidende claims over ChatGPT-detectie staken
In een recent besluit heeft de Amerikaanse toezichthouder FTC (Federal Trade Commission) het AI-bedrijf Workado opgedragen om onmiddellijk te stoppen met het verspreiden van misleidende claims omtrent hun ChatGPT-detectie technologie. Workado beweert dat hun ‘AI Content Detector’ in staat is om met een nauwkeurigheid van 98 procent te bepalen of een tekst door een mens of door een AI is geschreven. Echter, onafhankelijk onderzoek toont aan dat deze claim niet klopt: de werkelijke nauwkeurigheid blijkt slechts 53 procent te zijn, wat ver af ligt van de beloofde cijfers.
Het bedrijf heeft bovendien geclaimd dat hun ‘AI-detector’ is getraind op een breed scala aan materiaal, waaronder blogs en Wikipedia-artikelen. De FTC heeft echter vastgesteld dat de software enkel is opgeleid om academische teksten te classificeren, wat de betrouwbaarheid van de detector in twijfel trekt.
In het licht van deze bevindingen heeft Workado een schikking getroffen met de FTC. Dit houdt in dat het bedrijf zich voortaan moet onthouden van valse, misleidende of niet onderbouwde advertenties. Wanneer Workado claims doet over de effectiviteit van hun technologie, zijn ze verplicht deze met solide bewijs te onderbouwen.
Daarnaast is Workado verplicht om haar klanten op de hoogte te stellen van de schikking met de FTC en moet het bedrijf de komende jaren jaarlijks een compliance-rapport indienen. Deze maatregelen zijn bedoeld om de transparantie en betrouwbaarheid van AI-technologieën te waarborgen en om consumenten te beschermen tegen misleidende marketingpraktijken.
De zaak onderstreept de noodzaak voor bedrijven in de AI-sector om verantwoordelijk om te gaan met hun claims en de impact die misleidende informatie kan hebben op gebruikers en de bredere markt. Het is essentieel dat zowel consumenten als bedrijven kunnen vertrouwen op de informatie die hen wordt gepresenteerd, vooral in een tijd waarin AI steeds meer geïntegreerd raakt in ons dagelijks leven.
Met deze stappen hoopt de FTC een duidelijke boodschap te sturen: eerlijkheid en transparantie moeten voorop staan in de snel ontwikkelende wereld van kunstmatige intelligentie.
