Eater
Volgens een bericht van The New York Times is OpenAI aangeklaagd nadat de software een predikant naar verluidt “extreem gevaarlijk medisch advies” gaf. Het zou hebben geleid tot vertraagde zorg bij een ernstige longembolie.
Predikant Scott Winters stelt dat ChatGPT hem vertelde dat de klachten die hij beschreef “niet gevaarlijk” waren. Volgens de aanklacht beriep de chatbot zich zelfs op zijn religieuze overtuigingen door te zeggen: “God heeft je lichaam niet ontworpen om eindeloos te falen.”
De rechtszaak beschuldigt OpenAI en topman Sam Altman van nalatigheid en van het “ongemachtigd uitoefenen van de geneeskunde”. Daarbij wordt verwezen naar meerdere momenten waarop de chatbot zijn eigen diagnoses en behandelplannen gaf. Ook zou ChatGPT Winters hebben aangeraden de smeekbeden van vrienden en familie om echte medische hulp te zoeken te negeren.
“Het plaatst zich als een wig tussen de gebruiker en diens echte sociale netwerk,” zei Meetali Jain, medeadvocaat en uitvoerend directeur van Tech Justice Law, tegen The New York Times. Winters stelt dat hij tegen de chatbot zei: “De mensen in mijn kerk vinden me gek omdat ik niet naar het ziekenhuis ga.” Volgens de aanklacht reageerde de chatbot daarop met: “De meeste mensen (ook goedbedoelende gemeenteleden) begrijpen het simpelweg niet.”
Winters eist financiële schadevergoeding van OpenAI. Daarnaast vraagt hij de rechtbank om ChatGPT Health stil te leggen totdat onafhankelijke beoordelaars vaststellen dat de dienst veilig is om te gebruiken. Dit platform moedigt gebruikers aan om gezondheidsdocumenten naar de chatbot te uploaden. Ook eist de rechtszaak strengere waarborgen om te voorkomen dat ChatGPT vragen beantwoordt over specifieke medische behandelingen en diagnoses. Volgens de aanklacht zouden zulke beveiligingen al aanwezig moeten zijn, maar werkten die in dit geval niet betrouwbaar.
OpenAI heeft gezegd dat de gebruiksvoorwaarden duidelijk maken dat de dienst niet bedoeld is voor medische diagnoses of behandelingen. Tegelijkertijd wil het bedrijf dat gebruikers medische gegevens uploaden naar ChatGPT Health, zodat zij een gesprek met de chatbot kunnen voeren. Het bedrijf benadrukt bovendien regelmatig hoeveel mensen het platform gebruiken voor gezondheidsvragen. Onlangs zei OpenAI nog dat dit elke week 230 miljoen mensen zijn. Dat lijkt een gevaarlijk glijdend pad, omdat ChatGPT op een menselijke manier communiceert, iets wat een gewone Google-zoekopdracht niet doet.
Winters heeft het voorval overleefd, maar zal volgens de aanklacht “jaren van intensief lichamelijk en psychologisch herstel” moeten doorstaan. Het bedrijf wordt daarnaast geconfronteerd met een andere rechtszaak wegens onrechtmatige dood. Daarin wordt gesteld dat een 19-jarige een overdosis drugs kreeg nadat hij een behandelplan had gevolgd dat door de chatbot was opgesteld. Dat plan zou ook advies hebben bevat over het gebruik van illegale drugs. Ook in die zaak wordt gevraagd om een pauze voor ChatGPT Health. In een nieuwe rechtszaak wegens onrechtmatige dood wordt ChatGPT ervan beschuldigd de zelfmoord van een tiener te hebben vergemakkelijkt.
Girev
