Eater
OpenAI is begonnen met het uitrollen van een nieuwe Lockdown Mode voor ChatGPT, bedoeld voor in aanmerking komende persoonlijke accounts. Deze functie moet het risico op datalekken als gevolg van prompt-injectieaanvallen verkleinen.
De functie is vooral ontwikkeld voor mensen en organisaties die met gevoelige gegevens werken en behoefte hebben aan strengere beveiliging. Lockdown Mode is beschikbaar voor ingelogde gebruikers van de gratis versie, Go, Plus en Pro, evenals voor zelfbedieningsabonnementen van ChatGPT Business.
“Lockdown Mode is een optionele, geavanceerde beveiligingsinstelling die veel tools en mogelijkheden in OpenAI-producten beperkt die verbinding kunnen maken met het web of externe diensten,” aldus OpenAI.
“De functie is ontworpen om het risico op gegevenslekken door prompt-injectieaanvallen te verkleinen door uitgaande netwerkverzoeken te beperken, ten koste van het uitschakelen of beperken van بعض waardevolle functies.”
De beveiligingsmaatregelen zijn bedoeld om het aanvalsoppervlak beter te beschermen tegen prompt-injecties, een probleem dat nog altijd geldt als een van de belangrijkste uitdagingen voor grote taalmodellen (LLM’s).
Concreet bouwen de maatregelen voort op sandboxing en bestaande beveiligingen om URL-gebaseerde methoden voor gegevenslekken tegen te gaan. Daarmee worden uitgaande netwerkverzoeken beperkt die mogelijk gevoelige gegevens kunnen doorsturen naar door aanvallers beheerde systemen.
Het doel is niet om prompt-injecties volledig te voorkomen. Ook verandert het niets aan hoe geheugen of bestandsuploads werken, of aan de mogelijkheid om een gesprek te delen. Het doel is vooral om mogelijke routes waarlangs gegevens kunnen worden buitgemaakt, weg te nemen. Daarom schakelt Lockdown Mode de volgende functies uit:
- Live webbrowsen, waarbij alleen gecachte content toegankelijk is
- Ondersteuning voor afbeeldingen, zowel voor het tonen van afbeeldingen in gewone antwoorden als voor het ophalen van afbeeldingen van het web
- Diepgaand onderzoek
- Agentmodus
- Canvas-netwerktoegang, waardoor gebruikers geen toestemming kunnen geven aan door Canvas gegenereerde code om toegang te krijgen tot het netwerk
- Het downloaden van bestanden, wat het downloaden van bestanden voor gegevensanalyse blokkeert
OpenAI benadrukt dat de functie niet “voor iedereen” bedoeld is. Daarnaast gaf het bedrijf aan dat Lockdown Mode en Developer Mode niet tegelijk gebruikt kunnen worden: wie de ene inschakelt, schakelt automatisch de andere uit.
“Lockdown Mode is ontworpen om het risico op gegevenslekken via prompt-injectie aanzienlijk te verkleinen in ChatGPT en ondersteunde OpenAI-producten, maar het garandeert niet dat gegevenslekken onmogelijk zijn,” aldus het bedrijf. “Het risico kan blijven bestaan via ingeschakelde apps, onverwachte combinaties van mogelijkheden of nieuw ontdekte technieken.”
“Lockdown Mode voorkomt ook niet alle andere gevolgen van prompt-injectieaanvallen. Een kwaadaardige instructie die verborgen zit in een geüpload bestand kan bijvoorbeeld nog steeds invloed hebben op het gedrag van ChatGPT en leiden tot een onjuist antwoord.”
De ontwikkeling komt op het moment dat OpenAI ook een nieuwe functie voor accountbeheer heeft gelanceerd. Daarmee kunnen gebruikers actieve ChatGPT-sessies bekijken en afzonderlijke sessies of alle sessies tegelijk afmelden als er signalen zijn van ongeautoriseerde accountactiviteit. De getoonde sessies bevatten informatie over het apparaat, de gebruikte app, de geschatte locatie, de inlogdatum en -tijd, of het apparaat vertrouwd is en of het om de huidige sessie gaat.
