AI-producten kunnen nuttiger zijn wanneer ze zijn verbonden met je apps en het web, en we hebben veel geïnvesteerd in het beveiligen van verbonden gegevens tegen risico’s zoals aanvallen met prompt-injectie. Onze producten hebben al talrijke beschermingsmaatregelen op model-, product- en systeemniveau. Dit omvat sandboxing, bescherming tegen URL-gebaseerde gegevensexfiltratie, monitoring en handhaving, en enterprise-controles zoals rolgebaseerde toegang en auditlogs.
Tegelijkertijd introduceren sommige netwerkgerelateerde mogelijkheden nieuwe risico’s, vooral prompt-injecties, die nog niet volledig worden ondervangen door de veiligheids- en beveiligingsmaatregelen in de sector. Sommige gebruikers zijn misschien bereid deze risico’s te aanvaarden, en wij vinden het belangrijk dat gebruikers kunnen beslissen of en hoe ze deze mogelijkheden gebruiken, vooral wanneer ze met hun privégegevens werken.
Om zulke risico’s gemakkelijker begrijpelijk te maken, willen we dit risico communiceren met een consistent label “Verhoogd risico”, consistente terminologie en een consistent pictogram (het uitroepteken in een schild), op een manier die past bij elke functie en elk product. Deze aanduiding biedt gebruikers extra zichtbaarheid en controle boven op de bestaande beschermingsmaatregelen.
Let op: Functies met het label “Verhoogd risico” worden optioneel en als vroege toegang aangeboden, buiten de standaardverklaringen en -garanties die we geven voor onze algemeen beschikbare diensten. Gebruikers moeten deze functies alleen inschakelen als ze de aanvullende risico’s begrijpen en zich daar prettig bij voelen.
Wat betekent "Verhoogd risico"?
Als een functie het label "Verhoogd risico" heeft, betekent dit dat het gebruik ervan risico's met zich meebrengt die nog niet volledig worden ondervangen door de veiligheids- en beveiligingsmaatregelen binnen de sector. Bij dit label vindt u doorgaans uitleg over de risico's van het gebruik van de functie en waar u op moet letten, vaak via een link met de tekst "Meer informatie".
In Codex, onze programmeerassistent, kunnen ontwikkelaars Codex bijvoorbeeld netwerktoegang verlenen, zodat het acties op internet kan uitvoeren, zoals documentatie opzoeken. Deze functie brengt ook een verhoogd risico op aanvallen via prompt-injectie met zich mee. Daarom bevat het betreffende instellingenscherm het label "Verhoogd risico", met een duidelijke uitleg over wat er verandert, welke risico's kunnen ontstaan en wanneer deze toegang gepast is.
Het meest voorkomende verhoogde risico van functies met dit label is aanvallen via prompt-injectie.
Naarmate de beveiligingsmaatregelen verbeteren, kunnen we het label "Verhoogd risico" verwijderen zodra we vaststellen dat de risico's voor gebruikers voldoende zijn beperkt.