I prodotti di IA possono essere più utili quando sono collegati alle tue app e al web, e abbiamo investito molto per mantenere i dati connessi al sicuro da rischi come gli attacchi di iniezione di prompt. I nostri prodotti dispongono di numerose protezioni esistenti a livello di modello, prodotto e sistema. Questo include il sandboxing, protezioni contro l'esfiltrazione di dati basata su URL, monitoraggio, applicazione delle regole e controlli aziendali come l'accesso basato sui ruoli e i log di audit.
Allo stesso tempo, alcune capacità legate alla rete introducono nuovi rischi, in particolare le iniezioni di prompt, che non sono ancora completamente coperti dalle misure di sicurezza e mitigazione adottate dal settore. Alcuni utenti potrebbero sentirsi a proprio agio nell'assumersi questi rischi e riteniamo sia importante che abbiano la possibilità di decidere se e come utilizzarli, specialmente quando lavorano con i loro dati privati.
Per rendere tali rischi più facili da comprendere, puntiamo a comunicare questo rischio utilizzando un'etichetta, una terminologia e un'icona coerenti di “Rischio elevato” (punto esclamativo all'interno di uno scudo), in modo che risultino appropriati per ogni funzionalità e prodotto. Questa etichettatura offre agli utenti maggiore visibilità e controllo, oltre alle protezioni esistenti.
Nota: le funzionalità etichettate come “Rischio elevato” sono offerte facoltativamente e in accesso anticipato, al di fuori delle dichiarazioni e garanzie standard che forniamo per i nostri servizi generalmente disponibili. Gli utenti dovrebbero attivare tali funzionalità solo se comprendono e accettano i rischi aggiuntivi.
Cosa significa “Rischio elevato”?
Quando una funzionalità è etichettata come "Rischio elevato", significa che il suo utilizzo comporta alcuni rischi non ancora completamente mitigati dalle misure di sicurezza e protezione adottate dal settore. Ogni volta che vedi questa etichetta, troverai in genere indicazioni sui rischi associati all’utilizzo della funzionalità e sugli aspetti a cui prestare attenzione, spesso tramite un link "Scopri di più".
Ad esempio, in Codex, il nostro assistente per la programmazione, gli sviluppatori possono concedere a Codex l’accesso alla rete, consentendogli di eseguire azioni sul web, come consultare la documentazione. Questa funzionalità introduce un rischio elevato di attacchi di iniezione di prompt. La relativa schermata delle impostazioni include quindi l’etichetta "Rischio elevato", insieme a una spiegazione chiara di cosa cambia, quali rischi possono essere introdotti e quando è opportuno concedere tale accesso.
Il rischio elevato più comune associato a funzionalità così etichettate è rappresentato dagli attacchi di iniezione di prompt.
Con il miglioramento delle misure di sicurezza, potremmo rimuovere l’etichetta di "Rischio elevato" una volta stabilito che i rischi sono stati ragionevolmente mitigati per gli utenti.