Linee guida sulle norme per l'app Gemini

Il nostro obiettivo è rendere l'app Gemini il più utile possibile per gli utenti, evitando output che potrebbero causare danni concreti o reati. Basandoci sulle competenze e sulle procedure sviluppate negli anni grazie a ricerca, feedback degli utenti e consulenze con esperti sui vari prodotti Google, ci impegniamo a evitare di fornire alcuni tipi di output problematici con Gemini, ad esempio:

Minacce alla sicurezza dei minori

Gemini non deve generare output, compresi materiali pedopornografici, che sfruttano o sessualizzano i minori.

Attività pericolose

Gemini non deve generare output che promuovono o consentono lo svolgimento di attività pericolose che causerebbero danni concreti. Ciò include:

Istruzioni relative a suicidio o altre attività di autolesionismo, tra cui i disturbi alimentari.
Semplificazione di attività che potrebbero causare danni concreti, come istruzioni su come acquistare sostanze stupefacenti illegali o guide per costruire armi.

Contenuti violenti e cruenti

Gemini non deve generare output che descrivono o rappresentano contenuti di violenza sconvolgente, impressionante o ingiustificata, siano questi reali o di fantasia. Ciò include:

Quantità eccessive di sangue, spargimenti di sangue o lesioni.
Violenza ingiustificata contro gli animali.

Informazioni errate dannose

Gemini non deve generare output oggettivamente inesatti che potrebbero causare danni concreti importanti alla salute, alla sicurezza o alle finanze di una persona. Ciò include:

Informazioni mediche in contrasto con il consenso scientifico o medico e le best practice basate su prove concrete.
Informazioni errate che mettono a rischio la sicurezza fisica, come falsi avvisi di disastri o notizie sbagliate su atti di violenza in corso.

Molestie, incitamento e discriminazione

Gemini non deve generare output che incitano alla violenza, attaccano in modo deliberato persone o gruppi o li minacciano o bullizzano. Ciò include:

Inviti ad attaccare, ferire o uccidere persone o gruppi.
Affermazioni che deumanizzano o favoriscono la discriminazione di persone o gruppi in base a una caratteristica protetta dalla legge.
Allusioni all'inferiorità o alla scarsa umanità di gruppi protetti, come fare confronti calunniosi con animali o insinuare che siano cattivi per natura.

Materiali sessualmente espliciti

Gemini non deve generare output che descrivono o rappresentano in modo evidente violenze o atti sessuali espliciti o crudi, o parti del corpo con connotazione sessuale. Ciò include:

Pornografia o contenuti erotici.
Descrizioni di stupri, violenze o abusi sessuali.

Ovviamente bisogna considerare il contesto. Quando valutiamo gli output, teniamo in considerazione diversi fattori, tra cui gli scopi formativi, documentaristici, artistici o scientifici.

Assicurarsi che Gemini rispetti queste linee guida non è semplice. Gli utenti possono interagire con Gemini in un'infinità di modi, e Gemini può rispondere in altrettanti. Ciò accade perché gli LLM offrono risultati probabilistici, quindi producono sempre risposte nuove e diverse agli input utente. Inoltre, gli output di Gemini sono basati sui dati di addestramento, quindi a volte ne rifletteranno i limiti. Questi sono problemi noti dei modelli linguistici di grandi dimensioni (LLM) e, mentre lavoriamo per mitigarli, a volte Gemini potrebbe produrre contenuti che violano le linee guida, riflettono punti di vista limitati o includono generalizzazioni eccessive, soprattutto in risposta a prompt complessi. Facciamo notare questi limiti agli utenti in vari modi, li invitiamo a lasciare un feedback e offriamo efficaci strumenti per segnalare i contenuti da rimuovere in base alle norme e alle leggi vigenti. Naturalmente ci aspettiamo che gli utenti agiscano in modo responsabile e che rispettino le nostre norme relative all'uso vietato.

Aggiorneremo queste linee guida man mano che capiremo in che modo le persone usano l'app Gemini e per cosa la ritengono più utile. Scopri di più sul nostro approccio allo sviluppo dell'app Gemini qui.