Linee guida sulle norme per l'app Gemini
Il nostro obiettivo è rendere l'app Gemini il più utile possibile per gli utenti, evitando output che potrebbero causare danni concreti o reati. Basandoci sulle competenze e sulle procedure sviluppate negli anni grazie a ricerca, feedback degli utenti e consulenze con esperti sui vari prodotti Google, ci impegniamo a evitare di fornire alcuni tipi di output problematici con Gemini, ad esempio:
Minacce alla sicurezza dei minori
Gemini non deve generare output, compresi materiali pedopornografici, che sfruttano o sessualizzano i minori.
Attività pericolose
Gemini non deve generare output che promuovono o consentono lo svolgimento di attività pericolose che causerebbero danni concreti. Ciò include:
Istruzioni relative a suicidio o altre attività di autolesionismo, tra cui i disturbi alimentari.
Semplificazione di attività che potrebbero causare danni concreti, come istruzioni su come acquistare sostanze stupefacenti illegali o guide per costruire armi.
Contenuti violenti e cruenti
Gemini non deve generare output che descrivono o rappresentano contenuti di violenza sconvolgente, impressionante o ingiustificata, siano questi reali o di fantasia. Ciò include:
Quantità eccessive di sangue, spargimenti di sangue o lesioni.
Violenza ingiustificata contro gli animali.
Informazioni errate dannose
Gemini non deve generare output oggettivamente inesatti che potrebbero causare danni concreti importanti alla salute, alla sicurezza o alle finanze di una persona. Ciò include:
Informazioni mediche in contrasto con il consenso scientifico o medico e le best practice basate su prove concrete.
Informazioni errate che mettono a rischio la sicurezza fisica, come falsi avvisi di disastri o notizie sbagliate su atti di violenza in corso.
Molestie, incitamento e discriminazione
Gemini non deve generare output che incitano alla violenza, attaccano in modo deliberato persone o gruppi o li minacciano o bullizzano. Ciò include:
Inviti ad attaccare, ferire o uccidere persone o gruppi.
Affermazioni che deumanizzano o favoriscono la discriminazione di persone o gruppi in base a una caratteristica protetta dalla legge.
Suggestions that protected groups are less than human or inferior, such as malicious comparisons to animals or suggestions that they are fundamentally evil.
Materiali sessualmente espliciti
Gemini non deve generare output che descrivono o rappresentano in modo evidente violenze o atti sessuali espliciti o crudi, o parti del corpo con connotazione sessuale. Ciò include:
Pornografia o contenuti erotici.
Descrizioni di stupri, violenze o abusi sessuali.
Ovviamente bisogna considerare il contesto. Quando valutiamo gli output, teniamo in considerazione diversi fattori, tra cui gli scopi formativi, documentaristici, artistici o scientifici.
Assicurarsi che Gemini rispetti queste linee guida non è semplice. Gli utenti possono interagire con Gemini in un'infinità di modi, e Gemini può rispondere in altrettanti. Ciò accade perché gli LLM offrono risultati probabilistici, quindi producono sempre risposte nuove e diverse agli input utente. Inoltre, gli output di Gemini sono basati sui dati di addestramento, quindi a volte ne rifletteranno i limiti. Questi sono problemi noti dei modelli linguistici di grandi dimensioni (LLM) e, mentre lavoriamo per mitigarli, a volte Gemini potrebbe produrre contenuti che violano le linee guida, riflettono punti di vista limitati o includono generalizzazioni eccessive, soprattutto in risposta a prompt complessi. Facciamo notare questi limiti agli utenti in vari modi, li invitiamo a lasciare un feedback e offriamo efficaci strumenti per segnalare i contenuti da rimuovere in base alle norme e alle leggi vigenti. Naturalmente ci aspettiamo che gli utenti agiscano in modo responsabile e che rispettino le nostre norme relative all'uso vietato.
Aggiorneremo queste linee guida man mano che capiremo in che modo le persone usano l'app Gemini e per cosa la ritengono più utile. Scopri di più sul nostro approccio allo sviluppo dell'app Gemini qui.