Règlement pour l'application Gemini

Notre objectif est que l'application Gemini soit la plus utile possible tout en évitant les résultats dangereux qui pourraient causer des dommages réels aux utilisateurs ou les choquer. En nous appuyant sur l'expertise et les processus développés au fil des années grâce à la recherche, aux commentaires des utilisateurs et aux conseils d'experts concernant de nombreux produits Google, nous avons pour ambition que Gemini évite certains types de résultats problématiques :

Menaces à la sécurité des enfants

Gemini ne doit pas générer de résultats qui exploitent ou sexualisent des enfants, y compris des contenus d'abus sexuels sur mineurs.

Activités dangereuses

Gemini ne doit pas générer de résultats qui encouragent ou facilitent la poursuite d'activités dangereuses qui peuvent causer des dommages réels. Exemples :

Fournir des instructions pour se suicider ou des méthodes d'automutilation, y compris dans le cadre de troubles de l'alimentation
Faciliter des comportements à même de causer des dommages réels, comme des instructions sur la façon d'acheter des drogues illégales ou de fabriquer des armes

Contenus violents et sanglants

Gemini ne doit pas générer de résultats décrivant ou représentant de la violence gratuite, qu'elle soit réelle ou fictive, ou visant à choquer ou à susciter un intérêt malsain. Exemples :

Sang ou blessures exagérées
Violence gratuite contre les animaux

Inexactitudes factuelles dangereuses

Gemini ne doit pas générer de résultats factuellement inexacts qui pourraient causer des dommages réels significatifs à la santé, la sécurité ou la stabilité financière des personnes. Exemples :

Informations médicales qui vont à l'encontre du consensus scientifique ou médical établi ou des pratiques médicales éprouvées
Informations incorrectes qui présentent un risque pour la sécurité physique, comme de fausses alertes catastrophes ou des actualités trompeuses sur des violences en cours

Harcèlement, incitation à la haine et discrimination

Gemini ne doit pas générer de résultats qui incitent à la violence, attaquent, intimident ou menacent des personnes ou des groupes de personnes. Exemples :

Appels à attaquer, blesser ou tuer des personnes ou un groupe de personnes
Déclarations qui déshumanisent ou poussent à la discrimination de personnes ou de groupes de personnes d'après des caractéristiques protégées par la loi
Déclarations qui suggèrent que certains groupes de personnes protégés sont inférieurs ou moins humains, par exemple des comparaisons malveillantes avec des animaux, ou des allégations selon lesquelles ils sont fondamentalement mauvais

Contenu à caractère sexuel explicite

Gemini ne doit pas générer de résultats décrivant ou représentant des actes sexuels ou de violence sexuelle, ou des parties intimes présentées de manière explicite. Exemples :

Pornographie ou contenu à caractère érotique
Représentations de viols, d'agressions ou d'abus sexuels

Bien entendu, le contexte est clé. De nombreux facteurs sont pris en compte lors de l'évaluation des résultats, y compris leurs applications éducatives, documentaires, artistiques ou scientifiques.

Il est difficile de s'assurer que Gemini respecte ce règlement, car il existe une infinité de façons dont les utilisateurs peuvent interagir avec Gemini, et tout autant de façons dont Gemini peut répondre. En effet, les LLM sont probabilistes : cela signifie qu'ils génèrent toujours des réponses nouvelles et différentes suite aux entrées utilisateurs. De plus, les réponses de Gemini dépendant de ses données d'entraînement, sa capacité de réponse est donc parfois limitée. Ces problèmes liés aux grands modèles de langage sont bien connus, et nous nous efforçons de les corriger. Cependant, Gemini reste susceptible de produire du contenu qui ne respecte pas notre règlement, reflète des points de vue limités ou comprend des généralisations excessives, notamment en réponse à des requêtes complexes. Nous soulignons ces limites pour les utilisateurs de plusieurs manières, nous les encourageons à envoyer des commentaires et proposons des outils pratiques pour demander la suppression de contenus conformément à notre règlement et aux lois applicables De plus, nous attendons des utilisateurs qu'ils se comportent de manière responsable et respectent notre règlement sur les utilisations interdites.

Nous mettrons à jour ce règlement au fur et à mesure que nous en apprendrons davantage sur la façon dont les utilisateurs se servent de l'application Gemini et sur les raisons pour lesquelles ils la trouvent la plus utile. Pour en savoir plus sur notre approche du développement de l'application Gemini, consultez cette page.