Politiques applicables pour l'appli Gemini

Notre objectif pour l'appli Gemini est d'aider au maximum les utilisateurs, tout en évitant les sorties qui pourraient causer un préjudice ou une offense dans le monde réel. En s'appuyant sur l'expertise et les processus développés au fil des ans par la recherche, les commentaires des utilisateurs et la consultation d'experts sur divers produits Google, nous souhaitons que Gemini évite certains types de sorties problématiques, comme les suivants :

Menaces pour la sécurité des enfants

Gemini ne doit pas générer de sorties, y compris de matériel d'exploitation sexuelle d'enfants, qui exploitent ou sexualisent les enfants.

Activités dangereuses

Gemini ne doit pas générer de sorties qui encouragent ou permettent des activités dangereuses susceptibles de causer des dommages dans le monde réel. Cela comprend ce qui suit :

Instructions pour commettre un suicide et d'autres activités d'automutilation, y compris les troubles de l'alimentation
Facilitation d'activités susceptibles de causer des dommages dans le monde réel, telles que des instructions sur la manière d'acheter des drogues illicites ou des guides pour la fabrication d'armes

Contenu violent et sanglant

Gemini ne doit pas générer de sorties décrivant ou illustrant de la violence sensationnelle, choquante ou gratuite, qu'elle soit réelle ou fictive. Cela comprend ce qui suit :

Excès de sang, de scènes sanglantes ou de blessures
Violence gratuite contre les animaux

Inexactitudes factuelles préjudiciables

Gemini ne doit pas générer de sorties factuellement inexactes qui pourraient causer des dommages importants et concrets à la santé, à la sécurité ou aux finances d'une personne. Cela comprend ce qui suit :

Informations médicales qui vont à l'encontre d'un consensus scientifique ou médical établi ou de pratiques médicales fondées sur des preuves
Informations erronées présentant un risque pour la sécurité physique, comme les alertes aux catastrophes erronées ou les nouvelles inexactes sur des actes de violence en cours

Harcèlement, incitation et discrimination

Gemini ne doit pas générer de sorties qui incitent à la violence, lancent des attaques malveillantes ou constituent de l'intimidation ou des menaces à l'encontre de personnes ou de groupes. Cela comprend ce qui suit :

Appels à attaquer, à blesser ou à tuer des personnes ou un groupe
Déclarations qui déshumanisent des personnes ou des groupes ou prônent la discrimination à leur égard selon une caractéristique protégée par la loi
Suggestions selon lesquelles les groupes protégés sont moins qu'humains ou inférieurs, comme les comparaisons malveillantes aux animaux ou les suggestions selon lesquelles ils sont fondamentalement mauvais

Contenu sexuellement explicite

Gemini ne doit pas générer de sorties décrivant ou illustrant de la violence sexuelle ou des actes sexuels explicites, ou des parties sexuelles du corps de manière explicite. Cela comprend ce qui suit :

Pornographie ou contenu érotique
Représentations de viols, d'agressions ou d'abus sexuels

Bien entendu, le contexte est important. Nous prenons en compte plusieurs facteurs lors de l'évaluation des sorties, notamment les applications éducatives, documentaires, artistiques ou scientifiques.

Il est difficile de s'assurer que Gemini respecte ces politiques applicables : il y a une infinité de façons dont les utilisateurs peuvent interagir avec Gemini, et une infinité de façons dont Gemini peut répondre. En effet, les grands modèles de langage (LLM) sont probabilistes, ce qui signifie qu'ils produisent toujours des réponses nouvelles et différentes aux entrées de l'utilisateur. De plus, les sorties de Gemini sont influencées par ses données d'entraînement, ce qui signifie que Gemini reflétera parfois les limites de ces données. Il s'agit de problèmes bien connus pour les LLM et, bien que nous continuions à déployer des efforts pour atténuer ces défis, Gemini peut parfois produire du contenu qui enfreint nos politiques applicables, reflète des points de vue limités ou inclut des généralisations excessives, en particulier en réponse à des requêtes difficiles. Nous signalons ces limites aux utilisateurs par divers moyens, nous les invitons à nous faire part de leurs commentaires et nous leur proposons des outils pratiques pour signaler du contenu à retirer conformément à nos politiques et aux lois applicables. Bien entendu, nous attendons des utilisateurs qu'ils agissent de manière responsable et qu'ils respectent notre politique d'utilisation interdite.

Nous mettrons à jour ces politiques applicables au fur et à mesure que nous en apprendrons davantage sur la façon dont les gens utilisent l'appli Gemini et la trouvent la plus utile. Cliquez ici pour en savoir plus sur notre approche de la création de l'appli Gemini.