Présentation de l'application Gemini

Premier point : Gemini peut vous faire gagner du temps. Imaginons que vous ayez besoin de résumer un long article de recherche. Gemini vous permet de l'importer, et vous propose une synthèse pertinente. Gemini peut aussi vous aider à travailler sur du code, ce qui est rapidement devenu l'une de ses applications les plus appréciées.

Gemini peut aussi stimuler votre créativité et vous aider à donner vie à vos idées. Par exemple, si vous devez rédiger un article de blog, Gemini peut créer un plan et générer des images d'illustration. Vous pouvez même personnaliser Gemini et en créer des versions expertes dans différents domaines grâce aux Gems. Renseignez des instructions spécifiques selon vos besoins, et profitez d'un coup de pouce pour vous aider à atteindre vos objectifs personnels.

Gemini peut constituer un point de départ pour développer vos idées et approfondir des sujets qui vous intéressent. Il peut, par exemple, vous expliquer simplement un concept complexe ou dégager des informations intéressantes concernant un sujet ou une image. Bientôt, Gemini pourra associer ces informations à des contenus recommandés sur le Web pour vous aider à en savoir plus sur un domaine précis.

Les capacités de Gemini se développent rapidement. Il vous sera bientôt possible d'orienter l'appareil photo de votre téléphone vers un objet, par exemple le Pont du Gard, pour demander à Gemini de vous en indiquer la hauteur (48,77 mètres, si vous vous posiez la question). Gemini pourra aussi vous guider face à un menu dans une langue étrangère et même vous recommander un plat correspondant à vos goûts. Ce ne sont là que deux exemples des nouvelles capacités bientôt disponibles sur Gemini.

Naturellement, nous entraînons et surveillons rigoureusement Gemini pour que ses réponses aient toutes les chances d'être fiables et de combler vos attentes. Nous sommes aussi en contact avec des experts du secteur, des enseignants, des décideurs politiques, des dirigeants d'entreprises, des défenseurs des droits civiques et des droits humains, ainsi que des créateurs de contenus pour discuter des nouvelles utilisations de cette technologie émergente, mais aussi de ses risques et de ses limites.

Gemini s'appuie sur l'approche de Google pour identifier les informations faisant autorité et est entraîné à générer des réponses adaptées au contexte de votre prompt et à l'objet de votre recherche. Cependant, comme pour tout LLM, il arrive à Gemini de générer des réponses contenant des informations inexactes ou trompeuses, pourtant présentées sous une forme convaincante et sans la moindre réserve.

Comme le fonctionnement des LLM consiste à prédire le mot ou la séquence de mots qui va suivre, ces outils ne sont pas encore pleinement capables de distinguer le vrai du faux de façon autonome. Il est ainsi arrivé à Gemini de fournir des réponses contenant des informations inexactes ou d'inventer de telles informations (par exemple, en offrant une présentation trompeuse de son entraînement ou en citant le titre d'un livre inexistant). Pour résoudre ce problème, nous avons créé la fonctionnalité "vérifier", qui utilise la recherche Google pour trouver des contenus vous aidant à évaluer les réponses de Gemini et fournit des liens vers des sources pour vous permettre de recouper les informations obtenues.

Les données d'entraînement, y compris celles provenant de sources publiques, reflètent diverses perspectives et opinions. Nous continuons de chercher des manières d'utiliser ces données de façon à nous assurer que les réponses du LLM intègrent une large palette de points de vue tout en évitant les généralisations abusives et les biais.

Les lacunes, généralisations abusives et autres biais présents dans les données d'entraînement peuvent se refléter dans les réponses d'un modèle lorsqu'il tente de prédire les réponses probables à un prompt. Nous avons observé ces problèmes sous différentes formes (par exemple, des réponses reflétant le point de vue exclusif d'une culture, d'une catégorie démographique ou d'une idéologie particulière, mais aussi des réponses affectées par des généralisations abusives, ou des préjugés à l'égard d'un genre, d'une religion ou d'une ethnie). Il existe des lacunes dans les données disponibles sur certains sujets. Or, lorsque les informations fiables manquent, l'entraînement du LLM et sa capacité à produire des prédictions satisfaisantes sont pénalisés. On peut alors s'attendre à des réponses inexactes ou de basse qualité. Nous poursuivons notre collaboration avec des experts dans différents domaines et diverses communautés pour évoluer en nous appuyant sur les expertises approfondies existant en dehors de Google.

Pour les domaines subjectifs, Gemini est conçu pour fournir des réponses reflétant une multiplicité de points de vue, sauf demande contraire. Par exemple, face à une demande d'informations sur un sujet ne relevant ni de faits directement vérifiables ni de sources faisant autorité, comme une évaluation subjective contenant le mot "meilleur" ou "pire", Gemini doit répondre de façon à refléter des points de vue variés. Mais étant donné que les LLM sont entraînés avec des données disponibles publiquement sur Internet, il leur arrive de reprendre des opinions positives ou négatives concernant des figures politiques, célébrités ou autres personnalités publiques. Ils peuvent aussi s'en tenir aux arguments d'un seul camp sur des sujets politiques ou sociaux controversés. Les réponses de Gemini ne devraient pas promouvoir de point de vue particulier sur ces sujets, et nous utiliserons les commentaires associés à ce type de réponses pour entraîner l'outil à mieux les traiter.

Certaines réponses générées par Gemini peuvent donner l'impression que l'outil a des opinions ou ressent des émotions, comme de l'affection ou de la tristesse, parce qu'il a été entraîné à partir du langage employé par les internautes pour refléter l'expérience humaine. Nous avons développé un ensemble de règles encadrant la manière dont Gemini peut se décrire lui-même (le persona) et nous continuons à ajuster le modèle afin qu'il fournisse des réponses objectives.

Nous avons établi un Règlement pour contribuer à l'entraînement de Gemini et lui éviter de générer des réponses problématiques. Il arrive que Gemini interprète ce règlement incorrectement, ce qui aboutit à des "faux positifs" et à des "faux négatifs". Un "faux positif" se caractérise par un refus de répondre à un prompt raisonnable, identifié à tort comme inapproprié. Un "faux négatif" se produit quand Gemini génère une réponse inappropriée allant à l'encontre de ce règlement. Certaines instances de faux positifs ou de faux négatifs peuvent donner l'impression d'un biais. Par exemple, en cas de faux positif, Gemini peut refuser de fournir le point de vue d'un camp sur un sujet polémique, mais accepter de fournir celui du camp opposé. Nous poursuivons l'amélioration de ces modèles afin de mieux comprendre et catégoriser les requêtes et les réponses dans un contexte d'évolution rapide de la langue, des événements et de la société.

Nous nous attendons à ce que les utilisateurs testent les limites des capacités de Gemini et cherchent à forcer la protection de l'outil en essayant, par exemple, de l'amener à révéler ses protocoles d'entraînement ou d'autres informations, voire de contourner ses mécanismes de sécurité. Nous avons testé Gemini et continuons de le soumettre à des tests rigoureux, mais nous savons que les utilisateurs trouveront toujours d'autres façons inédites et complexes de le mettre à l'épreuve. Il s'agit d'un aspect important du perfectionnement de Gemini et nous attachons un grand intérêt à tous les nouveaux prompts imaginés par les utilisateurs. En effet, depuis le lancement de Gemini en 2023, nous avons vu les utilisateurs le mettre au défi de répondre à des questions de tous types, des plus philosophiques aux plus absurdes. Ceci a pu entraîner des réponses tout aussi absurdes ou allant à l'encontre de notre approche. Nous recherchons constamment de nouvelles solutions pour aider Gemini à répondre à ces types de prompts et continuons à développer nos évaluations internes et efforts de Red Teaming pour offrir davantage d'exactitude, d'objectivité et de nuance.

Parallèlement à nos Principes concernant l'IA, nous avons récemment défini notre approche pour travailler sur Gemini : Gemini doit suivre vos instructions, s'adapter à vos besoins et protéger votre expérience. Cette approche est centrée sur la responsabilité et la sécurité. Le Règlement de Gemini vise à éviter certains types de réponses problématiques. Nous effectuons régulièrement des tests antagonistes à l'aide d'une équipe "Red Team" interne composée d'experts produit et de chercheurs en sciences sociales qui ont pour mission de mettre à l'épreuve le modèle afin d'identifier toute réponse allant à l'encontre de notre règlement ou des principes phares de notre approche. Leurs résultats nous permettent de corriger ces problèmes et de poursuivre l'amélioration de Gemini.

La protection de la vie privée représente également un enjeu majeur dans le développement de Gemini. Le Guide sur la confidentialité dans les applications Gemini dispose d'informations supplémentaires sur la façon dont nous développons Gemini en intégrant la protection des données personnelles dès la conception et en vous donnant tout contrôle.

Nous avons créé un grand nombre de systèmes de contrôle très accessibles pour permettre aux utilisateurs de passer en revue, de modifier, de gérer, d'exporter et de supprimer leurs données Gemini. Vous pouvez afficher et passer en revue vos prompts, les réponses de Gemini ou vos commentaires à l'aide du paramètre "Activité dans les applications Gemini". Il vous est également possible de refuser toute utilisation de vos discussions Gemini à venir pour améliorer les technologies de machine learning en désactivant le paramètre Activité dans les applications Gemini. Et comme pour tout autre service Google, vous pouvez aussi télécharger et exporter vos données à l'aide de l'outil Google Takeout. Des systèmes de contrôle vous permettent en plus de gérer les liens publics que vous avez créés vers vos fils de discussion Gemini, mais aussi d'activer ou de désactiver l'accès aux extensions (par exemple, Workspace, Maps, YouTube). Nous recherchons également de nouvelles façons de vous donner davantage de contrôle sur les réponses de Gemini, par exemple en modifiant des filtres pour élargir le champ des réponses que vous pouvez obtenir.

En ce qui concerne les éditeurs, nous avons lancé Google-Extended. Grâce à ce système de contrôle, les éditeurs Web peuvent décider s'ils souhaitent que leurs sites contribuent à améliorer Gemini et les API génératives Vertex AI. Autoriser Google-Extended à accéder aux contenus des sites peut aider les modèles d'IA à devenir plus précis et performants au fil du temps. En plus de ne pas utiliser les contenus des URL (pour lesquelles l'éditeur a opposé un refus) pour l'entraînement des modèles, Gemini n'exploitera pas ces contenus à des fins d'ancrage. Alors que les applications d'IA gagnent de plus en plus de terrain, les éditeurs Web doivent faire face à la complexité croissante caractérisant la gestion de différents cas d'utilisation à grande échelle. Nous nous engageons à collaborer avec les communautés Web et IA pour explorer des approches plus facilement lisibles par les machines en matière de choix et de contrôle.

Nous croyons en une itération rapide et en la nécessité de proposer au monde le meilleur de Gemini. Le feedback des utilisateurs a accéléré l'amélioration de nos modèles. Par exemple, nous utilisons des techniques d'apprentissage par renforcement à la pointe de la technologie pour entraîner nos modèles afin qu'ils soient plus intuitifs et imaginatifs, mais aussi pour améliorer la qualité et la précision de leurs réponses. Nous continuons d'investir dans la recherche pour en savoir plus sur les opportunités et défis soulevés par les LLM aux niveaux technique, social et éthique, que ce soit pour améliorer l'entraînement des modèles et les méthodes de perfectionnement de Gemini ou pour partager nos résultats avec d'autres chercheurs, comme nous l'avons fait récemment dans cet article consacré à l'éthique des assistants IA avancés. Nous nous engageons à innover de manière responsable dans ce domaine, en collaborant avec les utilisateurs, des testeurs de confiance et des chercheurs afin de trouver des moyens pour que l'ensemble de l'écosystème puisse profiter de ces nouvelles technologies.

La transparence est importante et nous nous engageons à faire preuve d'ouverture quant au processus de développement et aux limites de Gemini. Gemini n'est pas une boîte noire aux propriétés magiques. C'est un outil qui ne cesse d'évoluer et nous vous informerons régulièrement sur les progrès réalisés. Nous avons créé une page consacrée aux Mises à jour des versions de Gemini où vous retrouverez ses dernières fonctionnalités et améliorations, ainsi que les corrections de bug. Nous actualiserons ce contenu aussi souvent que nécessaire. Nous indiquerons aussi bien les situations où Gemini peut vous être utile que les instances où nous devons poursuivre les itérations pour l'améliorer. Nous travaillons activement à l'augmentation des capacités de Gemini, et grâce à la poursuite des recherches, aux tests et au feedback des utilisateurs, nous avons la certitude que nous continuerons à l'améliorer ensemble.