Descripción general de la app de Gemini

Para empezar, Gemini puede ayudarte a ahorrar tiempo. Supongamos que quieres resumir un documento de investigación extenso. Gemini te permite subirlo y te ofrece un resumen útil. También puede ayudarte con tareas de programación, uno de sus usos más populares.

Además, es una gran herramienta para materializar tus ideas y estimular la creatividad. Por ejemplo, si quieres escribir una entrada de blog, Gemini puede crear un esquema y generar imágenes que ayuden a ilustrarla. Y, próximamente, con las Gems, podrás personalizar Gemini con instrucciones específicas y hacer que actúe como experto en una materia para ayudarte a alcanzar tus objetivos personales.

Gemini puede ser un punto de partida para explorar tus ideas y los temas que te generan curiosidad. Por ejemplo, puede explicar un concepto complejo de manera sencilla o proporcionar datos pertinentes sobre un tema o una imagen. Y, muy pronto, vinculará esos datos con contenido recomendado de toda la Web para aprender más sobre temas específicos.

Las capacidades de Gemini se expanden rápidamente. Muy pronto, podrás enfocar con la cámara del teléfono un objeto (por ejemplo, el puente Golden Gate) y pedirle a Gemini que te diga el color de la pintura (por si acaso, es “naranja internacional”). También podrás pedirle que te ayude a leer el menú de un restaurante en otro idioma y que te recomiende un plato que probablemente te guste. Estos son solo dos ejemplos de las nuevas funciones que se agregarán próximamente a Gemini.

Por supuesto, entrenamos y supervisamos a Gemini de manera rigurosa para que sus respuestas sean lo más fiables posible y cumplan con tus expectativas. También hablamos con expertos del sector, educadores, legisladores, empresarios, dirigentes de derechos civiles y humanos, y creadores de contenidos para explorar los nuevos usos, riesgos y limitaciones de esta tecnología emergente.

Gemini se basa en lo que Google considera como información fidedigna y está entrenado para generar respuestas pertinentes según el contexto de la instrucción y de acuerdo con lo que estás buscando. Sin embargo, al igual que todos los LLMs, a veces Gemini puede generar respuestas que muestren un grado de confianza y convicción, incluso si contienen información inexacta o engañosa.

Dado que el mecanismo de los LLMs consiste en predecir la palabra o las secuencias de palabras siguientes, aún no son completamente capaces de distinguir entre información exacta e inexacta por sí solos. Observamos que algunas respuestas de Gemini contienen información inexacta o incluso inventada (p. ej., tergiversar la forma en que se entrenó o sugerir el nombre de un libro que no existe). En respuesta a esto, creamos funciones como la “verificación”, que usa la Búsqueda de Google para encontrar contenido que te ayude a evaluar las respuestas de Gemini y te ofrece vínculos a fuentes para que corrobores la información que obtienes.

Los datos de entrenamiento, incluidos los procedentes de fuentes públicas, reflejan una diversidad de perspectivas y opiniones. Seguimos investigando cómo utilizar estos datos para garantizar que la respuesta de un LLM incorpore una amplia variedad de puntos de vista y se minimicen las generalizaciones excesivas y los sesgos inexactos.

Las brechas, los sesgos y las generalizaciones excesivas en los datos de entrenamiento pueden verse reflejados en los resultados de un modelo cuando intenta predecir posibles respuestas a una instrucción. Observamos que estos problemas se manifiestan de diferentes maneras (p. ej., en respuestas que reflejan solo una cultura o segmento demográfico, que hacen referencia a generalizaciones excesivas problemáticas, que presentan sesgos de género, religiosos o étnicos, o bien promueven un punto de vista único). Algunos temas presentan vacíos de datos, es decir, no hay suficiente información fiable sobre un tema específico que permita al LLM aprender sobre él y después hacer buenas predicciones, lo que puede ocasionar respuestas inexactas o de baja calidad. Seguimos trabajando con expertos en cada ámbito y diversas comunidades para aprovechar los amplios conocimientos que se encuentran fuera de Google.

En el caso de los temas subjetivos, Gemini está diseñado para ofrecer a los usuarios perspectivas múltiples si no solicitan un punto de vista específico. Por ejemplo, si recibe una instrucción sobre un tema que no se puede verificar con datos de fuentes directas o fidedignas, como una opinión subjetiva sobre lo que es mejor o peor, Gemini debe responder de un modo que refleje una gran variedad de puntos de vista. Sin embargo, dado que los LLMs como Gemini se entrenan con el contenido disponible públicamente en Internet, pueden reflejar opiniones positivas o negativas de ciertos políticos, personas famosas y otras figuras públicas, o incluso incorporar opiniones sesgadas sobre temas sociales o políticos controvertidos. Gemini no debería responder de una manera que respalde un punto de vista específico sobre estos temas, por lo que utilizaremos los comentarios sobre estos tipos de respuestas para entrenar a Gemini, de manera que las aborde de una forma más adecuada.

Es posible que, en ocasiones, Gemini genere respuestas que parezcan sugerir que tiene opiniones o emociones, como el amor o la tristeza, ya que se entrenó con el lenguaje que las personas utilizan para expresar la experiencia humana. Desarrollamos un conjunto de lineamientos respecto de cómo Gemini podría representarse a sí mismo (es decir, su personalidad) y seguimos perfeccionando el modelo para que brinde respuestas objetivas.

Implementamos un conjunto de lineamientos de políticas para ayudar a entrenar a Gemini y evitar que se generen respuestas problemáticas. En ocasiones, Gemini puede malinterpretar estos lineamientos y generar “falsos positivos’’ y “falsos negativos’’. En el primer caso, es posible que Gemini no proporcione una respuesta a una instrucción razonable si malinterpreta esa instrucción como inapropiada. En el segundo caso, podría generar una respuesta inapropiada a pesar de los lineamientos implementados. La presencia de falsos positivos o falsos negativos a veces puede dar la impresión de que Gemini tiene sesgos. Por ejemplo, un falso positivo podría ocasionar que Gemini no responda a una pregunta sobre una postura ante un asunto, mientras que sí responderá a la misma pregunta sobre la postura opuesta. Seguimos ajustando estos modelos para que comprendan y categoricen mejor los comandos y las respuestas, en consonancia con la rápida evolución de los idiomas, los eventos y la sociedad.

Sabemos que habrá usuarios que intenten poner a prueba los límites de lo que Gemini puede hacer y tratarán de vulnerar sus protecciones, por ejemplo, intentando que revele sus protocolos de entrenamiento o algún otro tipo de información, o bien eludiendo sus mecanismos de seguridad. Nuestras constantes evaluaciones a Gemini seguirán siendo rigurosas, pero somos conscientes de que los usuarios encontrarán formas novedosas, intensas y complejas de ponerlo a prueba. Esta es una parte importante del perfeccionamiento de Gemini, y esperamos conocer las nuevas instrucciones que se les ocurran a los usuarios. De hecho, desde que Gemini se lanzó en 2023, hemos visto cómo lo desafían con instrucciones de todo tipo, desde filosóficas hasta sin sentido. En algunos casos, vimos que Gemini ofrecía respuestas igual de absurdas o no que no se alineaban con nuestro enfoque declarado. Idear métodos para ayudar a Gemini a responder a este tipo de instrucciones es un desafío continuo y seguimos ampliando nuestras evaluaciones internas, junto con los equipos rojos, en un esfuerzo por mejorar la exactitud, la objetividad y las connotaciones.

Además de nuestros Principios de la IA, recientemente definimos nuestro enfoque respecto de cómo trabajamos con Gemini: debe seguir las instrucciones, adaptarse a las necesidades y proteger la experiencia de los usuarios. Los componentes fundamentales de nuestro enfoque son la responsabilidad y la seguridad. Los lineamientos de políticas de Gemini buscan evitar ciertos tipos de resultados problemáticos. Realizamos pruebas adversas de forma continua con los miembros internos del “equipo rojo’’, que son expertos en productos y científicos sociales que realizan pruebas de esfuerzo intencionales en un modelo en busca de problemas de cumplimiento de estos lineamientos de políticas y de nuestro enfoque unificado para Gemini. El objetivo es aplicar lo que aprendieron y seguir mejorando el modelo.

La privacidad también es un aspecto clave que tenemos en cuenta a medida que desarrollamos Gemini. El Centro de privacidad de las Apps con Gemini ofrece más información sobre cómo desarrollamos Gemini con un diseño centrado en la privacidad y el control a cargo de los usuarios.

Creamos una serie de controles de usuario de Gemini de fácil acceso para que puedas revisar, actualizar, administrar, exportar y borrar tus datos de Gemini. En el control de Actividad en las Apps con Gemini, puedes ver y revisar las instrucciones para Gemini, las respuestas y los comentarios relacionados. Además, puedes evitar que los chats futuros de Gemini se usen para mejorar las tecnologías de aprendizaje automático de Google inhabilitando el parámetro de configuración Actividad en las Apps con Gemini. Y, al igual que con otros servicios de Google, también puedes descargar y exportar tu información con la herramienta Takeout. Ofrecemos controles que te permiten administrar los vínculos públicos que creaste para tus conversaciones con Gemini y controles con los que puedes activar o desactivar el acceso a extensiones (p. ej., Workspace, Maps o YouTube). También estamos explorando nuevas formas de que tengas más control sobre las respuestas de Gemini, como ajustar filtros para obtener una variedad más amplia de respuestas.

Para los publicadores, lanzamos Google-Extended, un control que los publicadores web pueden usar para administrar si sus sitios ayudan a mejorar Gemini y las APIs generativas de Vertex AI. Permitir el acceso de Google-Extended al contenido de los sitios puede ayudar a aumentar la exactitud y la capacidad de los modelos de IA con el tiempo. Gemini no usará el contenido de las URLs inhabilitadas para el entrenamiento de modelos ni para la fundamentación. A medida que se amplíen las aplicaciones de la IA, los publicadores web se enfrentarán a la creciente complejidad de administrar diferentes usos a gran escala, y nos comprometemos a colaborar con las comunidades web y de IA para explorar enfoques más legibles por las máquinas en materia de elección y control.

Creemos en la iteración rápida y en ofrecer lo mejor de Gemini al mundo. Los comentarios de los usuarios permitieron acelerar las mejoras en nuestros modelos. Por ejemplo, utilizamos técnicas de vanguardia de aprendizaje por refuerzo para entrenar a nuestros modelos y hacer que sean más intuitivos, además de imaginativos, y respondan con mayor calidad y precisión. Seguimos invirtiendo en investigaciones que nos permitan aprender más sobre las oportunidades y los desafíos técnicos, sociales y éticos de los LLMs para mejorar el entrenamiento de los modelos y las técnicas de ajuste de Gemini, y para compartir lo que aprendimos con los investigadores, como lo hicimos con el reciente informe Ethics of Advanced AI Assistants (Ética de los asistentes de IA avanzados). Nos comprometemos a innovar en este ámbito de forma responsable, en colaboración con usuarios, investigadores y verificadores de confianza, para encontrar formas en que esta nueva tecnología beneficie a todo el ecosistema.

La transparencia es importante, y nos comprometemos a ser claros y sinceros sobre el proceso de desarrollo de Gemini y sus limitaciones. Gemini no es una caja negra mágica, sino que está en constante evolución, y seguiremos compartiendo actualizaciones sobre nuestros progresos. Lanzamos una página de actualizaciones de lanzamientos para que puedas ver las funciones, las mejoras y las correcciones de errores más recientes. Además, modificaremos esta descripción general según corresponda. Identificaremos las áreas en las que Gemini es útil y aquellas en las que necesitamos realizar iteraciones para mejorarlo. Estamos sumando funciones nuevas de forma activa y, a través de la investigación constante, las pruebas y los comentarios de los usuarios, nos entusiasma seguir mejorando Gemini juntos.