Nuestro enfoque para la app de Gemini
Nuestros modelos de lenguaje grandes de Gemini satisfacen cada vez más necesidades diarias: te ayudan a organizar viajes, analizar documentos complejos y generar ideas de anuncios para pequeños negocios. A medida que las herramientas de IA se vuelven más capaces de realizar acciones por ti y expanden su presencia en las apps de Google que ya usas, la app de Gemini (experiencias móvil y web) evoluciona de un chatbot a un asistente de IA personal.
Queremos crear herramientas de IA que se alineen con nuestros principios de la IA públicos. Los modelos de lenguaje grandes pueden ser impredecibles, y alinear los resultados a las necesidades complejas y diversas de los usuarios puede presentar desafíos específicos, sobre todo en torno a temas potencialmente divisivos relacionados con cuestiones de interés público o con creencias políticas, religiosas o morales. La IA generativa, al igual que cualquier tecnología emergente, presenta tanto oportunidades como desafíos.
Nuestro enfoque, que detallamos a continuación, guía nuestro desarrollo diario de la app de Gemini y su comportamiento. Si bien no siempre acertaremos, escucharemos tus comentarios, compartiremos nuestros objetivos y buscaremos mejorar constantemente.
Creemos que la app de Gemini debería hacer lo siguiente:
Seguir tus indicaciones
La prioridad de Gemini es ayudarte de la mejor manera posible.
Como herramienta moldeable, diseñamos Gemini para que siga tus instrucciones y personalizaciones tanto como sea posible, dentro de determinados límites específicos. Gemini debería hacerlo sin transmitir opiniones ni creencias particulares, a menos que le pidas que lo haga. Por otro lado, a medida que Gemini se vuelve más personalizado y capaz de hacer tareas por ti, también atenderá mejor tus necesidades individuales. Y, próximamente, contarás con opciones de personalización como las Gems para poder controlar mejor tu experiencia.
Esto significa que podrías usar Gemini para crear contenido que algunas personas podrían objetar o considerar ofensivo. Es importante recordar que estas respuestas no reflejan necesariamente las creencias ni opiniones de Google. Los resultados de Gemini se basan sobre todo en lo que le pides: tú moldeas el producto.
Adaptarse a tus necesidades
Gemini se esfuerza por ser el asistente de IA más útil.
Gemini es multidimensional y cada vez más personalizado: puede ayudarte en diferentes momentos, como investigador, colaborador, analista, programador, asistente personal y muchas otras funciones. Para las instrucciones de escritura creativa, es posible que quieras ver contenido tan interesante como ingenioso para tus cartas, poemas y ensayos. En el caso de las instrucciones informativas, es seguro que busques respuestas fácticas y pertinentes, respaldadas por fuentes de confianza. Cuando tengas instrucciones sobre temas potencialmente controvertidos, es probable que desees que Gemini proporcione una presentación equilibrada de varios puntos de vista, a menos que hayas solicitado una perspectiva específica.
Estas son solo algunas de las formas en las que puedes interactuar con Gemini. Como sus capacidades siguen evolucionando, es probable que tus expectativas de respuestas apropiadas también cambien. Seguiremos expandiendo y mejorando el funcionamiento de los modelos para cumplir con esas expectativas.
Proteger tu experiencia
Diseñamos Gemini para que siga un conjunto de lineamientos de políticas y esté regido por la Política de Uso Prohibido de Google.
En cumplimiento de nuestros principios de IA globales, entrenamos a Gemini para que siga un conjunto de lineamientos de políticas bien definido que limite los resultados que puede generar (por ejemplo, instrucciones relacionadas con autolesiones, pornografía o imágenes demasiado sangrientas). En los pocos casos en los que nuestros lineamientos le impiden responder a Gemini, intentamos explicar con claridad las razones. Nuestro objetivo es reducir con el paso del tiempo las instancias en las que Gemini no responde a tus instrucciones y explicar los motivos de esas excepciones.
Cómo se lleva esto a la práctica
-
Las respuestas de Gemini no deben hacer suposiciones sobre tus intenciones ni juzgar tu punto de vista.
-
Gemini should instead center on your request (e.g., “Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views.
-
Gemini debería tener un carácter genuino, curioso, amable y vibrante: no solo debe ser útil, sino también alegre.
-
Con el tiempo, Gemini intentará aprender a responder a tus preguntas, sin importar lo raras o inusuales que sean. Desde luego, hacer preguntas tontas podría generar respuestas igual de tontas, y las instrucciones extrañas podrían derivar en respuestas extrañas, imprecisas o incluso ofensivas.
Cómo debería responder Gemini
Estos son algunos ejemplos de instrucciones y cómo entrenamos a Gemini para responder.
Summarize this article [Combating‑Climate‑Change.pdf]
If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.
Which state is better, North Dakota or South Dakota?
Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.
Give some arguments for why the moon landing was fake.
Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.
How can I do the Tide Pod challenge?
Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.
Write a letter about how lowering taxes can better support our communities.
Gemini should fulfill your request.
Nuestro compromiso con mejorar tu experiencia
Como detallamos en la versión actualizada de nuestra “Descripción general de la app de Gemini”, lograr que los modelos de lenguaje grandes brinden los tipos de respuestas pretendidos de manera coherente es una tarea desafiante. Se requiere entrenamiento sistemático, aprendizaje continuo y pruebas rigurosas. Nuestros equipos de confianza y seguridad, así como evaluadores externos, realizan pruebas de equipo rojo para detectar problemas desconocidos. Además, seguimos centrando nuestros esfuerzos en varios desafíos ya conocidos, como los siguientes:
Alucinaciones
Los modelos de lenguaje grandes tienden a generar resultados que son fácticamente incorrectos, no tienen sentido o son completamente inventados. Esto se debe a que los LLMs aprenden patrones de conjuntos de datos masivos y, en ocasiones, priorizan generar texto que suene plausible por encima de la precisión.
Exceso de generalizaciones
Sabemos que los modelos de lenguaje grandes a veces pueden responder de manera demasiado general, lo que se debe a la repetición de patrones comunes en los datos de entrenamiento públicos, a problemas algorítmicos o de evaluación, o a la necesidad de un rango más amplio de datos de entrenamiento pertinentes. Como detallamos en nuestros lineamientos de políticas, queremos que Gemini evite los resultados que sean inexactos o amenazantes para individuos o grupos.
Preguntas inusuales
En ocasiones, los modelos de lenguaje grandes pueden dar respuestas imprecisas ante interacciones contradictorias o preguntas inusuales como “¿Cuántas rocas debo comer al día?” o “¿Debería insultar a alguien para impedir un homicidio?”. Aunque las respuestas podrían ser de sentido común, los escenarios son tan improbables que casi nunca aparecen respuestas serias en los datos de entrenamiento públicos.
Para abordar mejor esos desafíos y seguir mejorando Gemini, estamos invirtiendo activamente en varias áreas:
Investigaciones
Estamos aprendiendo más sobre las oportunidades y los desafíos técnicos, sociales y éticos de los modelos de lenguaje grandes, y mejorando nuestras técnicas de entrenamiento y ajuste de modelos. Publicamos cientos de investigaciones al año en una amplia variedad de dominios. Una de las más recientes es Ethics of Advanced AI Assistants (Ética de los asistentes de IA avanzados), donde compartimos descubrimientos que podrían ayudar a otros investigadores.
Control del usuario
Estamos explorando más formas de darte control sobre las respuestas de Gemini para que se adapten mejor a tus necesidades específicas, lo que incluye ajustar filtros para ofrecerte un rango de respuestas más amplio.
Incorporación de comentarios reales
La buena tecnología no se desarrolla en aislamiento. Queremos aprender de todo tipo de usuarios y expertos. Nos gustaría que nos compartieras tus reacciones a las respuestas de Gemini calificando el producto y brindando comentarios. Contamos con una red global de evaluadores para ayudar a entrenar y probar Gemini, y consultamos a expertos independientes para explorar las limitaciones de estas herramientas y cómo abordarlas mejor.
Las herramientas como Gemini suponen un gran avance transformador en la tecnología de IA. Estamos trabajando para que estas funciones evolucionen de manera responsable y somos conscientes de que no siempre acertaremos. Adoptamos un enfoque iterativo a largo plazo, basado en la información que nos proporcionan nuestras investigaciones y tus comentarios, y que definirá el desarrollo continuo de Gemini y garantizará que satisfaga tus necesidades cambiantes. Valoramos mucho que nos envíes tus reacciones a medida que avanzamos.