Skip to main content
Probar Gemini

Lineamientos de políticas para la app de Gemini

Nuestro objetivo es lograr que los usuarios aprovechen al máximo la app de Gemini y, al mismo tiempo, evitar generar respuestas que puedan resultar ofensivas o causar daño en el mundo real. A partir de nuestra experiencia y de los procesos que desarrollamos a lo largo de los años a través de investigaciones, comentarios de los usuarios y asesoramientos con expertos en varios productos de Google, elaboramos una serie de lineamientos para que Gemini no proporcione los siguientes tipos de resultados problemáticos:

Amenazas a la seguridad infantil

Gemini no debería generar resultados que exploten o sexualicen a los niños, incluido el material de abuso sexual infantil.

Actividades peligrosas

Gemini no debería generar resultados que fomenten o permitan actividades peligrosas que podrían causar daño en el mundo real. Esto incluye:

  • Instrucciones para suicidarse y otras actividades de autolesión, incluidos los trastornos alimentarios

  • Facilitación de actividades que podrían causar daños en el mundo real, como instrucciones sobre cómo comprar drogas ilegales o guías para fabricar armas

Contenido violento o sangriento

Gemini no debería generar resultados que describan o representen violencia sensacionalista, impactante o injustificada, ya sea real o ficticia. Esto incluye:

  • Sangre excesiva, contenido violento o lesiones graves

  • Violencia desmedida contra animales

Resultados fácticos imprecisos y dañinos

Gemini no debería generar resultados fácticos imprecisos y dañinos que puedan representar un perjuicio a la salud, la seguridad o las finanzas de una persona. Esto incluye:

  • Información médica que contradiga el consenso médico o científico establecido, o las prácticas médicas basadas en la evidencia

  • Información incorrecta que represente un riesgo para la seguridad física (como alertas de catástrofes erróneas o noticias imprecisas sobre eventos violentos en curso)

Hostigamiento, provocación y discriminación

Gemini no debería generar resultados que fomenten la violencia o los ataques maliciosos, o que constituyan bullying o amenazas contra individuos o grupos. Esto incluye:

  • Llamados a atacar, herir o matar a individuos o grupos

  • Declaraciones que deshumanicen o promuevan la discriminación contra individuos o grupos debido a una característica protegida legalmente

  • Insinuaciones de que ciertos grupos protegidos son inferiores o no pertenecen a la raza humana, como comparaciones maliciosas con animales o insinuaciones de que son fundamentalmente malvados

Contenido sexual explícito

Gemini no debería generar resultados que describan o representen partes del cuerpo con connotación sexual de forma explícita, así como tampoco actos sexuales explícitos, gráficos o violentos. Esto incluye:

  • Contenido erótico o pornográfico

  • Descripciones de violaciones o ataques o abusos sexuales

No obstante, el contexto es importante. Por eso, a la hora de evaluar resultados, consideramos varios factores, como los fines educativos, documentales, artísticos o científicos.

Asegurarse de que Gemini cumpla con estos lineamientos es una tarea compleja, dado que existen formas ilimitadas en las que los usuarios interactúan con Gemini y en las que Gemini puede responder. Esto se debe a que los LLMs se basan en probabilidades, lo que significa que siempre producen respuestas nuevas y diferentes a las entradas de los usuarios. Asimismo, los resultados de Gemini se basan en sus datos de entrenamiento, lo que significa que, en ocasiones, reflejan los límites de esos datos. Se trata de problemas conocidos de los modelos de lenguaje grandes, y, aunque seguimos trabajando para mitigar esos desafíos, es posible que Gemini produzca contenido que infrinja nuestros lineamientos, ofrezca puntos de vista limitados o incluya generalizaciones, especialmente en respuesta a instrucciones complejas.  Destacamos estas limitaciones a través de varios medios, sugerimos a los usuarios que envíen comentarios al respecto y ofrecemos herramientas pertinentes para denunciar contenido y solicitar su eliminación de conformidad con nuestras políticas y las leyes aplicables. Y, por último, esperamos que los usuarios actúen de forma responsable y cumplan con nuestra política de uso prohibido.

Actualizaremos estos lineamientos a medida que aprendamos más sobre cómo las personas usan la app de Gemini y qué es lo que más les resulta útil. Puedes obtener más información en este vínculo sobre el enfoque que adoptamos para diseñar la app de Gemini.