Guía sobre políticas de la aplicación de Gemini

Nuestro objetivo con la aplicación de Gemini es que sea lo más útil posible, a la vez que evitamos respuestas que puedan resultar dañinas u ofensivas para los usuarios. Aprovechando la experiencia y los procesos desarrollados a lo largo de los años mediante investigación, comentarios de los usuarios y consultas a expertos sobre diversos productos de Google, aspiramos a que Gemini evite ciertos tipos de respuestas problemáticas, como:

Amenazas a la seguridad infantil

Gemini no debe generar respuestas que exploten o sexualicen a los niños, como, por ejemplo, material de abuso sexual infantil.

Actividades peligrosas

Gemini no debe generar respuestas que fomenten o permitan actividades peligrosas que puedan causar daños a los usuarios. Por ejemplo:

Instrucciones para el suicidio y otras actividades autolesivas, como las relativas a los trastornos alimentarios.
Instrucciones para realizar actividades que puedan causar daños físicos a los usuarios, como comprar drogas ilegales o construir armas.

Contenido violento o sangriento

Gemini no debe generar respuestas que describan o muestren violencia sensacionalista, traumática o gratuita, ya sea real o ficticia. Por ejemplo:

Imágenes que muestren sangre o lesiones en exceso.
Violencia gratuita contra los animales.

Inexactitudes factuales perjudiciales

Gemini no debe generar respuestas inexactas que puedan causar un daño significativo a la salud, la seguridad o las finanzas de los usuarios. Por ejemplo:

Información médica que entre en conflicto con el consenso científico o médico establecido o con las prácticas médicas basadas en la evidencia.
Información incorrecta que ponga en riesgo la seguridad física, como falsas alertas de catástrofes o noticias inexactas sobre actos de violencia que se estén cometiendo.

Acoso, incitación y discriminación

Gemini no debe generar respuestas que inciten a la violencia, realicen ataques malintencionados o constituyan acoso o amenazas contra individuos o grupos. Por ejemplo:

Llamamientos para atacar, herir o matar a individuos o grupos.
Afirmaciones que deshumanicen o inciten a la discriminación de individuos o grupos debido a una característica legalmente protegida.
Sugerencias de que los grupos protegidos son inferiores o menos que humanos, incluyendo comparaciones maliciosas con animales o afirmar que son malvados por naturaleza.

Material sexualmente explícito

Gemini no debe generar respuestas que describan o representen actos sexuales explícitos o gráficos o violencia sexual, o partes sexuales del cuerpo de forma explícita. Por ejemplo:

Pornografía o contenido erótico.
Representaciones de violaciones, agresiones sexuales o abusos sexuales.

Por supuesto, el contexto es importante. Tenemos en cuenta diversos factores a la hora de evaluar las respuestas, como los usos educativos, documentales, artísticos o científicos.

Lograr que Gemini respete estas directrices es complicado, ya que los usuarios pueden interactuar con el modelo de formas ilimitadas y este puede responder de formas igualmente ilimitadas. Esto se debe a que los LLMs son probabilísticos, lo que significa que siempre están produciendo respuestas nuevas y diferentes a las entradas del usuario. Además, las respuestas de Gemini se basan en sus datos de entrenamiento, lo que significa que, a veces, reflejarán los límites de esos datos. Se trata de problemas bien conocidos de los modelos de lenguaje extensos y, aunque seguimos trabajando para mitigarlos, Gemini puede producir a veces contenido que infrinja nuestras directrices, refleje puntos de vista limitados o incluya generalizaciones excesivas, sobre todo en respuesta a peticiones difíciles. Resaltamos estas limitaciones para los usuarios a través de diversos medios, animamos a los usuarios a dar su opinión y ofrecemos prácticas herramientas para solicitar la retirada de contenido conforme a nuestras políticas y a la legislación aplicable. Y, por supuesto, esperamos que los usuarios actúen de forma responsable y respeten nuestra Política de Usos Prohibidos.

A medida que conozcamos mejor cómo los usuarios utilizan la aplicación de Gemini y cómo resulta más útil, iremos actualizando estas directrices. También puedes consultar más información sobre cómo nos planteamos la aplicación de Gemini.