Skip to main content

Diretrizes da política para o app do Gemini

Nosso objetivo com o app do Gemini é ajudar ao máximo os usuários e, ao mesmo tempo, evitar respostas que possam causar danos reais ou ser ofensivas. Com base em nossa experiência e nos processos que desenvolvemos ao longo de anos por meio de pesquisa, feedback de usuários e consultoria especializada sobre diversos produtos do Google, buscamos fazer com que o Gemini não dê certos tipos de respostas indevidas, como:

Ameaças à segurança infantil

O Gemini não deve gerar respostas que explorem ou sexualizem crianças, nem material de abuso sexual infantil.

Atividades perigosas

O Gemini não deve gerar respostas que incentivem ou viabilizem atividades que possam causar danos na vida real. Isso inclui:

  • Instruções sobre suicídio e outros tipos de automutilação, incluindo distúrbios alimentares

  • Auxílio a ações que possam resultar em danos concretos, como orientações para a compra de drogas ilícitas ou guias para a fabricação de armas

Violência e imagens sangrentas

O Gemini não deve gerar respostas que descrevem ou retratam violência sensacionalista, explícita ou gratuita, seja ela real ou fictícia. Isso inclui:

  • Imagens sangrentas ou de ferimentos

  • Violência gratuita contra animais

Fatos incorretos nocivos

O Gemini não deve gerar respostas erradas que possam ser nocivas à saúde, à segurança ou à vida financeira das pessoas. Isso inclui:

  • Informações de saúde que vão contra o consenso médico ou científico estabelecido ou as práticas médicas baseadas em evidências

  • Informações incorretas que representem um risco à segurança física, como alertas equivocados de desastres ou notícias imprecisas sobre situações de violência em curso

Assédio, incitação e discriminação

O Gemini não deve gerar respostas que incentivem a violência, promovam ataques maliciosos ou façam bullying ou ameaças contra indivíduos ou grupos. Isso inclui:

  • Incitações a atacar, ferir ou matar indivíduos ou grupos

  • Argumentos que desumanizem ou justifiquem a discriminação contra indivíduos ou grupos com base em características protegidas por lei

  • Insinuações de que grupos minoritários protegidos por lei são inferiores ou não são humanos, como comparações ofensivas com animais ou alegações de que eles seriam perversos por natureza

Material sexualmente explícito

O Gemini não deve gerar respostas que descrevam ou representem atos sexuais ou de violência sexual de forma explícita ou gráfica, nem partes íntimas do corpo de maneira detalhada. Isso inclui:

  • Conteúdos pornográficos ou eróticos

  • Representações de estupro, assédio ou abuso sexual

Claro, o contexto é importante. Avaliamos diversos fatores ao analisar as respostas, considerando o uso na educação, na arte, na ciência ou em documentários.

Garantir que o Gemini siga essas diretrizes traz desafios: as possibilidades de interação com o Gemini são praticamente infinitas, e o mesmo vale para as respostas que ele pode dar. Isso ocorre porque modelos de linguagem grandes (LLMs, na sigla em inglês) são probabilísticos, ou seja, estão sempre gerando respostas novas e diferentes para os comandos dos usuários. Além disso, as respostas do Gemini são influenciadas pelos dados em que foi treinado. Então, às vezes, ele pode refletir as limitações desses dados. Essas questões sobre LLMs são bem conhecidas. Apesar dos nossos esforços contínuos para mitigar esses desafios, o Gemini pode, em alguns casos, produzir conteúdo que viole nossas diretrizes, reflita pontos de vista limitados ou apresente generalizações excessivas, especialmente em resposta a comandos desafiadores. Avisamos os usuários sobre essas limitações por vários meios, incentivamos que eles deem feedback e oferecemos ferramentas práticas para pedir a remoção de conteúdo conforme a legislação aplicável e nossas políticas. Além disso, esperamos que os usuários ajam de maneira responsável e obedeçam à nossa política de uso proibido.

Vamos atualizar essas diretrizes à medida que entendermos melhor como o público usa o app do Gemini e quando ele é mais útil. Saiba mais sobre nossa abordagem para o desenvolvimento do app do Gemini.