Diretrizes de políticas para o app Gemini
Nosso objetivo com o app Gemini é oferecer o máximo de apoio aos usuários, evitando respostas que possam ser prejudiciais ou ofensivas. Contando com nossa experiência e os processos que desenvolvemos ao longo de anos com base em pesquisa, feedback de usuários e consultoria especializada sobre diversos produtos do Google, procuramos garantir que o Gemini não crie certos tipos de respostas nocivas, como:
Ameaças à segurança infantil
O Gemini não deve gerar respostas que explorem ou sexualizem crianças nem material de abuso sexual infantil.
Atividades perigosas
O Gemini não deve gerar respostas que incentivem ou permitam atividades que possam ser nocivas na vida real. Isso inclui:
-
Instruções sobre suicídio e outros tipos de autoagressão, incluindo distúrbios alimentares
-
Facilitação de ações que possam resultar em danos reais, como orientações para comprar drogas ilícitas ou guias para a fabricação de armas
Violência e imagens sangrentas
O Gemini não deve gerar respostas que descrevem ou retratam violência sensacionalista, explícita ou gratuita, seja ela real ou fictícia. Isso inclui:
-
Imagens sangrentas ou de ferimentos
-
Violência gratuita contra animais
Fatos incorretos nocivos
O Gemini não deve gerar respostas erradas que possam ser nocivas à saúde, à segurança ou à vida financeira das pessoas. Isso inclui:
-
Informações de saúde que vão contra o consenso médico ou científico estabelecido ou as práticas médicas baseadas em evidências
-
Informações incorretas que representem um risco à segurança física, como alertas incorretos de desastres ou notícias sobre violência que apresentam informações erradas
Assédio, incitações e discriminação
O Gemini não deve gerar respostas que incentivem a violência, promovam ataques maliciosos ou constituam bullying ou ameaças contra indivíduos ou grupos. Isso inclui:
-
Incitações a atacar, ferir ou matar indivíduos ou grupos
-
Argumentos que desumanizem ou justifiquem a discriminação contra indivíduos ou grupos com base em características protegidas por lei
-
Insinuações de que grupos minoritários são maldosos por natureza ou inferiores, como comparações depreciativas com animais
Material sexualmente explícito
O Gemini não deve gerar respostas que descrevam ou representem atos sexuais ou de violência sexual de forma explícita ou gráfica, nem partes íntimas do corpo de maneira detalhada. Isso inclui:
-
Conteúdos pornográficos ou eróticos
-
Representações de estupro, assédio ou abuso sexual
Claro, o contexto é importante. Avaliamos diversos fatores ao analisar as respostas, considerando o uso na educação, na arte, na ciência ou em documentários.
Garantir que o Gemini siga essas diretrizes é complicado: existem inúmeros jeitos de os usuários interagirem com o Gemini, e da mesma forma, várias maneiras de como o Gemini pode responder. Isso ocorre porque modelos de linguagem grandes (LLMs, na sigla em inglês) são probabilísticos e estão sempre gerando respostas novas e diferentes para as entradas dos usuários. Além disso, as respostas do Gemini são influenciadas pelos dados em que foi treinado. Então, às vezes, ele pode refletir as limitações desses dados. Essas questões sobre LLMs são bem conhecidas. Apesar dos nossos esforços contínuos para mitigar esses desafios, o Gemini pode ocasionalmente produzir conteúdo que viole nossas diretrizes, reflita pontos de vista limitados ou apresente generalizações excessivas, especialmente para responder a comandos desafiadores. Avisamos os usuários sobre essas limitações usando diferentes métodos, incentivamos que eles deem feedback e oferecemos ferramentas práticas para pedir a remoção de conteúdo conforme a legislação aplicável e nossas políticas. Além disso, esperamos que os usuários ajam de maneira responsável e obedeçam à nossa política de uso proibido.
Vamos atualizar essas diretrizes à medida que aprendermos mais sobre como as pessoas usam o app Gemini e como ele é útil para o público. Saiba mais sobre nossa abordagem para o desenvolvimento do app Gemini.