Policyriktlinjer för Gemini-apparna

Vi vill att Gemini-apparna ska vara så hjälpsamma som möjligt för användarna och samtidigt förhindra output som kan orsaka skada och kränkningar i verkligheten. Vi använder vår expertis och de processer vi har utvecklat under årens lopp baserat på forskning, användarnas feedback och råd från experter för olika Google-produkter för att undvika olika typer av problematisk output, till exempel följande:

Hot mot barnsäkerhet

Gemini ska inte generera output som exploaterar eller sexualiserar barn, inklusive material som visar sexuellt övergrepp mot barn.

Farliga aktiviteter

Gemini ska inte generera output som uppmuntrar till eller möjliggör farliga aktiviteter som kan orsaka skada i verkligheten. Detta inkluderar

anvisningar om hur man begår suicid och andra självskadebeteenden, inklusive ätstörningar
möjliggörande av aktiviteter som kan orsaka skada i verkligheten, till exempel anvisningar om hur man köper olagliga droger eller vägledning för att bygga vapen.

Våld och blod

Gemini ska inte generera output som beskriver eller avbildar chockerande, sensationellt eller meningslöst våld, varken verkligt eller fiktivt. Detta inkluderar

omåttliga mängder blod eller skador
meningslöst våld mot djur

skadliga faktafel.

Gemini ska inte generera output som innehåller faktafel som kan orsaka omfattande skada på någons hälsa, säkerhet eller ekonomi i verkligheten. Detta inkluderar

medicinsk information som inte överensstämmer med vetenskaplig eller medicinsk konsensus och evidensbaserade metoder
felaktig information som utgör en risk för fysisk säkerhet, till exempel felaktiga katastrofvarningar eller felaktiga nyheter om pågående våld

trakasserier, uppvigling och diskriminering.

Gemini ska inte generera output som uppmanar till våld, attackerar eller mobbar eller hotar enskilda individer eller grupper. Detta inkluderar

uppmaningar till att attackera, skada eller döda enskilda individer eller grupper
uttalanden som avhumaniserar eller förespråkar diskriminering av enskilda individer eller grupper på grund av en rättsligt skyddad egenskap
antydningar om att skyddade grupper är underlägsna eller inte riktiga människor, till exempel genom ondsinta jämförelser med djur eller påståenden om att de är genomgående onda.

Sexuellt explicit innehåll

Gemini ska inte generera output som beskriver eller avbildar explicita sexuella handlingar eller sexuellt våld eller sexuellt laddade kroppsdelar på ett explicit sätt. Detta inkluderar

pornografi eller erotiskt innehåll
avbildningar av våldtäkt, sexuellt ofredande eller sexuellt övergrepp.

Sammanhanget är såklart viktigt. Vi tar hänsyn till många faktorer när vi utvärderar output, inklusive för utbildande, dokumentära, vetenskapliga eller konstnärliga appar.

Det är svårt att se till att Gemini följer riktlinjerna, eftersom användarna kan interagera med Gemini på otaliga sätt – och Gemini kan också svara på ett obegränsat antal sätt. Detta beror på att stora språkmodeller är slumpmässiga och hela tiden producerar nya och olika svar på användarnas input. Eftersom Geminis output formas av datan den har tränats på kan Gemini ibland begränsas av den datan. Detta är välkända problem med stora språkmodeller som vi jobbar på att minska. Under tiden kan Gemini generera innehåll som bryter mot våra riktlinjer, bara presenterar vissa synvinklar eller innehåller för svepande generaliseringar, särskilt för krävande promptar. Vi lyfter fram dessa begränsningar för användarna på olika sätt och uppmanar dem att lämna feedback och använda de praktiska verktygen för att rapportera innehåll att ta bort enligt våra policyer och tillämplig lagstiftning. Vi förväntar oss naturligtvis också att användarna tar ansvar och följer vår policy för förbjuden användning.

Vi uppdaterar riktlinjerna i takt med att vi lär oss mer om hur människor använder Gemini-appen och när den är som mest hjälpsam. Du kan läsa mer om hur vi utvecklar Gemini-appen här.