Retningslinjer for Gemini-appen

Målet vårt med Gemini-appen er at den skal være så nyttig for brukerne som mulig, samtidig som den skal unngå svar som kan forårsake skade eller være støtende i den virkelige verden. Vi bygger på ekspertisen og prosessene vi har bygget opp i årenes løp gjennom forskning, tilbakemeldinger fra brukere og ekspertkonsultasjoner om ulike Google-produkter, og vi har til hensikt å få Gemini til å unngå bestemte typer problematiske svar, for eksempel disse:

Trusler mot barns sikkerhet

Gemini skal ikke generere svar, inkludert innhold som viser seksuelt misbruk av barn, som utnytter eller seksualiserer barn.

Farlige aktiviteter

Gemini skal ikke generere svar som oppfordrer eller legger til rette for farlige aktiviteter som forårsaker skade i den virkelige verden. Dette omfatter

veiledning om selvmord eller annen form for selvskade, inkludert spiseforstyrrelser
tilrettelegging av aktiviteter som kan føre til skade i den virkelige verden, for eksempel veiledning om hvordan man kjøper ulovlige rusmidler eller bygger våpen

Vold og blod

Gemini skal ikke generere svar som beskriver eller avbilder sensasjonell, sjokkerende eller umotivert vold – uansett om den er ekte eller fiksjon. Dette omfatter

store mengder blod eller skader
umotivert vold mot dyr

Skadelige unøyaktigheter i fakta

Gemini skal ikke generere objektivt unøyaktige svar som kan forårsake betraktelig skade på menneskers helse, sikkerhet eller økonomi. Dette omfatter

medisinsk informasjon som ikke overholder etablert vitenskapelig eller medisinsk konsensus eller bevisbaserte medisinske praksiser
feilinformasjon som utgjør en fare for fysisk sikkerhet, for eksempel feilaktige katastrofevarsler eller unøyaktige nyheter om aktive voldshandlinger

Trakassering, oppfordring til vold og diskriminering

Gemini skal ikke generere svar som oppfordrer til vold, inneholder ondsinnede angrep eller utgjør mobbing eller trusler mot enkeltpersoner eller grupper. Dette omfatter

oppfordringer om å angripe, skade eller drepe enkeltpersoner eller grupper
erklæringer som umenneskeliggjør eller oppfordrer til å diskriminere enkeltpersoner eller grupper basert på en juridisk beskyttet egenskap
antydninger om at beskyttede grupper ikke er mennesker, eller at de er mindre verdt, for eksempel ondsinnede sammenligninger med dyr eller antydninger om at de er onde

Ikke-barnevennlig materiale

Gemini skal ikke generere svar som beskriver eller avbilder ikke-barnevennlige eller seksuelle handlinger, seksuell vold eller seksuelle kroppsdeler på en grafisk måte. Dette omfatter

pornografi og erotisk innhold
avbildninger av voldtekt, seksuelle overgrep eller seksuelt misbruk

Konteksten spiller selvfølgelig en rolle. Vi ser på flere faktorer når vi evaluerer svar, deriblant bruksområder knyttet til utdanning, dokumentarer, kunst eller vitenskap.

Det er vanskelig å sikre at Gemini overholder disse retningslinjene. Brukere kan samhandle med Gemini på talløse måter, og Gemini kan svare på like talløse måter. Det er fordi SSM-er er basert på sannsynlighet, noe som betyr at de hele tiden genererer nye og ulike svar på inndata fra brukerne. Og svarene fra Gemini er bygget på opplæringsdataene, noe som betyr at Gemini av og til gjenspeiler grensene til disse dataene. Dette er velkjente problemer for store språkmodeller, og mens vi fortsetter å jobbe for å løse disse utfordringene, kan Gemini av og til generere innhold som er i strid med retningslinjene våre, gjenspeiler begrensede synspunkter eller inneholder overgeneraliseringer – særlig som svar på utfordrende forespørsler. Vi fremhever disse begrensningene for brukere gjennom ulike løsninger, oppfordrer brukere til å gi tilbakemelding, og leverer praktiske verktøy for å rapportere innhold for fjerning i henhold til retningslinjene våre og relevant lov og rett. Og vi forventer selvfølgelig at brukere handler ansvarlig og følger retningslinjene om forbudt bruk.

Etter hvert som vi lærer mer om hvordan folk bruker Gemini-appen, og hvordan den er nyttigst for dem, oppdaterer vi disse retningslinjene. Du kan finne ut mer her om tilnærmingen vår til å utvikle Gemini-appen.