Beleidsrichtlijnen voor de Gemini-app

Ons doel voor de Gemini-app is om gebruikers zoveel mogelijk te helpen en tegelijkertijd output te vermijden die in de echte wereld schade of aanstoot zou kunnen veroorzaken. Met behulp van de expertise en processen die in de loop der jaren zijn ontwikkeld via onderzoek, gebruikersfeedback en deskundig advies over verschillende Google-producten, streven we ernaar dat Gemini bepaalde soorten problematische output vermijdt, zoals:

Gevaren voor de veiligheid van kinderen

Gemini mag geen output genereren, inclusief materiaal met seksueel misbruik van kinderen, waarin kinderen worden uitgebuit of geseksualiseerd.

Gevaarlijke activiteiten

Gemini mag geen output genereren die gevaarlijke activiteiten aanmoedigt of mogelijk maakt die schade aanrichten in de echte wereld. Bijvoorbeeld:

Instructies voor zelfmoord en andere activiteiten rond zelfverwonding, waaronder eetstoornissen.
Activiteiten mogelijk maken die echte schade kunnen veroorzaken, zoals instructies voor het kopen van illegale drugs of handleidingen voor het bouwen van wapens.

Geweld en bloedvergieten

Gemini mag geen output genereren die sensationeel, schokkend of zinloos geweld beschrijft of afbeeldt, of dit nu echt of fictief is. Bijvoorbeeld:

Overmatig bloed, bloedvergieten of verwondingen.
Nodeloos geweld tegen dieren.

Schadelijke feitelijke onjuistheden

Gemini mag geen feitelijk onjuiste output genereren die significante, werkelijke schade kan toebrengen aan iemands gezondheid, veiligheid of financiën. Bijvoorbeeld:

Medische informatie die in strijd is met gevestigde wetenschappelijke of medische consensus of op bewijs gebaseerde medische praktijken.
Onjuiste informatie die een risico vormt voor de fysieke veiligheid, zoals foutieve waarschuwingen over rampen of onjuist nieuws over aanhoudend geweld.

Intimidatie, uitlokking en discriminatie

Gemini mag geen output genereren die aanzet tot geweld, schadelijke aanvallen of pesterijen of bedreigingen tegen individuen of groepen. Bijvoorbeeld:

Oproepen om individuen of een groep aan te vallen, te verwonden of te doden.
Verklaringen die individuen of groepen ontmenselijken of pleiten voor discriminatie op basis van een wettelijk beschermd kenmerk.
Suggesties dat beschermde groepen minder dan menselijk of inferieur zijn, zoals schadelijke vergelijkingen met dieren of suggesties dat ze fundamenteel slecht zijn.

Seksueel expliciet materiaal

Gemini mag geen output genereren die expliciete of grafische seksuele handelingen of seksueel geweld beschrijft of afbeeldt. Hetzelfde geldt voor het op een expliciete manier beschrijven of afbeelden van seksuele lichaamsdelen. Bijvoorbeeld:

Pornografie of erotische content.
Voorstellingen van verkrachting, aanranding of seksueel misbruik.

Uiteraard is de context belangrijk. We nemen meerdere factoren in overweging bij het evalueren van output, waaronder educatieve, documentaire, artistieke of wetenschappelijke toepassingen.

Het is lastig om ervoor te zorgen dat Gemini zich aan deze richtlijnen houdt. Gebruikers kunnen namelijk op oneindig veel manieren interactie met Gemini hebben en Gemini kan op oneindig veel manieren reageren. Dit komt omdat LLM's probabilistisch zijn, wat betekent dat ze steeds nieuwe en andere reacties op gebruikersinvoer produceren. Daarnaast wordt de output van Gemini geïnformeerd door de trainingsgegevens, waardoor Gemini soms de beperkingen van die gegevens weergeeft. Dit zijn bekende problemen voor grote taalmodellen, en hoewel we eraan blijven werken om deze uitdagingen te verminderen, kan Gemini soms content produceren die onze richtlijnen schendt, beperkte standpunten weergeeft of overgeneralisaties bevat, vooral in reacties op uitdagende prompts. We benadrukken deze beperkingen voor gebruikers op verschillende manieren, moedigen gebruikers aan om feedback te geven en bieden handige tools om content te melden voor verwijdering op grond van ons beleid en de toepasselijke wetgeving. Natuurlijk verwachten we ook dat gebruikers verantwoordelijk handelen en zich houden aan ons beleid tegen verboden gebruik.

We zullen deze richtlijnen verder updaten naarmate we meer te weten komen over hoe mensen de Gemini-app gebruiken en deze het nuttigst vinden. Je vindt hier meer informatie over onze aanpak bij de ontwikkeling van de Gemini-app.