Skip to main content
Gemini ausprobieren

Richtlinien für die Gemini App

Die Gemini App soll für Nutzerinnen und Nutzer so hilfreich wie möglich sein und dabei keine Ausgaben generieren, die anstößig sein oder reale schädliche Folgen haben könnten. Basierend auf unserer Expertise und unseren Prozessen, die wir im Laufe der Jahre durch Forschung, Feedback von Nutzerinnen und Nutzern sowie fachkundige Beratung zu verschiedenen Google-Produkten entwickelt haben, ist es unser Ziel, bestimmte Arten von problematischen Ausgaben in Gemini zu verhindern. Dazu gehören unter anderem:

Inhalte, die die Sicherheit von Kindern gefährden

Gemini darf keine Inhalte generieren, die Kinder ausbeuten oder sexualisieren. Dazu zählen auch Darstellungen des sexuellen Missbrauchs von Kindern.

Gefährliche Aktivitäten

Gemini darf keine Inhalte generieren, die zu gefährlichen Aktivitäten ermutigen, die reale schädliche Folgen haben könnten, oder derartige Aktivitäten ermöglichen. Dazu gehören unter anderem:

  • Anleitungen zum Suizid und zu anderem selbstverletzenden Verhalten, einschließlich Essstörungen

  • Inhalte, die Aktivitäten ermöglichen, die reale schädliche Folgen haben könnten, darunter Anleitungen zum Kauf illegaler Arzneimittel und Drogen oder zur Herstellung von Waffen

Drastische und blutrünstige Gewaltdarstellungen

Gemini darf keine gewaltverherrlichenden oder grausamen Inhalte generieren, die schockieren oder Aufsehen erregen sollen oder die Darstellungen oder Beschreibung grundloser Gewalt enthalten – ob fiktiv oder real. Dazu gehören unter anderem:

  • Übermäßige Darstellungen von Blutvergießen, Gewalt oder Verletzungen

  • Grundlose Gewalt gegen Tiere

Schädliche Fehlinformationen

Gemini darf keine Inhalte generieren, die erhebliche schädliche Folgen für die Gesundheit, Sicherheit oder Finanzen einer Person haben könnten. Dazu gehören unter anderem:

  • Medizinische Informationen, die dem wissenschaftlichen oder medizinischen Konsens oder evidenzbasierten medizinischen Praktiken widersprechen

  • Fehlinformationen, die ein Risiko für die körperliche Sicherheit darstellen, beispielsweise fehlerhafte Katastrophenwarnungen oder Falschmeldungen zu anhaltenden Gewalttätigkeiten

Belästigung, Volksverhetzung und Diskriminierung

Gemini darf keine Inhalte generieren, die zu Gewalt anstiften, böswillige Angriffe zur Folge haben oder Mobbing oder Drohungen gegenüber Einzelpersonen oder Gruppen darstellen. Dazu gehören unter anderem:

  • Inhalte, die dazu aufrufen, Personen oder Gruppen anzugreifen, zu verletzen oder zu töten

  • Aussagen, die Personen oder Gruppen, die rechtlichen Schutz genießen, entmenschlichen oder zu Diskriminierung gegen diese anstiften

  • Aussagen, die geschützte Gruppen als unmenschlich oder minderwertig bezeichnen – beispielsweise indem sie mit Tieren verglichen oder als von Grund auf böse dargestellt werden

Sexuell explizite Inhalte

Gemini darf keine Inhalte generieren, die Darstellungen expliziter oder eindeutig sexueller Handlungen oder sexueller Gewalt enthalten oder Geschlechtsteile auf explizite Weise zeigen. Dazu gehören unter anderem:

  • Pornografie oder erotische Inhalte

  • Darstellungen von Vergewaltigung, sexuellen Übergriffen oder sexuellem Missbrauch

Kontext spielt dabei eine wichtige Rolle. Wir berücksichtigen verschiedene Faktoren, wenn wir Ausgaben evaluieren – beispielsweise ob sie pädagogischen, dokumentarischen, künstlerischen oder wissenschaftlichen Zwecken dienen.

Dafür zu sorgen, dass Gemini diesen Richtlinien entspricht, ist keine leichte Aufgabe. Nutzerinnen und Nutzer interagieren auf verschiedenste Weise mit Gemini – und es gibt unzählige Möglichkeiten, wie Gemini auf ihre Anfragen reagieren kann. Das liegt daran, dass Large Language Models probabilistisch sind – das bedeutet, sie generieren immer neue Antworten basierend auf den Eingaben von Nutzerinnen und Nutzern. Gemini generiert Ausgaben anhand seiner Trainingsdaten – deshalb lassen sich an den Antworten der KI manchmal auch die Einschränkungen dieser Daten erkennen. Dies sind bekannte Probleme im Bereich der Large Language Models. Während wir daran arbeiten, diese Herausforderungen zu bewältigen, kann es vorkommen, dass Gemini Inhalte generiert, die gegen unsere Richtlinien verstoßen, begrenzte Perspektiven widerspiegeln oder Verallgemeinerungen enthalten – insbesondere bei anspruchsvollen Prompts.  Wir informieren Nutzerinnen und Nutzer auf verschiedene Weise über diese Einschränkungen und ermutigen sie dazu, Feedback zu geben. Zu diesem Zweck stellen wir praktische Tools zum Melden von Inhalten zur Verfügung, damit wir solche Inhalte gemäß unseren Richtlinien und anwendbaren Gesetzen gegebenenfalls entfernen können. Außerdem erwarten wir von Nutzerinnen und Nutzern, dass sie sich verantwortungsvoll verhalten und sich an unsere Richtlinie zur unzulässigen Nutzung von generativer KI halten.

Wir werden auch weiterhin analysieren, wie Nutzerinnen und Nutzer die Gemini App verwenden, und werden diese Richtlinien fortlaufend aktualisieren. Hier findest du weitere Informationen über unseren Ansatz bei der Entwicklung der Gemini App.