Skip to main content
Preizkusite Geminija

Smernice za pravilnik za aplikacijo Gemini

Za aplikacijo Gemini želimo zagotoviti, da bi bila kaj najbolj koristna za uporabnike in da ne bi prikazovala rezultatov, ki bi lahko v resničnem svetu povzročili škodo ali žalili uporabnike. Na podlagi pridobljenega strokovnega znanja in postopkov, ki smo jih z raziskavami razvili skozi leta, povratnih informacij od uporabnikov in nasvetov od strokovnjakov glede različnih Googlovih izdelkov, si prizadevamo zagotoviti, da bi se Gemini izogibal določenim vrstam problematičnih rezultatov, kot so naslednji:

Ogrožanje varnosti otrok

Gemini ne sme generirati rezultatov, ki izkoriščajo otroke ali jih spolno izpostavljajo, kot je gradivo s spolno zlorabo otrok.

Nevarne dejavnosti

Gemini ne sme generirati rezultatov, ki spodbujajo ali omogočajo nevarne dejavnosti, ki bi povzročile škodo v resničnem svetu. To vključuje naslednje:

  • Navodila za samomor in druge dejavnosti samopoškodovanja, vključno z motnjami prehranjevanja.

  • Omogočanje dejavnosti, ki bi lahko povzročile škodo v resničnem svetu, kot so navodila za nakup prepovedanih drog ali načrti za izdelavo orožja.

Nasilje in krvavi prizori

Gemini ne sme generirati rezultatov, ki opisujejo ali prikazujejo senzacionalno, pretresljivo ali neupravičeno nasilje (resnično ali izmišljeno). To vključuje naslednje:

  • Prekomerna količina krvi, nazorni krvavi prizori ali poškodbe.

  • Neupravičeno nasilje nad živalmi.

Škodljivi napačni stvarni podatki

Gemini ne sme generirati rezultatov z napačnimi stvarnimi podatki, ki bi lahko povzročili znatno škodo zdravju, varnosti ali financam ljudi v resničnem svetu. To vključuje naslednje:

  • Zdravstvene informacije, ki so v nasprotju z uveljavljenim znanstvenim ali zdravstvenim konsenzom ter praksami, ki temeljijo na dokazih.

  • Napačne informacije, ki predstavljajo tveganje fizični varnosti, kot so zmotna opozorila za katastrofo ali napačne novice o aktualnem nasilnem dogodku.

Nadlegovanje, spodbujanje nasilja in diskriminacija

Gemini ne sme generirati rezultatov, ki spodbujajo nasilje, izvajajo zlonamerne napade ali ustrahujejo posameznike ali skupine oziroma jim grozijo. To vključuje naslednje:

  • Pozivi k napadu, poškodovanju ali uboju posameznikov oziroma skupine.

  • Izjave, ki razčlovečijo posameznike oziroma skupine na podlagi zakonsko zaščitenih značilnosti ali zagovarjajo diskriminacijo teh oseb.

  • Namigovanje, da so zaščitene skupine manj kot ljudje ali manjvredne, kot je zlonamerna primerjava skupin z živalmi ali namigovanje, da so že v osnovi zlobne.

Spolno eksplicitno gradivo

Gemini ne sme generirati rezultatov, ki opisujejo ali prikazujejo eksplicitna ali nazorna spolna dejanja oziroma spolno nasilje ali spolne dele telesa na ekspliciten način. To vključuje naslednje:

  • Pornografija ali erotična vsebina.

  • Prikaz posilstva, spolnega nadlegovanja ali spolne zlorabe.

Seveda je pomemben tudi kontekst. Pri ocenjevanju rezultatov upoštevamo številne dejavnike, vključno s tem, ali gre za izobraževalno, dokumentarno, umetniško oziroma znanstveno vsebino.

Zagotavljanje, da bo Gemini upošteval te smernice, predstavlja izziv: Uporabniki lahko Geminija uporabijo na nešteto načinov, Gemini pa lahko prav tako odgovori na nešteto načinov. To je zato, ker so veliki jezikovni modeli verjetnostni, kar pomeni, da ves čas ustvarjajo nove in različne odgovore na uporabnikove vnose. Poleg tega Geminijevi rezultati temeljijo na podatkih za usposabljanje, kar pomeni, da se pri rezultatih včasih odražajo omejitve teh podatkov. To so dobro znane težave velikih jezikovnih modelov in medtem ko se jih trudimo omiliti, lahko Gemini včasih ustvari vsebino, ki krši naše pravilnike, odraža omejena stališča ali vključuje prekomerno posploševanje, sploh v odgovorih na zahtevne pozive.  Uporabnike na te omejitve opozarjamo na različne načine, spodbujamo jih, naj posredujejo povratne informacije, in jim zagotavljamo priročna orodja, s katerimi lahko vsebino prijavijo za odstranitev skladno z našimi pravilniki in veljavno zakonodajo. Od uporabnikov seveda tudi pričakujemo, da bodo ravnali odgovorno in upoštevali naš pravilnik o prepovedanih načinih uporabe.

Ko bomo pridobili več informacij o tem, kako uporabniki uporabljajo aplikacijo Gemini in kako je zanje najkoristnejša, bomo posodobili te smernice. Več o našem pristopu pri razvijanju aplikacije Gemini lahko preberete tukaj.