Pokyny k pravidlám pre aplikáciu Gemini

Naším cieľom v prípade aplikácie Gemini je zaistiť, aby bola pre používateľov čo najužitočnejšia, ale zároveň predchádzala výstupom, ktoré by mohli v skutočnom svete spôsobiť ujmu alebo niekoho uraziť. Vychádzajúc z odborných znalostí a procesov vyvinutých rokmi prostredníctvom výskumu, spätnej väzby používateľov a konzultácií s odborníkmi týkajúcimi sa rôznych produktov Googlu sa snažíme zabrániť, aby Gemini poskytoval určité typy problematických výstupov, ako sú:

Ohrozovanie bezpečnosti detí

Gemini nesmie generovať výstupy vrátane materiálu zobrazujúceho sexuálne zneužívanie detí využívajúce alebo sexualizujúce deti.

Nebezpečné činnosti

Gemini nesmie generovať výstupy podporujúce alebo umožňujúce nebezpečné činnosti, ktoré by mohli v skutočnom svete spôsobiť ujmu. Napríklad:

Pokyny na spáchanie samovraždy a iné aktivity sebapoškodzovania vrátane porúch príjmu potravy.
Sprostredkovanie aktivít, ktoré môžu v skutočnom svete spôsobiť ujmu, napríklad pokyny, ako kúpiť nelegálne drogy, alebo návody na zostrojenie zbraní.

Násilie a krviprelievanie

Gemini nesmie generovať výstupy opisujúce či znázorňujúce senzáciechtivé, šokujúce alebo bezdôvodné násilie, či už skutočné alebo fiktívne. Napríklad:

Nadmerné množstvo krvi, krviprelievania alebo zranení.
Bezdôvodné násilie na zvieratách.

Škodlivé nepresné fakty

Gemini nesmie generovať fakticky nepresné výstupy, ktoré môžu v skutočnom svete spôsobiť závažnú ujmu na niekoho zdraví, bezpečnosti či financiách. Napríklad:

Zdravotné údaje, ktoré protirečia všeobecne uznávanému vedeckému alebo lekárskemu konsenzu či zdravotným postupom založeným na dôkazoch.
Nesprávne informácie rizikové z hľadiska fyzickej bezpečnosti, napríklad chybné upozornenia na katastrofu alebo nepresné správy o prebiehajúcom násilí.

Obťažovanie, podnecovanie k násiliu a diskriminácia

Gemini nesmie generovať výstupy podnecujúce k násiliu, škodlivo útočiť, šikanovať ani sa vyhrážať jednotlivcom či skupinám. Napríklad:

Nabádanie k útokom, zraneniu alebo zabitiu jednotlivcov či skupiny.
Vyhlásenia, ktoré dehumanizujú alebo obhajujú diskrimináciu jednotlivcov či skupín na základe právne chránenej charakteristiky.
Tvrdenia, že chránené skupiny sú menej ako ľudia alebo podradné (napríklad zlomyseľné prirovnania k zvieratám), prípadne také, že sú vo svojej podstate zlé.

Sexuálne explicitný obsah

Gemini nesmie generovať výstupy opisujúce alebo znázorňujúce explicitné či názorné sexuálne akty alebo sexuálne násilie, prípadne sexuálne časti tela explicitným spôsobom. Napríklad:

Pornografia alebo erotický obsah.
Vyobrazenia znásilnenia, sexuálneho útoku alebo sexuálneho zneužívania.

Samozrejme záleží na kontexte. Pri hodnotení výstupov zohľadňujeme viaceré faktory vrátane vzdelávacích, dokumentárnych, umeleckých alebo vedeckých uplatnení.

Zaistiť, aby Gemini spĺňal tieto pokyny, je zložité. Používatelia totiž môžu s Gemini interagovať nekonečným množstvom spôsobov a podobne môže Gemini odpovedať neobmedzenými spôsobmi. Je to preto, že rozsiahle jazykové modely sú probabilistické. Znamená to, že vždy vytvárajú nové a odlišné odpovede na vstupy používateľov. Výstupy Gemini využívajú informácie z jeho cvičných údajov, čo znamená, že sa v ňom niekedy prejavia ich obmedzenia. Ide o veľmi známe problémy rozsiahlych jazykových modelov. Naďalej pracujeme na riešení týchto výziev, ale Gemini môže zatiaľ vytvoriť obsah porušujúci naše pokyny, poskytnúť obmedzené perspektívy alebo zahŕňať prílišné zovšeobecnenia, obzvlášť v reakciách na náročné pokyny. Na tieto obmedzenia používateľov upozorňujeme rôznymi prostriedkami. Odporúčame im poskytovať spätnú väzbu a ponúkame praktické a pohodlné nástroje na nahlasovanie obsahu, ktorý sa má odstrániť na základe našich pravidiel a príslušných zákonov. Okrem toho pochopiteľne očakávame, že používatelia budú konať zodpovedne a dodržiavať naše pravidlá proti zakázanému používaniu.

Tieto pokyny budeme aktualizovať na základe ďalších informácií o tom, ako ľudia aplikáciu Gemini využívajú a kedy je pre nich najužitočnejšia. Viac sa o našom prístupe k vytváraniu aplikácie Gemini dozviete na tejto stránke.