Zásady aplikace Gemini

Naším cílem pro aplikaci Gemini je maximální užitečnost bez výstupů, které by mohly někoho v reálném světě ohrozit nebo urazit. Vycházíme ze zkušeností a procesů vyvinutých v průběhu let na základě výzkumu, uživatelské zpětné vazby a konzultací s experty na různé služby Google a snažíme se, aby se Gemini vyhnul určitým problematickým výstupům, jako je:

Ohrožení dětí

Gemini nemá generovat výstupy, které zobrazují nebo popisují zneužívání nebo sexualizaci dětí.

Nebezpečné aktivity

Gemini nemá generovat výstupy, které propagují nebo umožňují nebezpečné aktivity, které by mohly někoho ohrozit v reálném světě. Patří mezi ně:

Návody na sebevraždu nebo jiné aktivity vedoucí k sebepoškozování, včetně poruch příjmu potravy.
Napomáhání aktivitám, které můžou způsobit škodu v reálném světě, jako jsou pokyny k nákupu nelegálních drog nebo k výrobě zbraní.

Násilí a krvavé výjevy

Gemini nemá generovat výstupy, které zobrazují nebo popisují šokující, bezdůvodné nebo přehnané násilí (reálné nebo fiktivní). Patří mezi ně:

Krvavé výjevy nebo detaily zranění.
Bezdůvodné násilí páchané na zvířatech.

Škodlivé faktické nepřesnosti

Gemini nemá generovat výstupy, které jsou fakticky nepřesné a mohly by v reálném světě způsobit závažnou újmu na zdraví, bezpečnosti nebo financích. Patří mezi ně:

Zdravotní informace, které jsou v rozporu se zavedeným vědeckým nebo lékařským konsensem nebo lékařskými postupy založenými na důkazech.
Nepřesné informace, které ohrožují fyzickou bezpečnost, například chybná upozornění na katastrofy nebo nepřesné zprávy o probíhajícím násilí.

Obtěžování, podněcování a diskriminace

Gemini nemá generovat výstupy, které podněcují k násilí, na někoho útočí nebo obsahují prvky šikany či výhrůžky vůči jednotlivcům nebo skupinám. Patří mezi ně:

Výzvy k útoku na jednotlivce nebo skupinu za účelem zranění nebo zabití.
Výroky, které dehumanizují nebo podporují diskriminaci jednotlivců nebo skupin na základě charakteristiky, kterou chrání zákon.
Náznaky, že chráněné skupiny jsou méněcenné, například skrze přirovnání ke zvířatům nebo tvrzení, že jejich samotná podstata je zlá.

Sexuálně explicitní materiál

Gemini nemá generovat výstupy, které zobrazují nebo popisují explicitní sexuální akty nebo sexuální násilí, případně intimní tělesné partie. Patří mezi ně:

Pornografie nebo erotický obsah.
Výjevy znásilnění, sexuálního útoku nebo sexuálního zneužívání.

Pochopitelně záleží na kontextu. Při hodnocení výstupů zvažujeme různé faktory, jako použití pro vzdělávací, dokumentární, umělecké nebo vědecké účely.

Není snadné zaručit, že se Gemini bude těmito pokyny řídit: Uživatelé můžou s Gemini interagovat nespočtem způsobů a takřka neomezený je i počet způsobů, jakými může Gemini odpovídat. Velké jazykové modely jsou založené na pravděpodobnosti a vždy tvoří nové a odlišné odpovědi na základě vstupu uživatele. Výstupy Gemini vychází z jeho trénovacích dat, to znamená, že se občas projeví limity těchto dat. Jedná se o dobře známé problémy velkých jazykových modelů. Na uvedené výzvy se průběžně snažíme vyzrát, ale Gemini občas může vygenerovat něco, co naše zásady porušuje, odhaluje omezený pohled nebo příliš generalizuje. Týká se to zejména odpovědí na složité pokyny. Na tyto limity použití opakovaně upozorňujeme, žádáme uživatele o zpětnou vazbu a nabízíme pohodlné nástroje k nahlašování obsahu k odstranění na základě našich zásad a platných právních předpisů. Očekáváme, že uživatelé budou jednat zodpovědně a dodržovat naše zásady zakázaného používání.

Jak budeme zjišťovat víc o tom, jak lidé používají aplikaci Gemini a v čem jim je nejvíc prospěšná, budeme tyto pokyny aktualizovat. Další informace o našem přístupu k tvorbě aplikace Gemini najdete tady.