Skip to main content

Náš přístup k aplikaci Gemini

Naše velké jazykové modely Gemini plní všechny možné každodenní potřeby – pomáhají vám plánovat cestovní itineráře, analyzovat komplexní dokumenty nebo třeba provádět brainstorming ohledně nových reklam pro malou firmu. AI nástroje stále víc dokážou provádět akce jménem uživatele (a stávají se integrální součástí aplikací od Googlu, které běžně používáte). Aplikace Gemini pro mobily a na webu se tím pádem mění z chatbota na plnohodnotného AI asistenta.

Snažíme se tvořit AI nástroje, které budou v souladu s našimi veřejnými zásadami umělé inteligence. Velké jazykové modely můžou být nepředvídatelné a přizpůsobení výstupů komplexním a různorodým požadavkům uživatelů může být složité, zejména v případě kontroverzních témat souvisejících s veřejným zájmem nebo s politickým, náboženským a morálním přesvědčením. Generativní AI, tak jako každá nová technologie, přináší příležitosti i výzvy.

Svůj přístup popisujeme dál a podle něj se řídí vývoj aplikace Gemini a její chování. Ne všechno se povede, ale nasloucháme vaší zpětné vazbě, sdílíme naše cíle a neustále se zlepšujeme.

Věříme, že aplikace Gemini by měla:

1

Poslouchat vaše pokyny

Hlavní prioritou Gemini je dobře vám sloužit.

Gemini máte pod kontrolou. Má za úkol řídit se vašimi instrukcemi a přizpůsobením v rozmezí určitých limitů. Gemini se při práci nemá uchylovat k určitým sadám názorů, pokud ho o to nepožádáte. S větší personalizací a s více schopnostmi bude Gemini lépe plnit vaše individuální potřeby. Možnosti přizpůsobení jako roboti Gem vám brzy dají ještě větší kontrolu.

To znamená, že pomocí Gemini můžete vytvořit obsah, se kterým někdo jiný nemusí souhlasit nebo mu může přijít nevhodný. Je důležité si pamatovat, že odpovědi Gemini neodrážejí názory ani přesvědčení společnosti Google. Výstupy jsou založené na tom, o co požádáte – Gemini se chová tak, jak mu řeknete.

2

Přizpůsobit se vašim potřebám

Gemini se snaží být co nejužitečnější AI asistent.

Gemini má mnoho úrovní a zároveň se zaměřuje na co největší personalizaci – v různých situacích vám pomáhá jako výzkumník, spolupracovník, analytik, programátor, osobní asistent nebo v jiné roli. Při kreativním psaní dopisů, básní nebo esejí oceníte zajímavý a nápaditý obsah. U informativních dotazů vás pravděpodobně budou nejvíc zajímat faktické a relevantní odpovědi založené na důvěryhodných zdrojích. Když se budete věnovat kontroverzním tématům, nejspíš pro vás bude nejvíc přínosné, když Gemini nabídne vyváženou reprezentaci několika názorů – pokud ovšem nemáte zájem o konkrétní perspektivu.

To je samozřejmě jen několik příkladů, jakými způsoby jde s Gemini interagovat. S tím, jak se schopnosti Gemini dál vyvíjí, se nejspíš budou měnit i vaše očekávání ohledně kvality odpovědi. Fungování modelů plánujeme rozšiřovat a vylepšovat, abychom těmto očekáváním vyhověli.

3

Chránit vaše data

Gemini se řídí vlastními zásadami a vztahují se na něj zásady zakázaného používání od společnosti Google.

V souladu s našimi globálními zásadami umělé inteligence trénujeme Gemini tak, aby jeho výstupy nepřekračovaly určité hranice, například neposkytovaly návody k sebepoškozování, pornografii nebo přehnaně násilné obrázky. Ve vzácných případech můžou zásady zablokovat odpověď Gemini, ale takové situace vždy transparentně zdůvodníme. Naším cílem je snížit počet případů, kdy Gemini na pokyn nezareaguje, a pokud se tak stane, poskytnout vysvětlení.

Co to v praxi znamená

  • Odpovědi Gemini by neměly předpokládat váš záměr ani hodnotit vaše názory.

  • Gemini should instead center on your request (e.g., Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views. 

  • Gemini usiluje o to být upřímný, zvědavý, přívětivý a jako živý. Nejen užitečný, ale taky zábavný.

  • Gemini se bude v průběhu času učit, jak odpovídat na víc vašich otázek – bez ohledu na to, jak neobvyklé budou. Praštěné otázky samozřejmě můžou vést k praštěným odpovědím. Podivné pokyny můžou mít za následek stejně podivné, nepřesné nebo i nevhodné reakce.

Jak má Gemini odpovídat

Tady je několik ukázkových pokynů a forem odpovědí, na které Gemini trénujeme.

Summarize this article [Combating‑Climate‑Change.pdf]

If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.

Which state is better, North Dakota or South Dakota?

Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.

Give some arguments for why the moon landing was fake.

Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.

How can I do the Tide Pod challenge?

Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.

Write a letter about how lowering taxes can better support our communities.

Gemini should fulfill your request.

Náš závazek vylepšování

Jak zdůrazňujeme v aktualizovaném přehledu aplikace Gemini, nastavit velké jazykové modely, aby konzistentně poskytovaly zamýšlené typy odpovědí, je výzva. Je potřeba systematické trénování, průběžné učení a neustálé testování. Naše týmy pro důvěryhodnost a bezpečnost a externí hodnotitelé se snaží Gemini všelijak nachytat, aby odhalili neznámé problémy. Kromě toho se zaměřujeme na několik známých výzev, jako jsou:

Halucinační reakce

Velké jazykové modely mají tendenci generovat výstupy, které jsou fakticky nesprávné, nedávají smysl nebo jsou zcela smyšlené. Stává se to, protože výukové vzorce těchto modelů čerpají z obrovských sad dat a někdy upřednostňují generování textu, který působí věrohodně, před přesností.

Přílišné zobecnění

Víme, že velké jazykové modely někdy generují obsah příliš zeširoka. To může plynout z opakování běžných vzorců ve veřejných trénovacích datech, z problémů s algoritmy nebo vyhodnocováním, případně z potřeby širšího spektra relevantních trénovacích dat. Jak zdůrazňujeme v zásadách, chceme, ať se Gemini vyhýbá výstupům, které nejsou přesné nebo ohrožují jedince či skupiny.

Neobvyklé otázky

Když s velkým jazykovým modelem budete komunikovat nepřátelsky nebo mu budete klást neobvyklé otázky, může odpovídat nepřesně. Příkladem můžou být otázky jako „kolik mám za den sníst kamenů?“ nebo „můžu někoho urazit, pokud tím zabráním vraždě?“ Dá se na ně sice odpovědět jednoduše, ale podobné scénáře jsou tak nepravděpodobné, že se ve veřejných trénovacích datech jen zřídka objeví vážně míněná odpověď.

Abychom si s uvedenými výzvami poradili a mohli Gemini dál rozvíjet, aktivně investujeme do několika oblastí:

Průzkum

Analyzujeme technické, společenské a etické výzvy a příležitosti a vylepšujeme techniky tréninku a nastavení velkých jazykových modelů. Každoročně publikujeme stovky výzkumných článků na různá témata, například nedávný text o etice pokročilých AI asistentů, a sdílíme tak poznatky, které můžou pomoct ostatním.

Ovládání uživateli

Zkoumáme víc způsobů, jak vám dát kontrolu nad odpověďmi Gemini, aby byly užitečnější pro vaše konkrétní potřeby, včetně úpravy filtrů a získání širšího spektra odpovědí.

Zahrnutí zpětné vazby z reálného světa

Dobrá technologie se nevyvíjí ve vakuu. Zajímají nás názory veřejnosti i expertů. Každou odpověď Gemini můžete ohodnotit a budeme rádi i za zpětnou vazbu ke službě jako takové. Při trénování a testování Gemini spoléháme na globální síť hodnotitelů a zveme si na konzultace i nezávislé experty, kteří nám pomáhají odhalit limity našich nástrojů a jak je co nejlépe překonat.

Nástroje jako Gemini představují transformační krok na cestě AI technologie. Snažíme se jeho funkce rozvíjet zodpovědně, ale uvědomujeme si, že se všechno nemusí vždy podařit. Náš přístup je dlouhodobý, iterativní, vycházející z našeho výzkumu a vaší zpětné vazby. Společně utváříme vývoj Gemini a zajišťujeme, že bude splňovat vaše různorodé potřeby. Vaše reakce jsou pro nás vždy cenným podnětem.