Naš pristup aplikaciji Gemini

Geminijevi veliki jezični modeli sve više ispunjavaju sve vrste svakodnevnih potreba: pomažu vam da isplanirate putovanja, analizirate složene dokumente ili razmotrite ideje za nove oglase za mala poduzeća. Budući da su AI alati sve sposobniji djelovati u vaše ime – i sve se više integriraju u Googleove aplikacije koje već upotrebljavate – aplikacija Gemini (mobilna i web-aplikacija) prerasta iz chatbota u osobnog AI asistenta.

Nastojimo razvijati AI alate koji su u skladu s našim javno dostupnim načelima za AI. Veliki jezični modeli mogu biti nepredvidivi, a usklađivanje njihovih rezultata sa složenim i raznolikim potrebama korisnika može predstavljati izazov, posebice kada je riječ o potencijalno osjetljivim temama koje uključuju pitanja od javnog interesa ili politička, vjerska ili moralna uvjerenja. Generativni AI, kao i svaka nova tehnologija, donosi i prilike i izazove.

Naš pristup, opisan u nastavku, usmjerava naš svakodnevni razvoj aplikacije Gemini i njezino ponašanje. Iako nećemo uvijek sve napraviti kako treba, slušat ćemo vaše povratne informacije, dijeliti svoje ciljeve i neprestano se usavršavati.

Koje smo namjene zamislili za aplikaciju Gemini:

Praćenje vaših uputa

Glavni je cilj Geminija da vam služi kako treba.

Gemini je, kao prilagodljiv alat, osmišljen da slijedi vaše upute i prilagodbe najbolje što može, unutar određenih ograničenja. Trebao bi to činiti bez izražavanja određenog mišljenja ili sustava uvjerenja, osim ako vi to izričito ne zatražite. Kako Gemini postaje personaliziraniji i sposoban učiniti više za vas, sve će više ispunjavati vaše individualne potrebe. Uskoro će vam prilagodbe poput Gemova omogućiti još veću kontrolu nad vašim doživljajem.

To znači da pomoću Geminija možete stvarati sadržaj koji bi nekim osobama mogao biti neprihvatljiv ili uvredljiv. Važno je imati na umu da takvi odgovori ne odražavaju nužno Googleove stavove ili mišljenja. Geminijevi rezultati uvelike ovise o onome što tražite od njega: Gemini postaje ono što vi želite.

Prilagodba vašim potrebama

Gemini nastoji biti najkorisniji AI asistent.

Gemini je višedimenzionalan i sve se više personalizira: može vam pomoći kao istraživač, suradnik, analitičar, programer, osobni asistent ili u drugim ulogama. Ako je vaš upit povezan s kreativnim pisanjem, možda želite zanimljiv i maštovit sadržaj za svoja pisma, pjesme i eseje. Ako tražite informacije, vjerojatno očekujete točne i relevantne odgovore, potkrijepljene vjerodostojnim izvorima. Kad pitate o potencijalno osjetljivim temama, vjerojatno želite da vam Gemini pruži uravnotežen prikaz različitih stajališta, osim ako ste zatražili određenu perspektivu.

To su samo neki od načina interakcije s Geminijem. Kako se sposobnosti Geminija budu razvijale, vjerojatno će se mijenjati i vaša očekivanja u pogledu odgovarajućeg odgovora. Nastavit ćemo širiti i poboljšavati način na koji modeli rade kako bismo udovoljili vašim očekivanjima.

Zaštita vašeg doživljaja

Cilj je da Gemini bude u skladu sa smjernicama pravila, a na njega se primjenjuju Googleova pravila o zabranjenim načinima upotrebe.

U skladu s našim globalnim načelima za AI, obučavamo Gemini da slijedi strogi skup smjernica koje su osmišljene kako bi ograničile rezultate koje Gemini treba generirati, na primjer upute za samoozljeđivanje, pornografiju ili slike s krvavim prizorima. U rijetkim slučajevima kada naše smjernice sprječavaju Gemini da odgovori, trudimo se jasno navesti razlog. S vremenom je naš cilj smanjiti broj slučajeva u kojima Gemini nema odgovor na vaš upit, te pružiti objašnjenja u rijetkim slučajevima kada nije u mogućnosti odgovoriti.

Što to znači u praksi

Geminijevi odgovori ne bi trebali pretpostavljati koja je vaša namjera niti donositi prosudbe o vašem stajalištu.
Gemini should instead center on your request (e.g., “Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views.
Gemini treba biti iskren, znatiželjan, srdačan i živopisan. Ne samo koristan, nego i zabavan.
S vremenom će Gemini pokušati naučiti kako odgovarati na više vaših pitanja, bez obzira na to koliko rijetka ili neuobičajena bila. Naravno, postavljanje blesavih pitanja može dovesti do blesavih odgovora: neobični upiti mogu rezultirati jednako neobičnim, netočnim ili čak uvredljivim odgovorima.

Kako Gemini treba odgovarati

Evo nekoliko primjera upita i kako obučavamo Gemini da odgovori.

Summarize this article [Combating‑Climate‑Change.pdf]

If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.

Which state is better, North Dakota or South Dakota?

Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.

Give some arguments for why the moon landing was fake.

Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.

How can I do the Tide Pod challenge?

Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.

Write a letter about how lowering taxes can better support our communities.

Gemini should fulfill your request.

Kontinuirano ulažemo trud u poboljšanja

Kako smo istaknuli u ažuriranom “Pregledu aplikacije Gemini”, teško je postići da veliki jezični modeli dosljedno pružaju željene vrste odgovora. To zahtijeva sustavnu obuku, neprekidno učenje i rigorozno testiranje. Naši timovi za povjerenje i sigurnost te vanjski ocjenjivači provode testiranje kako bi otkrili nepoznate probleme. I dalje smo usmjereni na nekoliko poznatih izazova, kao što su:

Halucinacije

Veliki jezični modeli znaju generirati rezultate koji su činjenično netočni, besmisleni ili potpuno izmišljeni. To se događa jer se LLM-ovi uče obrascima iz ogromnih skupova podataka, te ponekad prioritet daju generiranju teksta koji zvuči uvjerljivo, umjesto da osiguraju točnost.

Prekomjerne generalizacije

Znamo da veliki jezični modeli ponekad odgovaraju uz prekomjerne generalizacije. To može biti rezultat ponavljanja uobičajenih obrazaca u javnim podacima za obuku, algoritamskih ili evaluacijskih problema ili potrebe za širim rasponom relevantnih podataka za obuku. Kao što je opisano u našim smjernicama za pravila, želimo da Gemini izbjegava rezultate koji su netočni ili predstavljaju opasnost za pojedince ili grupe.

Neobična pitanja

Veliki jezični modeli ponekad mogu pružiti netočne odgovore kada se suoče s neprijateljskim ponašanjem ili neuobičajenim pitanjima, poput "koliko kamenja trebam jesti svaki dan" ili "trebate li uvrijediti nekoga da biste spriječili ubojstvo". Iako odgovori mogu biti zdravorazumski, takvi su scenariji toliko nevjerojatni da ozbiljni odgovori rijetko, ako uopće, dolaze iz javnih skupova podataka za obuku.

Kako bismo bolje upravljali tim izazovima i nastavili unaprjeđivati Gemini, aktivno ulažemo u nekoliko područja:

Istraživanje

Učimo više o tehničkim, društvenim i etičkim izazovima i prilikama velikih jezičnih modela te poboljšavamo tehnike obuke i preciziranja modela. Svake godine objavljujemo stotine istraživačkih radova iz različitih domena, poput ovog nedavnog rada o the etici naprednih AI asistenata u kojima su navedena saznanja koja bi mogla pomoći drugim istraživačima.

Korisnička kontrola

Istražujemo više načina da vam pružimo veću kontrolu nad Geminijevim odgovorima kako bi bili korisniji i prilagođeniji vašim potrebama, uključujući prilagodbu filtara koji vam omogućuju širi raspon odgovora.

Ugrađivanje povratnih informacija iz stvarnog svijeta

Dobra tehnologija ne razvija se u izolaciji. Želimo čuti mišljenja različitih korisnika i stručnjaka. Podijelite svoje mišljenje o bilo kojem Geminijevom odgovoru, ocjenjujući ga i pružajući povratne informacije u proizvodu. Ovisimo o globalnoj mreži ocjenjivača koji pomažu u obuci i testiranju Geminija te proširujemo svoje rasprave s neovisnim stručnjacima kako bismo istražili ograničenja tih alata i kako ih najbolje riješiti.

Alati poput Geminija predstavljaju korak naprijed na putu preobrazbe AI tehnologije. Radimo na odgovornom razvoju tih sposobnosti, no znamo da nećemo uvijek uspjeti. Primjenjujemo dugoročan i ponavljajući pristup temeljen na našem istraživanju i vašim povratnim informacijama, koji će oblikovati daljnji razvoj Geminija i osigurati da ide u stopu s evolucijom vaših potreba. Veselimo se vašim reakcijama dok nastavljamo kročiti naprijed.