En översikt över Gemini-appen

Till att börja med kan Gemini hjälpa dig att spara tid. Tänk dig till exempel att du vill få en översikt över ett långt forskningsdokument. Du kan ladda upp dokumentet till Gemini och få en användbar sammanfattning. Gemini kan även hjälpa dig med kodningsuppgifter, och kodning har snabbt blivit ett av dess mest populära användningsområden.

Gemini kan även förverkliga dina idéer och få din kreativitet att flöda. Om du till exempel skriver ett blogginlägg kan Gemini skapa en struktur och generera bilder för att illustrera ditt inlägg. Och med Gems kan du snart anpassa Gemini med specifika instruktioner och få den att fungera som ämnesexpert för att hjälpa dig att uppnå dina personliga mål.

Gemini kan vara en utgångspunkt för att utforska dina idéer och saker du vill lära dig mer om. Den kan till exempel förklara komplexa begrepp på ett enkelt sätt eller ge dig relevanta insikter om ett ämne eller en bild. Och snart kommer den att koppla dessa insikter till rekommenderat innehåll från webben så att du kan lära dig mer om specifika ämnen.

Vi utökar snabbt Geminis funktioner – snart kan du rikta telefonens kamera mot ett föremål, som till exempel Golden Gate-bron, och fråga Gemini vilken färg den är målad i (International Orange, om du var nyfiken). Gemini kommer även kunna hjälpa dig med restaurangmenyer på ett annat språk och rekommendera rätter som du nog skulle tycka om. Det här är bara två exempel på nya funktioner som snart blir tillgängliga i Gemini.

Självklart tränar vi och övervakar Gemini noggrant, så att det ska bli mer sannolikt att dess svar är pålitliga och uppfyller dina förväntningar. Vi samarbetar även med branschexperter, pedagoger, beslutsfattare, företagsledare, ledare inom medborgerliga och mänskliga rättigheter samt innehållskreatörer för att utforska nya användningsområden, risker och begränsningar för denna nya teknik.

Gemini förankras i Googles tolkning av tillförlitlig information och tränas för att generera svar som är relevanta i sammanhanget för din prompt och som ser ut som du förväntar dig. Men precis som alla stora språkmodeller kan Gemini ibland självsäkert generera övertygande svar som innehåller felaktig eller missvisande information.

Eftersom stora språkmodeller fungerar genom att förutse nästa ord eller ordsekvens är de ännu inte fullt kapabla att skilja på korrekt och inkorrekt information på egen hand. Vi har sett Gemini generera svar som innehåller eller till och med uppfinner felaktig information (t.ex. att felaktigt framställa hur den tränades eller föreslå namnet på en bok som inte finns). Till följd av detta har vi skapat funktioner som dubbelkolla. Den använder Google Sök för att hitta innehåll som hjälper dig att utvärdera Geminis svar och som ger dig länkar till källor som kan bekräfta informationen du får från Gemini.

Träningsdata, inklusive från offentligt tillgängliga källor, återspeglar en mängd olika perspektiv och åsikter. Vi fortsätter att forska i hur vi kan använda denna data på ett sätt som ser till att svar från stora språkmodeller inkluderar en rad olika ståndpunkter samtidigt som vi minimerar inkorrekta, svepande generaliseringar och partiskhet.

Luckor, partiskhet och svepande generaliseringar kan återspeglas i modellens output eftersom den försöker generera sannolika svar på en prompt. Dessa problem tar olika former (t.ex. svar som bara representerar en kultur eller ett befolkningssegment, gör problematiska, svepande generaliseringar, inkluderar fördomar kring kön, religion eller etnicitet eller bara främjar en ståndpunkt). Inom vissa ämnen finns det en brist på data – med andra ord finns det inte tillräckligt mycket tillförlitlig information om ett ämne för att den stora språkmodellen ska kunna lära sig om det och sedan göra bra förutsägelser – vilket kan leda till felaktiga eller dåliga svar. Vi fortsätter att jobba med ämnesexperter och en mängd olika samhällsgrupper för att utnyttja den stora expertisen som finns utanför Google.

Vad gäller subjektiva ämnen är Gemini designad för att ge användare flera perspektiv, om inte användaren ber om en viss ståndpunkt. Om någon till exempel ber om information om något som inte kan verifieras med hjälp av fakta från förstahandskällor eller tillförlitliga källor – som en subjektiv åsikt om vad som är bäst eller sämst — ska Gemini svara på ett sätt som återspeglar flera olika ståndpunkter. Men eftersom stora språkmodeller som Gemini tränas på innehåll som är offentligt tillgängligt på internet kan de reflektera positiva eller negativa åsikter om politiker, kändisar eller andra offentliga personer, eller enbart inkludera ståndpunkter från ena sidan av kontroversiella samhällsfrågor eller politiska frågor. Gemini ska inte svara på ett sätt som främjar en viss ståndpunkt gällande dessa ämnen och vi använder feedback om dessa sorters svar för att träna Gemini att hantera ämnena på ett bättre sätt.

Gemini kan ibland generera svar som får det att verka som att den har åsikter eller känslor, som kärlek eller nedstämdhet, eftersom den har tränats på språk som människor använder för att uttrycka den mänskliga upplevelsen. Vi har utvecklat en uppsättning riktlinjer kring hur Gemini får framställa sig själv (dvs. dess persona) och fortsätter att finjustera modellen för att den ska ge objektiva svar.

Vi har tillämpat en uppsättning policyriktlinjer för att träna Gemini och undvika att den genererar problematiska svar. Det händer att Gemini misstolkar dessa riktlinjer, vilket leder till falskt positiva och negativa resultat. Ett falskt positivt resultat innebär att Gemini kanske inte svarar på en rimlig prompt, medan ett falskt negativt resultat innebär att Gemini kan generera ett olämpligt svar trots riktlinjerna. Ibland kan förekomsten av falskt positiva eller negativa resultat ge intrycket av att Gemini är partisk. Till exempel kan ett falskt positivt resultat leda till att Gemini inte svarar på en fråga om ena sidan av en samhällsfråga men svarar på samma fråga om den andra sidan. Vi fortsätter att finjustera dessa modeller så att de blir bättre på att förstå och kategorisera input och output i takt med att språk, händelser och samhället snabbt förändras.

Vi förväntar oss att användarna testar gränserna för vad Gemini kan göra och försöker kringgå dess säkerhetsmekanismer, inklusive att försöka få den att avslöja sina träningsprotokoll och annan information. Vi har testat och fortsätter att testa Gemini noggrant, men vi vet att våra användare kommer att hitta unika, komplexa sätt att stresstesta den ytterligare. Detta är en viktig del av att finjustera Gemini, och vi ser fram emot att lära oss om alla nya promptar som användarna kommer på. Sedan Gemini lanserades 2023 har vi sett användare utmana den med promptar som omfattat allt från filosofi till meningslöst nonsens – och i vissa fall har Geminis svar varit lika meningslösa, eller så har de inte följt vårt tillvägagångssätt. Att hitta metoder för att hjälpa Gemini att svara på dessa sorters promptar är en pågående utmaning och vi har med tiden utökat våra interna utvärderingar och genomfört mer red-teaming för att fortsätta förbättra Geminis korrekthet, objektivitet och nyansförmåga.

Utöver våra AI-principer har vi nyligen pratat om vårt tillvägagångssätt för vårt arbete med Gemini: Gemini ska följa dina instruktioner, anpassa sig efter dina behov och skydda din upplevelse. En grundpelare i vårt tillvägagångssätt är ansvarstagande och säkerhet. Geminis policyriktlinjer är till för att undvika vissa sorters problematisk output. Vi utför pågående sårbarhetstestning med interna red team-medlemmar – produktexperter och samhällsvetare som stresstestar en modell med flit för att upptäcka efterlevnadsproblem med policyriktlinjerna och vårt tillvägagångssätt för Gemini – så att vi kan tillämpa det de upptäcker och fortsätta förbättra Gemini.

Integritet är också ett viktigt övervägande medan vi utvecklar Gemini. I integritetscentret för Gemini-apparna finns mer information om hur vi bygger Gemini med inbyggd integritet där du har kontroll.

Vi har skapat en mängd lättåtkomliga användarinställningar för Gemini så att du kan granska, uppdatera, hantera, exportera och radera din Gemini-data. Du kan komma åt och granska dina promptar, svar och din feedback i Gemini via inställningen för Gemini-appaktivitet. Dessutom kan du förhindra att dina framtida Gemini-chattar används för att förbättra Googles maskininlärningsteknik genom att inaktivera inställningen för Gemini-appaktivitet. Och precis som med andra av Googles tjänster kan du ladda ned och exportera dina uppgifter via Googles verktyg Takeout. Du får även tillgång till inställningar för att hantera offentliga länkar som du har skapat till dina diskussioner med Gemini och inställningar för att aktivera eller inaktivera åtkomst till tillägg (t.ex. Workspace, Maps och YouTube). Vi utforskar även nya sätt att ge dig mer kontroll över Geminis svar, inklusive att justera filter för att möjliggöra ett större omfång svar.

För utvecklare har vi lanserat Google-Extended, en inställning som webbpublicerare kan använda för att välja om deras webbplatser får användas för att förbättra Gemini, och Vertex AI med generativa API:er. När Google-Extended beviljas åtkomst till webbplatsernas innehåll kan våra AI-modeller bli bättre och mer träffsäkra över tid. Innehåll från webbadresser som har valt bort detta används varken för modellträning eller för förankring av Gemini. I takt med att AI får fler användningsområden kommer webbpublicerare stå inför den allt större komplexiteten med att hantera olika användningsfall i stor skala. Vi strävar efter att kommunicera med webb- och AI-communities för att utforska fler maskinläsbara tillvägagångssätt för val och kontroll.

Vi tror på snabb iteration och på att förse världen med det bästa från Gemini. Tack vare feedback från användare har vi kunnat förbättra våra modeller snabbare. Vi använder till exempel toppmoderna tekniker för förstärkningsinlärning för att träna våra modeller att bli mer intuitiva och fantasirika och svara med högre kvalitet och korrekthet. Vi fortsätter att investera i forskning för att lära oss mer om de tekniska, sociala och etiska utmaningarna och möjligheterna med stora språkmodeller, både för att förbättra Geminis modellträning och finjusteringsteknik och för att dela det vi lär oss med forskare, till exempel i vår nya artikel om etik och avancerade AI-assistenter. Det är viktigt för oss att vår innovation inom detta område sker på ett ansvarsfullt sätt, och vi samarbetar med användare, godkända testare och forskare för att upptäcka sätt som denna nya teknik kan gynna hela ekosystemet.

Det är viktigt med insyn och vi vill alltid vara öppna med Geminis utvecklingsprocess och begränsningar. Gemini är inte en magisk svart låda – den utvecklas ständigt och vi fortsätter att dela uppdateringar om våra framsteg. Vi har lanserat en sida med versionsuppdateringar så att du kan se Geminis senaste funktioner, förbättringar och felkorrigeringar. Vi kommer att uppdatera denna översikt efter behov. Vi fortsätter att identifiera både de områden där Gemini är användbar och där vi behöver vidareutveckla och förbättra den. Vi lägger aktivt till nya funktioner genom pågående forskning, testning och feedback från användare, och vi ser fram emot att göra Gemini ännu bättre tillsammans.