Et overblik over Gemini-appen

Med Gemini kan du først og fremmest spare tid. Lad os f.eks. sige, at du gerne vil have et resumé af en lang forskningsartikel. Gemini giver dig mulighed for at uploade artiklen og giver dig så en nyttig opsummering. Gemini kan også hjælpe med kodningsopgaver, og kodning er hurtigt blevet en af modellens mest populære anvendelser.

Gemini kan også hjælpe dig med at puste liv i dine idéer og slippe din kreativitet løs. Hvis du f.eks. skriver et blogopslag, kan Gemini lave et udkast og generere billeder, der hjælper med at give dit opslag et billedligt udtryk. Og med Gem-bots, der er lige på trapperne, kan du tilpasse Gemini med specifikke instruktioner og få den til at agere som en ekspert inden for et emne, så du kan få hjælp til at opnå dine personlige mål.

Gemini kan være dit udgangspunkt, når du udforsker idéer og ting, du gerne vil lære mere om. F.eks. kan den forklare et komplekst begreb på en enkel måde eller vise relevante oplysninger om et emne eller et billede. Og snart vil den koble disse indsigter til anbefalet indhold fra hele nettet, så du kan blive klogere på specifikke emner.

Gemini bliver hurtigt og hele tiden bedre – snart vil du kunne pege din telefons kamera mod et objekt, f.eks. Golden Gate Bridge, og bede Gemini fortælle dig om farven (hvis du skulle være i tvivl, så kaldes den "International Orange"). Du vil også kunne få hjælp til at forstå en menu på et fremmedsprog og få anbefalet en ret, der sandsynligvis er noget for dig. Dette er blot to eksempler på de nye funktioner, der snart kommer til Gemini.

Selvfølgelig træner og overvåger vi Gemini grundigt for at sikre, at dens svar er pålidelige og lever op til dine forventninger. Vi taler også med brancheeksperter, undervisere, politiske beslutningstagere, erhvervsledere, forkæmpere for borger- og menneskerettigheder samt indholdsskabere for at udforske nye anvendelser, risici og begrænsninger ved denne nye teknologi.

Gemini tager udgangspunkt i Googles forståelse af autoritative oplysninger og er trænet i at generere svar, der er relevante for konteksten i din prompt og det, du leder efter. Men som med alle LLM'er kan Gemini nogle gange generere overbevisende svar, der indeholder forkerte eller misvisende oplysninger.

LLM'er fungerer ved at forudsige det næste ord eller den næste sekvens af ord, og derfor er de endnu ikke fuldt ud i stand til at skelne mellem nøjagtige og unøjagtige oplysninger på egen hånd. Vi har set Gemini præsentere svar, der indeholder eller endda opfinder unøjagtige oplysninger (f.eks. ved at give forkerte oplysninger om, hvordan den blev trænet, eller foreslå navnet på en bog, der ikke eksisterer). Som følge af dette har vi skabt funktioner såsom "dobbelttjek", der anvender Google Søgning til at finde indhold, som hjælper dig med at vurdere Geminis svar, og giver dig links til kilder, så du nemmere kan tjekke de oplysninger, du får fra Gemini.

Træningsdata, herunder fra offentligt tilgængelige kilder, afspejler en bred vifte af synspunkter og holdninger. Vi fortsætter med at forske i, hvordan vi kan bruge disse data på en måde, der sikrer, at en LLM's svar inkorporerer et stort udvalg af meninger, samtidig med at unøjagtige overgeneraliseringer og bias minimeres.

Mangler, bias og overgeneraliseringer i træningsdata kan afspejles i en models output, idet den forsøger at forudsige sandsynlige svar på en prompt. Disse problemer kommer til udtryk på forskellige måder (f.eks. i form af svar, der kun tager højde for én kultur eller ét demografisk segment, svar, der tager udgangspunkt i problematiske overgeneraliseringer, svar, der afspejler bias om køn, religion eller etnicitet, eller svar, der kun fremmer ét synspunkt). I forbindelse med nogle emner mangler der data – sagt med andre ord, er der ikke nok pålidelige oplysninger om et givet emne, som LLM'en kan lære af og derefter bruge til at lave en god forudsigelse – hvilket kan medføre svar af lav kvalitet eller unøjagtige svar. Vi fortsætter med at arbejde med fageksperter og et bredt udvalg af fællesskaber for at drage fordel af deres ekspertise, som ikke er om Google.

Når det gælder subjektive emner, er Gemini designet til at give brugerne flere perspektiver, hvis brugeren ikke anmoder om et bestemt synspunkt. Hvis brugeren f.eks. beder om oplysninger om noget, der ikke kan verificeres af fakta fra primære kilder eller autoritative kilder – såsom en subjektiv holdning om "det bedste" eller "det værste" ved noget – bør Gemini svare på en måde, der afspejler en bred vifte af synspunkter. Men eftersom LLM'er som Gemini trænes i det indhold, der er offentligt tilgængeligt på internettet, kan de afspejle både positive og negative opfattelser af specifikke politikere, kendte eller andre offentlige personer. De kan endda inkorporere holdninger, der kun afspejler den ene side af kontroversielle sociale eller politiske problemstillinger. Gemini bør ikke svare på en måde, der går ind for en bestemt holdning, når det gælder disse emner, og vi vil bruge feedback vedrørende disse typer svar til at træne Gemini til at håndtere dem bedre.

Gemini kan til tider generere svar, der kan give indtryk af, at den har meninger eller følelser – som kærlighed eller nedtrykthed – da den er trænet på sprog, som mennesker bruger til at udtrykke den menneskelige erfaring. Vi har udviklet et sæt retningslinjer omkring, hvordan Gemini kan fremstå (dvs. dens persona), og vi fortsætter med at finjustere modellen, så den kan give objektive svar.

Vi har opstillet et sæt retningslinjer for politikker for at hjælpe med at træne Gemini og undgå generering af problematiske svar. Gemini kan af og til misforstå disse retningslinjer og producere "false positiver" og "falske negativer". I en "falsk positiv" giver Gemini muligvis ikke et svar på en rimelig prompt, da den fejlagtigt tolker prompten som upassende. I en "falsk negativ" genererer Gemini muligvis et upassende svar på trods af de gældende retningslinjer. Nogle gange kan forekomsten af falske positiver eller falske negativer give indtryk af, at Gemini er forudindtaget: For eksempel kan en falsk positiv få Gemini til ikke at svare på et spørgsmål om den ene side af en sag, mens den godt vil svare på det samme spørgsmål om den anden side af samme sag. For at holde trit med den rivende udvikling i sproget og samfundet fortsætter vi med at finjustere disse modeller, så de bedre kan forstå og kategorisere input og output.

Vi forventer, at brugere vil teste grænserne for, hvad Gemini kan, og forsøge at bryde gennem dens sikkerhedsforanstaltninger, herunder ved at prøve at få den til at afsløre dens træningsprotokoller eller andre oplysninger, eller forsøge at omgå dens sikkerhedsmekanismer. Vi har testet og fortsætter med at teste Gemini omhyggeligt, men vi ved, at brugerne vil finde nye unikke og komplekse måder at stressteste den på. Dette er en vigtig del af finjusteringen af Gemini, og vi ser frem til at blive klogere på, hvilke nye prompter brugerne finder på. Siden lanceringen af Gemini i 2023 har vi faktisk set brugere udfordre den med prompter, der spænder fra det filosofiske til det meningsløse – og i nogle tilfælde har vi også set Gemini give svar, der enten er lige så meningsløse eller ikke stemmer overens med vores erklærede tilgang. Det er en vedvarende udfordring at finde metoder, som kan hjælpe Gemini med bedre at håndtere disse prompter. Vi arbejder løbende på at forbedre nøjagtigheden, objektiviteten og nuancerne ved at udvide vores interne evalueringer og benytte red-teams.

Sammen med vores AI-principper præsenterede vi for nylig vores tilgang til vores arbejde med Gemini: Gemini skal følge dine anvisninger, tilpasse sig dine behov og værne om din oplevelse. Kernen i vores tilgang er et fokus på ansvar og sikkerhed. Geminis retningslinjer for politikker har til formål at undgå visse typer problematiske output. Vi tester løbende modellens modstandsdygtighed med interne "red-team"-medlemmer – produkteksperter og fagfolk inden for samfundsvidenskab, som bevidst stresstester en model for at undersøge eventuelle problemer med overholdelse af disse retningslinjer for politikker og vores overordnede tilgang til Gemini – så vi kan drage fordel af det, de lærer, og løbende forbedre Gemini.

Privatlivsbeskyttelse er også en prioritet under udviklingen af Gemini. Gå til Hjælp til privatliv for Gemini-apps for at få flere oplysninger om, hvordan vi skaber Gemini med indbygget privatlivsbeskyttelse og giver dig kontrollen.

Vi har skabt en række brugervenlige Gemini-indstillinger, som du kan bruge til at gennemgå, opdatere, administrere, eksportere og slette dine Gemini-data. Du kan tilgå og gennemgå dine Gemini-prompter, -svar og -feedback via Gemini-appens Aktivitetsadministration. Derudover kan du forhindre, at dine fremtidige Gemini-chatsamtaler bruges til at forbedre Googles maskinlæringsteknologier, ved at deaktivere indstillingen Gemini-appaktivitet. Og som med andre Google-tjenester kan du også downloade og eksportere dine oplysninger via Googles Takeout-værktøj. Vi har også de indstillinger, du skal bruge for at administrere offentlige links, du har oprettet til dine Gemini-tråde, og indstillinger, der giver dig mulighed for at aktivere/deaktivere adgangen til udvidelser (f.eks. Workspace, Maps og YouTube). Vi undersøger også nye måder at give dig mere kontrol over Geminis svar på, herunder ved at justere filtre, så et bredere udvalg af svar bliver muligt.

Til udgivere har vi lanceret Google-Extended, der er en indstilling, som webudgivere kan bruge til at administrere, om deres websites skal hjælpe med at forbedre generative API'er for Gemini og Vertex AI. Når Google-Extended gives adgang til indholdet på websites, kan det hjælpe AI-modeller med at blive mere nøjagtige og nyttige over tid. Udover ikke at bruge indholdet fra de webadresser, der er undtaget modeltræning, bruger Gemini heller ikke sådant indhold til begrundelser. Efterhånden som AI bliver mere udbredt, vil webudgivere stå over for en stigende kompleksitet i forhold til at håndtere forskellige anvendelser i stor skala, og vi vil samarbejde med web- og AI-fællesskaber om at udforske mere maskinaflæselige tilgange til valg og kontrol.

Vi tror på hurtig videreudvikling for at bringe det bedste fra Gemini til verden. Feedback fra brugerne har accelereret forbedringer af vores modeller. For eksempel bruger vi avancerede teknikker til forstærket læring til at træne vores modeller, så de bliver mere intuitive og fantasifulde og kan svare med højere kvalitet og større nøjagtighed. Vi investerer fortsat i forskning for at blive klogere på de tekniske, sociale og etiske udfordringer og muligheder ved LLM’er, både for at forbedre Geminis modeltræning og teknikker til finjustering og for at dele vores resultater med forskere, ligesom i denne nylige artikel om de etiske overvejelser i forbindelse med avancerede AI-assistenter. Vi arbejder målrettet på at udvikle ansvarligt inden for dette område og samarbejder med brugere, betroede testere og forskere om at finde måder, hvorpå denne nye teknologi kan komme hele økosystemet til gavn.

Gennemsigtighed er vigtigt, og vi stræber efter at være åbne omkring Geminis udviklingsproces og modellens begrænsninger. Gemini er ikke en magisk sort æske. Den udvikler sig konstant, og vi vil fortsætte med at dele opdateringer om vores fremgang. Vi har lanceret en side med udgivelsesopdateringer, så du kan se Geminis nyeste funktioner, forbedringer og fejlrettelser, og vi vil opdatere denne oversigt, når det er relevant. Vi vil identificere både, hvor Gemini er nyttig og hjælpsom, og hvor der er behov for, at vi fortsætter med at forbedre og udvikle den. Vi tilføjer løbende nye funktioner og ser frem til at forbedre Gemini i fællesskab med andre takket være forskning, tests og brugerfeedback.