O prezentare generală a aplicației Gemini

În primul rând, Gemini te ajută să economisești timp. De exemplu, să presupunem că vrei să rezumi un document de cercetare lung. Poți să-l încarci în Gemini, care îți face o sinteză utilă. Gemini poate și să ofere ajutor cu activități de programare, aceasta devenind rapid una dintre cele mai populare situații de folosire.

În plus, Gemini te poate ajuta să dai viață ideilor tale și să-ți stimulezi creativitatea. De exemplu, dacă scrii o postare pe blog, Gemini poate să creeze o structură și să genereze imagini care te ajută să ilustrezi postarea. Și, întrucât în curând vor fi disponibile Gems, vei putea să personalizezi Gemini cu instrucțiuni specifice și să-i ceri să se comporte ca un expert în domeniu pentru a te ajuta să-ți atingi obiectivele personale.

Gemini poate fi un punct de pornire pentru explorarea ideilor și a lucrurilor despre care vrei să afli mai multe. De exemplu, poate să explice simplu un concept complex sau să afișeze informații relevante despre un subiect sau o imagine. Și, în curând, va asocia aceste informații cu conținut recomandat de pe web, ca să afli mai multe despre anumite subiecte.

Capacitățile serviciului Gemini se extind rapid. În curând, vei putea să îndrepți camera foto a telefonului spre un obiect, de exemplu, podul Golden Gate, și să-i ceri serviciului Gemini să-ți spună despre culoarea vopselei (dacă te întrebai, este „International Orange”). De asemenea, vei putea să-i ceri să te ajute să navighezi în meniul unui restaurant în altă limbă și să-ți recomande un preparat care ți-ar putea plăcea. Acestea sunt doar două exemple de capacități noi care vor fi în curând disponibile în Gemini.

Desigur, instruim și monitorizăm riguros serviciul Gemini, astfel încât răspunsurile sale să fie fiabile și să se ridice la înălțimea așteptărilor tale. În plus, discutăm cu experți în domeniu, profesori, factori de decizie, lideri politici, lideri în domeniul drepturilor civile și ale omului și creatori de conținut pentru a explora situații de folosire, riscuri și limitări noi ale acestei tehnologii emergente.

Gemini se bazează pe ceea ce Google consideră că sunt informații de încredere și este instruit pentru a genera răspunsuri relevante pentru contextul solicitării și bazate pe ceea ce cauți. Dar, la fel ca toate LLM-urile, Gemini poate uneori să genereze cu încredere și în mod convingător răspunsuri care conțin informații incorecte sau înșelătoare.

Întrucât LLM-urile funcționează estimând următorul cuvânt sau următoarele serii de cuvinte, nu sunt încă pe deplin capabile să facă singure distincția între informații corecte și incorecte. Am observat că uneori Gemini dă răspunsuri care conțin informații incorecte sau chiar inventează informații incorecte (de ex., denaturează adevărul despre modul în care a fost instruit sau sugerează titlul unei cărți care nu există). Ca răspuns, am creat funcții precum „Verifică încă o dată”, care folosesc Căutarea Google pentru a găsi conținut care te ajută să evaluezi răspunsurile date de Gemini și îți afișează linkuri spre surse pentru a te ajuta să verifici informațiile primite de la Gemini.

Datele de instruire, inclusiv din surse disponibile public, reflectă o diversitate de perspective și opinii. Continuăm să cercetăm modul de utilizare a acestor date astfel încât să ne asigurăm că răspunsul dat de un LLM încorporează o gamă largă de puncte de vedere, minimizând generalizările incorecte și prejudecățile.

Informațiile lipsă, prejudecățile și generalizările din datele de instruire se pot reflecta în datele de ieșire ale unui model când acesta încearcă să estimeze răspunsurile posibile la o solicitare. Observăm că aceste probleme se manifestă în mai multe moduri (de ex., răspunsuri care reflectă o singură cultură sau un singur grup demografic, conțin generalizări problematice, includ prejudecăți privind genul, convingerile religioase sau etnia sau promovează un singur punct de vedere). Pentru anumite subiecte, lipsesc informații. Cu alte cuvinte, nu sunt disponibile suficiente informații fiabile despre un anumit subiect pentru ca LLM-ul să învețe despre acesta, apoi să facă predicții utile. Aceasta poate duce la răspunsuri incorecte sau de calitate slabă. Continuăm să colaborăm cu experți în domeniu și diverse comunități pentru a ne baza pe cunoștințe aprofundate din afara Google.

Pentru chestiunile subiective, Gemini a fost conceput astfel încât să le prezinte utilizatorilor mai multe perspective dacă aceștia nu solicită un anumit punct de vedere. De exemplu, dacă i se solicită informații despre un subiect care nu poate fi verificat folosind date din surse primare sau surse de încredere, cum ar fi o părere subiectivă despre „cel mai bun” sau „cel mai rău”, Gemini trebuie să răspundă într-un mod care reflectă multe puncte de vedere. Dar întrucât LLM-urile ca Gemini sunt instruite folosind conținutul disponibil public pe internet, pot să reflecte păreri pozitive sau negative despre anumiți politicieni, anumite celebrități sau alte persoane publice sau chiar să încorporeze opinii părtinitoare legate de chestiuni sociale sau politice controversate. Gemini nu trebuie să răspundă într-un mod care susține un anumit punct de vedere despre aceste subiecte și vom folosi feedbackul despre aceste tipuri de răspunsuri pentru a instrui serviciul Gemini să le gestioneze mai bine.

Gemini poate uneori să genereze răspunsuri care par să sugereze că are opinii sau emoții, cum ar fi dragostea sau tristețea, deoarece a fost instruit cu limbajul folosit de oameni pentru a reflecta experiența umană. Am dezvoltat o serie de instrucțiuni privind modul în care se poate prezenta Gemini (adică profilul său) și optimizăm în continuare modelul pentru a oferi răspunsuri obiective.

Am implementat prevederi ale politicii pentru a instrui serviciul Gemini și a evita generarea de răspunsuri problematice. Gemini poate uneori să interpreteze greșit aceste prevederi, generând „rezultate fals pozitive” și „rezultate fals negative”. În cazul unui „rezultat fals pozitiv”, Gemini poate să nu dea un răspuns la o solicitare rezonabilă, interpretând-o greșit ca neadecvată, iar în cazul unui „rezultat fals negativ”, Gemini poate să genereze un răspuns neadecvat, în ciuda prevederilor implementate. Uneori, afișarea rezultatelor fals pozitive sau fals negative poate da impresia că Gemini are prejudecăți. De exemplu, un rezultat fals pozitiv poate determina serviciul Gemini să nu răspundă la o întrebare despre un aspect al unei probleme și poate să răspundă la aceeași întrebare despre alt aspect. Continuăm să optimizăm aceste modele pentru a înțelege și a clasifica mai bine datele de intrare și de ieșire în contextul evoluției rapide a limbajului, a evenimentelor și a societății.

Ne așteptăm ca utilizatorii să testeze limitele serviciului Gemini și să încerce să-i ocolească protecțiile, inclusiv să încerce să-l convingă să-și divulge protocoalele de instruire sau alte informații sau să-i ocolească mecanismele de siguranță. Am testat și continuăm să testăm riguros serviciul Gemini, dar știm că utilizatorii vor descoperi moduri unice și complexe de a-i testa limitele. Acesta este un aspect important al optimizării serviciului Gemini și așteptăm cu interes să aflăm noile solicitări pe care le vor crea utilizatorii. Într-adevăr, de la lansarea Gemini în 2023, am constatat că utilizatorii provoacă serviciul cu solicitări care variază de la filosofie la conținut fără sens și, în unele cazuri, am observat că Gemini dă răspunsuri care nu au nici ele sens sau nu respectă abordarea descrisă de noi. Crearea unor metode prin care să ajutăm serviciul Gemini să răspundă la acest tip de solicitări rămâne o provocare și am continuat să extindem evaluările interne și formarea de echipe roșii ca să facem îmbunătățiri continue pentru exactitate, obiectivitate și nuanțe.

Pe lângă Principiile noastre privind AI-ul, am descris recent abordarea privind activitățile noastre legate de Gemini: Gemini trebuie să urmeze instrucțiunile tale, să se adapteze în funcție de nevoile tale și să-ți protejeze experiența. Abordarea noastră este axată pe responsabilitate și siguranță. Prevederile politicii Gemini vizează evitarea anumitor tipuri de date de ieșire problematice. Desfășurăm teste cu solicitări malițioase împreună cu membri ai „echipelor roșii” interne (experți în produse și cercetători în domeniul rețelelor sociale care testează intenționat limitele unui model pentru a identifica nerespectarea acestor prevederi ale politicii și abordarea noastră principală pentru Gemini), astfel încât să putem să folosim concluziile și să îmbunătățim în permanență Gemini.

Și confidențialitatea este un aspect important în dezvoltarea serviciului Gemini. Ajutorul privind confidențialitatea în Aplicațiile Gemini conține mai multe informații despre cum dezvoltăm Gemini cu confidențialitate integrată, pentru ca tu să deții controlul.

Am creat diverse comenzi ușor accesibile pentru utilizatorii Gemini, astfel încât să consulți, să actualizezi, să gestionezi, să exporți și să-ți ștergi datele din Gemini. Poți să accesezi și să verifici solicitările tale către Gemini, răspunsurile și feedbackul folosind opțiunea Activitatea din Aplicațiile Gemini. În plus, poți să împiedici folosirea chaturilor tale Gemini viitoare pentru a îmbunătăți tehnologiile de învățare automată Google dacă dezactivezi setarea Activitatea din Aplicațiile Gemini. Și, la fel ca în cazul celorlalte servicii Google, poți și să descarci și să exporți informațiile tale folosind instrumentul Takeout de la Google. De asemenea, avem opțiuni care îți dau posibilitatea să gestionezi linkurile publice pe care le-ai creat în firele Gemini și să activezi sau să dezactivezi accesul la extensii (de ex., Workspace, Maps, YouTube). În plus, explorăm noi moduri de a-ți oferi mai mult control asupra răspunsurilor de la Gemini, inclusiv prin ajustarea filtrelor pentru a permite o gamă mai variată de răspunsuri.

Pentru editori, am lansat Google-Extended, o opțiune pe care editorii web o pot folosi pentru a stabili dacă site-urile lor contribuie la îmbunătățirea serviciului Gemini și a API-urilor generative Vertex AI. Permiterea accesului Google-Extended la conținutul site-urilor poate ajuta modelele AI să devină mai precise și mai capabile în timp. Pe lângă faptul că nu folosește conținutul de la adresele URL neînscrise pentru instruirea modelelor, Gemini nu va folosi acest conținut nici pentru ancorarea în fapte. Întrucât AI-ul este folosit pentru tot mai multe activități, editorii web vor avea de-a face cu un grad tot mai mare de complexitate a gestionării mai multor situații de folosire la scară largă și ne angajăm să interacționăm cu comunitățile web și AI pentru a explora mai multe abordări care pot fi citite de dispozitive privind alegerea și controlul.

Credem în iterația rapidă și în implementarea celor mai bune funcții Gemini. Feedbackul de la utilizatori a accelerat îmbunătățirile aduse modelelor noastre. De exemplu, folosim tehnici de învățare prin consolidare de ultimă generație pentru a instrui modelele, astfel încât să fie mai intuitive și mai creative și să dea răspunsuri de calitate mai bună și mai precise. Continuăm să investim în cercetare pentru a afla mai multe despre provocările și oportunitățile tehnice, sociale și etice ale LLM-urilor, atât pentru a îmbunătăți tehnicile de instruire și ajustare a modelelor Gemini, cât și pentru a le transmite concluziile noastre cercetătorilor, cum ar fi acest document recent despre Etica asistenților AI avansați. Ne dorim să inovăm în acest domeniu în mod responsabil, colaborând cu utilizatori, testeri de încredere și cercetători pentru a descoperi modalități prin care aceste tehnologii noi pot fi folosite în beneficiul întregului ecosistem.

Transparența este importantă și ne luăm angajamentul să fim deschiși cu privire la procesul de dezvoltare și limitările serviciului Gemini. Gemini nu este o cutie neagră magică. Evoluează în permanență și vom continua să publicăm noutăți despre progresul nostru. Am lansat pagina Actualizări ale versiunii ca să afli despre cele mai recente funcții, îmbunătățiri și remedieri ale erorilor din Gemini și vom actualiza această prezentare, dacă este cazul. Vom identifica situațiile în care Gemini este util și domeniile în care trebuie în continuare să repetăm și să facem îmbunătățiri. Adăugăm activ capacități noi, și așteptăm cu interes să îmbunătățim Gemini împreună prin cercetare și testare continue și feedback de la utilizatori.