Огляд додатка Gemini

По-перше, Gemini економить час. Скажімо, якщо вам потрібно підсумувати довгий документ із дослідженнями, його можна додати в Gemini і отримати корисну узагальнену інформацію. Gemini також допомагає працювати з кодом: це один із найпопулярніших способів використання нашого сервісу.

Крім того, з Gemini можна втілювати ідеї в життя й виконувати творчі завдання. Наприклад, якщо ви пишете публікацію для блогу, Gemini може створити план і згенерувати зображення, які проілюструють ваш допис. А незабаром із появою Gem-ботів ви зможете налаштовувати сервіс Gemini, додаючи конкретні вказівки, і використовувати його як експерта з певної теми, що допомагатиме з вашими завданнями.

Gemini можна використовувати, щоб розвивати ідеї чи вивчати нові теми. Наприклад, сервіс може пояснити складне поняття простими словами, поділитися корисними відомостями з певної теми або пояснити, що показано на зображенні. А незабаром він поєднуватиме ці відомості з рекомендованим контентом з усієї мережі, щоб ви могли продовжувати вивчати тему.

Можливості Gemini швидко розширюються: незабаром ви зможете навести камеру телефона на об’єкт, наприклад на Золоті ворота в Києві, і попросити Gemini розповісти про історію цієї визначної пам’ятки. Також Gemini зможе допомогти ознайомитися з меню в ресторані, написаним іншою мовою, і порекомендувати страву, яка вам найімовірніше сподобається. Це лише два приклади нових можливостей, які незабаром з’являться в Gemini.

Звичайно, ми ретельно тренуємо сервіс Gemini і спостерігаємо за його роботою, щоб ви отримували надійні результати, які відповідають вашим очікуванням. Ми також спілкуємося з профільними спеціалістами, освітянами, політиками, бізнес-лідерами, громадськими діячами, правозахисниками й авторами контенту, щоб дізнаватися про нові можливості застосування, ризики й обмеження цієї нової технології.

У своїй роботі Gemini використовує інформацію, яка з точки зору Google вважається авторитетною. Також сервіс навчений генерувати відповіді, які узгоджуються з контекстом вашого запиту й тим, що ви шукаєте. Але, як і всі великі мовні моделі, Gemini іноді може впевнено й переконливо генерувати відповіді, які містять неточну або оманливу інформацію.

Оскільки великі мовні моделі працюють, прогнозуючи одне чи кілька наступних слів, вони ще не повністю здатні самостійно розрізняти точну й неточну інформацію. Ми спостерігали, як Gemini дає відповіді, що містять неточні дані, або навіть придумує їх (наприклад, говорить неправду про своє навчання, або пропонує назву книги, якої не існує). У відповідь на це ми створили, наприклад, функцію перевірки, яка за допомогою Пошуку Google знаходить контент, що допоможе вам оцінити відповіді Gemini, і дає посилання на джерела, щоб ви могли підтвердити інформацію, яку ви отримуєте від Gemini.

Навчальні дані, зокрема відомості із загальнодоступних джерел, містять розмаїття точок зору й думок. Ми продовжуємо досліджувати, як використовувати ці дані так, щоб у відповідях велика мовна модель враховувала широкий спектр поглядів і водночас не допускала неточностей, що виникають через надмірні узагальнення й упередження.

Прогалини, упередження й надмірні узагальнення в навчальних даних можуть проявлятися в результатах роботи моделі, коли та намагається спрогнозувати ймовірні відповіді на запит. Ми бачимо, що ці проблеми проявляються по-різному (наприклад, відповіді можуть представляти лише одну культуру або демографічну групу, містити проблематичні надмірні узагальнення, гендерні, релігійні чи етнічні упередження або пропагувати лише одну точку зору). Давати якісні й точні відповіді на деякі теми заважають прогалини в даних. Іншими словами, якщо ми не маємо достатньо достовірної інформації про певну тему, велика мовна модель не зможе вивчити її і робити правильні прогнози. Ми постійно співпрацюємо з фахівцями з різних галузей і різноманітними спільнотами, щоб покращити якість інформації у сферах за межами спеціалізації Google.

Якщо на запит не можна відповісти об’єктивно, а користувач не просить пояснити конкретну точку зору, Gemini пропонує кілька різних поглядів. Наприклад, якщо користувач запитує інформацію, яку не можна перевірити за допомогою первинних даних або авторитетних джерел (зокрема суб’єктивну думку щодо того, що є "найкращим" або "найгіршим"), Gemini має відповісти так, щоб відобразити широкий спектр точок зору. Але оскільки такі великі мовні моделі, як Gemini, навчаються на загальнодоступному контенті з Інтернету, вони можуть відображати позитивні чи негативні погляди конкретних політиків, знаменитостей чи інших публічних осіб або навіть висвітлювати лише один бік суперечливих соціальних чи політичних проблем. У своїх відповідях Gemini не має схвалювати чи підтримувати певну точку зору стосовно таких тем, і ми покладаємося на відгуки користувачів про такі типи відповідей, щоб навчити Gemini краще реагувати на подібні запити.

Іноді сервіс Gemini може генерувати відповіді, які створюють враження, що в нього є думки або емоції, такі як любов чи смуток, оскільки він навчався на матеріалах, у яких відображено емоції і почуття людей. Ми розробили низку інструкцій для сервісу Gemini щодо того, як він може представляти себе (тобто свою особистість), і продовжуємо вдосконалювати модель, щоб забезпечити об’єктивність відповідей.

Ми розробили низку правил, які допомагають Gemini навчатися й уникати генерування проблемних відповідей. Іноді Gemini неправильно інтерпретує ці правила, через що з’являються хибнопозитивні й хибнонегативні результати. Тобто Gemini може не дати відповідь на коректний запит, помилково інтерпретувавши його як неприйнятний, або згенерувати неприйнятну відповідь попри наявні правила. Іноді через хибнопозитивні або хибнонегативні результати може скластися враження, що Gemini має упередження: наприклад, хибнопозитивний результат може призвести до того, що Gemini не відповідатиме на запитання про один аспект проблеми, але дасть відповідь про інший. Ми постійно вдосконалюємо моделі, щоб краще розуміти й класифікувати вхідні дані й результати, оскільки мова, події і суспільство стрімко розвиваються.

Ми очікуємо, що користувачі перевірятимуть межі можливостей сервісу Gemini і намагатимуться зламати системи захисту, зокрема змусити його розкрити протоколи навчання або іншу інформацію, а також спробувати обійти механізми безпеки. Ми ретельно протестували Gemini і продовжуємо це робити, проте усвідомлюємо, що користувачі й далі знаходитимуть унікальні складні способи випробувати сервіс. Це важливо для покращення Gemini, тож нам не терпиться дізнатися, що ще придумають користувачі. Від моменту запуску Gemini у 2023 році ми спостерігаємо, як користувачі випробовують сервіс, ставлячи йому найрізноманітніші запитання – від філософських до безглуздих. І в деяких випадках Gemini дає не менш безглузді відповіді, що не узгоджуються з нашими принципами. Ми працюємо над методами, які допоможуть Gemini належно реагувати на подібні запити, і продовжуємо вдосконалювати наші внутрішні процедури оцінювання, а також тестування за допомогою "червоних команд", щоб домогтися точності, об’єктивності й повноти результатів.

Крім принципів щодо ШІ, ми нещодавно сформулювали підхід до роботи над сервісом Gemini: наша мета – навчити його виконувати ваші вказівки, адаптуватися до ваших потреб і давати безпечні відповіді. В основі нашого підходу – увага до відповідальності й безпеки. Правила Gemini спрямовані на те, щоб уникати певних типів проблемних результатів. Наша внутрішня "червона команда", яка складається зі спеціалістів із продуктів і соціологів, постійно проводить тестування сервісу на стійкість до зловмисних запитів: вона навмисно навантажує модель, щоб перевірити її на відповідність цим правилам і нашому підходу до Gemini. На основі результатів таких тестувань ми регулярно покращуємо Gemini.

Під час розробки Gemini ми також враховуємо питання конфіденційності. У Центрі конфіденційності додатків Gemini можна дізнатися більше про те, як ми застосовуємо в роботі над Gemini підхід "проєктована конфіденційність", даючи вам змогу керувати своїми даними.

Ми створили різноманітні прості елементи керування Gemini, щоб ви могли переглядати, оновлювати, експортувати й видаляти свої дані в Gemini, а також керувати ними. Ви можете отримати доступ до своїх запитів до Gemini, відповідей на них і відгуків, а також переглянути їх за допомогою елементів керування історією дій у додатках Gemini. Крім того, ви можете заборонити нам використовувати ваші майбутні чати з Gemini для вдосконалення технологій машинного навчання Google, вимкнувши історію дій у додатках Gemini. Інформацію з Gemini, як і з інших сервісів Google, можна завантажувати й експортувати за допомогою інструмента Takeout від Google. Крім того, є елементи керування загальнодоступними посиланнями, які ви створюєте для ланцюжків у Gemini, і налаштування, що дають змогу ввімкнути чи вимкнути доступ до розширень (таких як Workspace, Карти або YouTube). Ми також працюємо над новими способами контролю відповідей Gemini, зокрема над можливістю налаштовувати фільтри, які допоможуть отримувати ширший діапазон результатів.

Для видавців вебсайтів ми запустили Google-Extended. Це елемент керування, за допомогою якого вони можуть дозволяти чи забороняти своїм сайтам покращувати Gemini і генеративні API із платформи Vertex AI. Завдяки доступу Google-Extended до контенту сайтів моделі штучного інтелекту із часом можуть стати точнішими й ефективнішими. Якщо видавець заборонив доступ до контенту на своєму сайті, Gemini не використовуватиме його ані для навчання моделей, ані для обґрунтування відповідей. Що більше штучний інтелект застосовується в різних сферах, то складніше видавцям вебсайтів керувати використанням свого контенту в потрібному масштабі. Ми співпрацюємо з ними, а також зі спільнотами, що спеціалізуються на ШІ, щоб знаходити нові способи вибору й контролю контенту, які підтримують машинне зчитування.

Ми вважаємо, що швидка реакція на відгуки й своєчасні оновлення допоможуть нам зробити сервіс Gemini якомога кориснішим і зручнішим для користувачів в усьому світі. Завдяки відгукам користувачів ми швидше вдосконалюємо наші моделі. Наприклад, ми використовуємо найсучасніші методи навчання з підкріпленням, щоб зробити наші моделі більш інтуїтивними й креативними, а також домогтися від них ще якісніших і точніших відповідей. Ми продовжуємо інвестувати в дослідження, щоб дізнаватися більше про технічні, соціальні й етичні виклики та можливості великих мовних моделей як для вдосконалення методів навчання й налаштування моделей Gemini, так і для того, щоб ділитися нашими знаннями з дослідниками (на кшталт нещодавньої статті про етичність роботи передових помічників на основі ШІ). Ми прагнемо впроваджувати інновації в цій сфері відповідально, а також співпрацювати з користувачами, довіреними тестувальниками й дослідниками, щоб знаходити способи, у які ця нова технологія може принести користь усій екосистемі.

Прозорість – важлива частина нашої роботи, і ми прагнемо бути відкритими щодо процесу розробки й обмежень Gemini. Наш сервіс – це не магічна чорна скринька. Він постійно розвивається, і ми й далі ділитимемося новинами про наш прогрес. На нашій сторінці Сповіщення про оновлення, які ми регулярно оновлюємо, ви можете дізнаватися про найновіші функції, покращення й виправлення помилок у Gemini. Ми продовжуємо вивчати, у чому сервіс Gemini корисний, а які його можливості потрібно покращувати. Ми активно додаємо нові можливості на основі постійних досліджень, тестувань і відгуків користувачів та будемо дуже раді вашому внеску у вдосконалення Gemini.