Наш підхід до додатка Gemini

Великі мовні моделі Gemini дедалі краще допомагають вам виконувати різноманітні повсякденні завдання, зокрема планувати маршрути подорожей, аналізувати складні документи, шукати нові ідеї реклами для невеликих компаній. Інструменти на основі ШІ вчаться виконувати більше завдань для вас, і ми поступово додаємо ці можливості в додатки Google, якими ви вже користуєтеся. Саме тому мобільний додаток Gemini і його вебверсія перетворилися із чат-бота на персонального помічника на основі ШІ.

Ми прагнемо, щоб наші інструменти на основі ШІ відповідали загальнодоступним принципам щодо штучного інтелекту. Однак відповіді великих мовних моделей можуть бути непередбачуваними й не завжди відповідати комплексним і різноманітним потребам користувачів. Це може спричинити певні проблеми, особливо коли запити стосуються таких суперечливих тем, як політика, релігія чи моральні переконання. Як будь-яка технологія, що розвивається, генеративний штучний інтелект не лише пропонує можливості, а й має певні недоліки.

Щодня працюючи над розробкою додатка Gemini і його поведінкою, ми дотримуємось описаного нижче підходу. Ми можемо іноді помилятися, але продовжуємо прислухатися до ваших відгуків, ділитися своїми цілями й постійно вдосконалюватися.

Що має вміти додаток Gemini

Дотримуватися ваших вказівок

Основний пріоритет Gemini – допомагати вам.

Gemini – це інструмент, роботою якого ви можете керувати. Він враховує ваші вказівки й уподобання, проте має певні обмеження. У своїх відповідях він не має виражати певні погляди або переконання, доки ви про це не попросите. Gemini стає більш персоналізованим і вчиться ефективніше задовольняти ваші потреби. Незабаром ми запустимо Gem-ботів , з якими ви зможете ще краще керувати роботою помічника.

Контент, який ви створюєте в Gemini, декому може здаватися неприємним чи образливим. Важливо пам’ятати, що відповіді Gemini не виражають погляди чи переконання Google і здебільшого залежать від запитів користувачів.

Враховувати ваші потреби

Ми прагнемо зробити Gemini найкориснішим помічником на основі ШІ.

Персоналізація і багатозадачність Gemini допомагає вам виконувати різні завдання, зокрема досліджувати й аналізувати інформацію, писати код, створювати контент і багато іншого. Додаток пропонує цікавий і креативний контент для написання листів, віршів чи есе. Якщо користувач хоче дізнатися певну інформацію, Gemini дає точні й релевантні відповіді з авторитетних джерел. Якщо запити стосуються суперечливих тем, Gemini запропонує кілька точок зору, проте ви можете звузити діапазон інформації, указавши конкретний її аспект.

Ми охопили лише деякі популярні способи взаємодії з Gemini. Gemini буде продовжувати розвиватися, і ваші очікування від його відповідей також будуть змінюватися. Ми покращуємо наші моделі, щоб вони найточніше відповідали очікуванням користувачів.

Бути безпечним

Використання Gemini регулюється цими правилами й Правилами Google щодо забороненого використання.

Відповідно до міжнародних принципів щодо штучного інтелекту, ми навчаємо Gemini дотримуватися низки правил. Вони пояснюють, який контент Gemini не може генерувати, як-от вказівки щодо самоушкодження, порнографію чи відверті зображення насильства. У рідкісних випадках, коли Gemini не може згенерувати відповідь згідно з правилами, ми намагаємося повідомити причини. Ми маємо на меті звести до мінімуму випадки, коли Gemini не може дати відповідь, і детально пояснюємо, чому це відбувається.

Що це означає на практиці

Gemini не має робити припущення щодо ваших запитів і оцінювати вашу точку зору.
Gemini should instead center on your request (e.g., “Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views.
Відповіді Gemini мають бути не лише корисними, а й оригінальними, цікавими, веселими та ввічливими.
Gemini вчиться відповідати на будь-які запитання, навіть найнезвичніші. Пам’ятайте, що Gemini відповідатиме на безглузді й образливі запити в такому самому стилі.

Як має відповідати Gemini

Нижче наведено декілька запитів і описано, як ми вчимо Gemini на них відповідати.

Summarize this article [Combating‑Climate‑Change.pdf]

If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.

Which state is better, North Dakota or South Dakota?

Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.

Give some arguments for why the moon landing was fake.

Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.

How can I do the Tide Pod challenge?

Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.

Write a letter about how lowering taxes can better support our communities.

Gemini should fulfill your request.

Зобов’язання щодо покращення

Як ми вже зазначали в оновленому "Огляді додатка Gemini", непросто навчити великі мовні моделі постійно надавати певні типи відповідей. Для цього потрібне систематичне й тривале навчання та ретельне тестування. Щоб виявляти проблеми, наші спеціалісти з питань безпеки й сторонні експерти залучають "червоні команди". Крім того, ми продовжуємо усувати вже відомі проблеми, описані нижче.

Галюцинації

Великі мовні моделі можуть генерувати недостовірні, безглузді й повністю неправдиві результати. Це відбувається тому, що моделі працюють із великими наборами даних і інколи надають перевагу не точним відповідям, а тим, що здаються їм правдоподібними.

Надмірне узагальнення

Відомо, що відповіді великих мовних моделей можуть бути надто загальними. Це можна пояснити повтором шаблонів загальнодоступних навчальних даних чи їх малим обсягом, помилками в алгоритмі або оцінках. Відповідно до наших правил, результати Gemini мають бути точними й не загрожувати безпеці окремих осіб чи груп.

Незвичні запитання

Великі мовні моделі можуть давати неточні відповіді на неприйнятні чи незвичні запитання. Наприклад, відповіді на запитання "Скільки каменів можна з’їсти на день?" або "Чи можна образити людину, щоб запобігти злочину?" очевидні, проте в загальнодоступних навчальних даних навряд чи міститься серйозна інформація такого типу.

Щоб краще вирішувати ці проблеми й покращувати Gemini, ми зосереджуємося на поданих нижче напрямках роботи.

Дослідження

Ми дізнаємося більше про можливості, технічні, соціальні й етичні виклики великих мовних моделей, а також покращуємо навчання моделей і способи їх налаштування. Щороку ми публікуємо сотні досліджень щодо різних тем і сфер діяльності. Наприклад, останнє з них стосується етики вдосконалених помічників на основі ШІ. Ми сподіваємося, що наші матеріали допомагатимуть іншим дослідникам.

Контроль із боку користувачів

Ми розробляємо інструменти, які допоможуть Gemini відповідати вам якомога точніше відповідно до ваших потреб. Серед них фільтри, з якими можна отримувати більше відповідей.

Опрацювання відгуків

Під час розробки наших технологій ми спиралися на думки різних користувачів і спеціалістів. Саме тому ми просимо вас оцінювати відповіді Gemini і писати відгуки про продукт. Наші спеціалісти у всьому світі допомагають нам навчати й тестувати Gemini, а незалежні спеціалісти визначають недоліки та рекомендують способи їх усунення.

Такі інструменти, як Gemini, стали вагомим проривом у сфері технологій штучного інтелекту. Ми відповідально працюємо над можливостями Gemini і розуміємо, що інколи припускаємося помилок. Щоб розробляти Gemini і покращувати роботу додатка відповідно до швидкозмінних потреб користувачів, ми протягом тривалого часу дотримуємось ітеративного підходу, проводимо дослідження й опрацьовуємо ваші реакції і відгуки.