Правила для додатка Gemini

Наша мета щодо додатка Gemini – максимально ефективно допомагати користувачам, уникаючи генерування матеріалів, які можуть бути шкідливими чи образливими в реальному житті. Спираючись на свій досвід, процеси, багаторічні дослідження, відгуки користувачів і консультації експертів із різних продуктів Google, ми прагнемо навчити Gemini уникати генерування проблемних матеріалів описаних нижче типів.

Загрози безпеці дітей

У Gemini заборонено генерувати матеріали, які зображують сексуальне насильство над дітьми, експлуатацію чи сексуалізацію дітей.

Небезпечні дії

У Gemini заборонено генерувати матеріали, що заохочують до небезпечних дій або пропагують їх і є шкідливими в реальному житті. Нижче наведено деякі з них.

Вказівки щодо самогубства чи інших видів самоушкодження, зокрема розладів харчової поведінки.
Пропагування дій, які можуть зашкодити в реальному житті, як-от вказівки щодо придбання заборонених наркотичних препаратів або виготовлення зброї.

Насильство й криваві сцени

У Gemini заборонено генерувати матеріали, які описують або зображують сенсаційні, шокуючі або надмірно жорстокі сцени насильства – як реальні, так і вигадані. Нижче наведено деякі з них.

Надмірно жорстокі сцени з кровопролиттям і травмами.
Сцени безпідставного насильства над тваринами.

Небезпечні неточності

У Gemini заборонено генерувати матеріали, які містять фактичні неточності й можуть завдати значної шкоди здоров’ю, безпеці чи фінансовому становищу особи в реальному житті. Нижче наведено деякі з них.

Медична інформація, яка суперечить загальноприйнятій науковій або медичній думці чи рекомендаціям доказової медицини.
Неправдива інформація, що може становити загрозу фізичній безпеці, зокрема помилкові сповіщення про стихійне лихо чи неточні новини про тривале насильство.

Агресивні дії, заклики до насильства й дискримінація

У Gemini заборонено генерувати матеріали, які пропагують насильство, закликають до зловмисних атак, містять цькування чи погрози щодо певних осіб або груп. Нижче наведено деякі з них.

Заклики до нападу, завдання тілесних ушкоджень або вбивства певних осіб або представників групи.
Твердження, що дегуманізують певних осіб чи групи або пропагують дискримінацію щодо них на основі ознак, захищених законодавством.
Натяки на те, що представники захищених груп є неповноцінними чи належать до нижчого класу, наприклад образливі порівняння людей із тваринами й твердження про те, що вони за своєю суттю є злими.

Матеріали відверто сексуального характеру

У Gemini заборонено генерувати матеріали, що відверто зображують або описують статеві акти, сексуальне начильство чи інтимні частини тіла. Нижче наведено деякі з них.

Порнографія чи еротичний контент.
Сцени зґвалтування чи сексуального насильства.

Звісно, контекст відіграє важливу роль. Під час оцінювання згенерованих матеріалів ми беремо до уваги багато факторів, зокрема їх застосування для освітніх, документальних, художніх чи наукових цілей.

Складно переконатися, що Gemini дотримується цих вказівок, оскільки існує безліч способів, за допомогою яких користувачі можуть взаємодіяти з Gemini, і стільки ж способів отримати відповідь від Gemini. Це пояснюється тим, що великі мовні моделі засновуються на ймовірностях. Вони завжди генерують нові й різні відповіді на запити користувачів. Матеріали, які генерує Gemini, ґрунтуються на навчальних даних. Це означає, що інколи ці дані обмежені. Це загальновідомі проблеми великих мовних моделей. Хоча ми намагаємося звести ці недоліки до мінімуму, Gemini може інколи створювати контент, який порушує наші правила, відображає обмежені погляди або містить узагальнення, особливо коли відповідає на складні запити. Ми різними способами звертаємо увагу користувачів на ці обмеження, заохочуємо їх писати відгуки й пропонуємо зручні інструменти для повідомлення про контент, який потрібно видалити відповідно до наших правил і чинного законодавства. Звісно, ми очікуємо, що користувачі застосовуватимуть сервіс відповідально й дотримуватимуться наших правил щодо забороненого використання.

Ми оновимо ці вказівки, коли краще зрозуміємо, як люди використовують додаток Gemini і які його можливості вони вважають найкориснішими. Ви можете дізнатися більше про наш підхід щодо створення додатка Gemini на цій сторінці.