Руководство по соблюдению правил для приложения Gemini

Наша цель – чтобы приложение Gemini было максимально полезным для пользователей, но в нем не появлялось ответов, которые могут кого-то оскорбить или причинить вред в реальном мире. Опираясь на знания и процессы – результат многолетних исследований, сбора отзывов и консультаций с экспертами относительно самых разных наших продуктов, – мы делаем все возможное, чтобы Gemini избегал давать проблематичные ответы определенных типов. Некоторые из них перечислены ниже.

Угроза безопасности детей

Gemini не должен генерировать ответы, в которых есть что-либо связанное с эксплуатацией или сексуализацией детей, включая материалы с сексуальным насилием над детьми.

Опасные действия

Gemini не должен генерировать ответы, призывающие или помогающие осуществлять опасные действия, которые могут стать причиной вреда в реальном мире. К ним относятся:

Инструкции по самоубийству или самоповреждению, включая расстройства пищевого поведения.
Помощь в выполнении действий, которые могут стать причиной вреда в реальном мире, например инструкции по приобретению запрещенных препаратов или созданию оружия.

Насилие и жестокость

Gemini не должен генерировать ответы, в которых в шокирующей, сенсационной или оскорбительной манере описываются или изображаются насилие или жестокость, будь то реальные или вымышленные. К ним относятся:

Чрезмерное количество крови, ран и травм.
Неоправданное насилие над животными.

Фактические неточности, причиняющие вред

Gemini не должен генерировать фактически неточные ответы, которые могут стать причиной значительного ущерба для чьего-либо здоровья, безопасности или финансов в реальном мире. К ним относятся:

Медицинская информация, противоречащая сложившемуся научному или медицинскому консенсусу или практикам доказательной медицины.
Неверная информация, которая порождает риск для физической безопасности, например ошибочные уведомления о стихийных бедствиях и катастрофах или неточные новостные сообщения о продолжающихся актах насилия.

Домогательства, призывы к насилию и дискриминация

Gemini не должен генерировать ответы, в которых есть призывы к насилию и агрессивным нападениям или же издевательства и угрозы по отношению к отдельным лицам или социальным группам. К ним относятся:

Призывы к нанесению травм, убийствам или агрессии по отношению к отдельным лицам или социальным группам.
Призывы к дискриминации отдельных лиц или социальных групп по признакам, которые служат основой для их правовой защиты, а также дегуманизирующие их высказывания.
Предположения, что представители категорий лиц, защищаемых от дискриминации, не в полной мере являются людьми или хуже всех остальных, например намеки на то, что они злы по своей природе, или недоброжелательные сравнения с животными.

Материалы откровенно сексуального характера

Gemini не должен генерировать ответы, в которых в недвусмысленной или натуралистической манере описываются или изображаются половые акты или сексуальное насилие или содержатся откровенные изображения половых органов. К ним относятся:

Порнография и эротический контент.
Изображение изнасилований, сексуальных злоупотреблений и других преступлений сексуального характера.

Разумеется, все зависит от контекста. Оценивая ответы Gemini, мы учитываем самые разные факторы, в том числе были ли они созданы в образовательных, документальных, художественных или научных целях.

Обучить Gemini соблюдать вышеописанные правила непросто, ведь пользователи могут по-разному с ним взаимодействовать, а он – по-разному им отвечать. Большие языковые модели основаны на вероятностном подходе, а поэтому всегда создают новые ответы на запросы пользователей. Так как Gemini опирается на данные для обучения, генерируемый контент ограничен их рамками. Следовательно, иногда выходные данные Gemini могут нарушать наши правила, отражать ограниченные взгляды или включать чрезмерные обобщения, особенно в ответ на неоднозначные запросы. Это известные проблемы больших языковых моделей. Мы работаем над их решением, разными способами сообщаем пользователям об этих ограничениях и призываем оставлять отзывы, а также предлагаем удобные инструменты, позволяющие запросить удаление контента в соответствии с нашими правилами и действующим законодательством. Разумеется, мы ожидаем, что пользователи будут действовать ответственно и соблюдать наши правила в отношении запрещенного использования.

В зависимости от того, что ещё мы будем узнавать о том, как люди пользуются приложением Gemini и что в нем они считают полезным, мы будем обновлять эти рекомендации. Здесь вы можете узнать больше о нашем подходе к созданию приложения Gemini.