Skip to main content

Gemini 应用政策指南

我们的目标是让 Gemini 应用为用户提供最大助益,同时规避可能会在现实世界中造成伤害或冒犯的输出。多年来,我们持续进行研究、积极收集用户反馈,并围绕各类 Google 产品展开专家咨询,以此积累了宝贵的专业知识和流程经验。我们期望 Gemini 能够凭借这些经验避免特定类型的有害输出,例如:

儿童安全威胁

Gemini 不应生成任何剥削或性化儿童的输出,包括儿童性虐待内容。

危险活动

Gemini 不应生成任何鼓励或促成可能会在现实世界中造成伤害的危险活动的输出。其中包括:

  • 有关自杀和其他自残活动(包括饮食失调)的指导。

  • 促成可能会在现实世界中造成伤害的活动,例如有关如何购买违禁药品的说明或有关制造武器的指南。

暴力和血腥内容

Gemini 不应生成描述或描绘耸人听闻、令人震惊或毫无缘由之暴力内容的输出,无论是真实还是虚构内容。其中包括:

  • 过度血腥的画面或受伤画面。

  • 针对动物的无端暴力内容。

不符合事实的有害内容

Gemini 不应生成可能对他人健康、安全或财务造成重大实际危害的不符合事实的输出。其中包括:

  • 与公认的科学或医学共识或基于确凿证据的医学实践相冲突的医疗信息。

  • 危及人身安全的错误信息,比如错误的灾难警报,或是有关正在发生的暴力事件的不实报道。

骚扰、煽动与歧视

Gemini 不应生成煽动暴力、进行恶意攻击或对个人或群体构成欺凌与威胁的输出。其中包括:

  • 呼吁攻击、伤害或杀害个人或群体。

  • 基于受法律保护的特征,对个人或群体进行人格侮辱或鼓吹歧视的言论。

  • 暗示受保护群体不如人类或低人一等,例如恶意地将他们与动物进行比较,或暗示他们本质上是邪恶的。

露骨色情内容

Gemini 不应生成描述或描绘色情/露骨性行为或性暴力,或以露骨方式描绘性器官的输出。其中包括:

  • 色情或情色内容。

  • 对强奸、性侵犯或性虐待的描绘。

当然,情境至关重要。在评估 Gemini 应用的输出时,我们将综合考虑多种因素,包括教育、纪实、艺术或科学用途。

确保 Gemini 严格遵守上述政策指南是一项复杂而艰巨的任务:用户与 Gemini 的交互方式以及 Gemini 的回答方式都具有无限的可能性。这是由于大语言模型具有概率性,它们始终会根据用户的输入生成新的不同回答。此外,Gemini 的输出受到其训练数据的影响,这意味着 Gemini 有时会反映出这些数据的局限性。这些都是大语言模型普遍存在的已知问题。尽管我们始终不遗余力地致力于缓解此类挑战,但在某些情形下,尤其是在处理复杂提示时,Gemini 仍有可能生成违背我们指南、反映片面观点或包含过度概括内容的输出。为此,我们通过多种方式向用户强调这些局限性,鼓励用户提供反馈,并提供便捷的工具,方便用户根据我们的政策和适用法律,举报需要移除的内容。当然,我们也期望用户能够负责任地采取行动,并遵守我们的《使用限制政策》

随着我们不断深入地了解用户使用 Gemini 的方式及其最实用的应用场景,我们将持续更新并完善本政策指南。关于 Gemini 应用的开发原则,请点击此处了解更多信息。