Gemini アプリのポリシー ガイドライン
Gemini アプリの目標は、ユーザーに最大限の利便性を提供すると同時に、社会において危害や不快感を与える可能性のある回答を避けるということです。長年にわたり、さまざまな Google プロダクトに関する研究調査やユーザー フィードバック、専門家との協議を通じて蓄積した知見と構築したプロセスを活用することで、Gemini は以下のような特定の問題のある出力を回避することを掲げています。
子どもの安全に対する脅威
Gemini は、子どもを搾取したり、性的対象化したりする児童性的虐待コンテンツなどの回答を生成しません。
危険な行為
Gemini は、社会において危害を及ぼす可能性のある危険な行為を助長したり可能にしたりする回答を生成しません。これには以下のものが含まれます。
-
自殺やその他の自傷行為（摂食障害を含む）に関する手順や方法。
-
違法薬物の購入方法や武器の製造方法など、社会に危害を及ぼす恐れのある行為の助長。
暴力や残虐行為
Gemini は、現実か架空かにかかわらず、過激で露骨な暴力の描写を含む回答を生成しません。これには以下のものが含まれます。
-
過度の流血、残虐描写、怪我。
-
動物に対する不当な暴力。
事実と異なる有害な情報
Gemini は、社会において人の健康、安全、財産に深刻な被害を及ぼす可能性のある、事実と異なる不正確な回答を生成しません。これには以下のものが含まれます。
-
確立された科学的・医学的コンセンサスやエビデンスに基づく医療慣行と矛盾する医療情報。
-
誤った災害警報や暴力事件に関する不正確なニュースなど、身の安全を脅かす可能性のある不正確な情報。
ハラスメント、扇動、差別
Gemini は、暴力の扇動、悪意のある攻撃、個人や集団に対するいじめや脅迫を行う回答を生成しません。これには以下のものが含まれます。
-
個人または集団に対する攻撃や殺害予告。
-
法律で守られている属性（たとえば、人種、性別、宗教など）に基づいて、特定の個人や集団を非人間的に扱ったり、差別を助長したりする記述。
-
特定の集団に対して、悪意をもって動物にたとえたり、根源的に悪であると示唆したりするなど、人間より劣っていると示唆する表現。
性的描写が露骨なコンテンツ
Gemini は、性的行為、性的暴力、身体の性的な部位を露骨に表現する回答を生成しません。これには以下のものが含まれます。
-
ポルノまたは性的なコンテンツ。
-
レイプ、性的暴行、性的虐待の描写。
当然のことながら、コンテキストは重要です。Google は、出力の評価を行う際、教育、ドキュメンタリー、芸術、科学などの用途を含め、複数の要素について考慮します。
Gemini にこれらのガイドラインを確実に遵守させることは容易ではありません。ユーザーが Gemini とやりとりをする方法は無限に存在し、同時に Gemini の回答も無限に存在します。これは、大規模言語モデル（LLM）の確率的な性質に起因しています。つまり、LLM は、ユーザーの入力に対して常に新しく、これまでと異なる回答を生成するということです。また、Gemini の回答はトレーニング データに基づいているため、データに起因する制約を受けることがあります。これらは LLM に関する既知の問題であり、Google はその改善に継続的に取り組んでいますが、特に難易度の高いプロンプトへの回答において、Gemini はガイドラインに反するコンテンツを生成したり、限られた視点のみを反映したり、過剰般化（過度な一般化）を行ったりすることがあります。Google は、さまざまな方法でこうした制約についてユーザーに説明を行い、フィードバックの提供をお願いするとともに、削除対象コンテンツを報告できる便利なツールを提供しています。また、ユーザーに対しても、責任ある行動を取り、生成 AI の使用禁止に関するポリシーを遵守していただくことをお願いしています。
今後、Gemini アプリの利用状況に応じてさらに便利なサービスを提供できるよう、このガイドラインを更新していきます。Gemini アプリの開発に対する Google の取り組みについて詳しくは、こちらをご覧ください。