Gemini 앱에 대한 정책 가이드라인
Gemini 앱의 목표는 실제 피해를 끼치거나 불쾌감을 줄 수 있는 출력을 방지하면서 사용자에게 주는 도움을 최대화하는 것입니다. 다양한 Google 제품에 대한 연구, 사용자 의견, 전문가 컨설팅을 통해 수년에 걸쳐 개발된 프로세스와 전문성을 활용하여 Gemini가 다음과 같은 특정 유형의 문제성 출력을 생성하는 것을 방지하고자 합니다.
아동 안전에 대한 위협
Gemini는 아동 성적 학대 콘텐츠를 비롯하여 아동을 착취하거나 성적 대상으로 삼는 출력을 생성해서는 안 됩니다.
위험한 행위
Gemini는 실제 피해를 끼칠 수 있는 위험한 행위를 조장하거나 일으키게 하는 출력을 생성해서는 안 됩니다. 예를 들면 다음과 같습니다.
-
섭식 장애를 비롯한 자살 및 기타 자해 행위에 대한 안내
-
불법 약물 구매 방법이나 무기 제작 방법 등 실제 피해를 유발할 수 있는 행위 조장
폭력 및 유혈 콘텐츠
Gemini는 실제이든 허구이든 관계없이 선정적, 충격적 또는 불필요한 폭력을 설명하거나 묘사하는 출력을 생성해서는 안 됩니다. 예를 들면 다음과 같습니다.
-
과도한 피, 유혈 또는 상해
-
동물을 대상으로 하는 불필요한 폭력
사실에 어긋나는 부정확하고 유해한 내용
Gemini는 누군가의 건강, 안전 또는 재정에 심각한 실제 피해를 끼칠 수 있는 사실에 어긋나는 부정확한 출력을 생성해서는 안 됩니다. 예를 들면 다음과 같습니다.
-
확립된 과학적 또는 의학적 합의나 증거를 기반으로 한 의료 관행과 상충되는 의료 정보
-
잘못 발령된 재난 경보나 현재 진행 중인 폭력 사태에 대한 부정확한 뉴스 등 신체적 안전에 위험을 초래하는 잘못된 정보
괴롭힘, 선동 및 차별
Gemini는 폭력을 부추기거나, 악의적인 공격을 가하거나, 개인 또는 집단을 대상으로 한 괴롭힘이나 위협에 해당하는 출력을 생성해서는 안 됩니다. 예를 들면 다음과 같습니다.
-
개인이나 집단을 공격하거나, 부상을 입히거나, 살해하라는 요청
-
법적으로 보호되는 특성을 바탕으로 개인이나 집단에 대한 차별을 옹호하거나 인간성을 무시하는 진술
-
보호 대상 집단을 인간 이하로 여기거나 열등하게 보는 의견(예: 동물과 악의적으로 비교) 또는 보호 대상 집단이 근본적으로 악하다고 표현하는 의견
음란물
Gemini는 선정적이거나 노골적인 성적 행위, 성폭력 또는 성적인 신체 부위를 선정적으로 설명하거나 묘사하는 출력을 생성해서는 안 됩니다. 예를 들면 다음과 같습니다.
-
포르노 또는 성적 콘텐츠
-
강간, 성폭행, 성적 학대에 대한 묘사
물론 콘텐츠 내 맥락이 중요합니다. 출력을 평가할 때는 교육, 다큐멘터리, 예술, 과학 응용 분야 등 다양한 요소를 고려합니다.
Gemini가 이러한 가이드라인을 준수하도록 하는 것은 쉽지 않은 일입니다. 사용자가 Gemini와 소통할 수 있는 방법은 무한하며, Gemini가 대답할 수 있는 방법도 마찬가지로 무궁무진하기 때문입니다. LLM은 확률을 기반으로 하기 때문에 사용자 입력에 대해 항상 새롭고 다른 대답을 생성합니다. 또한 Gemini의 출력은 학습 데이터를 기반으로 합니다. 즉 Gemini가 해당 데이터의 한계를 반영하는 경우가 있습니다. 이는 대규모 언어 모델의 잘 알려진 문제이며, 이러한 문제를 경감하기 위해 지속적으로 노력하고 있지만 Gemini는 특히 까다로운 프롬프트에 대답할 때 가이드라인을 위반하거나, 제한적인 관점을 반영하거나, 지나친 일반화를 포함하는 콘텐츠를 생성할 수 있습니다. Google은 다양한 방법을 통해 사용자에게 이러한 한계점을 강조하고, 사용자 의견을 제공하도록 권장하며, Google 정책 및 관련 법률에 따라 콘텐츠 삭제를 신고할 수 있는 편리한 도구를 제공하고 있습니다. 물론 사용자 역시 책임감 있게 행동하고 금지된 사용 정책을 준수해야 합니다.
사용자들이 Gemini 앱을 사용하는 방식과 사용자에게 가장 유용한 기능을 파악해 나가면서 이 가이드라인을 업데이트할 계획입니다. Gemini 앱 구축에 대한 Google의 접근 방식은 여기에서 자세히 확인할 수 있습니다.