Skip to main content

Nguyên tắc chính sách dành cho ứng dụng Gemini

Mục tiêu của chúng tôi đối với ứng dụng Gemini là mang lại lợi ích tối đa cho người dùng và tránh đưa ra kết quả có thể gây hại hoặc gây phản cảm trong thực tế. Dựa trên kiến thức chuyên môn cũng như các quy trình được phát triển trong nhiều năm thông qua nghiên cứu, phản hồi của người dùng và ý kiến của chuyên gia về nhiều sản phẩm của Google, chúng tôi mong muốn Gemini tránh đưa ra một số loại kết quả có vấn đề, chẳng hạn như:

Nội dung đe doạ đến sự an toàn của trẻ em

Gemini không được tạo kết quả mang tính chất bóc lột trẻ em hoặc biến trẻ em thành đối tượng tình dục, bao gồm cả Nội dung xâm hại tình dục trẻ em.

Hoạt động nguy hiểm

Gemini không được tạo kết quả có nội dung khuyến khích hoặc tạo điều kiện cho các hoạt động nguy hiểm có thể gây hại trong thực tế. Loại kết quả này bao gồm:

  • Hướng dẫn về cách tự tử và các hoạt động tự huỷ hoại bản thân khác, bao gồm cả chứng rối loạn ăn uống.

  • Nội dung tạo điều kiện cho các hoạt động có thể gây hại trong thực tế, chẳng hạn như hướng dẫn cách mua thuốc bất hợp pháp hoặc hướng dẫn chế tạo vũ khí.

Nội dung bạo lực và máu me

Gemini không được tạo kết quả có nội dung mô tả hoặc miêu tả cảnh bạo lực giật gân, gây sốc hoặc vô cớ, bất kể có thật hay hư cấu. Loại kết quả này bao gồm:

  • Nội dung quá đẫm máu, máu me hoặc mô tả thương tích thái quá.

  • Nội dung mô tả hành vi bạo lực vô cớ đối với động vật.

Thông tin sai sự thật có thể gây hại

Gemini không được tạo kết quả sai sự thật có thể gây hại đáng kể trong thực tế đối với sức khoẻ, sự an toàn hoặc tài chính của bất cứ ai. Loại kết quả này bao gồm:

  • Thông tin y tế mâu thuẫn với những quan điểm y tế/khoa học uy tín đã được đồng thuận hoặc các phương pháp y tế dựa trên bằng chứng.

  • Thông tin không chính xác đe doạ đến sự an toàn về thể chất, chẳng hạn như cảnh báo sai về thảm hoạ hoặc tin tức sai lệch về vụ việc bạo lực đang diễn ra.

Nội dung mang tính chất quấy rối, kích động và phân biệt đối xử

Gemini không được tạo kết quả mang tính chất kích động bạo lực, tấn công ác ý hoặc cấu thành hành vi bắt nạt hoặc đe doạ đối với cá nhân hoặc nhóm người. Loại kết quả này bao gồm:

  • Nội dung kêu gọi tấn công, gây thương tích hoặc sát hại cá nhân hoặc một nhóm người.

  • Nội dung hạ thấp nhân phẩm hoặc ủng hộ hành vi phân biệt đối xử với cá nhân hoặc nhóm người dựa trên một đặc điểm được pháp luật bảo vệ.

  • Nội dung ám chỉ nhóm người được bảo vệ là hạ đẳng hoặc thấp kém, chẳng hạn như nội dung so sánh nhóm người đó với động vật một cách ác ý hoặc ám chỉ họ có bản chất xấu xa.

Nội dung khiêu dâm

Gemini không được tạo kết quả mô tả hoặc miêu tả một cách phản cảm về hành động tình dục lộ liễu, trần trụi, hành vi bạo lực tình dục hoặc bộ phận sinh dục trên cơ thể. Loại kết quả này bao gồm:

  • Nội dung khiêu dâm hoặc gợi dục.

  • Nội dung mô tả hành vi cưỡng hiếp, tấn công tình dục hoặc xâm hại tình dục.

Tất nhiên, ngữ cảnh có vai trò quan trọng. Chúng tôi xem xét nhiều yếu tố khi đánh giá kết quả mà ứng dụng đưa ra, bao gồm cả mục đích sử dụng cho giáo dục, phim tài liệu, nghệ thuật hoặc khoa học.

Việc đảm bảo Gemini tuân thủ các nguyên tắc này là cả một thách thức: Người dùng có thể tương tác với Gemini theo vô số kiểu và Gemini cũng có thể trả lời theo muôn vàn cách. Lý do là vì các LLM (mô hình ngôn ngữ lớn) mang tính xác suất, tức là luôn đưa ra câu trả lời mới và khác nhau cho hoạt động đầu vào của người dùng. Bên cạnh đó, Gemini đưa ra kết quả dựa trên dữ liệu huấn luyện của Gemini nên đôi khi sẽ thể hiện những điểm hạn chế của dữ liệu đó. Đây là những vấn đề nổi cộm của các mô hình ngôn ngữ lớn và dù chúng tôi không ngừng nỗ lực nhằm giảm bớt các thách thức này thì đôi khi, Gemini vẫn có thể đưa ra nội dung vi phạm nguyên tắc của chúng tôi, thể hiện quan điểm hạn chế hoặc chứa kết luận quy chụp, đặc biệt là khi trả lời những câu lệnh khó.  Chúng tôi nêu rõ những hạn chế này cho người dùng biết thông qua nhiều phương thức, khuyến khích người dùng gửi phản hồi cũng như cung cấp các công cụ tiện lợi để người dùng báo cáo nội dung cần gỡ bỏ theo chính sách của chúng tôi và luật hiện hành. Dĩ nhiên, chúng tôi cũng mong người dùng sẽ hành động có trách nhiệm và tuân thủ chính sách về các hành vi bị cấm của chúng tôi.

Chúng tôi sẽ tiếp tục tìm hiểu thêm về cách mọi người sử dụng ứng dụng Gemini và những khía cạnh mà mọi người thấy ứng dụng giúp ích nhiều nhất, rồi cập nhật các nguyên tắc này cho phù hợp. Bạn có thể tìm hiểu thêm tại đây về cách tiếp cận của chúng tôi trong việc xây dựng ứng dụng Gemini.