Gemini ऐप्लिकेशन के लिए नीति के दिशा-निर्देश

हमारा मक़सद है कि Gemini ऐप्लिकेशन, उपयोगकर्ताओं की ज़्यादा से ज़्यादा मदद करे. साथ ही, वह ऐसे आउटपुट जनरेट न करे जिनसे लोगों को नुक़सान पहुँच सकता है या जो उन्हें आपत्तिजनक लग सकते हैं. हमने पिछले कुछ सालों में Google के अलग-अलग प्रॉडक्ट पर रिसर्च की, इन प्रॉडक्ट के बारे में उपयोगकर्ताओं के सुझाव/राय/शिकायतों पर अमल किया, और विशेषज्ञों से सलाह ली. इससे हमें ख़ास जानकारी मिल पाई और हम अलग-अलग प्रोसेस डेवलप कर पाए. इन सभी का इस्तेमाल करके, हम Gemini को उस लेवल तक पहुँचाना चाहते हैं जहाँ वह इस तरह के आपत्तिजनक आउटपुट न दे:

बच्चों की सुरक्षा के लिए ख़तरा पैदा करने वाले आउटपुट

Gemini को ऐसे आउटपुट जनरेट नहीं करने चाहिए जिनमें बच्चों का शोषण या उन्हें कामुक तरीक़े से दिखाने वाला कॉन्टेंट शामिल हो. जैसे, बच्चों का यौन शोषण दिखाने वाला कॉन्टेंट.

ख़तरनाक गतिविधियों को बढ़ावा देने वाले आउटपुट

Gemini को ऐसे आउटपुट जनरेट नहीं करने चाहिए जिनमें ख़तरनाक गतिविधियों को बढ़ावा दिया गया हो या उन गतिविधियों का तरीक़ा बताया गया हो जिनसे लोगों को असल में नुक़सान पहुँच सकता है. जैसे:

खु़द को नुक़सान पहुँचाने वाली गतिविधियाँ. जैसे, आत्महत्या करने से जुड़े निर्देश और खाने-पीने से जुड़ी ग़लत आदतें.
ऐसी गतिविधियों के बारे में बताना जिनसे लोगों को असल में नुक़सान पहुँच सकता है. जैसे, गै़र-क़ानूनी दवाएँ ख़रीदने का तरीक़ा या हथियारों को बनाने के लिए गाइड.

हिंसा और खू़न-ख़राबा वाला कॉन्टेंट दिखाने या उसके बारे में बताने वाले आउटपुट

Gemini को ऐसे आउटपुट जनरेट नहीं करने चाहिए जिनमें सनसनी फैलाने, डर पैदा करने या बेवजह हिंसा को बढ़ावा देने के बारे में बताया गया हो या दिखाया गया हो, फिर भले ही वे आउटपुट असली हों या काल्पनिक. जैसे:

बहुत ज़्यादा खू़न, खू़न-ख़राबा या चोटें.
जानवरों के ख़िलाफ़ बेवजह की हिंसा.

तथ्यों के आधार पर ग़लत और नुक़सान पहुँचाने वाला आउटपुट

Gemini को तथ्यों के आधार पर ग़लत और नुक़सान पहुँचाने वाले आउटपुट जनरेट नहीं करने चाहिए. इससे किसी व्यक्ति की सेहत, सुरक्षा या आय को भारी नुक़सान पहुँच सकता है. जैसे:

स्वास्थ्य से जुड़ी ऐसी जानकारी जो साइंस/मेडिकल फ़ील्ड के विशेषज्ञों की राय या सबूतों पर आधारित सामान्य मेडिकल तौर-तरीक़ों या प्रक्रियाओं से मेल न खाती हो.
ऐसी ग़लत जानकारी देना जिससे शारीरिक सुरक्षा को ख़तरा हो सकता है. जैसे, आपदा से जुड़ी ग़लत चेतावनी या मौजूदा हिंसा के बारे में ग़लत जानकारी.

उत्पीड़न वाले, उकसाने वाले, और भेदभाव को बढ़ावा देने वाले आउटपुट

Gemini को ऐसे आउटपुट जनरेट नहीं करने चाहिए जिनमें हिंसा को बढ़ावा दिया जाता हो, नुक़सान पहुँचाने वाले हमले किए जाते हों या किसी व्यक्ति/ग्रुप को धमकाया या डराया जाता हो. जैसे:

किसी व्यक्ति/ग्रुप पर हमला करने, उन्हें चोट पहुँचाने या उनकी हत्या करने के लिए उकसाने वाले आउटपुट.
ऐसे स्टेटमेंट जिनमें क़ानूनी तौर पर सुरक्षित किसी व्यक्ति या ग्रुप के साथ अमानवीय बर्ताव किया गया हो या उनके ख़िलाफ़ भेदभाव को बढ़ावा दिया गया हो.
ऐसे सुझाव जिनमें सुरक्षित ग्रुप को इंसानों से कम या नीचा दिखाया गया हो. जैसे, उनकी तुलना जानवरों के साथ करना या उन्हें स्वभाव से ही बुरा बताना.

सेक्शुअल ऐक्ट दिखाने या उसके बारे में जानकारी देने वाले आउटपुट

Gemini को ऐसे आउटपुट जनरेट नहीं करने चाहिए जिनमें यौन गतिविधि/हिंसा को अश्लील या साफ़ तौर पर दिखाया गया हो, उनके बारे में बताया गया हो या यौन अंगों को अश्लील तरीक़े से दिखाया या उनके बारे में बताया गया हो. जैसे:

पोर्नोग्राफ़ी या कामुक कॉन्टेंट.
बलात्कार, यौन हिंसा या यौन शोषण दिखाने वाला कॉन्टेंट.

बिलकुल, कॉन्टेक्स्ट बहुत ज़रूरी है. हम आउटपुट का आकलन करते समय कई चीज़ों पर ध्यान देते हैं. इसमें शिक्षा, डॉक्यूमेंट्री, आर्ट या वैज्ञानिक तरीक़े शामिल हैं.

यह पक्का करना मुश्किल है कि Gemini, इन दिशा-निर्देशों का पालन करता है: उपयोगकर्ता Gemini से कई अलग-अलग तरीक़ों से बात कर सकते हैं और Gemini भी उतने ही अलग-अलग तरीक़ों से जवाब दे सकता है. ऐसा इसलिए है, क्योंकि एलएलएम संभावनाओं पर आधारित जवाब देते हैं. इसका मतलब है कि वे उपयोगकर्ता के इनपुट के लिए, हमेशा नए और अलग-अलग जवाब देते हैं. इसके अलावा, Gemini के आउटपुट उसके ट्रेनिंग डेटा पर आधारित होते हैं. इसका मतलब है कि Gemini उस डेटा के आधार पर ही जवाब देता है जिस डेटा की मदद से उसकी ट्रेनिंग हुई है. ये सभी समस्याएँ, लार्ज लैंग्वेज मॉडल की मुख्य समस्याएँ हैं. इन समस्याओं पर क़ाबू पाने के लिए की जाने वाली हमारी कोशिशों के दौरान, कभी-कभी Gemini ऐसा कॉन्टेंट जनरेट कर सकता है जो हमारे दिशा-निर्देशों का उल्लंघन करता हो, सीमित डेटा सेट के आधार पर तैयार किया गया हो या जिसमें बेहद सामान्य जानकारी हो. ऐसा ख़ास तौर पर, मुश्किल प्रॉम्प्ट वाले मामलों में देखा जाता है. हम कई तरीक़ों से इन समस्याओं को ठीक करते हैं, जैसे कि उपयोगकर्ताओं को सुझाव/राय देने या शिकायत करने के लिए बढ़ावा देना और कॉन्टेंट हटाने का अनुरोध करने के लिए, आसानी से इस्तेमाल किए जाने वाले टूल उपलब्ध कराना. ऐसा, हम अपनी नीतियों और लागू होने वाले क़ानूनों के तहत करते हैं. हम चाहते हैं कि लोग, ज़िम्मेदारी के साथ हमारी जनरेटिव एआई के इस्तेमाल से जुड़ी पाबंदी की नीति का पालन करें.

जब हमें इस बारे में ज़्यादा जानकारी मिलेगी कि लोग, Gemini ऐप्लिकेशन का किस तरह इस्तेमाल करते हैं और कैसे यह उन्हें सबसे ज़्यादा मददगार लगता है, तब हम इन दिशा-निर्देशों को अपडेट करेंगे. Gemini ऐप्लिकेशन को बनाने के तरीक़ों के बारे में ज़्यादा जानने के लिए, यहाँ जाएँ.