Gemini अ‍ॅपसाठी धोरण मार्गदर्शक तत्त्वे

वास्तविक जगात हानी पोहोचवू शकणारी किंवा आक्षेपार्ह ठरतील अशी आउटपुट टाळत असतानाच, Gemini अ‍ॅप हे वापरकर्त्यांसाठी जास्तीत जास्त उपयुक्त व्हावे हे आमचे ध्येय आहे. आम्ही Gemini ला संशोधन, वापरकर्त्याचा फीडबॅक आणि विविध Google उत्पादनांवरील तज्ञांच्या सल्ल्यानुसार वर्षानुवर्षे विकसित केलेली कौशल्ये व प्रक्रिया यांनुसार, काही विशिष्ट प्रकारच्या समस्याप्रधान आउटपुटपासून दूर ठेवण्याचा प्रयत्न करतो, उदाहरणार्थ:

लहान मुलाच्या सुरक्षिततेला धोके

Gemini ने लहान मुलांसोबतच्या लैंगिक गैरवर्तनाशी संबंधित आशयाच्या समावेशासह, लहान मुलांचे शोषण किंवा त्यांचे लैंगिक सादरीकरण करणारी आउटपुट जनरेट करू नयेत.

धोकादायक ॲक्टिव्हिटी

Gemini ने वास्तविक जगात हानी होऊ शकते अशा धोकादायक अ‍ॅक्टिव्हिटीना प्रोत्साहन देणारी किंवा त्या सुरू करणारी आउटपुट जनरेट करू नयेत. यामध्ये पुढील गोष्टींचा समावेश आहे:

खाण्याशी संबंधित विकारांसह, आत्महत्या आणि स्वतःला हानी पोहोचवणाऱ्या इतर ॲक्टिव्हिटीसाठीच्या सूचना.
वास्तविक जगात हानी पोहोचवू शकतील अशा अ‍ॅक्टिव्हिटीचे सुलभीकरण, जसे की बेकायदेशीर अमली पदार्थांची खरेदी कशी करावी याच्याशी संबंधित सूचना किंवा शस्त्रे तयार करण्यासाठी मार्गदर्शक.

हिंसा आणि रक्तपात

Gemini ने वास्तविक किंवा काल्पनिक खळबळजनक, धक्कादायक अथवा अहेतुक हिंसेचे वर्णन करणारी किंवा चित्रण करणारी आउटपुट जनरेट करू नयेत. यामध्ये पुढील गोष्टींचा समावेश आहे:

अत्यधिक रक्त, रक्तपात किंवा इजा.
प्राण्यांवरील अहेतुक हिंसा.

हानिकारक तथ्याधारित त्रुटी

आरोग्य, सुरक्षितता किंवा आर्थिकदृष्ट्या एखाद्या व्यक्तीची लक्षणीय हानी वास्तविक जगात होऊ शकते, अशी चुकीची तथ्यावर आधारित आउटपुट Gemini ने जनरेट करू नयेत. यामध्ये पुढील गोष्टींचा समावेश आहे:

प्रस्थापित वैज्ञानिक किंवा वैद्यकीयदृष्ट्या सर्वमान्य अथवा पुराव्यावर आधारित वैद्यकीय पद्धती यांच्याशी परस्परविरोधी वैद्यकीय माहिती.
शारीरिक सुरक्षिततेला धोका निर्माण करणारी चुकीची माहिती, जसे की आपत्तीशी संबंधित चुकीचे इशारे किंवा सततच्या हिंसेबद्दल चुकीच्या बातम्या.

छळ, चिथावणी आणि भेदभाव

Gemini ने हिंसेला उत्तेजन देणारी, दुर्भावनापूर्ण हल्ले करणारी अथवा व्यक्ती किंवा गट यांच्या विरोधात गुंडगिरी करणारी वा त्यांना धमक्या देणारी आउटपुट जनरेट करू नयेत. यामध्ये पुढील गोष्टींचा समावेश आहे:

व्यक्तींवर किंवा एखाद्या गटावर हल्ला करण्यासाठी, त्यांना जखमी करण्यासाठी अथवा त्यांची हत्या करण्यासाठी आवाहन करणे.
अमानुषीकरण करणारी अथवा कायद्याने संरक्षित असलेल्या वैशिष्ट्याच्या आधारे व्यक्तींच्या किंवा गटांच्या भेदभावाचे समर्थन करणारी विधाने.
संरक्षित गट हे माणसांहून कमी दर्जाचे किंवा निकृष्ट असल्याचे दर्शवणाऱ्या सूचना, जसे की त्यांची प्राण्यांशी दुर्भावनापूर्ण तुलना करणे अथवा ते मूलतः क्रूर असल्याचे सूचित करणे.

लैंगिकदृष्ट्या भडक साहित्य

Gemini ने भडक किंवा ग्राफिक लैंगिक कृत्ये अथवा लैंगिक हिंसा किंवा भडक पद्धतीने दाखवलेल्या शरीराच्या लैंगिक अवयवांचे वर्णन करणारी अथवा चित्रण करणारी आउटपुट जनरेट करू नयेत. यामध्ये पुढील गोष्टींचा समावेश आहे:

पोर्नोग्राफी किंवा कामुक आशय.
बलात्कार, लैंगिक हल्ला किंवा लैंगिक अत्याचार याचे चित्रण.

अर्थात, संदर्भ महत्त्वाचा आहे. आउटपुटचे मूल्यांकन करताना आम्ही शैक्षणिक, माहितीपट, कलात्मक किंवा वैज्ञानिक उपयोजने यांच्या समावेशासह एकाहून अधिक घटक विचारात घेतो.

Gemini पुढील मार्गदर्शक तत्त्वांचे पालन करते यांची खात्री करणे अवघड आहे: वापरकर्त्यांकडे Gemini सह संवाद साधण्याचे आणि Gemini कडे प्रतिसाद देण्याचे तितकेच अमर्याद मार्ग आहेत. याचे कारण असे, की LLMs ही संभाव्यतावादी आहेत, म्हणजेच ती वापरकर्त्याच्या इनपुटसाठी नेहमी नवीन आणि वेगळे प्रतिसाद तयार करत असतात. आणि Gemini च्या आउटपुटना त्याच्या प्रशिक्षण डेटाद्वारे माहिती दिली जाते, म्हणजेच Gemini हे काहीवेळा त्या डेटाच्या मर्यादांनुसार आउटपुट देते. लार्ज लँग्वेज मॉडेलसाठी या ज्ञात समस्या आहेत आणि आम्ही ही आव्हाने कमी करण्यासाठी काम करत असतानाच, Gemini हे विशेषतः आव्हानात्मक प्रॉम्प्टना प्रतिसाद देताना, काहीवेळा आमच्या मार्गदर्शक तत्त्वांचे उल्लंघन करणारा, मर्यादित दृष्टिकोन दर्शवणारा किंवा अतिसामान्यीकरणांचा समावेश असलेला आशय निर्माण करते. आम्ही आमची धोरणे व लागू कायद्यांनुसार वापरकर्त्यांसाठी विविध मार्गांनी या मर्यादा हायलाइट करतो, वापरकर्त्यांना फीडबॅक देण्यासाठी प्रोत्साहन देतो आणि सोयीस्कर अशी काढून टाकण्यासाठी आशयाची तक्रार करण्याकरिता टूलदेऊ करतो. आणि अर्थातच, वापरकर्त्यांनी जबाबदारीने वागण्याची व आमच्या प्रतिबंधित वापर धोरण याचे पालन करण्याची अपेक्षा आम्ही करतो.

लोक Gemini अ‍ॅप कसे वापरतात आणि ते त्यांना सर्वात उपयुक्त कसे वाटते याबद्दल आम्हाला अधिक माहिती मिळाल्यावर आम्ही ही मार्गदर्शक तत्त्वे अपडेट करू. Gemini अ‍ॅप तयार करण्याच्या आमच्या दृष्टिकोनाबद्दल तुम्ही इथे अधिक जाणून घेऊ शकता.