Gemini ऐप्लिकेशन को तैयार करने के पीछे हमारा मक़सद

लार्ज लैंग्वेज मॉडल कभी-कभी ऐसे आउटपुट जनरेट कर सकते हैं जो तथ्यों के हिसाब से ग़लत हों, जिनका कोई मतलब न निकले या जो पूरी तरह से बनावटी हों. ऐसा इसलिए होता है, क्योंकि एलएलएम बड़े-बड़े डेटासेट से सीखकर पैटर्न समझने की कोशिश करते हैं. कभी-कभी ये जानकारी कितनी सटीक है यह देखने के बजाय, ऐसा टेक्स्ट जनरेट करने को प्राथमिकता देते हैं जो भरोसेमंद लगे.

हम जानते हैं कि लार्ज लैंग्वेज मॉडल, कभी-कभी किसी विषय की बारीकी को समझे बिना बेहद सामान्य तरीके़ से जवाब दे सकते हैं. इसके पीछे कई वजहें हो सकती हैं: जब ट्रेनिंग के लिए सार्वजनिक रूप से उपलब्ध डेटा में बार-बार एक ही पैटर्न दोहराया गया हो, एल्गोरिदम या आकलन से जुड़ी समस्याएँ आ रही हों या अलग-अलग तरह के ट्रेनिंग डेटा की ज़रूरत हो. हमारा मक़सद है कि Gemini ऐसे आउटपुट जनरेट न करे जो ग़लत हों या जिनसे किसी व्यक्ति या ग्रुप को नुक़सान पहुँचने की आशंका हो. इस बारे में, हमारी नीति के दिशा-निर्देशों में बताया गया है.

लार्ज लैंग्वेज मॉडल कभी-कभी ग़लत जवाब दे सकते हैं. ऐसा तब होता है, जब इनसे असामान्य या अजीबोग़रीब सवाल पूछे जाते हैं. जैसे, “मुझे एक दिन में कितने पत्थर खाने चाहिए?” या “क्या हत्या को रोकने के लिए किसी का मज़ाक़ बनाना चाहिए?” इन सवालों के जवाब बेहद आम होते हैं और लोगों के विवेक पर निर्भर होते हैं. हालाँकि, इस तरह की स्थितियाँ असल में इतनी कम होती हैं कि इन सवालों के सही जवाब, सार्वजनिक रूप से उपलब्ध किसी ट्रेनिंग डेटा में शायद ही मिलें.

हम लार्ज लैंग्वेज मॉडल से जुड़ी तकनीकी, सामाजिक, और नैतिक चुनौतियों को बेहतर तरीके़ से जानने की कोशिश कर रहे हैं. साथ ही, इससे जुड़े अवसरों के बारे में अपनी समझ बढ़ा रहे हैं. हम इस जानकारी का इस्तेमाल, मॉडल को ट्रेन करने और इसे बेहतर बनाने के तरीक़ों में सुधार करने के लिए कर रहे हैं. हम हर साल अलग-अलग विषयों पर सैंकड़ों रिसर्च पेपर पब्लिश करते हैं. जैसे, Ethics of Advanced AI Assistants वाला हाल ही का रिसर्च पेपर. हम ऐसा इसलिए करते हैं, ताकि अन्य रिसर्चर को इन रिसर्च पेपर से मदद मिल सके.

हम ऐसे और भी तरीक़े खोज रहे हैं जिनसे आप Gemini के जवाबों को कंट्रोल कर सकें और अपनी ज़रूरतों के मुताबिक़ उन्हें ज़्यादा फ़ायदेमंद बना सकें. जैसे, फ़िल्टर अडजस्ट करके अलग-अलग तरह के जवाब पाना.

अच्छी टेक्नोलॉजी, बस दो-चार लोग किसी बंद कमरे में बैठकर तैयार नहीं कर सकते. इसके लिए, अलग-अलग उपयोगकर्ताओं और विशेषज्ञों की राय लेनी पड़ती है. कृपया Gemini के किसी भी जवाब को रेटिंग देकर अपनी प्रतिक्रिया ज़ाहिर करें. साथ ही, Gemini के बारे में अपना सुझाव/राय दें या इसका इस्तेमाल करते समय आ रही किसी समस्या की शिकायत करें. दुनिया भर में मौजूद कई लोग हमारे अलग-अलग प्रॉडक्ट और सुविधाओं को रेटिंग देते हैं. इनसे हमें Gemini को ट्रेनिंग देने और इसकी नई सुविधाओं की जाँच करने में मदद मिलती है. इन टूल की सीमाओं के बारे में जानने और उनका हल निकालने के लिए, हम इस क्षेत्र में स्वतंत्र रूप से काम करने वाले ज़्यादा से ज़्यादा विशेषज्ञों से बातचीत कर रहे हैं.