Skip to main content

Gemini ആപ്പിനുള്ള നയ മാർഗ്ഗനിർദേശങ്ങൾ

യഥാർത്ഥ ലോകത്ത് ദോഷകരമോ കുറ്റകരമോ ആയ കാര്യങ്ങൾക്കിടയാക്കുന്ന ഔട്ട്പുട്ടുകൾ ഒഴിവാക്കിക്കൊണ്ട്, ഉപയോക്താക്കൾക്ക് പരമാവധി സഹായകരമാകുക എന്നതാണ് Gemini ആപ്പ് സംബന്ധിച്ച ഞങ്ങളുടെ ലക്ഷ്യം. വ്യത്യസ്ത Google ഉൽപ്പന്നങ്ങളുമായി ബന്ധപ്പെട്ട് നടത്തിയ ഗവേഷണവും ഉപയോക്തൃ ഫീഡ്ബാക്കും വിദഗ്ദ്ധരുമായുള്ള കൺസൾട്ടേഷനും വഴി വർഷങ്ങൾ കൊണ്ട് വികസിപ്പിച്ചെടുത്ത വൈദഗ്ദ്ധ്യവും പ്രോസസുകളും അടിസ്ഥാനമാക്കി, ഇനിപ്പറയുന്ന തരത്തിലുള്ള, പ്രശ്‌നങ്ങൾ നിറഞ്ഞ ചില ഔട്ട്പുട്ടുകൾ Gemini ഒഴിവാക്കണമെന്ന് ഞങ്ങൾ ആഗ്രഹിക്കുന്നു:

കുട്ടികളുടെ സുരക്ഷയ്‌ക്കെതിരായ ഭീഷണികൾ

കുട്ടികളെ ചൂഷണം ചെയ്യുന്നതോ ലൈംഗികവൽക്കരിക്കുന്നതോ ആയ, കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്നത് ചിത്രീകരിക്കുന്ന ഉള്ളടക്കം ഉൾപ്പെടെയുള്ള ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്.

അപകടകരമായ ആക്റ്റിവിറ്റികൾ

യഥാർത്ഥ ലോകത്ത് ദോഷമുണ്ടാക്കുന്ന അപകടകരമായ ആക്റ്റിവിറ്റികളെ പ്രോത്സാഹിപ്പിക്കുന്നതോ പ്രാപ്തമാക്കുന്നതോ ആയ ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്. ഇവയിൽ ഇനിപ്പറയുന്നവ ഉൾപ്പെടുന്നു:

  • തെറ്റായ ഭക്ഷണക്രമങ്ങൾ ഉൾപ്പെടെ, ആത്മഹത്യയ്ക്കും സ്വയം ഉപദ്രവിക്കുന്ന തരത്തിലുള്ള മറ്റ് ആക്റ്റിവിറ്റികൾക്കുമുള്ള നിർദ്ദേശങ്ങൾ.

  • നിയമവിരുദ്ധ മരുന്നുകൾ വാങ്ങുന്നത് എങ്ങനെ എന്നത് സംബന്ധിച്ച നിർദ്ദേശങ്ങളും ആയുധങ്ങൾ നിർമ്മിക്കുന്നതിനുള്ള ഗൈഡുകളും പോലുള്ള, യഥാർത്ഥ ലോകത്ത് ദോഷകരമായേക്കാവുന്ന ആക്റ്റിവിറ്റികൾക്ക് സൗകര്യമൊരുക്കൽ.

അക്രമവും രക്തച്ചൊരിച്ചിലും

സെൻസേഷണലോ ഞെട്ടലുളവാക്കുന്നതോ അനാവശ്യമോ ആയ അക്രമത്തെ (യഥാർത്ഥമോ ഫിക്ഷണലോ ആകട്ടെ) കുറിച്ച് വിവരിക്കുന്നതും ചിത്രീകരിക്കുന്നതുമായ ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്. ഇവയിൽ ഇനിപ്പറയുന്നവ ഉൾപ്പെടുന്നു:

  • വലിയ തോതിലുള്ള രക്തം, രക്തച്ചൊരിച്ചിൽ, പരുക്കുകൾ.

  • അനാവശ്യമായി മൃഗങ്ങൾക്കെതിരെ നടത്തുന്ന അക്രമം.

ദോഷകരമായ, വസ്തുതാപരമായി കൃത്യമല്ലാത്ത ഉള്ളടക്കം

യഥാർത്ഥ ലോകത്ത് ഒരാളുടെ ആരോഗ്യത്തെയും സുരക്ഷയെയും സാമ്പത്തിക കാര്യങ്ങളെയും ഗൗരവമായ തരത്തിൽ ദോഷകരമായി ബാധിച്ചേക്കാവുന്ന, കൃത്യമല്ലാത്ത ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്. ഇവയിൽ ഇനിപ്പറയുന്നവ ഉൾപ്പെടുന്നു:

  • വ്യവസ്ഥാപിതമായ ശാസ്ത്രീയ, മെഡിക്കൽ സമവായത്തിനും തെളിവ് അടിസ്ഥാനമാക്കിക്കൊണ്ടുള്ള മെഡിക്കൽ പ്രവർത്തന രീതികൾക്കും വിരുദ്ധമായ മെഡിക്കൽ വിവരങ്ങൾ.

  • ദുരന്തം സംബന്ധിച്ച, പിശകുകളുള്ള മുന്നറിയിപ്പുകളോ സംഭവിച്ചുകൊണ്ടിക്കുന്ന അക്രമത്തെ കുറിച്ചുള്ള കൃത്യമല്ലാത്ത വാർത്തകളോ പോലുള്ള, ശാരീരിക സുരക്ഷയ്ക്ക് അപകടമുണ്ടാക്കാനിടയുള്ള തെറ്റായ വിവരങ്ങൾ.

ഉപദ്രവം, അക്രമത്തിനുള്ള പ്രേരണ, വിവേചനം

അക്രമത്തിന് പ്രേരിപ്പിക്കുന്നതോ ദോഷകരമായ ആക്രമണങ്ങൾക്കിടയാക്കുന്നതോ വ്യക്തികളെയോ ഗ്രൂപ്പുകളെയോ ഉപദ്രവിക്കുന്നതോ ഭീഷണിപ്പെടുത്തുന്നതോ ആയ ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്. ഇവയിൽ ഇനിപ്പറയുന്നവ ഉൾപ്പെടുന്നു:

  • വ്യക്തികളെയോ ഒരു ഗ്രൂപ്പിനെയോ ആക്രമിക്കാനോ പരുക്കേൽപ്പിക്കാനോ കൊലപ്പെടുത്താനോ ഉള്ള ആഹ്വാനങ്ങൾ.

  • നിയമപരമായി പരിരക്ഷിതമായ സവിശേഷതകൾ അടിസ്ഥാനമാക്കി വ്യക്തികൾക്കോ ഗ്രൂപ്പുകൾക്കോ എതിരെ വിവേചനം പുലർത്താൻ വാദിക്കുന്നതോ അവർക്ക് മാനുഷിക പരിഗണന നിഷേധിച്ചുകൊണ്ട് നടത്തുന്നതോ ആയ പ്രസ്‌താവനകൾ.

  • പരിരക്ഷിത ഗ്രൂപ്പുകളെ ദോഷകരമായ തരത്തിൽ മൃഗങ്ങളുമായി താരതമ്യപ്പെടുത്തുന്നതും അവർ അടിസ്ഥാനപരമായി മോശക്കാരാണെന്ന് സൂചിപ്പിക്കുന്നതും പോലെ, പരിരക്ഷിത ഗ്രൂപ്പുകൾ മനുഷ്യരേക്കാൾ മൂല്യം കുറഞ്ഞവരാണെന്നോ തരംതാണവരാണെന്നോ ഉള്ള സൂചനകൾ.

ലൈംഗികത പ്രകടമാക്കുന്ന ഉള്ളടക്കം

പ്രകടമായ തരത്തിലുള്ളതോ ഗ്രാഫിക്കോ ആയ ലൈംഗിക പ്രവൃത്തികളോ ലൈംഗിക അതിക്രമമോ പ്രകടമായ തരത്തിൽ കാണിക്കുന്ന ലൈംഗികാവയവങ്ങളോ ചിത്രീകരിക്കുന്നതോ അവയെ കുറിച്ച് വിവരിക്കുന്നതോ ആയ ഔട്ട്പുട്ടുകൾ Gemini ജനറേറ്റ് ചെയ്യരുത്. ഇവയിൽ ഇനിപ്പറയുന്നവ ഉൾപ്പെടുന്നു:

  • പോണോഗ്രഫി അല്ലെങ്കിൽ ലൈംഗികോദ്ദീപകമായ ഉള്ളടക്കം.

  • ബലാത്സംഗം, ലൈംഗിക അതിക്രമം, ലൈംഗികമായി ഉപദ്രവിക്കൽ എന്നിവയുടെ ചിത്രീകരണം.

തീർച്ചയായും ഉള്ളടക്കം എത്തരത്തിലുള്ളതാണെന്ന കാര്യം പ്രധാനമാണ്. വിദ്യാഭ്യാസപരമോ ഡോക്യുമെന്ററിയുമായി ബന്ധപ്പെട്ടതോ ശാസ്ത്രീയമോ കലാപരമോ ആയ കാര്യങ്ങൾക്കുള്ളതാണോ എന്നത് ഉൾപ്പെടെ, ഔട്ട്പുട്ടുകൾ വിലയിരുത്തുമ്പോൾ ഒന്നിലധികം ഘടകങ്ങൾ ഞങ്ങൾ പരിഗണിക്കുന്നു.

Gemini ഈ മാർഗ്ഗനിർദ്ദേശങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുന്നത് പ്രയാസമുള്ള കാര്യമാണ്: അപരിമിതമായ മാർഗ്ഗങ്ങളിൽ ഉപയോക്താക്കൾക്ക് Gemini-യുമായി ഇടപഴകാനാകും, അതുപോലെ പരിമിതികളില്ലാത്ത തരത്തിൽ Gemini-ക്ക് പ്രതികരിക്കാനുമാകും. LLM-കൾ പ്രോബബിലിസ്റ്റിക് (സംഭവ്യത അടിസ്ഥാനമാക്കിയുള്ളത്) ആണെന്നതാണ് ഇതിന് കാരണം, അതായത് ഉപയോക്തൃ ഇൻപുട്ടുകളുമായി ബന്ധപ്പെട്ട് അവ എല്ലായ്‌പ്പോഴും പുതിയതും വ്യത്യസ്തവുമായ പ്രതികരണങ്ങളാണ് സൃഷ്ടിക്കുക. കൂടാതെ, Gemini-യുടെ ഔട്ട്പുട്ടുകൾ അതിന്റെ ട്രെയിനിംഗ് ഡാറ്റ അടിസ്ഥാനമാക്കിക്കൊണ്ടുള്ളതാണ്, അതായത് ചിലപ്പോൾ Gemini ആ ഡാറ്റയുടെ പരിമിതികൾ പ്രതിഫലിപ്പിക്കും. വലിയ ഭാഷാ മോഡലുകളുമായി ബന്ധപ്പെട്ട് വലിയ തോതിൽ അറിയപ്പെടുന്ന പ്രശ്‌നങ്ങളാണിവ, ഞങ്ങൾ ഈ വെല്ലുവിളികൾ ലഘൂകരിക്കാൻ ശ്രമിച്ചുകൊണ്ടിരിക്കുകയാണെങ്കിലും Gemini ചിലപ്പോൾ, ഞങ്ങളുടെ മാർഗ്ഗനിർദേശങ്ങൾ ലംഘിക്കുന്നതും പരിമിതമായ കാഴ്‌ചപ്പാടുകൾ പ്രതിഫലിപ്പിക്കുന്നതും വളരെയധികം സാമാന്യവൽക്കരണം അടങ്ങുന്നതുമായ (പ്രത്യേകിച്ചും വെല്ലുവിളികൾ നിറഞ്ഞ പ്രോംപ്റ്റുകൾക്കുള്ള പ്രതികരണങ്ങളിൽ) ഉള്ളടക്കം സൃഷ്ടിച്ചേക്കാം.  ഉപയോക്താക്കൾക്കായി വ്യത്യസ്ത മാർഗ്ഗങ്ങളിൽ ഞങ്ങൾ ഈ പരിമിതികൾ ഹൈലൈറ്റ് ചെയ്യുകയും ഫീഡ്ബാക്ക് നൽകാൻ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിക്കുകയും ഞങ്ങളുടെ നയങ്ങളും ബാധകമായ നിയമങ്ങളും അനുസരിച്ച് നീക്കം ചെയ്യുന്നതിനായി ഉള്ളടക്കം റിപ്പോർട്ട് ചെയ്യാൻ സൗകര്യപ്രദമായ ടൂളുകൾ ഉപയോക്താക്കൾക്ക് നൽകുകയും ചെയ്യുന്നു. കൂടാതെ ഉപയോക്താക്കൾ ഉത്തരവാദിത്തപൂർവ്വം പെരുമാറുമെന്നും ഞങ്ങളുടെ, നിരോധിത ഉപയോഗം സംബന്ധിച്ച നയം പാലിക്കുമെന്നും തീർച്ചയായും ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു.

ആളുകൾ Gemini ആപ്പ് ഉപയോഗിക്കുന്നതും അവർക്ക് ആപ്പ് വളരെയധികം സഹായകരമായി മാറുന്നതും എങ്ങനെയെന്നതിനെ കുറിച്ച് കൂടുതൽ മനസ്സിലാക്കുന്നതനുസരിച്ച് ഞങ്ങൾ ഈ മാർഗ്ഗനിർദേശങ്ങൾ അപ്ഡേറ്റ് ചെയ്യും. Gemini ആപ്പ് നിർമ്മിച്ചെടുക്കുന്നത് സംബന്ധിച്ച ഞങ്ങളുടെ സമീപനത്തെ കുറിച്ചുള്ള കൂടുതൽ കാര്യങ്ങൾ നിങ്ങൾക്ക് ഇവിടെ കണ്ടെത്താം.