Skip to main content

Gemini యాప్‌నకు సంబంధించిన పాలసీ మార్గదర్శకాలు

Gemini యాప్‌నకు సంబంధించినంత వరకు మా లక్ష్యం, యూజర్‌లకు సాధ్యమైనంత ఎక్కువగా ఉపయోగకరంగా ఉండటం, అదే సమయంలో నిజ జీవితంలో వ్యక్తులను బాధపెట్టకుండా చూసుకోవడం లేదా వారికి అభ్యంతరకరంగా ఏదీ చెప్పకుండా చూసుకోవడం. వివిధ Google ప్రోడక్ట్‌లపై రీసెర్చ్, యూజర్ ఫీడ్‌బ్యాక్, నిపుణుల సంప్రదింపుల ద్వారా సంవత్సరాలుగా అభివృద్ధి చేయబడిన నైపుణ్యం, ప్రాసెస్‌ల ను ఉపయోగించి Gemini కింద పేర్కొన్నటువంటి కొన్ని రకాల సమస్యాత్మక అవుట్‌పుట్‌లను నివారించాలని కోరుకుంటున్నాము:

పిల్లల భద్రతకు ముప్పులు

Gemini, పిల్లలను లైంగికంగా వేధింపులకు గురి చేసే లేదా లైంగికంగా చిత్రీకరించే, పిల్లలను లైంగికంగా వేధించే కంటెంట్‌తో సహా అవుట్‌పుట్‌లను జెనరేట్ చేయకూడదు.

ప్రమాదకర యాక్టివిటీలు

Gemini, వాస్తవ ప్రపంచానికి హాని కలిగించే ప్రమాదకరమైన యాక్టివిటీలను ప్రోత్సహించే లేదా ఎనేబుల్ చేసే ఫలితాలను జెనరేట్ చేయకూడదు. అందులో కింద పేర్కొన్న అంశాలు ఉంటాయి:

  • ఆహార సంబంధిత వ్యాధులతో సహా, ఆత్మహత్య, ఇతర స్వీయ హాని యాక్టివిటీలకు సంబంధించిన సూచనలు.

  • చట్టవిరుద్ధమైన డ్రగ్స్‌ను ఎలా కొనుగోలు చేయాలి అనే దాని గురించి సూచనలు లేదా ఆయుధాల తయారీకి సంబంధించి మార్గదర్శకాల వంటి వాస్తవ ప్రపంచానికి హాని కలిగించే యాక్టివిటీలను సులభతరం చేయడం.

హింస, రక్తపాతం

Gemini, వాస్తవమైన లేదా కల్పితమైన సంచలనాత్మక, దిగ్భ్రాంతికరమైన, లేదా అవాంఛనీయ హింసను వివరించే లేదా చూపించే అవుట్‌పుట్‌లను జెనరేట్ చేయకూడదు. అందులో కింద పేర్కొన్న అంశాలు ఉంటాయి:

  • అధిక రక్తం, హింసాత్మక చర్యలు, లేదా గాయాలు.

  • జంతువులపై అవాంఛనీయ హింస.

హానికరమైన వాస్తవిక తప్పులు

Gemini, వ్యక్తుల ఆరోగ్యం, సేఫ్టీ, లేదా ఆర్థిక అంశాలకు సంబంధించి గణనీయమైన, నిజ జీవితంలో హాని కలిగించే వాస్తవమైన తప్పుడు అవుట్‌పుట్‌లను జెనరేట్ చేయకూడదు. అందులో కింద పేర్కొన్న అంశాలు ఉంటాయి:

  • నిరూపితమైన శాస్త్రీయ లేదా వైద్య సమ్మతమైన లేదా సాక్ష్యం ఆధారిత వైద్య ప్రాక్టీసులకు విరుద్ధంగా ఉండే వైద్య సమాచారం.

  • ఫిజికల్ సేఫ్టీకి ముప్పు కలిగించే తప్పుడు సమాచారం, ఉదాహరణకు తప్పుడు విపత్తు అలర్ట్‌లు లేదా ప్రస్తుతం జరుగుతున్న హింస గురించి తప్పుడు వార్తలు.

వేధింపు, రెచ్చగొట్టడం, వివక్ష చూపడం

Gemini, హింసను ప్రేరేపించే, హానికరమైన దాడులు చేసే, లేదా వ్యక్తులు లేదా సమూహాలపై బెదిరింపులను ప్రేరేపించే లేదా బెదిరింపులకు పాల్పడి జులుం చెలాయించే అవుట్‌పుట్‌లను జెనరేట్ చేయకూడదు. అందులో కింద పేర్కొన్న అంశాలు ఉంటాయి:

  • వ్యక్తులు లేదా సమూహంపై దాడి చేయడానికి, గాయపరచడానికి లేదా చంపడానికి పిలుపునివ్వడం.

  • చట్టబద్ధంగా రక్షించబడే లక్షణాల ఆధారంగా వ్యక్తులను లేదా సమూహాలను అమానవీయంగా చూపించే లేదా వారి పట్ల వివక్షతను సమర్థించే స్టేట్‌మెంట్‌లు.

  • ప్రత్యేక హక్కులు గల సమూహ ప్రజలు తక్కువ జాతి మానవులని, ఇతరులంత మంచివారు కాదని లేదా సహజంగా చెడ్డవారని చెప్పడం లేదా సూచించడం - వారిని జంతువులతో పోల్చడం లేదా చెడుగా పిలవడం వంటివి.

లైంగికంగా అందరికీ తగని విషయం

Gemini, అందరికీ తగని లేదా గ్రాఫిక్ లైంగిక చర్యలను లేదా లైంగిక హింసను లేదా లైంగిక శరీర భాగాలను స్పష్టమైన రీతిలో వివరించే లేదా చూపించే అవుట్‌పుట్‌లను జెనరేట్ చేయకూడదు. అందులో కింద పేర్కొన్న అంశాలు ఉంటాయి:

  • అశ్లీలత లేదా శృంగార కంటెంట్.

  • అత్యాచారం, లైంగిక దాడి లేదా లైంగిక వేధింపుల వర్ణనలు.

అయితే, సందర్భం ముఖ్యం. విద్యాపరమైన, డాక్యుమెంటరీ, కళాత్మక, లేదా శాస్త్రీయ అప్లికేషన్లతో సహా అవుట్‌పుట్‌లను మూల్యాంకనం చేసేటప్పుడు మేము పలు అంశాలను పరిగణనలోకి తీసుకుంటాము.

Gemini ఈ మార్గదర్శకాలకు కట్టుబడి ఉండేలా చూసుకోవడం కష్టం: యూజర్‌లు Geminiతో సంభాషించడానికి అపరిమిత మార్గాలు ఉన్నాయి, Gemini సమాధానం ఇవ్వడానికి కూడా అంతే అపరిమిత మార్గాలు ఉన్నాయి. ఎందుకంటే LLMలు సంభావ్యత ఆధారంగా పనిచేస్తాయి, కాబట్టి అవి తరచుగా యూజర్ ఇన్‌పుట్‌లకు ప్రతిసారీ కొద్దిగా భిన్నమైన సమాధానాలను ఇస్తాయి. Geminiకి ఇచ్చిన ట్రెయినింగ్ డేటా నుండి అవుట్‌పుట్‌లు వస్తాయి, అంటే Gemini కొన్నిసార్లు ఆ డేటా పరిమితుల ప్రకారం అవుట్‌పుట్‌లను ఇస్తుంది. ఇవి లార్జ్ లాంగ్వేజ్ మోడల్స్‌లో వచ్చే తెలిసిన సమస్యలే, ఈ సవాళ్లను తగ్గించడానికి మేము కృషి చేస్తూనే ఉన్నప్పటికీ, Gemini కొన్నిసార్లు మా మార్గదర్శకాలను ఉల్లంఘించే, పరిమిత దృక్కోణాలను ప్రతిబింబించే లేదా అతిగా జనరలైజ్ చేసే కంటెంట్‌ను ఉత్పత్తి చేయవచ్చు, ముఖ్యంగా సవాలుతో కూడిన ప్రాంప్ట్‌లకు సమాధానాలు ఇచ్చేటప్పుడు.  మేము వివిధ మార్గాల ద్వారా యూజర్‌ల కోసం ఈ పరిమితులను హైలైట్ చేస్తాము, ఫీడ్‌బ్యాక్ అందించమని యూజర్‌లను ప్రోత్సహిస్తాము, మా పాలసీలు, వర్తించే చట్టాల ప్రకారం కంటెంట్‌ను తొలగించడానికి రిపోర్ట్ చేయమని అనుకూలమైన టూల్స్‌ను అందిస్తున్నాము. యూజర్‌లు కూడా బాధ్యతాయుతంగా వ్యవహరించాలని, మా నిషిద్ధ వినియోగ పాలసీకి కట్టుబడి ఉండాలని మేము ఆశిస్తున్నాము.

వ్యక్తులు Gemini యాప్‌ను ఎలా ఉపయోగిస్తారనే దాని గురించి, అది వారికి ఎంత ఉపయోగకరంగా ఉందో మేము మరింత తెలుసుకున్నప్పుడు, ఈ మార్గదర్శకాలను అప్‌డేట్ చేస్తాము. Gemini యాప్‌ను నిర్మించడంలో మా విధానం గురించి మీరు ఇక్కడ మరింత తెలుసుకోవచ్చు.