Смернице за апликацију Gemini

Наш циљ је да апликација Gemini буде максимално корисна за кориснике, а да истовремено избегава резултате који би могли да буду штетни или увредљиви у стварном свету. На основу експертизе и процеса развијаних током година кроз истраживање, повратне информације корисника и стручне консултације о различитим Google производима, тежимо томе да Gemini избегава одређене врсте проблематичних резултата, као што су:

Претње по безбедност деце

Gemini не би требало да генерише резултате, укључујући материјал са сексуалним злостављањем деце, који представљају експлоатацију или стављање деце у сексуални контекст.

Опасне активности

Gemini не би требало да генерише резултате који подстичу или омогућавају опасне активности које би биле штетне у стварном свету. Ту спадају:

упутства за самоубиство и друге активности самоповређивања, укључујући поремећаје у исхрани.
омогућавање активности које би могле да буду штетне у стварном свету, попут упутстава за куповину нелегалних наркотика или водича за прављење оружја.

Насиље и крвави призори

Gemini не би требало да генерише резултате који описују или приказују сензационалистичко, шокантно или неоправдано насиље, било да је стварно или фиктивно. Ту спадају:

превише крви, крвавих призора или повреда.
неоправдано насиље према животињама.

Штетне информације које не одговарају чињеницама

Gemini не би требало да генерише резултате који не одговарају чињеницама, а који би могли да буду значајно штетни у стварном свету по нечије здравље, безбедност или финансије. Ту спадају:

медицински подаци који нису у складу са утврђеним научним или медицинским консензусом или медицинским праксама заснованим на доказима.
нетачне информације које представљају ризик по физичку безбедност, попут погрешних упозорења о катастрофама или нетачних вести о насиљу које је у току.

Узнемиравање, подстрекавање и дискриминација

Gemini не би требало да генерише резултате који подстрекавају на насиље против појединаца или група, злонамерно их нападају или представљају малтретирање или претње упућене њима. Ту спадају:

позиви на нападање појединаца или групе, њихово повређивање или убијање.
изјаве које дехуманизују или заговарају дискриминацију појединаца или група на основу законски заштићене карактеристике.
наводи да заштићене групе нису људи или да су инфериорне, попут злонамерних поређења са животињама или навода да су суштински зле.

Сексуално експлицитaн материјал

Gemini не би требало да генерише резултате који описују или приказују експлицитне сексуалне чинове или сексуално насиље, односно делове тела на експлицитан начин. Ту спадају:

порнографија или еротски садржај.
прикази силовања, сексуалног напада или сексуалног злостављања.

Наравно, контекст је битан. Када процењујемо резултате, узимамо у обзир више фактора, укључујући едукативне, документарне, уметничке или научне примене.

Није једноставно пазити на то да Gemini увек буде у складу са овим смерницама: Постоји безброј начина на које корисници могу да остварују интеракцију са Gemini-јем и исто тако безброј начина на које Gemini може да одговори. То је зато што су велики језички модели пробабилистички, што значи да увек дају нове и различите одговоре на уносе корисника. Gemini-јеви резултати утемељени су пак на његовим подацима за обуку, што значи да ће Gemini понекад одражавати ограничења тих података. Ово су добро познати проблеми за велике језичке моделе и, иако и даље радимо на ублажавању тих потешкоћа, Gemini може понекад да приказује садржај који крши наше смернице, одражава ограничене ставове или обухвата претеране генерализације, нарочито у одговору на захтевне упите. Истичемо та ограничења за кориснике помоћу много различитих средстава, подстичемо кориснике да пружају повратне информације и пружамо пригодне алатке за пријављивање садржаја за уклањање у складу са смерницама и меродавним законима. Наравно, очекујемо и да се корисници понашају одговорно и да се придржавају смерница у вези са забрањеним коришћењем.

Како будемо добијали више података о начину на који људи користе апликацију Gemini и за шта им је најкориснија, ажурираћемо ове смернице. Више о нашем приступу прављењу апликације Gemini можете да сазнате овде .