A Gemini app irányelvei

A Gemini appal kapcsolatban az a célunk, hogy a lehető leghasznosabb legyen a felhasználók számára, ugyanakkor ne készítsen olyan kimenetet, amely a való életben árt másoknak vagy sérti őket. Az évek során a különféle Google-termékekkel kapcsolatos kutatások, felhasználói visszajelzések és szakértői tanácskozások alatt felhalmozott tapasztalatokra és kifejlesztett folyamatokra építve fókuszálunk arra, hogy a Gemini elkerüljön bizonyos problémás jellegű kimeneteket, például a következőket:

Gyermekek biztonságával kapcsolatos veszélyek

A Gemini nem generálhat gyermekeket kizsákmányoló vagy őket szexuális kontextusba helyező kimeneteket, köztük gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagot.

Veszélyes tevékenységek

A Gemini nem generálhat olyan kimeneteket, amelyek valós kárt okozó, veszélyes tevékenységekre ösztönöznek, illetve ilyeneket lehetővé tesznek. Ezek közé tartoznak a következők:

Öngyilkosságra vagy más önkárosító tevékenységekre (pl. étkezési zavarra) vonatkozó útmutatások.
A való életben esetlegesen valamilyen kárt okozó tevékenységek elősegítése, például kábítószer-vásárlásra vagy fegyverkészítésre vonatkozó útmutatások.

Erőszak és vérontás

A Gemini nem generálhat olyan kimeneteket, amelyek akár valós, akár kitalált, szenzációhajhász, megdöbbentő vagy öncélú erőszakot írnak le vagy mutatnak be. Ezek közé tartoznak a következők:

Túlzásba vitt erőszak, vérontás és sérülések.
Öncélú erőszak állatokkal szemben.

Ártalmas ténybeli pontatlanságok

A Gemini nem generálhat ténybeli pontatlanságokat tartalmazó kimeneteket, amelyek jelentős valós veszéllyel járhatnak mások egészségére, biztonságára vagy anyagi helyzetére nézve. Ezek közé tartoznak a következők:

A megalapozott tudományos vagy orvosi konszenzussal, illetve a bizonyítékalapú orvosi gyakorlattal szembemenő egészségügyi információk.
A fizikai biztonságot fenyegető kockázatokra vonatkozó információk, például téves katasztrófariasztások vagy folyamatban lévő erőszakos cselekményekkel kapcsolatos pontatlan hírek.

Zaklatás, felbujtás és diszkrimináció

A Gemini nem generálhat olyan kimeneteket, amelyek erőszakra szítanak, rosszindulatú támadásokat idéznek elő, vagy más személyek vagy csoportok elleni bántalmazásnak vagy fenyegetésnek minősülnek. Ezek közé tartoznak a következők:

Felhívások egyes személyek vagy valamilyen csoport megtámadására, megsebesítésére vagy megölésére.
Olyan kijelentések, amelyek egy törvényi védettséget élvező jellemző alapján dehumanizálnak személyeket vagy csoportokat, vagy erre szólítanak fel.
Olyan utalások, melyek szerint védett csoportok kevésbé emberiek, vagy pedig alacsonyabb rendűek, például rosszindulatú összehasonlítás állatokkal, vagy annak sugallmazása, hogy ezek a csoportok alapvetően gonoszak.

Nyílt szexuális tartalom

A Gemini nem generálhat olyan kimeneteket, amelyek szókimondó vagy képileg ábrázolt szexuális cselekményeket vagy szexuális erőszakot, illetve szeméremsértő módon nemi szerveket írnak le vagy mutatnak be. Ezek közé tartoznak a következők:

Pornográf vagy erotikus tartalom.
Nemi erőszak, szexuális támadás vagy szexuális visszaélés ábrázolása.

A kontextus természetesen fontos. A kimenetek kiértékelésekor számos tényezőt figyelembe veszünk, például azt, hogy az adott kimenet ismeretterjesztő, dokumentációs, művészi vagy tudományos céllal készült-e.

Nem egyszerű betartatni ezeket az irányelveket a Gemini használata során: a felhasználóknak korlátlan lehetőségeik vannak a Gemini használatakor, így a Gemini is korlátlan számú módon válaszolhat. Ez azért van, mert a nagy nyelvi modellek valószínűségi logikát használnak, ami azt jelenti, hogy a felhasználói bevitelekre mindig új, eltérő válaszokat adnak. A Gemini kimenetei pedig a betanítási adatokon alapulnak, azaz a Geminiben néha visszatükröződnek az ezen adatok jelentette korlátok. Ezek a nagy nyelvi modellek jól ismert problémái, és bár továbbra is keményen dolgozunk azon, hogy megoldjuk ezeket a kihívásokat, a Gemini néha létrehozhat olyan tartalmakat, amelyek sértik az irányelveinket, beszűkült nézőpontokat jeleníthetnek meg, illetve túlzóan általánosíthatnak, különösen a nagy kihívást jelentő utasítások esetében. Ezeket a korlátokat többféleképpen is jelezzük a felhasználóknak, ösztönözzük a felhasználókat visszajelzések küldésére, valamint kényelmesen használható eszközöket biztosítunk a tartalomeltávolítási bejelentések elkészítéséhez, az irányelveinknek és a vonatkozó jogszabályoknak megfelelően. Emellett természetesen a felhasználóktól is elvárjuk, hogy felelősen viselkedjenek, és betartsák a tiltott használatra vonatkozó irányelveket.

Ahogy folyamatosan egyre többet tudunk meg arról, hogyan használják és miként hasznosítják az emberek a Gemini appot, frissíteni fogjuk ezeket az irányelveket. A Gemini app létrehozása során alkalmazott megközelítésünkről itt tájékozódhat részletesebben.