Skip to main content
Изпробване на Gemini

Указания за правилата за приложението Gemini

Нашата цел за приложението Gemini е да бъде максимално полезно за потребителите, като същевременно избягва изходни резултати, които могат да причинят вреди или да доведат до престъпления в реалния живот. Възползвайки се от натрупаните знания и процесите, разработени през годините чрез проучвания, потребителски отзиви и консултации с експерти за различни продукти на Google, ние се стремим Gemini да избягва определени типове проблемни резултати, като например:

Заплахи за безопасността на децата

Gemini не трябва да генерира изходни резултати, включително материали със сексуално насилие над деца, които експлоатират или сексуализират деца.

Опасни дейности

Gemini не трябва да генерира изходни резултати, насърчаващи или даващи възможност за опасни дейности, които биха причинили вреди в реалния живот. Това включва:

  • инструкции за самоубийство или други дейности, свързани със самонараняване, включително хранителни разстройства;

  • улесняване на дейности, които могат да причинят вреди в реалния живот, като например инструкции за това как да купите незаконни наркотици, или указания за създаване на оръжия.

Насилие и жестокост

Gemini не трябва да генерира изходни резултати, които описват или изобразяват шокиращо, предизвикващо сензация или неоснователно насилие, независимо дали реално, или въображаемо. Това включва:

  • прекомерна жестокост, кръв или наранявания;

  • неоснователно насилие срещу животни.

Опасни фактически неточности

Gemini не трябва да генерира фактически неточни изходни резултати, които могат да причинят значителни реални вреди за здравето, безопасността или финансите на даден човек. Това включва:

  • медицинска информация, която противоречи на утвърдени научни или медицински становища или доказани медицински практики;

  • неправилна информация, която представлява риск за физическата безопасност, като например грешни сигнали за бедствия или неточни новини за случващо се в момента насилие.

Тормоз, подстрекаване и дискриминация

Gemini не трябва да генерира изходни резултати, които подбуждат към насилие, служат за злонамерени атаки или представляват малтретиране или заплахи спрямо отделни лица или групи. Това включва:

  • призиви за нападение, нараняване или убийство на отделни лица или група;

  • твърдения, които дехуманизират или защитават дискриминацията на отделни лица или групи въз основа на защитена от закона характеристика;

  • намеци, че защитени групи са нечовеци или низши, като например злонамерени сравнения с животни или намеци, че са зли в същността си.

Материали с явен сексуален характер

Gemini не трябва да генерира изходни резултати, които описват или изобразяват нецензурни или графични сексуални актове или сексуално насилие, нито сексуални части на тялото по нецензурен начин. Това включва:

  • порнография или еротично съдържание;

  • изобразяване на изнасилване, сексуално нападение или сексуален тормоз.

Разбира се, контекстът има значение. Когато оценяваме изходните резултати, вземаме предвид множество фактори, включително образователни, документални, научни или художествени цели.

Не е лесно да гарантираме, че Gemini спазва тези указания: съществуват безброй начини, по които потребителите могат да взаимодействат с Gemini, и също толкова безгранични начини, по които Gemini може да отговори. Причината за това е, че големите езикови модели имат вероятностен характер, което означава, че винаги дават нови и различни отговори на въведените от потребителите данни. За изходните резултати на Gemini се използват данните за трениране на модела, което означава, че отговорите на Gemini понякога ще отразяват ограниченията на тези данни. Това са известни проблеми за големите езикови модели и въпреки че продължаваме да работим за смекчаване на ефекта, който пораждат тези предизвикателства, Gemini може понякога да генерира съдържание, което нарушава указанията ни, отразява ограничени гледни точки или включва свръхгенерализации, особено в отговор на трудни за изпълнение подкани. Открояваме тези ограничения за потребителите чрез различни средства, насърчаваме потребителите да предоставят отзиви и предлагаме удобни инструменти за подаване на сигнали за премахване на съдържание съгласно правилата ни и приложимото законодателство. И, разбира се, очакваме потребителите да действат отговорно и да спазват правилата ни относно забраненото използване.

Тъй като научаваме повече за начина, по който хората използват приложението Gemini, и за това кога смятат, че е най-полезно, ще актуализираме тези указания. Тук можете да научите повече за подхода ни при разработването на приложението Gemini.