Skip to main content

הנחיות המדיניות של אפליקציית Gemini

המטרה שלנו היא לפתח את אפליקציית Gemini כך שתועיל כמה שיותר למשתמשים, ובמקביל למנוע תוצאות שעלולות לגרום לפגיעה או לנזק בעולם האמיתי. אנחנו מתבססים על הניסיון, המומחיות והתהליכים שפיתחנו לאורך השנים דרך מחקר, משוב מהמשתמשים וייעוץ מקצועי ממומחים בנוגע למוצרים שונים של Google, ומשקיעים מאמצים כדי למנוע מ-Gemini ליצור תוצאות בעייתיות מסוגים מסוימים. למשל:

פגיעה פוטנציאלית בבטיחות של ילדים

‫Gemini לא אמור ליצור תוצאות או תוכן שכוללים ניצול או הצגה של ילדים באופן מיני, כולל תוכן ויזואלי של התעללות מינית בילדים.

פעילויות מסוכנות

‫Gemini לא אמור ליצור תוצאות שמעודדות או מסייעות בפעילויות מסוכנות שעלולות לגרום לפגיעה או לנזק בעולם האמיתי. למשל:

  • הוראות להתאבדות ולסוגים אחרים של פגיעה עצמית, כולל הפרעות אכילה.

  • סיוע בפעילויות שעלולות לגרום לפגיעה או לנזק בעולם האמיתי, למשל הוראות לרכישת סמים לא חוקיים או הנחיות להרכבת כלי נשק.

אלימות ושפיכות דמים

‫Gemini לא אמור ליצור תוצאות שמתארות או מציגות אלימות מעוררת סנסציה, מזעזעת או מוגזמת מכל סוג – אמיתית או בדיונית. למשל:

  • דם, פציעות או שפיכות דמים במידה מוגזמת.

  • אלימות מוגזמת ובלתי מוצדקת כלפי בעלי חיים.

עובדות לא מדויקות שעלולות לגרום לנזק

‫Gemini לא אמור ליצור תוצאות עם עובדות לא מדויקות שעלולות לגרום לנזק או לפגיעה אמיתיים ומשמעותיים לבריאות, לבטיחות או למצב הפיננסי של גורם כלשהו. למשל:

  • מידע רפואי שסותר את הקונצנזוס המדעי או הרפואי הקיים, או שסותר שיטות טיפול רפואיות שמבוססות על הוכחות.

  • מידע מוטעה שעלול לסכן את הבטיחות הפיזית, למשל התרעות שגויות על אסונות, או חדשות לא מדויקות לגבי אלימות שמתרחשת.

הטרדה, הסתה ואפליה

‫Gemini לא אמור ליצור תוצאות שמסיתות לאלימות או יוצרות מתקפות זדוניות, בריונות או איומים כלפי אנשים פרטיים או קבוצות. למשל:

  • קריאות לתקוף, לפצוע או להרוג אנשים פרטיים או קבוצות.

  • הצהרות שעושות דה-הומניזציה או תומכות באפליה כלפי אנשים פרטיים או קבוצות על בסיס מאפיין שמוגן על פי החוק.

  • טענות או רמיזות לכך שקבוצות מוגנות הן נחותות מבני אדם אחרים או נופלות מהם, למשל השוואות זדוניות לבעלי חיים או טענות שהקבוצות האלה מרושעות מטבען.

תוכן מיני בוטה

‫Gemini לא אמור ליצור תוצאות שמתארות או מציגות באופן בוטה או גרפי אקטים מיניים, אלימות מינית או איברים מיניים. למשל:

  • פורנוגרפיה או תוכן ארוטי.

  • דימויים של אונס, תקיפה מינית או התעללות מינית.

מובן שההקשר חשוב. כשאנחנו בוחנים את התוצאות, אנחנו מביאים בחשבון הרבה גורמים, כולל שימושים למטרות חינוך, תיעוד, אומנות ומדע.

לא קל לוודא ש-Gemini יעמוד בהנחיות האלה: יש אינספור אינטראקציות אפשריות של משתמשים עם Gemini, ובאותה מידה יש אינספור דרכים שבהן Gemini יכול לענות. הסיבה היא שמודלים מסוג LLM מבוססים על הסתברות, כלומר הם תמיד יוצרים תשובות חדשות ושונות להנחיות של המשתמשים. בנוסף, התוצאות של Gemini מתבססות על נתוני האימון שלו, וזה אומר שלפעמים התשובות משקפות את המגבלות של הנתונים האלה. הבעיות האלה מוכרות במודלים גדולים של שפה ואנחנו ממשיכים לפעול כדי לצמצם את ההשפעה שלהן. עם זאת, Gemini עלול ליצור לפעמים תוכן שמפר את ההנחיות שלנו, משקף מספר מוגבל של נקודות מבט או כולל הכללות יתר, במיוחד בתשובות להנחיות מאתגרות. אנחנו מדגישים את המגבלות האלה בפני המשתמשים במגוון אמצעים, מעודדים את המשתמשים לשלוח משוב, ומספקים כלים נוחים לדיווח על תוכן שצריך להסיר בהתאם למדיניות שלנו ולדינים החלים. כמובן, אנחנו גם מצפים מהמשתמשים להתנהל באחריות ולעמוד בדרישות של המדיניות שלנו בנושא שימוש אסור.

אנחנו לומדים עם הזמן איך אנשים שונים משתמשים באפליקציית Gemini ומה הכי מועיל להם, ומעדכנים את ההנחיות האלה לפי הצורך. כאן מפורט מידע נוסף על הגישה שלנו בנוגע לפיתוח של אפליקציית Gemini.