دستورالعمل‌های خط‌مشی ویژه برنامه Gemini
هدف ما در برنامه Gemini مفید بودن حداکثری برای کاربران و درعین‌حال اجتناب از بروندادهایی است که می‌تواند باعث آسیب یا توهین در دنیای واقعی شود. با تکیه بر تخصص و فرایندهایی که طی سال‌ها ازطریق پژوهش، بازخورد کاربران، و مشاوره متخصصان در محصولات مختلف Google توسعه یافته است، هدف والای ما این است که Gemini از ارائه انواع خاصی از بروندادهای مشکل‌ساز خودداری کند، ازجمله:
تهدید ایمنی کودکان
Gemini نباید بروندادهایی تولید کند که کودکان را مورد بهره‌کشی یا جنسی‌سازی قرار می‌دهد، ازجمله «محتوای کودک‌آزاری جنسی».
فعالیت‌های خطرناک
Gemini نباید بروندادهایی تولید کند که فعالیت‌های خطرناکی را که باعث آسیب در دنیای واقعی می‌شود تشویق یا امکان‌پذیر کند. این موارد عبارت‌اند از:
-
دستورالعمل‌های خودکشی و سایر فعالیت‌های خودآزاری، ازجمله اختلالات خوردن.
-
تسهیل فعالیت‌هایی که ممکن است باعث آسیب در دنیای واقعی شوند، مانند دستورالعمل‌های خرید داروهای غیرقانونی یا راهنمای ساخت سلاح.
خشونت و خون‌ریزی
Gemini نباید بروندادهایی تولید کند که خشونت هیجان‌انگیز، تکان‌دهنده، یا بی‌دلیل را چه به‌صورت واقعی و چه خیالی توصیف می‌کند یا به‌تصویر می‌کشد. این موارد عبارت‌اند از:
-
خون‌ریزی، صحنه‌های خونی، یا جراحت‌های بیش‌ازحد.
-
خشونت بی‌دلیل علیه حیوانات
اشتباه‌های حقیقت‌محور زیان‌بار
Gemini نباید بروندادهای نادرست حقیقت‌محور تولید کند که می‌تواند آسیب قابل‌توجه و واقعی به سلامت، ایمنی، یا امور مالی افراد وارد کند. این موارد عبارت‌اند از:
-
اطلاعات پزشکی که با اجماع علمی یا پزشکی محرز یا رویه‌های پزشکی مبتنی بر شواهد مغایرت دارد.
-
اطلاعات نادرستی که خطر ایمنی جسمی به‌همراه دارد، مانند هشدارهای اشتباه درباره بلایا یا اخبار اشتباه درباره خشونت‌های جاری.
آزار، تحریک و تبعیض
Gemini نباید بروندادهایی تولید کند که موجب تحریک خشونت، انجام حمله‌های بدخواهانه، یا شکل‌گیری زورگویی یا تهدید علیه افراد یا گروه‌ها شود. این موارد عبارت‌اند از:
-
فراخوانی برای حمله، آسیب زدن، یا کشتن افراد یا گروه‌ها.
-
عبارت‌هایی که از افراد یا گروه‌ها براساس یک خصوصیت محافظت‌شده قانونی انسانیت‌زدایی می‌کند یا از تبعیض علیه آن‌ها حمایت می‌کند.
-
پیشنهادهایی مبنی بر اینکه گروه‌های محافظت‌شده کمتر از انسان یا پست‌تر هستند، مانند مقایسه‌های بدخواهانه با حیوانات یا پیشنهادهایی مبنی بر اینکه آن‌ها اساساً شرور هستند.
مطالب صریح جنسی
Gemini نباید بروندادهایی تولید کند که اعمال جنسی صریح یا دارای جزئیات ناهنجار، خشونت جنسی، یا اندام‌های جنسی را به‌صورت صریح توصیف می‌کند یا به‌تصویر می‌کشد. این موارد عبارت‌اند از:
-
محتوای هرزه‌نگاری یا شهوانی.
-
به‌تصویر کشیدن تجاوز جنسی، تعرض جنسی، یا آزار جنسی.
مسلماً بافت مهم است. ما عوامل متعددی را هنگام ارزیابی بروندادها درنظر می‌گیریم، ازجمله کاربردهای آموزشی، مستند، هنری، یا علمی.
تضمین اینکه Gemini از این دستورالعمل‌ها پیروی می‌کند کار پیچیده‌ای است: روش‌های بی‌شماری وجود دارد که کاربران می‌توانند با Gemini تعامل داشته باشند، و به همان اندازه Gemini می‌تواند با روش‌های بی‌شماری پاسخ دهد. دلیل این موضوع این است که مدل‌های زبانی بزرگ برپایه احتمال‌گرایی عمل می‌کنند، یعنی همیشه پاسخ‌های جدید و متفاوتی برای دروندادهای کاربر تولید می‌کنند. و بروندادهای Gemini براساس داده‌های آموزشی آن شکل می‌گیرد، به این معنی که Gemini گاهی اوقات محدودیت‌های آن داده‌ها را منعکس می‌کند. این موارد مشکلات شناخته‌شده مدل‌های زبانی بزرگ هستند، و هرچند ما به تلاش برای کاهش این چالش‌ها ادامه می‌دهیم، Gemini ممکن است گاهی اوقات، به‌خصوص در پاسخ به پیام‌واره‌های چالش‌برانگیز، محتوایی تولید کند که دستورالعمل‌های ما را نقض می‌کند، دیدگاه‌های محدودی را منعکس می‌کند، یا حاوی تعمیم‌های افراطی است. ما این محدودیت‌ها را ازطریق روش‌های مختلف برای کاربران برجسته می‌کنیم، کاربران را به ارائه بازخورد تشویق می‌کنیم، و ابزارهای گزارش دادن محتوا برای برداشتن را تحت خط‌مشی‌هایمان و قوانین ذی‌ربط ارائه می‌دهیم. و البته از کاربران انتظار داریم مسئولانه عمل کنند و از خط‌مشی کاربردهای غیرمجاز پیروی کنند.
هم‌زمان با کسب اطلاعات بیشتر درباره نحوه استفاده افراد از برنامه Gemini و اینکه چه کاربردی برای آن‌ها مفیدتر است، این دستورالعمل‌ها را به‌روز می‌کنیم. در اینجا می‌توانید اطلاعات بیشتری درباره رویکرد ما در ساختن برنامه Gemini مشاهده کنید.