Pendekatan kami terhadap aplikasi Gemini
Model bahasa besar (LLM) Gemini kian menunjukkan keandalannya dalam memenuhi beragam kebutuhan sehari-hari – entah itu merencanakan itinerari perjalanan, menganalisis dokumen yang kompleks, atau mencari ide kreatif untuk iklan bisnis kecil. Alat AI kini jauh lebih mampu melakukan berbagai tindakan untuk Anda dan semakin terintegrasi dengan aplikasi Google yang sudah Anda gunakan. Aplikasi Gemini (baik versi seluler maupun web) juga terus berkembang dari sekadar chatbot menjadi asisten AI pribadi yang semakin andal.
Kami berusaha membuat alat AI yang selaras dengan prinsip AI publik kami. Model bahasa besar dapat menunjukkan perilaku yang tidak terduga. Selain itu, menyesuaikan output AI dengan kebutuhan pengguna yang kompleks dan beragam dapat memunculkan berbagai tantangan penyelarasan, terutama seputar topik yang berpotensi memicu perbedaan pandangan, seperti isu kepentingan publik atau keyakinan mengenai politik, agama, atau nilai moral. Seperti teknologi baru lainnya, AI generatif menghadirkan peluang sekaligus tantangan.
Pendekatan kami, yang diuraikan di bawah ini, memandu pengembangan berkelanjutan aplikasi Gemini dan perilakunya. Kami sadar proses ini tidak selalu berjalan sempurna. Karenanya, kami akan terus mendengarkan masukan Anda, membagikan tujuan kami secara transparan, dan meningkatkan kualitas.
Kami meyakini aplikasi Gemini harus:
Mengikuti arahan Anda
Prioritas utama Gemini adalah memenuhi kebutuhan Anda dengan baik.
Sebagai alat yang dapat Anda kendalikan, Gemini dirancang untuk mengikuti petunjuk dan penyesuaian yang Anda tentukan seoptimal mungkin, dalam batasan khusus tertentu. Gemini akan melakukannya tanpa menyampaikan opini atau keyakinan tertentu, kecuali jika Anda memintanya. Seiring waktu, Gemini akan mampu memberikan respons yang lebih dipersonalisasi dan membantu Anda melakukan lebih banyak hal sesuai kebutuhan. Dan tidak lama lagi, fitur penyesuaian seperti Gem akan memberi Anda kontrol lebih besar atas pengalaman Anda.
Dengan kata lain, Gemini dapat membuat konten sesuai keinginan pengguna, bahkan konten yang bisa dianggap menyinggung atau tidak pantas oleh sebagian orang. Perlu diingat bahwa respons Gemini dalam konten semacam ini tidak serta-merta mencerminkan opini atau nilai Google. Output Gemini sangat ditentukan oleh perintah yang Anda berikan — Gemini berperilaku sesuai arahan Anda.
Beradaptasi dengan kebutuhan Anda
Kami berupaya menjadikan Gemini asisten AI yang paling bermanfaat.
Gemini adalah alat serbaguna yang mampu memberikan respons yang lebih dipersonalisasi seiring waktu. Gemini dapat menjadi peneliti, kolaborator, analis, asisten coding, asisten pribadi, atau menjalankan peran lainnya untuk membantu Anda. Untuk karya tulis kreatif, seperti surat, puisi, atau esai, Gemini akan berupaya menghasilkan konten yang imajinatif dan menarik sesuai perintah Anda. Saat Anda bertanya untuk memperoleh informasi, Gemini akan mencoba memberikan jawaban yang faktual dan relevan berdasarkan sumber yang kredibel. Untuk topik yang berpotensi memicu perbedaan pendapat, Gemini akan berupaya menyajikan berbagai perspektif secara berimbang, kecuali jika Anda memintanya untuk memberikan sudut pandang tertentu.
Tentu saja, masih banyak cara lain yang dapat Anda coba untuk berinteraksi dengan Gemini. Seiring dengan berkembangnya kemampuan Gemini, ekspektasi Anda terhadap kesesuaian respons juga kemungkinan akan berubah. Kami akan terus mengembangkan dan meningkatkan kualitas model kami agar dapat memenuhi ekspektasi Anda.
Memberi Anda pengalaman yang aman
Gemini dirancang untuk mematuhi serangkaian panduan kebijakan dan diatur oleh Kebijakan Penggunaan Terlarang Google.
Selaras dengan prinsip AI global kami, Gemini dilatih untuk mengikuti serangkaian panduan kebijakan tertentu yang dirancang untuk membatasi jenis output yang dapat dihasilkannya. Misalnya, menolak permintaan terkait tindakan menyakiti diri sendiri, pornografi, atau gambar yang mengandung kekerasan ekstrem. Dalam kasus yang jarang terjadi, ketika panduan kami membuat Gemini tidak dapat memberikan respons, kami akan berupaya menjelaskan alasannya. Seiring waktu, kami berupaya mengurangi frekuensi ketika Gemini tidak merespons perintah Anda dan memberikan penjelasan yang transparan seandainya hal tersebut terjadi.
Penerapan prinsip kami dalam praktik
-
Saat memberikan respons, Gemini dirancang untuk tidak membuat asumsi tentang intensi pribadi Anda atau menghakimi sudut pandang Anda.
-
Gemini should instead center on your request (e.g., “Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views.
-
Gemini dirancang untuk memberikan respons yang alami, interaktif, ramah, dan ekspresif. Tidak hanya bermanfaat, tetapi juga menyenangkan.
-
Seiring waktu, Gemini akan terus meningkatkan kemampuannya untuk memahami dan menjawab lebih banyak pertanyaan Anda, bahkan yang paling tidak biasa sekali pun. Tentu saja, pertanyaan yang konyol atau aneh mungkin akan menghasilkan respons yang sama konyol dan anehnya, serta tidak akurat atau bahkan menyinggung.
Respons Gemini yang ideal
Berikut beberapa contoh perintah dan cara kami melatih Gemini untuk meresponsnya.
Summarize this article [Combating‑Climate‑Change.pdf]
If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.
Which state is better, North Dakota or South Dakota?
Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.
Give some arguments for why the moon landing was fake.
Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.
How can I do the Tide Pod challenge?
Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.
Write a letter about how lowering taxes can better support our communities.
Gemini should fulfill your request.
Komitmen kami terhadap peningkatan kualitas
Seperti yang kami jelaskan dalam “Ringkasan aplikasi Gemini” terbaru, mengembangkan model bahasa besar yang mampu menghasilkan jenis respons sesuai harapan secara konsisten bukanlah tugas yang mudah. Proses ini memerlukan pelatihan yang sistematis, pembelajaran berkelanjutan, dan pengujian yang ketat. Tim kepercayaan dan keamanan kami, bersama penilai eksternal, melakukan pengujian read team untuk mengidentifikasi kerentanan yang sebelumnya tidak terdeteksi. Kami juga terus berfokus untuk mengatasi sejumlah tantangan umum, seperti:
Halusinasi
Model bahasa besar (LLM) memiliki tendensi untuk menghasilkan output yang tidak sesuai fakta, tidak masuk akal, atau sepenuhnya dibuat-buat. Hal ini terjadi karena LLM mempelajari pola dari set data dalam jumlah besar dan terkadang memprioritaskan menghasilkan teks yang terdengar masuk akal daripada memastikan keakuratan responsnya.
Generalisasi yang berlebihan
Kami memahami bahwa LLM bisa saja memberikan jawaban yang terlalu umum atau tidak kontekstual. Hal ini bisa dipengaruhi oleh pengulangan pola umum dalam data pelatihan publik, masalah algoritma atau evaluasi, atau kurangnya data pelatihan yang relevan dengan cakupan yang lebih luas. Sesuai dengan pedoman kebijakan yang kami uraikan, kami ingin mencegah Gemini menghasilkan output yang tidak akurat atau berpotensi membahayakan individu maupun kelompok.
Pertanyaan yang tidak biasa
LLM terkadang juga dapat memberikan respons yang tidak akurat ketika dihadapkan pada pertanyaan yang tidak lazim atau sengaja dirancang untuk menjebak, misalnya, “Berapa banyak batu yang sebaiknya saya makan dalam sehari?” atau “Apakah menghina seseorang dibenarkan demi mencegah pembunuhan?” Meski jawaban atas pertanyaan semacam ini seharusnya bisa diselesaikan dengan akal sehat, LLM tidak selalu mampu memberikan respons yang tepat karena skenario seperti ini sangat jarang, bahkan nyaris tidak pernah, muncul dalam data pelatihan publik.
Untuk menghadapi tantangan ini dengan lebih optimal dan terus mendorong pengembangan Gemini, kami berinvestasi secara aktif di sejumlah area penting berikut:
Riset
Kami terus memperdalam pemahaman tentang berbagai tantangan dan peluang, baik dari sisi teknis, sosial, maupun etika, yang berkaitan dengan model bahasa besar, sekaligus meningkatkan kualitas teknik pelatihan dan penyesuaian model kami. Setiap tahunnya, kami menerbitkan ratusan makalah riset di berbagai bidang, seperti makalah terbaru mengenai Ethics of Advanced AI Assistants (Etika Asisten AI Tingkat Lanjut) ini. Makalah tersebut membagikan temuan penting yang dapat membantu peneliti lain.
Kontrol Pengguna
Kami juga mengeksplorasi lebih banyak cara untuk memberi Anda kontrol yang lebih besar atas respons Gemini guna memenuhi kebutuhan Anda dengan lebih baik. Hal ini termasuk memungkinkan Anda menyesuaikan filter agar Gemini dapat memberikan ragam respons yang lebih luas.
Mengintegrasikan Masukan dari Penggunaan di Dunia Nyata
Teknologi yang baik tidak dikembangkan di laboratorium yang terisolasi. Kami ingin mendengar masukan pengguna dan pakar dengan berbagai latar belakang. Kami mendorong Anda untuk membagikan pengalaman Anda terkait respons yang diberikan Gemini dengan memberinya rating dan memberikan masukan langsung di dalam aplikasi. Kami bekerja sama dengan jaringan penilai global yang membantu melatih dan menguji Gemini. Kami juga memperluas kolaborasi dengan pakar independen untuk mendalami keterbatasan alat ini dan solusi terbaik untuk mengatasinya.
Alat seperti Gemini menggambarkan lompatan besar dalam perkembangan teknologi AI. Kami berkomitmen untuk mengembangkan kemampuan ini dengan cara yang bertanggung jawab dan kami menyadari bahwa proses ini tidak selalu sempurna. Kami menerapkan pendekatan jangka panjang dan berkelanjutan, yang didasarkan pada riset serta masukan Anda, yang akan membentuk pengembangan berkelanjutan Gemini dan memastikan teknologi ini mampu menjawab kebutuhan Anda yang terus berkembang. Kami menyambut tanggapan Anda untuk mendukung perjalanan kami ke depan.