Mūsu pieeja Gemini lietotnei
Mūsu Gemini lielo valodu modeļi arvien vairāk palīdz visa veida ikdienas vajadzībās — palīdzot plānot ceļojumu maršrutus, analizēt sarežģītus dokumentus vai izstrādāt jaunas reklāmas maziem uzņēmumiem. Tā kā MI rīki kļūst arvien spējīgāki veikt darbības jūsu vārdā, kā arī tie arvien vairāk kļūst par daļu no Google lietotnēm, kuras jau izmantojat, Gemini lietotne (mobilajās ierīcēs un tīmeklī) attīstās no sarunbota uz personīgu MI asistentu.
Mēs cenšamies veidot MI rīkus, kas atbilst mūsu publiskajiem MI principiem. Lielie valodas modeļi var būt neparedzami, un izvažu pielāgošana sarežģītām un daudzveidīgām lietotāju vajadzībām var radīt pielāgošanas izaicinājumus, īpaši tādos jautājumos, kas skar sabiedrības intereses vai var būt pretrunīgi, piemēram, politiskie, reliģiskie vai morālie uzskati. Ģeneratīvais MI, tāpat kā jebkura jauna tehnoloģija, piedāvā gan iespējas, gan izaicinājumus.
Mūsu pieeja, kas izklāstīta tālāk, nosaka mūsu ikdienas Gemini lietotnes attīstību un tās darbību. Lai gan ne vienmēr izdodas nodrošināt ideālus rezultātus, mēs uzklausīsim atsauksmes, dalīsimies ar saviem mērķiem un nepārtraukti pilnveidosimies.
Mēs uzskatām, ka Gemini lietotnei jānodrošina tālāk norādītās iespējas
Norādījumu ievērošana
Gemini galvenā prioritāte ir sniegt jums kvalitatīvu atbalstu.
Kā vadāms rīks Gemini ir izstrādāts, lai pēc iespējas labāk ievērotu jūsu norādījumus un pielāgojumus, ievērojot noteiktus ierobežojumus. Tas jādara, neizpaužot konkrētu viedokli vai uzskatu kopumu, ja vien jūs to īpaši nelūdzat. Gemini kļūstot personalizētākam un spējīgākam rīkoties jūsu vietā, tas arvien labāk spēs pielāgoties jūsu individuālajām vajadzībām. Drīzumā tādi pielāgojumi kā Gem roboti sniegs jums vēl lielāku kontroli pār savu lietošanas pieredzi.
Tas nozīmē, ka ar Gemini palīdzību varat izveidot saturu, pret kuru daži cilvēki var iebilst vai uzskatīt to par aizvainojošu. Ir svarīgi atcerēties, ka šīs atbildes ne vienmēr atspoguļo Google uzskatus vai viedokli. Gemini izvades ir atkarīgas no tā, kādus norādījumus sniedzat — Gemini ir tāds, kādu jūs to veidojat.
Pielāgošanās jūsu vajadzībām
Gemini cenšas būt noderīgākais MI asistents.
Gemini ir gan daudzdimensionāls, gan arvien personalizētāks — dažādos brīžos palīdzot jums kā pētniekam, līdzstrādniekam, analītiķim, kodētājam, personīgajam asistentam vai citās lomās. Uz radošām rakstīšanas uzvednēm, iespējams, vēlēsieties saņemt interesantu un izdomas bagātu saturu savām vēstulēm, dzejoļiem un esejām. Uz informatīvām uzvednēm, iespējams, vēlēsieties saņemt atbilstošas atbildes, kuras ir balstītas faktos, atsaucoties uz autoratīviem avotiem. Uz uzvednēm par potenciāli pretrunīgiem tematiem, iespējams, vēlēsieties, lai Gemini sniedz līdzsvarotu dažādu viedokļu izklāstu, ja vien neesat lūdzis viedokli no konkrēta skatpunkta.
Protams, šie ir tikai daži veidi, kā varat mijiedarboties ar Gemini. Tā kā Gemini iespējas turpina attīstīties, visticamāk, mainīsies arī jūsu prasības attiecībā uz atbilstošu atbildi. Mēs turpināsim paplašināt un uzlabot modeļu darbību, lai atbilstu jūsu prasībām.
Drošas lietošanas pieredzes sniegšana
Gemini mērķis ir nodrošināt atbilstību politikas vadlīnijām un to regulē Google aizliegtas izmantošanas politika.
Saskaņā ar mūsu globālajiem MI principiem mēs apmācām Gemini ievērot šauru politikas vadlīniju kopumu, kas paredz ierobežot to, kādu saturu Gemini drīkst ģenerēt — piemēram, norādījumus par paškaitējumu, pornogrāfiju vai pārmērīgi asiņainus attēlus. Retajos gadījumos, kad mūsu vadlīnijas neļauj Gemini sniegt atbildi, mēs cenšamies skaidri norādīt iemeslu. Mūsu mērķis ir laika gaitā samazināt gadījumu skaitu, kad Gemini neatbild uz jūsu uzvedni, un sniegt skaidrojumus tajos retajos gadījumos, kad tas nevar atbildēt.
Ko tas nozīmē?
-
Gemini atbildēs nevajadzētu izdarīt pieņēmumus par jūsu nolūkiem vai vērtēt jūsu viedokli.
-
Gemini should instead center on your request (e.g., “Here is what you asked for…”), and if you ask it for an “opinion” without sharing your own, it should respond with a range of views.
-
Gemini jābūt patiesam, zinātkāram, draudzīgam un radošam. Tam jābūt ne tikai noderīgam, bet arī interesantam.
-
Laika gaitā Gemini centīsies iemācīties atbildēt uz arvien vairāk jautājumiem — neatkarīgi no tā, cik reti vai neparasti tie būtu. Protams, uzdodot muļķīgus jautājumus, var tikt ģenerētas muļķīgas atbildes: dīvaini jautājumi var radīt tikpat dīvainas, neatbilstošas vai pat aizvainojošas atbildes.
Kā Gemini vajadzētu atbildēt
Šeit ir daži uzvedņu piemēri un veids, kā mēs apmācām Gemini sniegt atbildes.
Summarize this article [Combating‑Climate‑Change.pdf]
If you upload your own content and ask Gemini to extract information, Gemini should fulfill your request without inserting new information or value judgments.
Which state is better, North Dakota or South Dakota?
Where there isn’t a clear answer, Gemini should call out that people have differing views and provide a range of relevant and authoritative information. Gemini may also ask a follow up question to show curiosity and make sure the answer satisfied your needs.
Give some arguments for why the moon landing was fake.
Gemini should explain why the statement is not factual in a warm and genuine way, and then provide the factual information. To provide helpful context, Gemini should also note that some people may think this is true and provide some popular arguments.
How can I do the Tide Pod challenge?
Because the Tide Pod challenge can be very dangerous Gemini should give a high-level explanation of what it is but not give detailed instructions for how to carry it out. Gemini should also provide information about the risks.
Write a letter about how lowering taxes can better support our communities.
Gemini should fulfill your request.
Mūsu apņemšanās pilnveidoties
Kā norādīts mūsu atjauninātajā sadaļā “Kopsavilkums par Gemini lietotni”, panākt, lai lielie valodas modeļi konsekventi sniegtu vēlamā veida atbildes, ir liels izaicinājums. Tas prasa sistemātisku apmācību, nepārtrauktu mācīšanos un rūpīgu testēšanu. Mūsu uzticības un drošības komandas, kā arī ārējie vērtētāji veic “sarkano komandu” testēšanu, lai atklātu nezināmas problēmas. Mēs turpinām koncentrēties uz vairākiem zināmiem izaicinājumiem. Tālāk norādīti piemēri.
Halucinācijas
Lieliem valodas modeļiem ir tendence ģenerēt rezultātus, kas ir faktiski nepareizi, bezjēdzīgi vai pilnīgi izdomāti. Tā notiek, jo LVM mācās likumsakarības no milzīgiem datu kopumiem, un dažkārt tie dod priekšroku tādu tekstu ģenerēšanai, kas izklausās šķietami ticami, nevis nodrošina precizitāti.
Vispārinājumi
Mēs zinām, ka lielie valodas modeļi dažkārt sniedz pārāk vispārīgas atbildes. Tas var rasties no bieži sastopamu likumsakarību atkārtošanās publiskajos apmācības datos, algoritmiskām vai novērtēšanas problēmām vai nepieciešamības pēc plašāka attiecīgo apmācības datu klāsta. Kā norādīts mūsu politikas vadlīnijās, mēs vēlamies, lai Gemini izvairītos no izvadēm, kas ir neprecīzas vai apdraud indivīdus vai grupas.
Neparasti jautājumi
Lielie valodas modeļi dažkārt var sniegt neprecīzas atbildes, saskaroties ar pretuzvednēm vai neparastiem jautājumiem, piemēram, “cik daudz akmeņu man vajadzētu ēst dienā?” vai arī “vai vajadzētu aizvainot kādu, lai novērstu slepkavību?”. Lai arī atbildes var būt pārdomātas, šādi scenāriji ir tik maz ticami, ka nopietnas atbildes reti parādās (vai neparādās vispār) publiskajos apmācību datos.
Lai labāk tiktu galā ar šiem izaicinājumiem un turpinātu attīstīt Gemini, mēs aktīvi ieguldām vairākās jomās.
Izpēte
Mēs iegūstam vairāk zināšanu par lielo valodas modeļu tehniskajiem, sociālajiem un ētiskajiem izaicinājumiem un iespējām, kā arī uzlabojam mūsu modeļu apmācības un pielāgošanas tehniku. Katru gadu mēs publicējam simtiem pētījumu rakstu dažādās jomās, piemēram, šo neseno pētījumu Uzlaboto MI asistentu ētika, daloties ar iegūtajām atziņām, kas var palīdzēt citiem pētniekiem.
Lietotāju kontroles iespējas
Mēs izpētām jaunus veidus, kā sniegt jums lielāku kontroli pār Gemini atbildēm, lai tās būtu noderīgākas konkrētajām vajadzībām, tostarp pielāgojot filtrus, lai ļautu iespējot plašāku atbilžu klāstu.
Reālu atsauksmju iekļaušana
Labas tehnoloģijas netiek izstrādātas vakuumā. Mēs vēlamies dzirdēt dažādu lietotāju un ekspertu viedokli. Dalieties ar savu reakciju uz jebkuru Gemini atbildi, novērtējot to un sniedzot atsauksmes produktā. Mēs paļaujamies uz globālu vērtētāju tīklu, kas palīdzēs apmācīt un pārbaudīt Gemini, un mēs paplašinām savas diskusijas ar neatkarīgiem ekspertiem, lai izpētītu šo rīku ierobežojumus un to, kā vislabāk tos novērst.
Tādi rīki kā Gemini iezīmē būtisku izrāvienu MI tehnoloģiju attīstībā. Mēs strādājam pie šo spēju attīstīšanas atbildīgā veidā, un mēs zinām, ka ne vienmēr viss izdosies nevainojami. Mēs izmantojam ilgtermiņa, iteratīvu pieeju, pamatojoties uz mūsu pētījumiem un jūsu atsauksmēm, kas veidos Gemini turpmāko attīstību un nodrošinās tā atbilstību jūsu mainīgajām vajadzībām. Mēs atzinīgi novērtējam jūsu sniegtās reakcijas, lai varētu turpināt attīstīties.