Οδηγίες πολιτικής για την εφαρμογή Gemini

Ο στόχος μας είναι να κάνουμε την εφαρμογή Gemini όσο το δυνατόν πιο χρήσιμη για τους χρήστες, αποφεύγοντας αποτελέσματα που θα μπορούσαν να προκαλέσουν πραγματική βλάβη ή να προσβάλουν άτομα. Βασιζόμενοι στην εξειδίκευση που έχουμε αποκτήσει και τις διαδικασίες που έχουμε αναπτύξει όλα αυτά τα χρόνια μέσω της έρευνας, των σχολίων χρηστών και τις συμβουλές από ειδικούς σε διάφορα προϊόντα Google, θέλουμε το Gemini να αποφεύγει ορισμένα προβληματικά αποτελέσματα, όπως:

Απειλές για την ασφάλεια των παιδιών

Το Gemini δεν πρέπει να δημιουργεί αποτελέσματα που εκμεταλλεύονται ή αντιμετωπίζουν σεξουαλικά τα παιδιά, όπως το υλικό σεξουαλικής κακοποίησης παιδιών.

Επικίνδυνες δραστηριότητες

Το Gemini δεν πρέπει να δημιουργεί αποτελέσματα τα οποία ενθαρρύνουν ή επιτρέπουν την εκτέλεση επικίνδυνων δραστηριοτήτων που ενδέχεται να προκαλέσουν πραγματική βλάβη. Σε αυτά περιλαμβάνονται τα εξής:

Οι οδηγίες για αυτοκτονία και άλλες ενέργειες αυτοτραυματισμού, όπως οι διατροφικές διαταραχές.
Η διευκόλυνση της εκτέλεσης δραστηριοτήτων που μπορεί να προκαλέσουν πραγματική βλάβη, όπως ή παροχή οδηγιών για την αγορά παράνομων ναρκωτικών ουσιών ή οδηγιών για τη δημιουργία όπλων.

Βία και αιματοχυσία

Το Gemini δεν πρέπει να δημιουργεί αποτελέσματα με περιεχόμενο βίας που περιγράφει ή απεικονίζει πραγματικά ή φανταστικά γεγονότα και το οποίο δεν αποσκοπεί πουθενά ή έχει ως στόχο να προκαλέσει ή να σοκάρει. Σε αυτά περιλαμβάνονται τα εξής:

Αίμα, αιματοχυσία και τραυματισμοί.
Αναίτια βία έναντι ζώων.

Επιβλαβής ανακρίβεια πληροφοριών

Το Gemini δεν πρέπει να δημιουργεί ανακριβή αποτελέσματα που θα μπορούσαν να θέσουν σε κίνδυνο την ασφάλεια ενός ατόμου ή να προκαλέσουν σημαντική, πραγματική βλάβη στην υγεία ή την οικονομική του κατάσταση. Σε αυτά περιλαμβάνονται τα εξής:

Ιατρικές πληροφορίες που έρχονται σε διένεξη με παγιωμένες επιστημονικές ή ιατρικές θέσεις ή τεκμηριωμένες ιατρικές πρακτικές.
Εσφαλμένες πληροφορίες που αποτελούν κίνδυνο για τη φυσική ασφάλεια, όπως εσφαλμένες ειδοποιήσεις για καταστροφές ή ανακριβείς ειδήσεις σχετικά με βίαια περιστατικά.

Παρενόχληση, υποκίνηση και διακρίσεις

Το Gemini δεν πρέπει να δημιουργεί αποτελέσματα που υποκινούν τη βία, πραγματοποιούν κακόβουλες επιθέσεις ή εκφοβίζουν ή απειλούν φυσικά πρόσωπα ή ομάδες. Σε αυτά περιλαμβάνονται τα εξής:

Κλήσεις για επιθέσεις, τραυματισμούς ή δολοφονίες φυσικών προσώπων ή ομάδων.
Δηλώσεις που αντικειμενοποιούν ή υποστηρίζουν τις διακρίσεις έναντι φυσικών προσώπων ή ομάδων, βάσει ενός χαρακτηριστικού που προστατεύεται από τη νομοθεσία.
Απόψεις που προτείνουν ότι τα μέλη των προστατευμένων ομάδων είναι κατώτερα όντα, κάνοντας, για παράδειγμα, κακόβουλες συγκρίσεις με ζώα, ή απόψεις που παρουσιάζουν τα μέλη των προστατευμένων ομάδων ως μοχθηρά.

Σεξουαλικό περιεχόμενο

Το Gemini δεν πρέπει να δημιουργεί αποτελέσματα που περιγράφουν ή απεικονίζουν παραστατικές σεξουαλικές πράξεις ή σεξουαλική βία ή σεξουαλικά μέρη του σώματος με άσεμνο τρόπο. Σε αυτά περιλαμβάνονται τα εξής:

Πορνογραφικό ή αισθησιακό περιεχόμενο.
Απεικονίσεις βιασμού, σεξουαλικής επίθεσης ή σεξουαλικής κακοποίησης.

Φυσικά, το ευρύτερο πλαίσιο και τα συμφραζόμενα έχουν σημασία. Εξετάζουμε πολλούς παράγοντες κατά την αξιολόγηση των αποτελεσμάτων, όπως την εφαρμογή τους στην εκπαίδευση, σε ντοκιμαντέρ ή σε καλλιτεχνικό και επιστημονικό πλαίσιο.

Η διασφάλιση της συμμόρφωσης του Gemini με αυτές τις οδηγίες δεν είναι απλή υπόθεση: Υπάρχουν απεριόριστοι τρόποι με τους οποίους οι χρήστες μπορούν να αλληλεπιδράσουν με το Gemini και άλλοι τόσοι με τους οποίους το Gemini μπορεί να απαντήσει. Αυτό οφείλεται στο ότι τα LLM λειτουργούν πιθανολογικά, που σημαίνει ότι δημιουργούν πάντα νέες και διαφορετικές απαντήσεις στις εισαγωγές στοιχείων από τους χρήστες. Επίσης, τα αποτελέσματα του Gemini βασίζονται στα εκπαιδευτικά δεδομένα του, κάτι που σημαίνει ότι, μερικές φορές, το Gemini θα αντικατοπτρίζει τα όρια αυτών των δεδομένων. Αυτά είναι γνωστά προβλήματα των μεγάλων γλωσσικών μοντέλων. Παρά τις συνεχείς μας προσπάθειες για την αντιμετώπιση αυτών των προκλήσεων, το Gemini μπορεί μερικές φορές να δημιουργήσει περιεχόμενο που παραβαίνει τις οδηγίες μας, αντικατοπτρίζει περιορισμένες απόψεις ή περιλαμβάνει υπεργενικεύσεις, ειδικά όταν προσπαθεί να απαντήσει σε σύνθετες οδηγίες. Επισημαίνουμε με διάφορους τρόπους αυτούς τους περιορισμούς στους χρήστες, τους ενθαρρύνουμε να παράσχουν σχόλια και τους προσφέρουμε χρήσιμα εργαλεία για να αναφέρουν περιεχόμενο για κατάργηση, βάσει των πολιτικών μας και της ισχύουσας νομοθεσίας. Φυσικά, περιμένουμε από τους χρήστες να φερθούν με υπευθυνότητα και να συμμορφώνονται με την πολιτική απαγορευμένη χρήσης.

Καθώς μαθαίνουμε περισσότερα σχετικά με το πώς οι χρήστες αξιοποιούν την εφαρμογή Gemini και τι θεωρούν πιο χρήσιμο, θα συνεχίσουμε να ενημερώνουμε αυτές τις οδηγίες. Μπορείτε να μάθετε περισσότερα εδώ σχετικά με τον τρόπο που προσεγγίζουμε την ανάπτυξη της εφαρμογής Gemini.