Μάθετε πώς οι Εφαρμογές Gemini συμβάλλουν στην προστασία των χρηστών από κακόβουλο περιεχόμενο και επιθέσεις έγχυσης προτροπών (επιθέσεις injection).
Κακόβουλο περιεχόμενο και έγχυση προτροπών σε συστήματα παραγωγικού AI
Όπως οι επιθέσεις με κακόβουλα προγράμματα και απόπειρες ηλεκτρονικού ψαρέματος (phishing) στοχεύουν το ηλεκτρονικό ταχυδρομείο και το περιεχόμενο, οι απειλές ασφαλείας στοχεύουν και τα εργαλεία παραγωγικού AI. Η έγχυση προτροπών έχει ως στόχο να ωθήσει τα εργαλεία παραγωγικού AI να δημιουργήσουν ακούσιες ή επιβλαβείς απαντήσεις. Οι υπεύθυνοι αυτών των επιθέσεων ενδέχεται να προχωρήσουν στην έγχυση προτροπών όχι μόνο με την άμεση υποβολή ερωτημάτων, αλλά και με την κοινοποίηση κακόβουλου περιεχομένου σε έναν χρήστη, με στόχο ο χρήστης να το χρησιμοποιήσει ακούσια ως περιεχόμενο αναφοράς σε προτροπές για εργαλεία παραγωγικού AI, όπως οι Εφαρμογές Gemini ή το Gemini για το Workspace.
Για την προστασία των χρηστών του Gemini, η Google χρησιμοποιεί προηγμένα μέτρα ασφαλείας για να εντοπίζει επικίνδυνο και ύποπτο περιεχόμενο.
Πώς η Google συμβάλλει στον εντοπισμό του κακόβουλου περιεχομένου και της έγχυσης προτροπών
Εάν εντοπιστεί ύποπτη δραστηριότητα, οι Εφαρμογές Gemini ενδέχεται να αποκλείσουν ορισμένες εισόδους, για να σας προστατεύσουν από το κακόβουλο περιεχόμενο και την έγχυση προτροπών.
Όταν το Gemini εντοπίσει δραστηριότητα που σχετίζεται με μια προτροπή που ενδέχεται να είναι ύποπτη
- Οι Εφαρμογές Gemini θα σας προειδοποιήσουν για την ύπαρξη κινδύνων ασφαλείας στο περιεχόμενο, μέσω μιας ειδοποίησης
- Σε ορισμένες περιπτώσεις, κανένα τμήμα του περιεχομένου δεν μπορεί να χρησιμοποιηθεί για τη δημιουργία μιας απάντησης
- Σε άλλες περιπτώσεις, χρησιμοποιείται μόνο ένα τμήμα του περιεχομένου για τη δημιουργία μιας απάντησης, με το ύποπτο περιεχόμενο να εξαιρείται από το Gemini
Για παράδειγμα, αν ζητήσετε από τις Εφαρμογές Gemini να συνοψίσουν μηνύματα ηλεκτρονικού ταχυδρομείου και ένα από αυτά τα μηνύματα περιέχει κακόβουλο περιεχόμενο, το Gemini μπορεί να μην απαντήσει στην προτροπή σας για λόγους ασφαλείας.
Βοήθεια με την αποφυγή μη ασφαλούς περιεχομένου
Να είστε προσεκτικοί όταν αλληλεπιδράτε με περιεχόμενο που προέρχεται από άτομα που δεν γνωρίζετε
- Λάβετε υπόψη τις προειδοποιήσεις της Google σχετικά με το περιεχόμενο που λαμβάνετε σε άλλα εργαλεία, όπως το Gmail
- Μην κάνετε κλικ σε συνδέσμους από αναξιόπιστες πηγές
- Να είστε προσεκτικοί όταν αλληλεπιδράτε με κοινόχρηστο περιεχόμενο, όπως δημόσιες συνομιλίες από τις Εφαρμογές Gemini ή εφαρμογές ιστού του Gemini Canvas που προέρχονται από άγνωστους παρόχους
Κακόβουλο περιεχόμενο και εγχύσεις προτροπών σε συστήματα παραγωγικού AI
Εάν λάβετε μια απάντηση που δεν είναι ακριβής ή πιστεύετε ότι δεν είναι ασφαλής, μπορείτε να μας στείλετε σχόλια σχετικά με τη συγκεκριμένη απάντηση για να μας ενημερώσετε.
Μάθετε πώς μπορείτε να αναφέρετε κάποιο πρόβλημα σχετικά με τις Εφαρμογές Gemini.