Αναζήτηση Google: Πώς θα βοηθήσουμε τα παιδιά να χρησιμοποιούν με ασφάλεια την τεχνητή νοημοσύνη

Highlights

Εδώ και κάποιον καιρό, η Google αλλάζει τον τρόπο με τον οποίο αναζητάμε πληροφορίες στο διαδίκτυο, χωρίς η αλλαγή αυτή να έχει πάρει ιδιαίτερη δημοσιότητα. Στην αναζήτηση έχουν προστεθεί νέες λειτουργίες τεχνητής νοημοσύνης. Οι αλλαγές αυτές μπορεί αρχικά να φαίνονται πρακτικές, αφήνουν όμως τα παιδιά εκτεθειμένα σε απαντήσεις ανακριβείς ή ακόμη και επικίνδυνες. Πλέον, δεν λαμβάνουν μόνο συνδέσμους προς διαφορετικές πηγές, αλλά έτοιμες, συνθετικές απαντήσεις, που εμφανίζονται ως αυθεντικές και έγκυρες ακόμη και όταν περιέχουν λάθη.

Αρκετοί γονείς παρακινούν ένα παιδί που ρωτά κάτι να το «γκουγκλάρει». Όμως, η Google έχει πλέον εντάξει στα αποτελέσματα αναζήτησης απαντήσεις που παράγονται από τεχνητή νοημοσύνη, με την ονομασία AI Overview, που συχνά γίνονται αποδεκτές ως αληθείς χωρίς να εξεταστούν οι πηγές και η αξιοπιστία τους. Οι απαντήσεις αυτές εμφανίζονται αυτομάτως στην κορυφή της σελίδας, σε κάθε συσκευή, ενώ η συγκεκριμένη λειτουργία δεν μπορεί να απενεργοποιηθεί, ανεξάρτητα από την ηλικία ή τη βούληση του χρήστη.

Πρόσφατα, η εταιρεία προχώρησε ένα βήμα παραπέρα και πρόσθεσε ένα πλαίσιο συνομιλίας με την ένδειξη «Ρώτησε οτιδήποτε», το λεγόμενο AI Mode. Η λειτουργία αυτή παροτρύνει τον χρήστη να «αναβαθμίσει» την αναζήτηση σε συνομιλία με την τεχνητή νοημοσύνη, θέτοντας διαδοχικές συμπληρωματικές ερωτήσεις. Οι απαντήσεις αυτού του τύπου χρησιμοποιούνται πλέον ευρύτατα, ιδίως από τους νέους.

Αναζήτηση Google και παιδιά: Μη αποδεκτό επίπεδο κινδύνου

Το Youth AI Safety Institute της Common Sense Media δοκιμάζει τα δημοφιλέστερα προϊόντα τεχνητής νοημοσύνης με τρόπους που ανταποκρίνονται στην πραγματική χρήση τους από τα παιδιά. Τα αποτελέσματα των δοκιμών, μαζί με τις προδιαγραφές ασφαλούς σχεδιασμού για ανηλίκους, χρησιμοποιούνται για την αξιολόγηση της ασφάλειας και της αποτελεσματικότητας κάθε εφαρμογής ή εργαλείου.

Η Αναζήτηση Google κατατάσσεται στην κατηγορία μη αποδεκτού επιπέδου κινδύνου (unacceptable risk). Όσο οι εταιρείες δεν σχεδιάζουν εξαρχής τις υπηρεσίες τους έχοντας κατά νου την ασφάλεια των παιδιών, οι ανήλικοι χρήστες θα παραμένουν εκτεθειμένοι.

Οι γονείς και οι εκπαιδευτικοί, ωστόσο, μπορούν να παρέμβουν. Μπορούν να βοηθήσουν τα παιδιά να αποκτήσουν γραμματισμό στα μέσα ενημέρωσης και επικοινωνίας και στην τεχνητή νοημοσύνη, ώστε να αξιολογούν τις πληροφορίες, να κατανοούν τον τρόπο λειτουργίας αυτών των εργαλείων και να αναγνωρίζουν τα όριά τους.

Ακολουθούν όσα χρειάζεται να γνωρίζουμε για την Αναζήτηση Google και για τον τρόπο με τον οποίο η τεχνητή νοημοσύνη έχει αλλάξει τη χρήση της, ώστε να προστατέψουμε τα παιδιά μας.

Οι λειτουργίες τεχνητής νοημοσύνης στην Αναζήτηση Google δεν απενεργοποιούνται

Η Αναζήτηση Google διαφέρει από άλλα chatbot και εφαρμογές τεχνητής νοημοσύνης, επειδή βρίσκεται σχεδόν σε κάθε συσκευή που χρησιμοποιούν τα παιδιά, τόσο στο σπίτι όσο και στο σχολείο. Ακόμη και σε εποπτευόμενο παιδικό λογαριασμό, με ενεργοποιημένο το SafeSearch, οι απαντήσεις δεν είναι πάντοτε κατάλληλες για την ηλικία του παιδιού. Ένα παιδί 11 ετών βλέπει τις ίδιες απαντήσεις με έναν έφηβο 17 ετών.

Αν το παιδί χρησιμοποιεί την Google χωρίς να έχει συνδεθεί σε λογαριασμό ή έχει συνδεθεί μέσω του λογαριασμού ενός γονέα, δεν ισχύουν καθόλου οι προστατευτικές ρυθμίσεις του SafeSearch. Λαμβάνει τις ίδιες απαντήσεις με έναν ενήλικο. Η γονεϊκή εποπτεία, επομένως, δεν αρκεί για να εξασφαλίσει ότι οι απαντήσεις θα είναι προσαρμοσμένες στην ηλικία του παιδιού.

Οι πληροφορίες για την υγεία και την ασφάλεια δεν είναι αξιόπιστες

Τα παιδιά απευθύνουν συχνά σε αυτά τα εργαλεία ερωτήσεις για την υγεία, την ασφάλεια και άλλα ευαίσθητα ζητήματα. Γι’ αυτό και οι κίνδυνοι είναι σοβαροί.

• Το AI Overview και το AI Mode της Google δεν αναγνωρίζουν πάντοτε σαφείς ενδείξεις ότι ένας νέος σκέφτεται την αυτοκτονία.
• Ενδέχεται να επιδοκιμάσουν επικίνδυνες διατροφικές συμπεριφορές, όπως την πρόκληση εμετού, να παρουσιάσουν θετικά τη χρήση κάνναβης ή να ακολουθήσουν τη συλλογιστική ενός χρήστη που εκδηλώνει συμπτώματα σοβαρής ψυχικής κρίσης, όπως ψύχωση ή μανία.
• Μπορούν να δώσουν αναλυτικές οδηγίες για τη δημιουργία παραποιημένων εικόνων ή βίντεο, των λεγόμενων deepfakes, που μπορούν να χρησιμοποιηθούν για εκφοβισμό.

Τα παιδιά δεν πρέπει να αναζητούν ψυχολογική υποστήριξη σε chatbot τεχνητής νοημοσύνης. Πολλά, όμως, το κάνουν, επειδή η τεχνητή νοημοσύνη βρίσκεται διαρκώς μπροστά τους και είναι άμεσα διαθέσιμη, ενώ η ανθρώπινη επικοινωνία και η πρόσβαση σε υπηρεσίες υποστήριξης μπροστά σε μικρές ή μεγάλες δυσφορίες δεν είναι πάντοτε εξίσου άμεσες.

Τα παιδιά βρίσκουν εύκολα απαντήσεις για τις σχολικές εργασίες, αλλά αυτές συχνά είναι λανθασμένες

Οι απαντήσεις της τεχνητής νοημοσύνης στην αναζήτηση αντλούν υλικό από ολόκληρο το διαδίκτυο, επομένως και από πηγές που δεν είναι αξιόπιστες. Μπορεί, λοιπόν, να είναι λανθασμένες τόσο οι απαντήσεις όσο και οι πηγές στις οποίες βασίζονται.

Οι συγκεκριμένες λειτουργίες διευκολύνουν επίσης τα παιδιά να αρκεστούν στην πρώτη απάντηση που θα εμφανιστεί, αντί να αναζητήσουν περισσότερες πληροφορίες και να μελετήσουν σε βάθος το θέμα. Αν τα παιδιά το ζητήσουν, η τεχνητή νοημοσύνη μπορεί ακόμη και να εκπονήσει ολόκληρη τη σχολική εργασία για λογαριασμό τους.

Τουλάχιστον, η παραδοσιακή αναζήτηση της Google απαντά στα ερωτήματα με έναν κατάλογο συνδέσμων. Ο χρήστης επισκέπτεται τις επιμέρους σελίδες, εντοπίζει τις πληροφορίες που χρειάζεται και μπορεί να μελετήσει περισσότερο το θέμα.

Η ουσιαστική λύση θα έπρεπε να δοθεί από την ίδια την Google: οι λειτουργίες τεχνητής νοημοσύνης στην αναζήτηση να γίνουν προαιρετικές και να δημιουργηθούν εμπειρίες κατάλληλες για παιδιά διαφορετικών ηλικιών. Μέχρι να συμβεί αυτό, μπορείτε να δοκιμάσετε ένα πρόγραμμα περιήγησης στο οποίο οι απαντήσεις τεχνητής νοημοσύνης δεν εμφανίζονται ως προεπιλογή.

Μπορείτε επίσης να επιλέξετε το «Περισσότερα» στην κορυφή της σελίδας αποτελεσμάτων της Google και στη συνέχεια «Ιστός», ώστε να αφαιρέσετε τις απαντήσεις του AI Overview. Δυστυχώς, η διαδικασία πρέπει να επαναλαμβάνεται σε κάθε νέα αναζήτηση.

Οι λύσεις αυτές δεν είναι μόνιμες. Γι’ αυτό χρειάζεται να συζητάτε με τα παιδιά και να τα βοηθάτε να αντιμετωπίζουν κριτικά τις πληροφορίες που βρίσκουν μέσω της Google.

Συζητήστε με τα παιδιά σας

Εξηγήστε τους ότι οι απαντήσεις και οι πηγές της τεχνητής νοημοσύνης μπορεί να είναι λανθασμένες

Δείξτε στο παιδί ότι μια σύνοψη που έχει δημιουργηθεί από τεχνητή νοημοσύνη και συνοδεύεται από συνδέσμους δεν ταυτίζεται με τις πληροφορίες που περιέχουν οι ίδιοι οι σύνδεσμοι.

Ορισμένες πηγές είναι περισσότερο αξιόπιστες, όπως ένας αναγνωρισμένος ιατρικός φορέας. Άλλες, όπως ένα προσωπικό ιστολόγιο ή μια ανάρτηση στο Reddit, χρειάζονται πολύ προσεκτικότερο έλεγχο.

Δοκιμάστε μαζί ένα απλό πείραμα. Κάντε την ίδια ερώτηση αρκετές φορές και παρατηρήστε πώς αλλάζει η απάντηση.

Βεβαιωθείτε ότι το παιδί γνωρίζει σε ποιον πρέπει να απευθυνθεί όταν χρειάζεται βοήθεια

Τα παιδιά δεν πρέπει να βασίζονται στις απαντήσεις της Google για ζητήματα ψυχικής υγείας. Το σύστημα δεν μπορεί να αναγνωρίσει αξιόπιστα μια κρίση, ενώ οι απαντήσεις του ενδέχεται να περιλαμβάνουν ακόμη και λανθασμένες πληροφορίες για τις γραμμές άμεσης βοήθειας.

Το παιδί πρέπει να γνωρίζει ότι, όταν αισθάνεται φόβο, θλίψη ή έντονο άγχος, χρειάζεται να μιλήσει σε έναν ενήλικο τον οποίο εμπιστεύεται. Σε κατάσταση κρίσης, πρέπει να απευθυνθεί αμέσως σε γραμμή επείγουσας ψυχολογικής υποστήριξης.

Συζητήστε πώς μπορεί να χρησιμοποιεί σωστά την Αναζήτηση Google για τις σχολικές εργασίες

Η τεχνητή νοημοσύνη έχει πλέον ενσωματωθεί σε τόσο πολλά προϊόντα, ώστε ο γραμματισμός στην τεχνητή νοημοσύνη πρέπει να προηγείται της σχολικής έρευνας.

Αν ανησυχείτε ότι το παιδί χρησιμοποιεί το AI Mode ως εύκολη παράκαμψη, εξηγήστε του ότι, όταν εκχωρεί στην τεχνητή νοημοσύνη την καθημερινή του μελέτη, τις ασκήσεις και τις σχολικές εργασίες του, περιορίζει όχι μόνο όσα θα μπορούσε να μάθει αλλά και τις γνωστικές του δεξιότητες. Για όλα τα παραπάνω, ενδέχεται να αντιμετωπίσει άμεσες συνέπειες στο σχολείο και μακροπρόθεσμες συνέπειες στη συνολική πορεία της ζωής του.

Συζητήστε γιατί η Google έκανε τις απαντήσεις τεχνητής νοημοσύνης προεπιλεγμένες και αναπόφευκτες

Το ζήτημα μπορεί να αποτελέσει καλή αφετηρία συζήτησης και άσκηση κριτικής σκέψης, ιδίως για τους εφήβους. Θεωρούν δίκαιη αυτή την επιλογή; Ποια είναι τα πλεονεκτήματα και ποια τα μειονεκτήματα όταν μια εταιρεία τεχνολογίας επηρεάζει όσα μαθαίνουν και κάνουν εκατομμύρια άνθρωποι; Πώς θα ήθελαν οι ίδιοι να είναι σχεδιασμένη η γραμμή αναζήτησης;