Μια νέα έκθεση προειδοποιεί ότι η χρήση της τεχνητής νοημοσύνης και της ψηφιακής παρακολούθησης στα σχολεία των ΗΠΑ αποτελεί κίνδυνο για τους ΛΟΑΤΚΙ+ μαθητές, και θα μπορούσε να παραβιάσει τα δικαιώματά τους.
Εμπειρογνώμονες από το Κέντρο για τη Δημοκρατία και την Τεχνολογία, μια μη κερδοσκοπική, μη κομματική οργάνωση που υπερασπίζεται τα δικαιώματα των πολιτών στον ψηφιακό κόσμο, δημοσίευσαν μια έκθεση σχετικά με τις εμπειρίες των εκπαιδευτικών, των μαθητών και των γονέων όσον αφορά την προστασία των δεδομένων των μαθητών, το φιλτράρισμα και τον αποκλεισμό περιεχομένου, την παρακολούθηση της δραστηριότητας των μαθητών και την τεχνητή νοημοσύνη (προγράμματα όπως το ChatGPT).
Στην έκθεση, η οποία δημοσιεύθηκε την Τετάρτη (20 Σεπτεμβρίου), οι ερευνητές διαπίστωσαν ότι οι τεχνολογίες που χρησιμοποιούνται για τον αποκλεισμό ρητού περιεχομένου για ενήλικες και η σήμανση για μαθητές που κινδυνεύουν να αυτοτραυματιστούν ή να βλάψουν άλλους, θέτουν σε κίνδυνο ήδη ευάλωτους μαθητές – ιδίως όσα άτομα είναι ΛΟΑΤΚΙ+, ανάπηρα ή και μη λευκά.
Για το δείγμα τους, το Κέντρο για τη Δημοκρατία και την Τεχνολογία πραγματοποίησε δημοσκόπηση σε 1.029 μαθητές από την ένατη έως τη δωδέκατη τάξη (αμερικανικό σχολικό σύστημα), σε 1.018 γονείς μαθητών της έκτης έως τη δωδέκατη τάξη και σε 1.005 εκπαιδευτικούς μαθητών της έκτης έως τη δωδέκατη τάξη.
Η μελέτη διαπίστωσε ότι οι ΛΟΑΤΚΙ+ μαθητές είναι πιο πιθανό να αντιμετωπίσουν αρνητικές συνέπειες σχετικά με τη διαδικτυακή τους δραστηριότητα μέσω της παρακολούθησης της μαθητικής δραστηριότητας από ό,τι οι cis ετεροφυλόφιλοι, συμμαθητές τους.
Το 29% των ΛΟΑΤΚΙ+ μαθητών ανέφεραν ότι είτε οι ίδιοι είτε κάποιος άλλος μαθητής είχε κάνει coming out ως ΛΟΑΤΚΙ+, πράγμα που αποτελεί «δυνητικά τραυματικό γεγονός», και οι μισοί (50%) από όλους τους ΛΟΑΤΚΙ+ μαθητές που συμμετείχαν στην έρευνα δήλωσαν ότι οι ίδιοι ή κάποιος άλλος μαθητής είχαν τιμωρηθεί για κάτι που έκαναν στο διαδίκτυο, σε σύγκριση με το 39% των μη ΛΟΑΤΚΙ+ μαθητών.
Διαπιστώθηκε ότι η παρακολούθηση της δραστηριότητας των μαθητών είναι ευρέως διαδεδομένη, με σχεδόν εννέα στους δέκα εκπαιδευτικούς (88%) να αναφέρουν ότι χρησιμοποιείται σε συσκευές που παρέχονται από το σχολείο. Τέσσερις στους 10 εκπαιδευτικούς δήλωσαν επίσης ότι το σχολείο τους παρακολουθεί τις προσωπικές συσκευές των μαθητών. Η παρακολούθηση αυτή πραγματοποιείται τόσο εντός όσο και εκτός σχολικού ωραρίου, με το 38% των εκπαιδευτικών να αναφέρουν παρακολούθηση εκτός σχολικού ωραρίου.
Το ένα τρίτο των ερωτηθέντων εκπαιδευτικών δήλωσε ότι το περιεχόμενο που σχετίζεται με ΛΟΑΤΚΙ+ θέματα και το περιεχόμενο που διερευνά τη φυλή είναι πιο πιθανό να περιορίζεται από τα AI φίλτρα περιεχομένου. Το κέντρο δήλωσε ότι αυτό «ισοδυναμεί με ψηφιακή απαγόρευση βιβλίων», παρόμοια με τους πρόσφατους νομικούς περιορισμούς και απαγορεύσεις του ΛΟΑΤΚΙ+ υλικού, όπως ο αντί-ΛΟΑΤΚΙ+ νόμος της Φλόριντα «Μη λες γκέι».
Η έρευνα σημειώνει επίσης ότι η πλειονότητα των γονέων, των μαθητών και των εκπαιδευτικών έχει «εκτεταμένη σύγχυση» σχετικά με τον ρόλο της τεχνητής νοημοσύνης στην τάξη.
Οι ίδιοι ερευνητές προειδοποίησαν πριν από λίγο καιρό ότι αυτού του είδους οι τεχνολογίες είναι πιθανό να βλάψουν τη ΛΟΑΤΚΙ+ κοινότητα. Το 2022, το Κέντρο για τη Δημοκρατία και την Τεχνολογία κυκλοφόρησε ερευνητικό έγγραφο με τίτλο «Hidden Harms: Targeting LGBTQ+ Students», το οποίο υπογράμμιζε ακριβώς αυτές τις ανησυχίες.
Διαπίστωσε ότι οι αλγόριθμοι που χρησιμοποιούν τα σχολεία σάρωναν τα μηνύματα, τα έγγραφα και τους ιστότοπους που επισκέπτονταν οι μαθητές για να βρουν λέξεις όπως «γκέι» και «λεσβία» και να τις επισημάνουν αυτόματα στο σχολείο. Παρόλο που αυτό γινόταν δήθεν για την «ασφάλεια» των μαθητών, ήταν πιο πιθανό να είναι επιβλαβές, καθώς ισοδυναμούσε με «outing».
Το 23% των μαθητών δήλωσαν ότι οι ίδιοι, ή κάποιος που γνώριζαν, είχαν υποστεί outing σε καθηγητές ή γονείς από αυτήν την τεχνολογία. Διαπιστώθηκε επίσης ότι οι ΛΟΑΤΚΙ+ μαθητές ήταν πιο πιθανό να υποστούν πειθαρχική δίωξη από τους καθηγητές και τους γονείς λόγω των ευρημάτων του AI.
Σχολιάζοντας τα αποτελέσματα της μελέτης, η Elizabeth Laird, διευθύντρια ισότητας στην τεχνολογία των πολιτών για το Κέντρο για τη Δημοκρατία και την Τεχνολογία, δήλωσε: «Υπάρχουν ορισμένες ομάδες μαθητών που θα έπρεπε ήδη να προστατεύονται από τους υφιστάμενους νόμους για τα πολιτικά δικαιώματα και παρόλα αυτά εξακολουθούν να βιώνουν δυσανάλογες και αρνητικές συνέπειες λόγω της χρήσης αυτών των εκπαιδευτικών δεδομένων και της τεχνολογίας».
Σύμφωνα με το Κέντρο, όλο και περισσότεροι μαθητές και γονείς εκφράζουν ανησυχίες για το πώς αυτές οι τεχνολογίες μπορεί να προκαλέσουν ζημιά σε ήδη περιθωριοποιημένα άτομα στο σχολείο.
Σχετικά με το τι πρέπει να συμβεί στη συνέχεια για την προστασία τους, το Κέντρο δήλωσε: «Τα σχολεία πρέπει να αφοσιωθούν στον τρόπο με τον οποίο χρησιμοποιούν αυτές τις τεχνολογίες για να διασφαλίσουν ότι δεν προκαλούν διακρίσεις και άλλες ζημιές.
«Πρέπει να διασφαλίσουν ότι η τεχνολογία χρησιμοποιείται με τρόπους που ωφελούν όλους τους μαθητές».
