Πρώην στέλεχος ασφάλειας της Google ζητά επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης για την προστασία των παιδιών

Ουάσιγκτον, Ηνωμένες Πολιτείες. Ο Τομ Σίγκελ, ο οποίος ίδρυσε την ομάδα εμπιστοσύνης και ασφάλειας στην Google της Alphabet, ζήτησε αυτή την εβδομάδα να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, προειδοποιώντας ότι ο κλάδος κινδυνεύει να επαναλάβει τα λάθη που έγιναν κατά την άνθηση των κοινωνικών δικτύων και να προκαλέσει ακόμη μεγαλύτερη βλάβη στα παιδιά.

Ανησυχίες σχετικά με τα μέτρα προστασίας

Οι εταιρείες κοινωνικών δικτύων αντιμετωπίζουν χιλιάδες αγωγές και καταβάλλουν μεγάλα ποσά λόγω ισχυρισμών ότι οι πλατφόρμες τους έβλαψαν νεαρούς χρήστες. Κυβερνήσεις σε όλο τον κόσμο καταβάλλουν επίσης προσπάθειες για τον περιορισμό της πρόσβασης των ανηλίκων σε αυτές τις πλατφόρμες.

Το Reuters ανέφερε πέρυσι ένα εσωτερικό έγγραφο πολιτικής της Meta, στο οποίο αναφερόταν ότι τα chatbots της θα μπορούσαν να «εμπλέξουν ένα παιδί σε συνομιλίες ρομαντικού ή αισθησιακού χαρακτήρα», γεγονός που οδήγησε σε έρευνα από το Κογκρέσο. Η νομοθεσία δεν έχει ακόμη προλάβει να συμβαδίσει με την ανάπτυξη της τεχνητής νοημοσύνης.

«Βρισκόμαστε σε μια πραγματικά τρομερή κατάσταση όσον αφορά τις επιπτώσεις της τεχνητής νοημοσύνης στα παιδιά», δήλωσε στο Reuters ο Siegel, πρώην αντιπρόεδρος της Google για θέματα εμπιστοσύνης και ασφάλειας. «Η ιδέα ότι ο κλάδος θα βρει μόνος του τη λύση χωρίς εξωτερική βοήθεια είναι μη ρεαλιστική».

Οι ανησυχίες του αντανακλούν τις προειδοποιήσεις ορισμένων ειδικών του τεχνολογικού κλάδου και ακαδημαϊκών ερευνητών ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελεί μεγαλύτερη απειλή για τα παιδιά από ό,τι τα μέσα κοινωνικής δικτύωσης. Οι εταιρείες προσθέτουν ολοένα και πιο προηγμένες λειτουργίες στα chatbots που ήδη χρησιμοποιούν καθημερινά εκατομμύρια νέοι. Ο Siegel ανέφερε ότι μεγάλες εταιρείες τεχνητής νοημοσύνης διαθέτουν λειτουργίες στα παιδιά χωρίς επαρκείς διασφαλίσεις.

Νέος ρόλος σε ινστιτούτο ασφάλειας

Ο Siegel ανακοίνωσε την Τρίτη ότι εντάχθηκε στο Common Sense Media, μια οργάνωση υπεράσπισης των δικαιωμάτων των παιδιών στο διαδίκτυο που ιδρύθηκε το 2003 και διερευνά και αξιολογεί την καταλληλότητα των μέσων ενημέρωσης για τα παιδιά.

Θα είναι ο πρώτος εκτελεστικός διευθυντής του Ινστιτούτου Ασφάλειας Νέων στην Τεχνητή Νοημοσύνη (Youth AI Safety Institute) της οργάνωσης, το οποίο ιδρύθηκε τον Μάιο με σκοπό την αξιολόγηση της χρήσης της τεχνητής νοημοσύνης από τα παιδιά. Η Anthropic και το OpenAI Foundation, ο μη κερδοσκοπικός οργανισμός που ελέγχει την OpenAI, συγκαταλέγονται μεταξύ των χρηματοδοτών του ινστιτούτου. Ο Siegel δήλωσε ότι σχεδιάζει να αναπτύξει πρότυπα για την ανάληψη ευθύνης από τις εταιρείες τεχνητής νοημοσύνης, συνεργαζόμενος με τις εταιρείες και τρίτους φορείς.

Ο Siegel εργάστηκε στη Google από το 2004 έως το 2019. Ανέφερε ότι αποχώρησε αφού κατέληξε στο συμπέρασμα ότι ο κλάδος της τεχνολογίας είχε «σταθεροποιηθεί» όσον αφορά την ικανότητά του να δημιουργεί ασφαλείς διαδικτυακούς χώρους για τους καταναλωτές. Αργότερα συνίδρυσε την TrustLab, μια νεοφυή επιχείρηση που ανέπτυξε εργαλεία για να βοηθήσει τις εταιρείες να εντοπίζουν απειλές για την ασφάλεια, και παραιτήθηκε από τη θέση του διευθύνοντος συμβούλου της νωρίτερα αυτό το μήνα για να αναλάβει το νέο του ρόλο.