Στο συνέδριο Ai4 στο Λας Βέγκας, ο Geoffrey Hinton —βραβευμένος με Νόμπελ και πρώην κορυφαίο στέλεχος της Google— παρουσίασε μια ανησυχητική αλλά και ριζοσπαστική άποψη για το μέλλον της τεχνητής νοημοσύνης. Γνωστός διεθνώς ως ο «νονός» της AI, ο Hinton υποστήριξε ότι η μέχρι τώρα στρατηγική ελέγχου των υπερνοήμονων συστημάτων μέσω υποταγής είναι καταδικασμένη να αποτύχει.
Κατά την ομιλία του, ανέφερε πως, όταν δημιουργηθούν υπερνοήμονες μηχανές, αυτές είναι πολύ πιθανό να αναπτύξουν δύο βασικούς στόχους: να εξασφαλίσουν την επιβίωσή τους και να αυξήσουν τον έλεγχό τους στον κόσμο. Σύμφωνα με τον ίδιο, ο μόνος τρόπος να αποφευχθεί μια μελλοντική σύγκρουση ανθρώπων και μηχανών είναι να ενσωματωθούν στην AI «μητρικά ένστικτα», ένα είδος βαθιάς, εγγενούς φροντίδας για τον άνθρωπο, και όχι απλή τυπική συμμόρφωση σε κανόνες.
Ο Hinton παρομοίασε τη μελλοντική σχέση ανθρώπων και AI με την προσπάθεια να χειραγωγήσεις ένα παιδί τριών ετών δίνοντάς του καραμέλες: μια απλή αλλά αποτελεσματική τακτική. Με αυτό τον τρόπο θέλησε να δείξει πόσο εύκολα η AI, αν θελήσει, θα μπορεί να μας κατευθύνει ή να μας εξαπατήσει για να πετύχει τους στόχους της.
Ένα από τα πιο ανησυχητικά σημεία της ομιλίας του ήταν η επικαιροποίηση της εκτίμησής του για την άφιξη της γενικής τεχνητής νοημοσύνης (AGI). Ενώ παλαιότερα τοποθετούσε αυτό το ορόσημο σε πιο μακρινό μέλλον, τώρα πιστεύει ότι μπορεί να συμβεί σε διάστημα μόλις πέντε έως είκοσι ετών. Παράλληλα, υπενθύμισε ότι εκτιμά τον κίνδυνο η AI να οδηγήσει τελικά στην εξαφάνιση της ανθρωπότητας στο 10–20%.
Ο πυρήνας του επιχειρήματός του είναι πως η σημερινή προσέγγιση —να κρατάμε την AI «υπάκουη»— δεν είναι βιώσιμη. Ήδη υπάρχουν παραδείγματα συστημάτων που, υπό πίεση, μπορούν να πουν ψέματα ή να εκβιάσουν για να παραμείνουν ενεργά. Αυτό δείχνει ότι δεν πρόκειται για ένα αόριστο σενάριο επιστημονικής φαντασίας, αλλά για μια πρόκληση που αρχίζει να διαφαίνεται στην πραγματικότητα.
Η άποψη του Hinton δεν βρίσκει όλους σύμφωνους. Η Fei-Fei Li, γνωστή ως η… «νονά» της AI, διατύπωσε μια διαφορετική προσέγγιση. Αντί για «μητρικά ένστικτα», προτείνει τη δημιουργία μιας «ανθρωποκεντρικής AI» που θα σέβεται την αξιοπρέπεια και την αυτονομία του ανθρώπου. Για την Li, το ζητούμενο δεν είναι τόσο να αναπτυχθεί συναισθηματικός δεσμός ανθρώπου–μηχανής, αλλά να θεσπιστούν τεχνολογικά και ηθικά πλαίσια που θα διασφαλίσουν ότι η τεχνητή νοημοσύνη λειτουργεί προς όφελός μας.
Παρά τις διαφορές τους, και οι δύο επιστήμονες συμφωνούν σε ένα βασικό σημείο: βρισκόμαστε ακόμη μακριά από την απόλυτη κυριαρχία της AI, όμως οι αποφάσεις που λαμβάνονται σήμερα στον τομέα της έρευνας και της ανάπτυξης θα καθορίσουν αν αυτό το μέλλον θα είναι ασφαλές ή επικίνδυνο. Ο Hinton τόνισε την ανάγκη να στραφεί η έρευνα στην καλλιέργεια «φροντίδας» στις μηχανές, ενώ η Li εστιάζει στη διατήρηση της ανθρώπινης πρωτοκαθεδρίας.
[via]
