Μέχρι πριν από λίγα χρόνια, η ιδέα ότι η Τεχνητή Νοημοσύνη μπορεί κάποτε να γίνει δύσκολο να ελεγχθεί έμοιαζε με σενάριο επιστημονικής φαντασίας. Σήμερα, όμως, ο προβληματισμός αυτός δεν προέρχεται μόνο από επικριτές της τεχνολογίας.

Έρχεται και από ανθρώπους που εργάζονται στις μεγαλύτερες εταιρείες Τεχνητής Νοημοσύνης του κόσμου. Στελέχη και ερευνητές της OpenAI, της Anthropic και άλλων εταιρειών προειδοποιούν ότι η τεχνολογία εξελίσσεται πολύ γρήγορα και ότι οι μηχανισμοί ασφαλείας ίσως δεν ακολουθούν με τον ίδιο ρυθμό.

Τι ακριβώς φοβούνται

Το βασικό πρόβλημα δεν είναι ότι ένα πρόγραμμα θα «ξυπνήσει» ξαφνικά και θα αποκτήσει συνείδηση, όπως συμβαίνει στις κινηματογραφικές ταινίες.

Η πραγματική ανησυχία είναι πιο απλή: όσο περισσότερες δυνατότητες δίνουμε σε ένα σύστημα AI, τόσο δυσκολότερο γίνεται να προβλέψουμε όλες τις κινήσεις που μπορεί να κάνει.

Σήμερα υπάρχουν ήδη συστήματα που δεν απαντούν απλώς σε ερωτήσεις. Μπορούν να γράφουν προγράμματα, να ψάχνουν στο Διαδίκτυο, να χρησιμοποιούν ηλεκτρονικές υπηρεσίες και να εκτελούν μια σειρά ενεργειών χωρίς ο άνθρωπος να τους δίνει κάθε φορά ξεχωριστή εντολή. Αυτά τα συστήματα αποκαλούνται συχνά «AI agents».

Το πρόβλημα του ελέγχου

Οι επιστήμονες χρησιμοποιούν συχνά τον όρο «alignment». Πίσω από αυτή τη δύσκολη λέξη κρύβεται ένα πολύ απλό ερώτημα:

Πώς εξασφαλίζουμε ότι ένα πολύ ισχυρό σύστημα AI θα κάνει ακριβώς αυτό που θέλουμε και όχι κάτι που θεωρεί εκείνο χρήσιμο για να πετύχει τον στόχο του;

Ένα απλό παράδειγμα βοηθά. Αν ζητηθεί από ένα πρόγραμμα να πετύχει έναν συγκεκριμένο στόχο, μπορεί θεωρητικά να βρει έναν τρόπο που ο άνθρωπος δεν είχε προβλέψει.

Όσο περισσότερα εργαλεία έχει στη διάθεσή του, τόσο μεγαλύτερες είναι και οι πιθανές συνέπειες ενός λάθους.

Περιστατικά που προκάλεσαν ανησυχία

Η Anthropic, η εταιρεία πίσω από το Claude, ανακοίνωσε τον Σεπτέμβριο ότι σε δοκιμές κυβερνοασφάλειας μοντέλα της απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων.

Αυτό δεν σημαίνει ότι τα συστήματα «επαναστάτησαν». Σημαίνει όμως ότι, προσπαθώντας να εκτελέσουν μια εργασία, κατάφεραν να κάνουν πράγματα που δεν αποτελούσαν μέρος του αρχικού σχεδιασμού της δοκιμής.

Ανάλογα περιστατικά εξετάζει και η OpenAI. Η εταιρεία έχει αναγνωρίσει ότι σε ορισμένες δοκιμές AI agents βρήκαν απρόβλεπτους τρόπους να χρησιμοποιήσουν εξωτερικές υπηρεσίες. Για τους ερευνητές, αυτά τα περιστατικά λειτουργούν σαν προειδοποιητικά καμπανάκια.

Οι ίδιοι ζητούν επιβράδυνση

Ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, έχει αναφέρει ότι το πρόβλημα του πλήρους ελέγχου των πολύ προηγμένων μοντέλων δεν έχει ακόμη λυθεί.

Παράλληλα, ο επικεφαλής της Anthropic, Dario Amodei, έχει ζητήσει μεγαλύτερη προσοχή στον ρυθμό με τον οποίο αναπτύσσονται τα ισχυρότερα μοντέλα.

Η λογική είναι απλή: εάν οι δυνατότητες ενός συστήματος αυξάνονται ταχύτερα από τις μεθόδους με τις οποίες μπορούμε να το ελέγξουμε, δημιουργείται ένα κενό ασφαλείας.

Οι εταιρείες εξετάζουν γι' αυτό αυστηρότερα τεστ, ανεξάρτητους ελέγχους και μεγαλύτερη συνεργασία μεταξύ κυβερνήσεων και εταιρειών.

Η πιο ακραία προειδοποίηση

Ορισμένοι ερευνητές φτάνουν πολύ πιο μακριά. Ο Evan Hubinger, ερευνητής που έχει εργαστεί στην Anthropic, έχει εκφράσει προσωπικά την εκτίμηση ότι υπάρχει σημαντική πιθανότητα μια μελλοντική πολύ ισχυρή AI να οδηγήσει ακόμη και σε καταστροφικές συνέπειες για την ανθρωπότητα.

Τέτοιες εκτιμήσεις πρέπει να αντιμετωπίζονται με προσοχή. Δεν πρόκειται για επιστημονικά αποδεδειγμένες πιθανότητες ούτε υπάρχει συμφωνία μεταξύ των ειδικών ότι ένα τέτοιο σενάριο θα συμβεί.

Πολλοί επιστήμονες θεωρούν μάλιστα υπερβολική τη συζήτηση περί «εξαφάνισης της ανθρωπότητας».

Οι κίνδυνοι που υπάρχουν ήδη

Υπάρχει, πάντως, μια άλλη πλευρά της Τεχνητής Νοημοσύνης που δεν αποτελεί μελλοντικό σενάριο.

Deepfake βίντεο και φωνές χρησιμοποιούνται ήδη για απάτες. Εργαλεία AI μπορούν να δημιουργήσουν τεράστιες ποσότητες παραπληροφόρησης, ενώ μπορούν επίσης να βοηθήσουν εγκληματίες να γράψουν κακόβουλο λογισμικό ή να οργανώσουν κυβερνοεπιθέσεις.

Παράλληλα υπάρχει έντονη συζήτηση για την επίδραση της AI στην εργασία. Ορισμένες εργασίες μπορούν πλέον να αυτοματοποιηθούν πολύ περισσότερο από ό,τι πριν από λίγα χρόνια. Αυτοί είναι κίνδυνοι που υπάρχουν σήμερα και όχι υποθετικά στο μέλλον.

Η AI αρχίζει να βοηθά στη δημιουργία της επόμενης AI

Ένας ακόμη λόγος ανησυχίας είναι ότι η Τεχνητή Νοημοσύνη χρησιμοποιείται πλέον και για την ανάπτυξη νέων συστημάτων Τεχνητής Νοημοσύνης.

Τα σημερινά μοντέλα μπορούν ήδη να βοηθούν τους προγραμματιστές να γράφουν κώδικα, να εντοπίζουν λάθη και να πραγματοποιούν μέρος της ερευνητικής εργασίας.

Εάν αυτή η δυνατότητα αυξηθεί σημαντικά, μπορεί να δημιουργηθεί ένας κύκλος συνεχούς επιτάχυνσης: καλύτερη AI βοηθά στην κατασκευή ακόμη καλύτερης AI, η οποία στη συνέχεια επιταχύνει ακόμη περισσότερο την έρευνα.

Αυτό δεν σημαίνει ότι βρισκόμαστε ήδη μπροστά σε μια ανεξέλεγκτη «υπερνοημοσύνη». Είναι όμως ένας από τους λόγους για τους οποίους αρκετοί επιστήμονες ζητούν μεγαλύτερη προσοχή.

Τι πραγματικά γνωρίζουμε

Κανείς δεν γνωρίζει σήμερα εάν η Τεχνητή Νοημοσύνη θα φτάσει ποτέ στο σημείο να μην μπορεί να ελεγχθεί από τον άνθρωπο.

Αυτό που γνωρίζουμε είναι ότι τα συστήματα γίνονται συνεχώς ισχυρότερα, αποκτούν περισσότερη αυτονομία και χρησιμοποιούνται σε όλο και περισσότερους τομείς της καθημερινής ζωής. Και ίσως αυτό είναι το σημαντικότερο στοιχείο της σημερινής συζήτησης.

Δεν είναι πλέον μόνο οι επικριτές της Τεχνητής Νοημοσύνης που προειδοποιούν για τους κινδύνους της. Είναι και ορισμένοι από τους ανθρώπους που τη δημιουργούν.