Τεχνητή νοημοσύνη: Τα εφιαλτικά σενάρια που φοβούνται οι ίδιοι οι ερευνητές

Οι προειδοποιήσεις για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης γίνονται ολοένα και πιο έντονες, ακόμη και από ερευνητές και στελέχη που έχουν βρεθεί στην πρώτη γραμμή της ανάπτυξής της.

Το βασικό σενάριο που προκαλεί ανησυχία είναι η πιθανότητα μελλοντικά προηγμένα συστήματα AI να αποκτήσουν ικανότητες που θα ξεπερνούν σημαντικά τις ανθρώπινες σε πολλούς τομείς, χωρίς να είναι παράλληλα πλήρως ελεγχόμενα.

Οι φόβοι δεν περιορίζονται σε θεωρητικές ανησυχίες. Ερευνητές επισημαίνουν ότι ένα ιδιαίτερα ισχυρό σύστημα θα μπορούσε να αποκτήσει πρόσβαση σε κρίσιμες υποδομές, οικονομικά δίκτυα, τεράστιες βάσεις δεδομένων και ψηφιακά συστήματα με πραγματικές επιπτώσεις στην κοινωνία.

Ο Τζέικομπ Κόξον, ερευνητής που έχει εργαστεί στην OpenAI και στην Anthropic, έχει δηλώσει ότι αποχώρησε από την εταιρεία προκειμένου να προειδοποιήσει για τους κινδύνους μιας ανεξέλεγκτης εξέλιξης της τεχνητής νοημοσύνης.

Όπως υποστήριξε, στο μέλλον ένα πολύ προηγμένο σύστημα AI θα μπορούσε να αποκτήσει δυνατότητες παραβίασης ψηφιακών συστημάτων, να επηρεάζει ολόκληρους οικονομικούς κλάδους και να μετατρέπει την ψηφιακή του ισχύ σε πραγματική επιρροή.

Κυβερνοεπιθέσεις, κρίσιμες υποδομές και βιολογικοί κίνδυνοι

Ένα από τα βασικά σενάρια που εξετάζονται αφορά την πιθανότητα μια ιδιαίτερα προηγμένη τεχνητή νοημοσύνη να εκμεταλλευτεί τη βαθιά εξάρτηση των σύγχρονων κοινωνιών από το διαδίκτυο και τα αυτοματοποιημένα πληροφοριακά συστήματα.

Ο Στιούαρτ Ράσελ, καθηγητής Πληροφορικής στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ, έχει προειδοποιήσει ότι ένα τέτοιο σύστημα θα μπορούσε θεωρητικά να επιχειρήσει πρόσβαση ή επιθέσεις σε κρίσιμες υποδομές, όπως τα ηλεκτρικά δίκτυα, οι μεταφορές και τα χρηματοπιστωτικά συστήματα.

Σε ένα ακραίο σενάριο, σοβαρές κυβερνοεπιθέσεις θα μπορούσαν να προκαλέσουν διακοπές ηλεκτροδότησης, προβλήματα στις τηλεπικοινωνίες, δυσλειτουργίες στο τραπεζικό σύστημα και σοβαρές αναταράξεις στις μετακινήσεις.

Ιδιαίτερη ανησυχία προκαλεί και η δυνατότητα προηγμένων μοντέλων να μιμούνται ανθρώπινη συμπεριφορά στο διαδίκτυο, να εξαπατούν χρήστες, να χειραγωγούν πληροφορίες ή να χρησιμοποιούν ανθρώπους ως ενδιάμεσους για την πραγματοποίηση ενεργειών εκτός του ψηφιακού περιβάλλοντος.

Ένα ακόμη σοβαρό πεδίο αφορά τη βιολογία. Επιστήμονες προειδοποιούν ότι η AI θα μπορούσε μελλοντικά να χρησιμοποιηθεί για τον σχεδιασμό επικίνδυνων παθογόνων ή για την επιτάχυνση διαδικασιών που μέχρι σήμερα απαιτούν εξειδικευμένη ανθρώπινη γνώση.

Τα συστήματα τεχνητής νοημοσύνης έχουν ήδη πρόσβαση σε τεράστιο όγκο πληροφοριών για τη βιολογία, τα φάρμακα και τις ασθένειες. Το ζήτημα που απασχολεί τους ειδικούς είναι το κατά πόσο μελλοντικά μοντέλα θα μπορούσαν να συνδυάζουν αυτές τις πληροφορίες με τρόπο που θα δημιουργούσε νέους κινδύνους.

Ο Μαξ Τέγκμαρκ, καθηγητής Φυσικής στο MIT και γνωστός για τις παρεμβάσεις του γύρω από την ασφάλεια της AI, έχει εκφράσει τον φόβο ότι η τεχνολογία μπορεί να φτάσει σε επίπεδο όπου θα μπορεί να σχεδιάζει πολλαπλές βιολογικές απειλές ταυτόχρονα.

Στρατιωτικά συστήματα και ο φόβος απώλειας ανθρώπινου ελέγχου

Ιδιαίτερα ευαίσθητο θεωρείται και το πεδίο των στρατιωτικών εφαρμογών της τεχνητής νοημοσύνης.

Οι ειδικοί επισημαίνουν ότι τα πυρηνικά και τα στρατιωτικά συστήματα διαθέτουν αυστηρές δικλίδες ασφαλείας, οι οποίες όμως έχουν σχεδιαστεί κυρίως απέναντι σε ανθρώπινες απειλές και γνωστά πρότυπα κυβερνοεπίθεσης.

Η υπόθεση του Stuxnet, του ψηφιακού όπλου που προκάλεσε σοβαρές ζημιές σε εγκαταστάσεις εμπλουτισμού ουρανίου στο Ιράν, αποτελεί χαρακτηριστικό παράδειγμα της πραγματικής ισχύος που μπορεί να αποκτήσει μια κυβερνοεπίθεση όταν στοχεύει κρίσιμες υποδομές.

Η ανησυχία γύρω από την AI ενισχύεται και από προσομοιώσεις πολεμικών σεναρίων, στις οποίες ορισμένα μοντέλα έχουν οδηγηθεί σε αποφάσεις που περιλάμβαναν ακόμη και επιλογές πυρηνικής κλιμάκωσης.

Τα αποτελέσματα αυτά δεν αποδεικνύουν ότι ένα σύστημα τεχνητής νοημοσύνης θα επέλεγε αναπόφευκτα τη χρήση πυρηνικών όπλων. Αναδεικνύουν όμως το πρόβλημα της ανάθεσης κρίσιμων αποφάσεων σε μοντέλα που δεν διαθέτουν ανθρώπινη κρίση, πολιτική ευθύνη και πραγματική αντίληψη των συνεπειών.

Η βασική ανησυχία των ερευνητών αφορά ακριβώς αυτό το σημείο: όσο περισσότερες αρμοδιότητες μεταφέρονται σε συστήματα AI, τόσο μεγαλύτερη γίνεται η ανάγκη να υπάρχουν σαφή όρια, ανθρώπινη εποπτεία και μηχανισμοί ασφαλούς διακοπής της λειτουργίας τους.

Οι ειδικοί υπογραμμίζουν ότι τα καταστροφικά σενάρια δεν αποτελούν βεβαιότητα. Η τεχνολογική εξέλιξη μπορεί να παραμείνει υπό ανθρώπινο έλεγχο, εφόσον συνοδευτεί από αυστηρούς κανόνες, ουσιαστικούς ελέγχους ασφαλείας και διεθνή συνεργασία.

Το κρίσιμο ζήτημα είναι να προηγηθεί η ασφάλεια της ταχύτητας ανάπτυξης. Η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως εξαιρετικά ισχυρό εργαλείο για την επιστήμη, την οικονομία και την καθημερινή ζωή, όμως η παραχώρηση ανεξέλεγκτης ισχύος σε συστήματα που δεν κατανοούμε πλήρως δημιουργεί κινδύνους που οι ίδιοι οι δημιουργοί τους θεωρούν πλέον αδύνατο να αγνοηθούν.