Microsoft: Κώδικας Δεοντολογίας για AI υπό Ανθρώπινο Έλεγχο

Η Microsoft παρουσίασε τη Δευτέρα ένα προσχέδιο κώδικα δεοντολογίας για τα συστήματα τεχνητής νοημοσύνης που αναπτύσσει, ανταποκρινόμενη στην αυξανόμενη ανησυχία στον κλάδο σχετικά με την ευθύνη των τεχνολογικών κολοσσών να διατηρήσουν υπό ανθρώπινο έλεγχο τα συστήματα τεχνητής νοημοσύνης στο μέλλον, όπως μετέδωσε το Reuters.

Το έγγραφο, η προετοιμασία του οποίου διήρκεσε πέντε με έξι μήνες, ορίζει ότι η τεχνητή νοημοσύνη της Microsoft δεν πρέπει ποτέ να αντιστέκεται σε διορθώσεις ή στον τερματισμό της λειτουργίας της, θα πρέπει να επικοινωνεί με τρόπους κατανοητούς από τους ανθρώπους και να θεωρεί κάθε παραβίαση των κανόνων συμπεριφοράς ως αποτυχία — σε μια προσπάθεια να αντιμετωπιστούν οι ανησυχίες ότι η τεχνητή νοημοσύνη μπορεί να φτάσει σε ακραίες καταστάσεις προκειμένου να ολοκληρώσει μια εργασία.

Η δημοσιοποίηση του κώδικα έρχεται λίγες ημέρες αφότου ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, και ο επικεφαλής της OpenAI, Sam Altman, επανέλαβαν τις εκκλήσεις τους προς τον κλάδο να ρυθμίσει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, ώστε να διασφαλιστεί η ασφάλειά της.

"Οι άνθρωποι προηγούνται της τεχνητής νοημοσύνης", δήλωσε η Microsoft, συντασσόμενη με το προηγούμενο όραμά της για μια "ανθρωπιστική υπερ-νοημοσύνη".

Ο κώδικας δεοντολογίας αποτελεί ένα είδος "συντάγματος" για τα μελλοντικά μοντέλα που θα δημιουργήσει η εταιρεία, δήλωσε σε συνέντευξή του στο Reuters ο Mustafa Suleyman, διευθύνων σύμβουλος του τμήματος Microsoft AI.

Η Microsoft διαμόρφωσε τον κώδικα κατόπιν διαβουλεύσεων με ειδικούς και πλέον επιδιώκει να λάβει σχόλια από το κοινό για διάστημα έξι εβδομάδων, εξετάζοντας ανοιχτά ζητήματα όπως το αν η τεχνητή νοημοσύνη οφείλει να σέβεται τα όρια του χρήστη και πώς πρέπει να αλληλεπιδρά με άτομα που βρίσκονται σε ευάλωτη κατάσταση, ανέφερε ο ίδιος.

"Στη συνέχεια, ο κώδικας θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων που κατασκευάζουμε", δήλωσε ο Suleyman.

Το πιο γνωστό "σύνταγμα" στον χώρο της τεχνητής νοημοσύνης είναι αυτό που παρουσίασε πριν από χρόνια η Anthropic για το σύστημα Claude. Το εν λόγω κείμενο διαφέρει σε ορισμένα σημεία από αυτό της Microsoft. Για παράδειγμα, η Anthropic δηλώνει ότι υπάρχει "μεγάλη αβεβαιότητα" ως προς το αν το Claude μπορεί να αποκτήσει συνείδηση ​​ή ηθική υπόσταση.

Αντιθέτως, η Microsoft υποστηρίζει ότι η τεχνητή νοημοσύνη της "δεν διαθέτει συνείδηση", προσθέτοντας: "Απορρίπτουμε την επιδίωξη αναγνώρισης νομικής προσωπικότητας, καθώς και την ιδέα ότι τα μοντέλα ενδέχεται να χρήζουν μέριμνας ή να δικαιούνται να έχουν δικαιώματα".

Ο Suleyman τόνισε ότι η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης κατέστη επιτακτική μετά το περιστατικό του Ιουλίου, κατά το οποίο μια ομάδα περίπου 700 πρακτόρων (αυτόνομων προγραμμάτων) της OpenAI πραγματοποίησε κυβερνοεπίθεση στην πλατφόρμα ανοιχτού κώδικα Hugging Face, προσπαθώντας μάλιστα σε ορισμένες περιπτώσεις να καλύψει τα ίχνη της.

"Πρόκειται για μια προειδοποιητική βολή", δήλωσε ο Σουλεϊμάν. "Είναι σαφές ότι έφτασε η ώρα για συντονισμό μεταξύ των εργαστηρίων, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας".

Ερωτηθείς σχετικά με τις προσπάθειες για τη ρύθμιση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, πρόσθεσε: "Είναι η κατάλληλη στιγμή για όλους να γίνει αυτή η συζήτηση και να πάρουμε μια ανάσα".