22 χώρες βάζουν «κόκκινη γραμμή!»
Κοινή διακήρυξη στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ - Βασικό μήνυμα ότι η τεχνολογική πρόοδος δεν πρέπει να αποσυνδεθεί από την ανθρώπινη εποπτεία
Ομάδα 22 ηγετών από 20 χώρες και την Ευρωπαϊκή Ένωση συνυπέγραψαν κοινή διακήρυξη στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ, ζητώντας αυστηρότερο διεθνή έλεγχο της τεχνητής νοημοσύνης και δεσμευτικές εγγυήσεις ασφαλείας, ώστε η AL να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο.
Οι υπογράφοντες προειδοποιούν ότι τα ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης μπορούν να δημιουργήσουν «σοβαρούς κινδύνους για την ασφάλεια» εάν δεν αναπτυχθούν με επαρκείς δικλίδες ασφαλείας. Στο επίκεντρο της πρωτοβουλίας βρίσκονται η υποχρεωτική αξιολόγηση των προηγμένων συστημάτων πριν από τη διάθεσή τους, η διαφάνεια των εταιρειών AI και η δημιουργία ενός διεθνούς μηχανισμού εποπτείας.
Η πρωτοβουλία εντάσσεται σε έναν ευρύτερο διάλογο για τη διακυβέρνηση της τεχνητής νοημοσύνης, στον οποίο έχει παρέμβει και ο γενικός γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες.
«Η ΑΙ πρέπει να παραμείνει υπό ανθρώπινο έλεγχο»
Βασικό μήνυμα της διακήρυξης είναι ότι η τεχνολογική πρόοδος δεν πρέπει να αποσυνδεθεί από την ανθρώπινη εποπτεία.
«Η ΤΝ πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο», αναφέρουν οι υπογράφοντες, ζητώντας παράλληλα αυξημένη διεθνή συνεργασία ώστε να περιοριστούν οι κίνδυνοι από την ανάπτυξη ολοένα πιο αυτόνομων συστημάτων.
Στην πράξη, οι χώρες ζητούν από τις εταιρείες τεχνητής νοημοσύνης να εφαρμόζουν διαφανή πρωτόκολλα ασφαλείας, τα οποία θα περιλαμβάνουν υποχρεωτικές δοκιμές πριν από τη διάθεση προηγμένων συστημάτων στην αγορά και ανεξάρτητες αξιολογήσεις των πιθανών κινδύνων.
Οι ανεξάρτητοι αξιολογητές θα πρέπει, σύμφωνα με τη διακήρυξη, να έχουν επαρκή πρόσβαση στα συστήματα ώστε να μπορούν να εξετάζουν τις δυνατότητες, τις αδυναμίες και τους πιθανούς κινδύνους τους.
Από την κυβερνοασφάλεια έως τα αυτόνομα συστήματα
Η ανάγκη για αυστηρότερους ελέγχους συνδέεται με την ταχύτητα με την οποία εξελίσσονται τα συστήματα τεχνητής νοημοσύνης.
Οι υπογράφοντες επικαλούνται, μεταξύ άλλων, πρόσφατα περιστατικά που καταδεικνύουν τις νέες δυνατότητες κακόβουλης χρήσης της AI, ζητώντας αυστηρότερα πρωτόκολλα ασφαλείας και καλύτερο συντονισμό μεταξύ των κρατών για την αναφορά σοβαρών περιστατικών.
Στο επίκεντρο βρίσκονται κίνδυνοι που αφορούν κυβερνοεπιθέσεις, την πιθανή αξιοποίηση της AI για την ανάπτυξη βιολογικών όπλων, αλλά και τη χρήση αυτόνομων συστημάτων σε οπλικά συστήματα.
Παράλληλα, οι 22 χώρες επισημαίνουν ότι η διεθνής εποπτεία δεν αφορά μόνο την ασφάλεια, αλλά και την προσπάθεια να περιοριστεί το χάσμα μεταξύ των χωρών που έχουν πρόσβαση στις δυνατότητες της AI και εκείνων που κινδυνεύουν να μείνουν πίσω.
Στο τραπέζι ένας διεθνής οργανισμός για την AL
Ιδιαίτερα σημαντική είναι η πρόταση για τη δημιουργία ενός νέου διεθνούς θεσμού που θα μπορούσε να αναλάβει την εποπτεία της τεχνητής νοημοσύνης, να συμβάλει στη διαμόρφωση κοινών κανόνων και να διασφαλίζει την εφαρμογή τους.
Ο πρόεδρος της Φινλανδίας Αλεξάντερ Στουμπ έχει υποστηρίξει την ιδέα ενός οργανισμού που θα μπορούσε να λειτουργεί υπό την ομπρέλα των Ηνωμένων Εθνών, στα πρότυπα του Διεθνούς Οργανισμού Ατομικής Ενέργειας.
Παράλληλα, στο πλαίσιο της συζήτησης εξετάζεται ο ρόλος υφιστάμενων διεθνών σχημάτων, όπως η G7 και η G20.
Ο ίδιος ο ΟΗΕ έχει ήδη κάνει βήματα προς την κατεύθυνση της διεθνούς διακυβέρνησης της AI. Το 2023 δημιούργησε συμβουλευτικό όργανο για την τεχνητή νοημοσύνη, ενώ το Συμβούλιο Ασφαλείας έχει πραγματοποιήσει συζητήσεις για τις επιπτώσεις της τεχνολογίας.
Ηχηρές απουσίες ΗΠΑ και Κίνας
Η πρωτοβουλία αποκτά ιδιαίτερη σημασία λόγω της απουσίας ορισμένων από τις σημαντικότερες δυνάμεις στον χώρο της τεχνητής νοημοσύνης.
Οι Ηνωμένες Πολιτείες και η Κίνα δεν έχουν υπογράψει τη διακήρυξη, όπως επίσης η Γαλλία, το Ηνωμένο Βασίλειο, η Ιαπωνία και η Ινδία.
Μεταξύ των χωρών που συνυπογράφουν βρίσκονται, μεταξύ άλλων, η Νορβηγία, η Φινλανδία, η Αυστραλία, ο Καναδάς, η Γερμανία, η Ισπανία, η Ιρλανδία, η Ολλανδία, η Σιγκαπούρη, η Νότια Αφρική και η Κένυα, ενώ συμμετέχει και η πρόεδρος της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν.
Οι εμπνευστές της πρωτοβουλίας επιδιώκουν να παραμείνει η διακήρυξη ανοιχτή σε νέες συμμετοχές, με ιδιαίτερο ενδιαφέρον για την ένταξη των ΗΠΑ και της Κίνας σε έναν ευρύτερο μηχανισμό διεθνούς συνεργασίας.
Γκουτέρες: «Δεν έχουμε την πολυτέλεια να αγνοήσουμε τους κινδύνους»
Στο ίδιο πλαίσιο εντάσσονται οι προειδοποιήσεις του Αντόνιο Γκουτέρες. Ο γενικός γραμματέας του ΟΗΕ δήλωσε πριν λίγες ημέρες, ενόψει της Γενικής Συνέλευσης του ΟΗΕ, ότι οι κυβερνήσεις έχουν την ευθύνη να προστατεύουν τους πολίτες από τους νέους κινδύνους που δημιουργούν τα ολοένα ισχυρότερα συστήματα AI. Ο ίδιος ζήτησε μια κοινή αντίληψη για το πότε η αυξανόμενη ισχύς των συστημάτων τεχνητής νοημοσύνης απαιτεί αυστηρότερες δικλίδες ασφαλείας ή πρόσθετα μέτρα.
Η θέση αυτή συναντάται με τον βασικό άξονα της διακήρυξης των 22 χωρών: η ανάπτυξη της AI να συνεχιστεί, αλλά μέσα σε ένα πλαίσιο κανόνων, διαφάνειας, λογοδοσίας και ανθρώπινου ελέγχου.
«Δεν μπορούμε να αγνοήσουμε τις ανησυχίες που εκφράζονται, ιδίως όταν προέρχονται από εκείνους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της ΤΝ. Είναι πρωταρχική ευθύνη της κάθε κυβέρνησης να προστατεύει τους πολίτες της, ακόμη και από τις απειλές της ΤΝ», είπε ο Γκουτέρες σε δημοσιογράφους.
Η ανησυχία της κοινής γνώμης για τους πιθανούς κινδύνους της ΑΙ αυξάνεται, αφότου ο ερευνητής της Anthropic, Τζέικομπ Κόξον, δήλωσε την περασμένη εβδομάδα ότι παραιτήθηκε, εν μέρει επειδή «οι άνθρωποι που κατασκευάζουν τα συστήματα ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Οι επικεφαλής ορισμένων από τις μεγαλύτερες εταιρείες του κλάδου ζήτησαν πρόσφατα να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνολογίας αυτής.
Ο Γκουτέρες πιέζει εδώ και καιρό για μια παγκόσμια διακυβέρνηση της ΤΝ. Το 2023, ο ΟΗΕ συγκρότησε ένα συμβουλευτικό όργανο με 39 μέλη για την τεχνητή νοημοσύνη. Μεταξύ των μελών του είναι στελέχη εταιρειών, κυβερνητικοί αξιωματούχοι και πανεπιστημιακοί καθηγητές από χώρες όπως οι ΗΠΑ, η Ρωσία και η Ιαπωνία. Το Συμβούλιο Ασφαλείας συνεδρίασε για πρώτη φορά με θέμα την ΑΙ την ίδια χρονιά και ενδέχεται να το ξανασυζητήσει την επόμενη εβδομάδα, κατά τη διάρκεια της Γενικής Συνέλευσης
Η διαφορετική προσέγγιση των ΗΠΑ
Την ίδια στιγμή, η αμερικανική κυβέρνηση έχει εκφράσει διαφορετική προσέγγιση ως προς την ανάγκη για πρόσθετη ρύθμιση. Ο πρόεδρος Ντόναλντ Τραμπ έχει υποστηρίξει ότι οι ΗΠΑ διαθέτουν ήδη μηχανισμούς για τον έλεγχο και την αντιμετώπιση παραβάσεων από εταιρείες τεχνητής νοημοσύνης.
Παράλληλα, ΗΠΑ και Κίνα, οι δύο μεγαλύτερες τεχνολογικές δυνάμεις στον χώρο της AI, έχουν πραγματοποιήσει επαφές για τους κινδύνους και τις προκλήσεις που δημιουργεί η τεχνολογία, σε μια περίοδο κατά την οποία οι δύο χώρες ανταγωνίζονται έντονα σε τεχνολογικό και στρατηγικό επίπεδο.
Η απουσία τους από τη συγκεκριμένη διακήρυξη αναδεικνύει ένα από τα βασικά ερωτήματα της διεθνούς συζήτησης: μπορεί να δημιουργηθεί ένα πραγματικά παγκόσμιο πλαίσιο εποπτείας της AI χωρίς τη συμμετοχή των μεγαλύτερων τεχνολογικών δυνάμεων;
Η απάντηση παραμένει ανοιχτή. Αυτό που γίνεται, όμως, ολοένα πιο σαφές είναι ότι η συζήτηση για την τεχνητή νοημοσύνη μετακινείται από το ερώτημα του «πόσο γρήγορα μπορεί να αναπτυχθεί» στο ερώτημα του ποιοι κανόνες θα διέπουν την ανάπτυξή της και ποιος θα διασφαλίζει ότι ο άνθρωπος θα παραμείνει στον έλεγχο των κρίσιμων αποφάσεων.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου