Εταιρείες Τεχνητής Νοημοσύνης Ιδρύουν Φορέα Ασφαλείας εν μέσω Κατακερματισμού της Παγκόσμιας Διακυβέρνησης

Τα νέα ΤΝ αυτής της εβδομάδας συγκλίνουν σε ένα κοινό ρήγμα: ποιος, εάν κάποιος, θα διακυβερνά την πιο ισχυρή τεχνολογία του κόσμου — και το χάσμα μεταξύ όσων απαιτούν δράση και όσων την αντιστέκονται διευρύνεται ταχύτατα.

Μεγάλα Εργαστήρια ΤΝ Συστήνουν Ανεξάρτητο Φορέα Προτύπων Αυτορρύθμισης

Η OpenAI, η Anthropic και η Google DeepMind συνεργάζονται για τη δημιουργία ενός κοινά χρηματοδοτούμενου, ανεξάρτητα λειτουργούντος φορέα που θα αξιολογεί τα μοντέλα ΤΝ πρώτης γραμμής πριν από τη δημόσια κυκλοφορία τους — κατά πρότυπο χαλαρά αντεγραμμένο από τη FINRA, τον αμερικανό αυτορρυθμιστή του χρηματοπιστωτικού κλάδου. Βάσει της προτεινόμενης δομής, τα ισχυρά νέα μοντέλα θα υποβάλλονται σε τυποποιημένες αξιολογήσεις ασφαλείας από εξωτερικούς αξιολογητές πριν από την ανάπτυξη, προσθέτοντας ένα επίπεδο λογοδοσίας μεταξύ των εσωτερικών δοκιμών μιας εταιρείας και της δημόσιας πρόσβασης. Η πρωτοβουλία ακολουθεί μια σειρά δημόσιων προειδοποιήσεων ασφαλείας από ερευνητές των ίδιων οργανισμών, και σηματοδοτεί ότι τα ίδια τα εργαστήρια αναγνωρίζουν ότι ο εξωτερικός έλεγχος πλέον αναμένεται. Το κεντρικό ερώτημα παραμένει αν ο φορέας θα έχει γνήσια ανεξαρτησία από τις εταιρείες που τον χρηματοδοτούν· οι προτάσεις αυτορρύθμισης σε άλλους κλάδους συνήθως αποτυγχάνουν ακριβώς σε αυτό το σημείο.

Τραμπ Χαρακτηρίζει τις Ανησυχίες για Ασφάλεια ΤΝ ως «Φάρσα»

Σε δημόσια εκδήλωση στις 16 Σεπτεμβρίου, ο Ντόναλντ Τραμπ απέρριψε τον υπαρξιακό κίνδυνο της ΤΝ ως «φάρσα» και υποστήριξε ότι η μόνη εποπτεία που χρειάζεται οι ΗΠΑ είναι ένας «ισχυρός πρόεδρος». Οι δηλώσεις του τον φέρνουν σε άμεση αντίθεση με ερευνητές της OpenAI και της Anthropic που έχουν δημόσια προειδοποιήσει ότι τα ολοένα πιο ικανά μοντέλα μπορεί να προκαλέσουν σοβαρή βλάβη χωρίς επαρκείς διασφαλίσεις. Ο Τραμπ επανέλαβε επίσης την αντίθεσή του στη ομοσπονδιακή νομοθεσία ΤΝ, προτιμώντας την αυτορρύθμιση του κλάδου — μια θέση που υιοθετείται από ορισμένους μεγάλους επενδυτές τεχνολογίας αλλά έρχεται σε αντίθεση με τις περισσότερες δημοσιευμένες αξιολογήσεις κινδύνου ΤΝ και με τα πρότυπα ασφαλείας που τα ίδια τα εργαστήρια τώρα υιοθετούν. Οι δηλώσεις εμβαθύνουν μια ήδη σημαντική αμερικανική πολιτική διαίρεση για το πώς, και αν, θα διακυβερνηθεί η ΤΝ πρώτης γραμμής.

Γ.Γ. ΟΗΕ Προειδοποιεί για «Αγώνα Υποβάθμισης» στην Ασφάλεια ΤΝ

Ο Γενικός Γραμματέας των Ηνωμένων Εθνών Αντόνιο Γκουτέρες προειδοποίησε στις 16 Σεπτεμβρίου ότι ο ανταγωνισμός μεταξύ εθνών ωθεί τις κυβερνήσεις να χαλαρώσουν τις απαιτήσεις ασφαλείας ΤΝ αντί να τις ενισχύσουν, περιγράφοντας τη δυναμική ως «αγώνα υποβάθμισης». Μιλώντας στη Νέα Υόρκη, ο Γκουτέρες ζήτησε επείγουσα διεθνή συμφωνία για κοινές αρχές προστασίας των πολιτών από βλάβες που επιφέρει η ΤΝ, επισημαίνοντας αυτόνομα όπλα και επιτήρηση με τεχνητή νοημοσύνη ως τομείς που απαιτούν άμεσους πολυμερείς κανόνες. Σημείωσε ότι δεν υπάρχει δεσμευτικό παγκόσμιο πλαίσιο για την ΤΝ αυτή τη στιγμή, και ότι το χάσμα μεταξύ ικανοτήτων ΤΝ και υποδομής διακυβέρνησης αυξάνεται ταχύτερα από ό,τι τα κράτη-μέλη προχωρούν να το γεφυρώσουν. Ο Γενικός Γραμματέας έχει τοποθετήσει τη διακυβέρνηση ΤΝ στην ατζέντα του ΟΗΕ από το 2023· η άμεση γλώσσα του αυτή την εβδομάδα αντανακλά αυξανόμενη επείγουσα καθώς οι μεγάλες δυνάμεις εμβαθύνουν τις επενδύσεις τους.

Ο Ανταγωνισμός ΤΝ Αναμένεται να Κυριαρχήσει στη Σύνοδο Σι-Τραμπ στην Ουάσινγκτον

Όταν ο Κινέζος πρόεδρος Σι Τζινπίνγκ και ο Ντόναλντ Τραμπ συναντηθούν στην Ουάσινγκτον τις επόμενες εβδομάδες, η τεχνητή νοημοσύνη αναμένεται να είναι μεταξύ των καθοριστικών θεμάτων της ατζέντας. Κινεζικές εταιρείες, συμπεριλαμβανομένων της DeepSeek και της Moonshot AI, έχουν κλείσει σημαντικό μέρος του χάσματος απόδοσης με τα κορυφαία αμερικανικά μοντέλα κατά τη διάρκεια του προηγούμενου έτους, περιπλέκοντας τις προηγούμενες αμερικανικές υποθέσεις για διατήρηση σαφούς τεχνολογικού πλεονεκτήματος. Οι συνομιλίες αναμένεται να καλύψουν την πρόσβαση σε προηγμένα ημιαγωγά — όπου οι αμερικανικοί περιορισμοί εξαγωγών έχουν επανειλημμένα δοκιμαστεί και παρακαμφθεί — καθώς και κατηγορίες αντιγραφής πνευματικής ιδιοκτησίας και την πιθανότητα διμερών συμφωνιών για εποπτεία ΤΝ. Το αποτέλεσμα θα μπορούσε να αναμορφώσει τόσο το διεθνές τοπίο διακυβέρνησης ΤΝ όσο και τους παγκόσμιους κανόνες γύρω από το πιο ισχυρό υλικό της τεχνολογίας.

Το Αμερικανικό Κονγκρέσο Προσθέτει Διακόπτες Έκτακτης Ανάγκης στο Νομοσχέδιο ΤΝ· Ψηφοφορία στην Ολομέλεια Αναβάλλεται στο 2027

Αμερικανοί νομοθέτες συζητούν την προσθήκη υποχρεωτικών ελέγχων ασφαλείας πριν από την ανάπτυξη, μηχανισμών έκτακτης ανάγκης για τερματισμό υψηλού κινδύνου συστημάτων ΤΝ, και μόνιμης απαγόρευσης ανάπτυξης τεχνητής υπερνοημοσύνης στον Νόμο Ασφάλειας ΤΝ Πρώτης Γραμμής — το πιο ολοκληρωμένο ομοσπονδιακό νομοσχέδιο ΤΝ που εξετάζεται αυτή τη στιγμή. Οι νέες διατάξεις αντικατοπτρίζουν αυξανόμενη ανησυχία στο Κονγκρέσο τόσο για βραχυπρόθεσμη κακή χρήση όσο και για μακροπρόθεσμους κινδύνους ικανοτήτων. Ωστόσο, ο πρόεδρος της επιτροπής της Βουλής αρμόδια για το νομοσχέδιο ανέφερε ότι είναι απίθανο να φτάσει σε πλήρη ψηφοφορία στην ολομέλεια πριν από το 2027, επικαλούμενος αντίθεση από βιομηχανικές ομάδες και διαφωνίες μεταξύ μελών της επιτροπής σχετικά με το πεδίο εφαρμογής. Η καθυστέρηση αφήνει τις ΗΠΑ χωρίς ομοσπονδιακό νόμο ΤΝ ενώ μεμονωμένες πολιτείες — με πρώτη την Καλιφόρνια — συνεχίζουν να ψηφίζουν τους δικούς τους κανόνες, δημιουργώντας ένα ολοένα μεγαλύτερο πλέγμα απαιτήσεων εν απουσία εθνικών προτύπων.