Laboratoria AI Tworzą Niezależny Organ Bezpieczeństwa w Obliczu Kryzysu Globalnego Zarządzania Technologią

Wiadomości o sztucznej inteligencji w tym tygodniu skupiają się na jednym punkcie zapalnym: kto, jeśli w ogóle ktokolwiek, będzie sprawować kontrolę nad najpotężniejszą technologią świata — i przepaść między tymi, którzy domagają się działań, a tymi, którzy im się sprzeciwiają, szybko się powiększa.

Czołowe Laboratoria AI Tworzą Niezależny Organ Samoregulacji

OpenAI, Anthropic i Google DeepMind współpracują przy tworzeniu wspólnie finansowanego, niezależnie zarządzanego organu, który będzie oceniał graniczne modele AI przed ich publicznym udostępnieniem — wzorowanego luźno na FINRA, amerykańskim samoregulatora branży finansowej. Zgodnie z proponowaną strukturą, nowe potężne modele będą poddawane standaryzowanym ocenom bezpieczeństwa przez zewnętrznych ewaluatorów przed wdrożeniem, co doda poziom odpowiedzialności między wewnętrznymi testami firmy a publicznym dostępem. Inicjatywa następuje po serii publicznych ostrzeżeń dotyczących bezpieczeństwa ze strony badaczy w tych samych organizacjach i sygnalizuje, że same laboratoria zdają sobie sprawę, iż zewnętrzna kontrola jest teraz oczekiwana. Kluczowym pytaniem pozostaje, czy organ będzie miał prawdziwą niezależność od finansujących go firm; propozycje samoregulacji w innych branżach często napotykały trudności dokładnie w tym punkcie.

Trump Nazywa Obawy o Bezpieczeństwo AI Mistyfikacją

Na publicznym wydarzeniu 16 września Donald Trump odrzucił egzystencjalne ryzyko AI jako mistyfikację i twierdził, że jedynym nadzorem, jakiego potrzebują USA, jest silny prezydent. Jego wypowiedzi stawiają go w bezpośrednim konflikcie z badaczami OpenAI i Anthropic, którzy publicznie ostrzegali, że coraz bardziej zaawansowane modele mogą wyrządzić poważne szkody bez odpowiednich zabezpieczeń. Trump powtórzył także swój sprzeciw wobec federalnego prawodawstwa AI, preferując samoregulację branży — stanowisko popierane przez niektórych dużych inwestorów technologicznych, ale sprzeczne z większością opublikowanych ocen ryzyka AI i ze standardami bezpieczeństwa, które same laboratoria teraz popierają. Wypowiedzi pogłębiają i tak już znaczny polityczny podział w USA co do tego, jak i czy w ogóle regulować graniczne AI.

Sekretarz Generalny ONZ Ostrzega Przed Wyścigiem na Dół w Kwestii Bezpieczeństwa AI

Sekretarz Generalny ONZ Antonio Guterres ostrzeż 16 września, że presja konkurencyjna między państwami skłania rządy do łagodzenia wymogów bezpieczeństwa AI zamiast ich zaostrzania, opisując tę dynamikę jako wyścig na dół. Przemawiając w Nowym Jorku, Guterres wezwał do pilnego międzynarodowego porozumienia w sprawie wspólnych zasad ochrony ludności cywilnej przed szkodami powodowanymi przez AI, wskazując na broń autonomiczną i nadzór wspomagany przez AI jako obszary wymagające natychmiastowych wielostronnych regulacji. Zauważył, że nie istnieje obecnie wiążące globalne ramy prawne dla AI i że przepaść między możliwościami AI a infrastrukturą zarządzania rośnie szybciej, niż państwa członkowskie zmierzają do jej zamknięcia. Sekretarz Generalny umieścił zarządzanie AI w programie ONZ od 2023 roku; jego bezpośredni język w tym tygodniu odzwierciedla narastającą pilność w miarę jak mocarstwa pogłębiają swoje inwestycje.

Rywalizacja w Dziedzinie AI Ma Zdominować Szczyt Xi-Trumpa w Waszyngtonie

Kiedy chiński prezydent Xi Jinping i Donald Trump spotkają się w Waszyngtonie w najbliższych tygodniach, sztuczna inteligencja ma być jednym z kluczowych punktów programu. Chińskie firmy, w tym DeepSeek i Moonshot AI, w ciągu ostatniego roku znacznie zmniejszyły lukę wydajnościową z czołowymi modelami USA, komplikując wcześniejsze amerykańskie założenia dotyczące utrzymania wyraźnej przewagi technologicznej. Rozmowy mają dotyczyć dostępu do zaawansowanych układów scalonych — gdzie amerykańskie kontrole eksportu były wielokrotnie testowane i omijane — a także zarzutów o kopiowanie własności intelektualnej i możliwości dwustronnych porozumień w sprawie nadzoru nad AI. Wynik mógłby przekształcić zarówno międzynarodowy krajobraz zarządzania AI, jak i globalne zasady dotyczące najpotężniejszego sprzętu tej technologii.

Kongres USA Dodaje Przełączniki Awaryjne do Ustawy o AI; Głosowanie na Sali Odkładane do 2027 roku

Amerykańscy ustawodawcy debatują nad dodaniem obowiązkowych audytów bezpieczeństwa przed wdrożeniem, mechanizmów awaryjnego wyłączania wysokiego ryzyka systemów AI oraz trwałego zakazu opracowywania sztucznej superinteligencji do Ustawy o Bezpieczeństwie Granicznego AI — najbardziej kompleksowej federalnej ustawy dotyczącej AI, obecnie rozpatrywanej. Nowe przepisy odzwierciedlają rosnące obawy Kongresu zarówno o bliskie nadużycia, jak i długoterminowe ryzyko związane z możliwościami systemów. Jednak przewodniczący komisji Izby Reprezentantów odpowiedzialnej za ustawę wskazał, że jest mało prawdopodobne, aby trafiła ona na pełne głosowanie sali przed 2027 rokiem, powołując się na sprzeciw grup branżowych i nieporozumienia wśród członków komisji co do zakresu. Opóźnienie pozostawia USA bez federalnej ustawy AI, podczas gdy poszczególne stany — Kalifornia na czele — nadal uchwalają własne przepisy, tworząc rosnącą patchworkową sieć wymogów w obliczu braku standardów krajowych.