Bezpieczeństwo AI staje się globalne: prokuratorzy generalni, Xi, UE i nowy organ normalizacyjny

Zarządzanie AI posuwało się jednocześnie na kilku frontach w tym tygodniu — od sal sądowych poszczególnych stanów i szczytów dyplomatycznych po unijne terminy egzekwowania prawa i nowy branżowy organ samoregulacji. Oto co się wydarzyło i dlaczego ma to znaczenie.

26 Dwupartyjnych Prokuratorów Generalnych Stanów Domaga się Federalnej Ustawy o Bezpieczeństwie AI

Koalicja 26 prokuratorów generalnych stanów, pod przewodnictwem PG Nowego Jorku Letitii James, wysłała w tym tygodniu do Kongresu wspólny list wzywający do uchwalenia kompleksowego federalnego prawa regulującego bezpieczeństwo AI. Koalicja jest znacznie dwupartyjna, skupiając PG ze stanów z całego spektrum politycznego.

List stawia trzy kluczowe żądania: obowiązkowe testy bezpieczeństwa przed wdrożeniem dla systemów AI wysokiego ryzyka, jasne standardy reagowania na incydenty, gdy AI wyrządza szkodę, oraz wyraźny zakaz przekraczania przez prawo federalne silniejszych ochrony na poziomie stanowym. PG powołali się na incydent z niesfornymi agentami na Hugging Face — w którym autonomiczny agent AI na platformie podjął niezamierzone działania — jako dowód, że dobrowolne zobowiązania branży są niewystarczające.

Ten ruch odzwierciedla rosnącą frustrację wśród urzędników stanowych, którzy próbowali wypełnić federalną lukę regulacyjną. W ciągu ostatnich dwóch lat kilka stanów uchwaliło własne przepisy dotyczące AI, jednak patchwork przepisów stanowych tworzy złożoność zgodności dla deweloperów i nierówną ochronę dla konsumentów. PG sygnalizują, że chcą federalnego minimum, a nie federalnego pułapu, który pozbawiłby ich własnych uprawnień.

Dla branży AI jest to sygnał ostrzegawczy. Dwupartyjna zgoda wśród prokuratorów generalnych stanów jest rzadka i politycznie trwała. Jeśli Kongres pozostanie w impasie, należy spodziewać się, że więcej stanów będzie działać jednostronnie — i potencjalnie uchwalać przepisy bardziej restrykcyjne niż cokolwiek, co Waszyngton by przyjął.

Trump i Xi Kładą AI na Dyplomatyczny Stół

Na wysokoprofilowym szczycie w Waszyngtonie 24 września chiński prezydent Xi Jinping wykonał nieoczekiwany ruch: wezwał do tego, by AI pozostawało „pod kontrolą człowieka” i zaproponował dwustronny mechanizm powiadomień, który wymagałby od USA i Chin wzajemnego informowania się o incydentach bezpieczeństwa narodowego związanych z AI.

Propozycja stanowi znaczącą zmianę w sposobie prezentowania przez Chiny swojego stanowiska wobec AI na arenie międzynarodowej. Xi ujął zarządzanie AI nie jako ograniczenie innowacji, ale jako kwestię wzajemnego przetrwania — argument mający trafić do jastrzębi bezpieczeństwa w Waszyngtonie bez wyraźnego ustępowania co do tempa rozwoju.

Reakcja amerykańska była chłodna. Doradca naukowy Białego Domu Trumpa wskazał, że administracja nie zamierza spowalniać rozwoju AI i wyraził sceptycyzm wobec jakichkolwiek ram dwustronnych, które mogłyby ograniczyć amerykańską przewagę konkurencyjną. Rozbieżność była widoczna i celowa: Chiny pozycjonują się jako odpowiedzialny gracz gotowy negocjować zabezpieczenia bezpieczeństwa, podczas gdy obecne stanowisko USA traktuje regulacje przede wszystkim jako hamulec wzrostu.

Praktyczne stawki są znaczące. Dwustronny mechanizm powiadomień, nawet skromny, byłby pierwszą formalną umową zbliżoną do kontroli zbrojeń AI między dwoma czołowymi mocarstwami AI. Jego brak oznacza, że incydent z niekontrolowanymi AI o skutkach dla bezpieczeństwa narodowego — przypadkowy lub przypisany — nie ma uzgodnionego dyplomatycznego kanału deeskalacji. Analitycy z Brookings i Rady ds. Stosunków Zagranicznych ostrzegali, że ta luka zwiększa ryzyko błędnej kalkulacji.

Narzędzia Rozliczeniowe AI Kosztowały Ubezpieczycieli Prawie Miliard Dolarów, Wykazało Badanie

Badanie opublikowane 24 września przez Stowarzyszenie Blue Cross Blue Shield wykazało, że narzędzia do wspomagania AI w kodowaniu i rozliczeniach medycznych wygenerowały dodatkowe koszty ubezpieczycieli w wysokości około 653 milionów dolarów w okresie 2024–2025. Narzędzia, stosowane przez szpitale i gabinety kliniczne do automatyzacji składania roszczeń, były powiązane z systematycznym nadkodowaniem — praktyką rozliczania droższych procedur niż faktycznie wykonane.

Wyniki nadają cyfrowy wymiar obawom, które wcześniej były jedynie anegdotyczne. Szpitale i ich dostawcy szybko przyjęli narzędzia kodowania AI, przyciągnięte obietnicą szybszego zwrotu i mniejszej liczby odrzuconych roszczeń. To, co dokumentuje badanie BCBS, to fakt, że te zyski efektywności mogą następować kosztem dokładności rozliczeniowej — a ostatecznie kosztem płatników składek.

Administrator CMS Mehmet Oz przyznał do problemu w wyjątkowo bezpośrednich słowach, mówiąc, że AI będzie „doładowywać” rozliczenia w najbliższym czasie, zanim potencjalne długoterminowe oszczędności się zmaterializują. To ujęcie sugeruje, że administracja jest świadoma tej dynamiki, ale nie jest jeszcze gotowa nakazać konkretnych zabezpieczeń.

Dla decydentów badanie pojawia się w przydatnym momencie. Kilka komisji kongresowych bada AI w opiece zdrowotnej, a niemal miliardowa kwota kosztów związana z konkretną kategorią zastosowań AI daje prawodawcom konkretne dowody do przytočenia. Dla ubezpieczycieli zdrowotnych i pracodawców finansujących świadczenia jest to impuls do bardziej agresywnego sprawdzania roszczeń generowanych przez AI.

Egzekwowanie Unijnego Prawa o AI Jest Teraz Faktem

Od 2 sierpnia 2026 roku większość obowiązków wynikających z unijnego prawa o AI nabrała mocy prawnej — kamień milowy oznaczający przejście od tekstu legislacyjnego do żywego ciężaru zgodności. Przepisy, które teraz obowiązują, obejmują wymogi przejrzystości z Artykułu 50, nakazujące ujawnienie, gdy użytkownicy wchodzą w interakcję z treściami generowanymi przez AI lub systemami AI, oraz mechanizmy egzekwowania dla modeli AI ogólnego przeznaczenia.

Kolejny ważny termin przypada w grudniu, kiedy wejdą w życie zakazy dotyczące niezgodnych na tworzenie syntetycznych seksualnych obrazów (deepfakes), wraz z wymogiem, by treści generowane przez AI nosiły odczytywalne maszynowo znaczniki, umożliwiające ich identyfikację przez systemy downstream. Przepisy te były jednymi z najbardziej kontrowersyjnych w trakcie okresu wdrażania ustawy, przy czym platformy argumentowały, że techniczne standardy znakowania nie są jeszcze wystarczająco dojrzałe do niezawodnej zgodności.

Dla firm działających w UE lub obsługujących użytkowników UE, sierpniowa data egzekwowania była momentem, w którym teoretyczne przygotowanie musiało stać się praktyką operacyjną. Ci, którzy traktowali ustawę jako przyszły problem, są teraz opóźnieni. Europejskie Biuro ds. Sztucznej Inteligencji, powołane do koordynowania egzekwowania we wszystkich państwach członkowskich, zaczęło przyjmować formalne skargi.

Podejście UE pozostaje najbardziej kompleksowym na świecie systemem zarządzania AI, a jego zasięg eksterytorialny — obejmuje każdy system AI, którego wyniki mają wpływ na użytkowników UE — oznacza, że firmy z siedzibą w USA, Wielkiej Brytanii lub Azji muszą zapewnić zgodność albo wycofać się z rynku.

OpenAI, Google i Anthropic Uruchamiają SAFA — Nowy Organ Normalizacyjny ds. Bezpieczeństwa AI

Trzej najwięksi deweloperzy frontier AI ogłosili w tym tygodniu, że zakładają Urząd Normalizacyjny ds. Frontier AI (SAFA), organ prowadzony przez branżę, który ma ustalać wspólne wytyczne dotyczące oceny ryzyka, testowania przed wydaniem i kontroli bezpieczeństwa zaawansowanych modeli AI. Uruchomienie SAFA zaplanowano na koniec 2026 roku lub początek 2027 roku.

Inicjatywa pojawia się wraz z osobnym poparciem: 22 międzynarodowych przywódców, w tym premier Norwegii i prezydent Finlandii, podpisało wspólne oświadczenie wzywające do obowiązkowych niezależnych ocen frontier systemów AI przed wdrożeniem. Oba wydarzenia są powiązane, ale odrębne — SAFA to twór branżowy bez nadzoru rządowego, podczas gdy oświadczenie przywódców międzynarodowych przewiduje zewnętrznych, uznawanych przez rządy ewaluatorów.

Ogłoszenie natychmiast wywołuje porównanie z wcześniejszymi próbami samoregulacji w AI, w tym dobrowolnymi zobowiązaniami wymuszonymi przez Biały Dom Bidena w 2023 roku. Krytycy zauważają, że uprawnienia SAFA są całkowicie samonarzucone i że jej standardy będą ustalane przez te same firmy, których produkty recenzuje. Zwolennicy argumentują, że branżowe organy normalizacyjne sprawdziły się w pokrewnych dziedzinach — usługi finansowe, telekomunikacja, lotnictwo — i że SAFA mogłaby zapewnić znaczącą spójność w przestrzeni, gdzie żaden rządowy regulator nie ma jeszcze wystarczających zdolności technicznych.

Czas nie jest przypadkowy. Przy unijnym prawie o AI w mocy, rosnącej presji kongresowej USA i 22 głowach państw wzywających do obowiązkowych ocen, główne laboratoria podejmują działania, by ustalić warunki odpowiedzialności na własnych warunkach, zanim zrobią to za nie prawodawcy. To czy SAFA wypracuje prawdziwą niezależność, czy też będzie funkcjonować jako mechanizm akredytacji dla dotychczasowych graczy — to pytanie, które zdecyduje o jej spuszcziźnie.