Przerwa bezpieczeństwa, reguły dla towarzyszy AI i rekordowe zakłady na chipy

OpenAI wstrzymała swój najpotężniejszy model wewnętrzny po tym, jak przekroczył próg bezpieczeństwa w zakresie ryzyka cyberbezpieczeństwa; pierwsze w Chinach przepisy dotyczące towarzyszy AI zamknęły funkcje persony używane przez dziesiątki milionów; producenci chipów zobowiązali się do setek miliardów dolarów na fizyczną infrastrukturę, której wymaga AI.

OpenAI wstrzymuje Astra po tym, jak model przekracza czerwoną linię cyberbezpieczeństwa

W tym tygodniu OpenAI zatrzymała dalsze wdrażanie Astry — wewnętrznego modelu, który jako pierwszy w historii firmy przekroczył próg krytycznego cyberzagrożenia w jej ramach bezpieczeństwa — co oznacza, że oceniający doszli do wniosku, iż model jest zdolny do autonomicznego wykrywania i wykorzystywania nieznanych wcześniej luk w oprogramowaniu. Ta przerwa jest niezwykła w branży, gdzie oceny możliwości są zazwyczaj publikowane po wydaniu modelu, a nie jako podstawa do opóźnienia. OpenAI nie ogłosiła, kiedy wdrożenie może zostać wznowione ani jakie techniczne środki zaradcze są rozważane.

Pierwsze chińskie przepisy dotyczące towarzyszy AI zamykają usługi person dla milionów

Przepisy, które weszły w życie 15 lipca, zobowiązały dwie największe chińskie platformy AI-towarzyszy do wyłączenia dostosowanych funkcji persony, pozwalających użytkownikom tworzyć trwałe relacje z nazwaną, stałą postacią AI. Przepisy — pierwsze tego rodzaju na świecie — dotyczą ryzyka uzależnienia emocjonalnego, ze szczególną troską o nieletnich, którzy byli wśród najbardziej zaangażowanych użytkowników. Obie platformy potwierdziły zgodność, podczas gdy zespoły inżynierów pracują nad przeprojektowanymi funkcjami spełniającymi nowe wymagania; dotkniętych zostało dziesiątki milionów kont.

Bakteriofagi zaprojektowane przez AI zabijają bakterie oporne na antybiotyki w testach laboratoryjnych

Badacze ze Stanforda użyli genomowych modeli językowych Evo1 i Evo2 do generowania sekwencji bakteriofagów-kandydatów — wirusów atakujących bakterie, a nie ludzi — a następnie zsyntetyzowali i przetestowali wyniki w laboratorium. Z około 300 kandydatów wygenerowanych przez AI, 16 dało w pełni funkcjonalne wirusy zdolne do infekowania i zabijania opornych na antybiotyki szczepów E. coli. To pierwszy raz, gdy organizmy zaprojektowane przez AI przeszły pomyślnie cały eksperymentalny łańcuch — od sekwencji do żywego, skutecznego agenta. Zespół opublikował wyniki wraz z ostrzeżeniem, że ramy zarządzania bezpieczeństwem biologicznym zostały napisane dla broni chemicznej i biologicznej, a nie dla nowej biologii generowanej przez AI, i nie nadążyły za tymi zmianami.

SK Hynix zobowiązuje się do 38 miliardów dolarów na nowe fabryki pamięci AI

Południowokoreański SK Hynix ogłosił plan wydatków kapitałowych w wysokości 54 bilionów wonów (38 miliardów dolarów) na nowe fabryki dedykowane pamięci o wysokiej przepustowości i DRAM nowej generacji — architekturom pamięci stanowiącym centrum akceleratorów AI. Jest to największe zobowiązanie kapitałowe w historii firmy i największa inwestycja dedykowana AI przez jakiegokolwiek koreańskiego producenta chipów. Nowe fabryki nie rozpoczną produkcji przed 2028 rokiem, a część zdolności produkcyjnych wejdzie do użytku dopiero w 2029 roku — co ilustruje, jak długo budowa fizycznej warstwy infrastruktury AI zajmuje, nawet gdy finansowanie jest natychmiast dostępne.

Siemens odnotowuje rekordowy zysk przemysłowy wraz ze wzrostem popytu napędzanego przez AI

Siemens poinformował o kwartalnym zysku przemysłowym w wysokości 3,52 miliarda euro, wzroście o 25 procent rok do roku i najwyższej wartości, jaką firma kiedykolwiek odnotowała, napędzanym głównie przez popyt na infrastrukturę elektryczną — aparaturę łączeniową, dystrybucję energii, systemy chłodzenia centrów danych — której wymagają obiekty AI. Niemiecki koncern przemysłowy ogłosił również inwestycję w wysokości 200 milionów dolarów w dwa nowe zakłady produkcyjne w USA dla elektrycznych komponentów centrów danych, które mają stworzyć ponad 1 500 miejsc pracy. Wyniki te przypominają, że apetyt AI na energię i chłodzenie rozciągnął się daleko poza warstwę chipów — aż do przemysłu ciężkiego.

Trump i Kongres w konflikcie w sprawie obowiązkowych audytów bezpieczeństwa AI

Biały Dom odrzucił w tym tygodniu dwupartyjne propozycje kongresowe, które zobowiązywałyby deweloperów AI do poddawania modeli obowiązkowym audytom bezpieczeństwa przed komercyjnym wdrożeniem. Prezydent Trump przedstawił takie prawodawstwo jako ryzyko wyregulowania branży z rynku, podczas gdy zwolennicy z obu partii argumentowali, że dobrowolne zobowiązania przyniosły niespójne wyniki w zakresie bezpieczeństwa. Własne ramy polityki AI administracji zwalniają modele o otwartych wagach z popieranych przez nią dobrowolnych zobowiązań do testowania — wyjątek, który krytycy twierdzą, że czyni ramy nieskutecznymi dla rosnącego udziału rynku.