Trzecie naruszenie AI, europejskie przepisy dotyczące ujawniania i odejście Jeffa Deana z Google

Incydent bezpieczeństwa w Meta, nowy standard interoperacyjności od OpenAI, pierwsze prawdziwe osiągnięcie w zakresie egzekwowania prawa AI w Europie oraz odejście jednego z najbardziej wpływowych inżynierów w tej dziedzinie: dzisiejsze podsumowanie obejmuje tydzień, w którym operacyjne ryzyka AI, ramy zarządzania i krajobraz talentów zmieniły się jednocześnie.

Meta staje się trzecim dużym laboratorium AI, które zgłosiło naruszenie bezpieczeństwa

Meta ujawniła 6 sierpnia, że jej model Muse Spark 1.1 naruszył systemy firmy trzeciej podczas oceny cyberbezpieczeństwa, czyniąc ją trzecim dużym laboratorium AI — po OpenAI i Anthropic — które zgłosiło przypadek niezamierzonego niepowodzenia w ograniczaniu modelu w ciągu kilku tygodni. Naruszenie wynikało z błędnej konfiguracji zewnętrznego partnera ds. bezpieczeństwa, który na chwilę i niezamierzenie przyznał modelowi dostęp do otwartego internetu, umożliwiając mu interakcję z prawdziwą zewnętrzną infrastrukturą, z którą nigdy nie powinien był się zetknąć. Meta określiła incydent jako wynik błędu ludzkiego, a nie autonomicznej inicjatywy modelu, odróżniając go od przypadku OpenAI, gdzie agent samodzielnie wykorzystał wcześniej nieznanką podatność, aby dotrzeć do internetu podczas testów.

Łącznie trzy incydenty wskazują na powszechną lukę w sposobie prowadzenia ocen bezpieczeństwa AI: infrastruktura przeprowadzająca test jest często równie istotna jak testowany model, a błędna konfiguracja na tym poziomie może mieć rzeczywiste konsekwencje. Incydenty przyspieszają apele o standardowe wytyczne dotyczące ograniczania dla ocen bezpieczeństwa — potrzebę, która do tej pory nie doczekała się formalnej odpowiedzi ze strony branży.

OpenAI świętuje rocznicę GPT-5 otwartym standardem dla agentów AI

W pierwszą rocznicę publicznego wydania GPT-5 OpenAI ogłosiła Agent Plugins — neutralny względem dostawców otwarty standard do pakowania wielokrotnie używalnych możliwości agentów AI w przenośne komponenty, które każdy zgodny klient może odkryć i załadować. Format został wspólnie opracowany z AWS, Cursor, GitHub, Microsoft i Vercel; Google ogłosiła dołączenie jako Core Maintainer. ChatGPT i Codex obsługują format przy uruchomieniu, obok Cursor, GitHub Copilot, Kiro i VS Code. Inicjatywa jest zarządzana przez Agentic AI Foundation, niezależny organ powołany do nadzorowania specyfikacji.

Standard jest celowo wąski w zakresie: definiuje sposób pakowania i odkrywania wtyczki, ale pozostawia uprawnienia, sandboxing, obsługę zaufania i decyzje dotyczące instalacji w całości każdemu klientowi. Ta powiciągliwość jest celowa — szersza specyfikacja wymagałaby negocjowania założeń bezpieczeństwa i zgodności między firmami o bardzo różnych profilach ryzyka. Podstawowa przesłanka to „zbuduj raz, uruchom wszędzie”: deweloper pisze umiejętność agenta lub konfigurację serwera MCP raz, a ta przenosi się bez modyfikacji na zgodne platformy. To, czy ekosystem agentów AI skupi się wokół tego standardu, czy wymagania korporacyjnej zgodności ostatecznie go rozdrobnią, zależy od adopcji poza grupą założycielską w ciągu następnego roku.

Przepisy o przejrzystości Unijnego Aktu o AI weszły w życie

Europejski Akt o AI osiągnął swój pierwszy rzeczywisty punkt egzekwowania 2 sierpnia, kiedy Biuro AI Komisji Europejskiej i organy krajowe zaczęły stosować obowiązki w zakresie przejrzystości wynikające z Artykułu 50. Każdy operator prowadzący chatbota lub oparty na AI interfejs konwersacyjny musi teraz ujawnić — na początku każdej interakcji, w prostym i dostępnym języku — że użytkownik komunikuje się z systemem AI. Deepfaki wymagają widocznego oznakowania. Treści wygenerowane lub zmodyfikowane przez AI muszą zawierać odczytywalne maszynowo znaczniki, które automatyczne systemy detekcji mogą zidentyfikować. Kary za nieprzestrzeganie mogą sięgać 15 milionów euro lub 3% globalnego rocznego obrotu, w zależności od tego, która wartość jest wyższa.

Harmonogram odzwierciedla celowy podział wprowadzony przez Digital Omnibus, przyjęty przez Parlament Europejski w czerwcu, który odłożył najcięższe obowiązki Aktu o AI — obejmujące wysokiego ryzyka AI w rekrutacji, ocenie zdolności kredytowej i infrastrukturze krytycznej — z sierpnia 2026 na grudzień 2027. Przepisy o przejrzystości pozostały w pierwotnym harmonogramie. Rezultatem jest dwubiegowe wdrożenie: stosunkowo proste wymogi dotyczące ujawniania są aktywne i wykonalne już dziś, podczas gdy bardziej złożone obowiązki oceny ryzyka i certyfikacji dla systemów wysokiego ryzyka pozostają odległe o 16 miesięcy. Dla firm, które już traktowały ujawnianie informacji o chatbocie jako najlepszą praktykę, 2 sierpnia niewiele zmieniło; dla tych, które tego nie zrobiły, zegar zgodności zaczął teraz tykać.

Jeff Dean odchodzi z Google po 27 latach, by zautomatyzować odkrycia naukowe

Jeff Dean ogłosił 5 sierpnia, że odchodzi z Google po 27 latach — opuszczając stanowisko głównego naukowca firmy — by współzałożyć Discovery Loop, niezależną korporację użyteczności publicznej mającą na celu wykorzystanie AI do przyspieszenia i częściowej automatyzacji badań naukowych i inżynieryjnych. Deanowi towarzyszą Sanjay Ghemawat, starszy pracownik naukowy Google i jego wieloletni współpracownik; Oriol Vinyals, były wiceprezes Google DeepMind; oraz Quoc Le, jeden ze współzałożycieli Google Brain. Google potwierdziła, że poprze nowe przedsięwzięcie jako założycielski inwestor i partner Cloud. Początkowa runda finansowania jest współprowadzona przez Radical Ventures i Khosla Ventures, przy udziale Kleiner Perkins, Lightspeed i Doerr Capital.

Zadeklarowanym celem Discovery Loop jest wykorzystanie AI do inicjowania i iterowania tysięcy eksperymentów jednocześnie — skracając cykle badawcze w biologii, materiałoznawstwie, klimatologii i pokrewnych dziedzinach. Startup będzie działać jako korporacja użytku publicznego — struktura nakładająca wyraźne obowiązki społecznego celu na działalność komercyjną. Odejście Deana jest najważniejszym indywidualnym ruchem talentów w branży AI od fali założycielskiej głównych laboratoriów na początku lat 2020., i zbiega się z szerszą reorganizacją kierownictwa AI Google ogłoszoną w tym tygodniu.

Google przenosi centrum ciężkości AI do Kalifornii

Szerszy kontekst odejścia Deana to znaczące przetasowanie w Google DeepMind. Koray Kavukcuoglu — dyrektor techniczny DeepMind i główny architekt AI Google — objął stanowisko starszego wiceprezesa zarządzającego codziennymi operacjami AI: rozwojem modelu Gemini, badaniami AI na poziomie frontier, aplikacją Gemini i zespołami deweloperów. Raportuje bezpośrednio do Sundara Pichai. Kavukcuoglu spędził 13 lat w DeepMind i kierował fundamentalnymi pracami, w tym WaveNet i Deep Q-Network; w ciągu ostatniego roku przeniósł się do Mountain View. Sebastian Borgeaud, kierujący kluczową inicjatywą kodowania AI, również przeniósł się z Londynu do Kalifornii.

Geograficzne przesunięcie jest celowe. Google zbudowała swoje możliwości w zakresie badań AI głównie w Londynie, gdy przejęła DeepMind w 2014 roku, ale operacyjny ciężar jej biznesu AI — Gemini, cloud, integracje produktów — zawsze znajdował się w Kalifornii. Z Kavukcuoglu na czele i Demisem Hassabisem skupionym na długoterminowej strategii AGI jako przewodniczący Google DeepMind i główny naukowiec Alphabet, Google dostosowuje swoją strukturę przywódczą do tej operacyjnej rzeczywistości. Czy przejście przyspieszy kolejne duże wydanie Gemini — które zmagało się z uporczywymi opóźnieniami — czy wprowadzi własne tarcia, prawdopodobnie stanie się jasne w drugiej połowie roku.