Anthropic wyprzedza OpenAI, regulatorzy atakują agentów AI na trzech frontach

Tygodniowe wiadomości ze świata AI napłynęły w dwóch falach: przetasowanie konkurencyjne na szczycie branży oraz skoordynowane globalne działania regulatorów mające na celu wyznaczenie twardych granic wokół autonomicznych systemów AI. Siedem historii definiuje ten moment.

Anthropic wyprzedza OpenAI pod względem przychodów i wyceny na rynku wtórnym

Po raz pierwszy od czasu, gdy obie firmy wyłoniły się jako dwie dominujące siły w generatywnej AI, Anthropic przewyższyła OpenAI pod względem przychodów rocznych — a inwestorzy na rynku wtórnym wyceniają firmę odpowiednio, windując implikowaną wycenę Anthropic powyżej wyceny OpenAI na prywatnych platformach handlowych.

Odwrócenie jest uderzające, biorąc pod uwagę wieloletnią przewagę startową OpenAI, jej ogromną bazę konsumentów dzięki ChatGPT i głęboką integrację z korporacyjnym stosem Microsoft. Sukcesy Anthropic są powszechnie przypisywane skupieniu na niezawodności korporacyjnej i reputacji w dziedzinie bezpieczeństwa, które znalazły oddźwięk w regulowanych branżach, w tym prawniczej, usługach finansowych i ochronie zdrowia. Mocna wydajność Claude na testach kodowania i rozumowania przyspieszyła również adopcję wśród programistów. Czy przewaga przychodów utrzyma się, gdy OpenAI intensyfikuje własne działania korporacyjne, pozostaje niepewne, ale narracja o jednym dominującym graczu definitywnie dobiegła końca.

OpenAI proponuje przekazanie rządowi USA udziału 5% w kapitale

Nawet tracąc punkty do Anthropic pod jednym kluczowym miernikiem, OpenAI wykonuje odważny ruch polityczny. Dyrektor generalny Sam Altman zaproponował zaoferowanie rządowi USA 5-procentowego udziału w kapitale własnym firmy — wycenianej obecnie na około 42,6 miliarda dolarów — wzorowanego luźno na Stałym Funduszu Alaski, gdzie przychody stanowe z ropy naftowej trafiają do obywateli jako publiczna dywidenda. Koncepcja Altmana stawia AI w pozycji zasobu narodowego, w którym amerykańscy podatnicy mają prawo do udziału w korzyściach, a nie tylko do absorpcji ryzyk.

Propozycja odzwierciedla rosnącą presję na laboratoria AI, aby wykazały korzyść publiczną na skalę odpowiednią do ich prywatnych wycen. Krytycy zauważyli, że rządowy udział w kapitale mógłby skomplikować nadzór, tworzyć konflikty interesów dla regulatorów lub funkcjonować przede wszystkim jako strategia lobbingowa. Zwolennicy argumentują, że mogłoby to dostosować incentywy rządowe i korporacyjne w sposób, którego dobrowolne zobowiązania w zakresie bezpieczeństwa konsekwentnie nie były w stanie osiągnąć. Biały Dom nie odpowiedział publicznie.

Chiny nakazują aplikacjom-towarzyszom AI zamknięcie spersonalizowanych agentów do 15 lipca

Administracja Cyberprzestrzeni Chin dała krajowym firmom AI — w tym Doubao firmy ByteDance i Qwen firmy Alibaba — czas do 15 lipca na wyłączenie spersonalizowanych funkcji agentów AI w aplikacjach towarzyskich i społecznościowych. Dyrektywa jest częścią szerszej regulacyjnej akcji oczyszczania AI z naciskiem na etykę, przy czym władze powołują się na obawy dotyczące uzależnienia emocjonalnego, manipulacji i zacierania granicy między relacjami ludzkimi a maszynowymi.

Ten ruch ilustruje wyłaniający się wzorzec: rządy, które szybko przyjęły AI, również szybko wyznaczają granice wokół jej najbardziej intymnych zastosowań. Spersonalizowani towarzysze AI — systemy uczące się preferencji poszczególnych użytkowników, dostosowujące swoje osobowości i podtrzymujące długoterminową dynamikę relacji — stwarzają odrębne ryzyka, do których zasady dla chatbotów ogólnego przeznaczenia nie były zaprojektowane. Podobne debaty już pojawiają się w Europie i Stanach Zjednoczonych w miarę jak produkty AI-towarzysza rozszerzają swoje bazy użytkowników.

Bank Anglii ostrzega, że agenci AI mogą wzmacniać niestabilność rynku i bada 'wyłączniki awaryjne'

Zastępca gubernatora Banku Anglii Sarah Breeden wygłosiła jedno z najbardziej bezpośrednich ostrzeżeń regulacyjnych do tej pory na temat autonomicznej AI na rynkach finansowych: obecne ramy nie są odpowiednie dla systemów agentowych, które mogą podejmować działania z prawdziwymi pieniędzmi bez chwilowego zatwierdzenia przez człowieka. Przemawiając obok przedstawicieli FCA, Breeden stwierdziła, że regulatorzy aktywnie badają mechanizmy techniczne i prawne — w tym awaryjne wyłączniki — które mogłyby zatrzymać transakcje lub decyzje portfelowe sterowane przez AI w scenariuszach kryzysowych.

Obawa nie jest hipotetyczna. Kilku dużych zarządzających aktywami już wdrożyło agentów AI zdolnych do realizacji transakcji i rebalansowania portfeli szybciej niż ludzki nadzór jest w stanie śledzić. Interwencja Banku Anglii sygnalizuje, że era odraczania zarządzania AI w usługach finansowych dobiega końca. Oczekuje się, że FCA opublikuje formalne wytyczne przed końcem roku.

FTC: ukryte kierowanie wynikami AI jest praktyką wprowadzającą w błąd

Federalna Komisja Handlu USA opublikowała proponowane oświadczenie o polityce stwierdzające, że systemy AI potajemnie kierowane w stronę nieujawnionych celów komercyjnych, regulacyjnych lub zastrzeżonych prawdopodobnie naruszają Sekcję 5 Ustawy FTC — podstawową ustawę o ochronie konsumentów. Polityka jest wymierzona w konkretną i coraz powszechniejszą praktykę: wdrażanie narzędzi AI, które pozornie dają neutralne wyniki, faktycznie optymalizując pod kątem celów, których deweloper lub operator nie ujawnił użytkownikom.

Przykłady przytoczone przez FTC obejmują systemy wyszukiwania AI i rekomendacji, które klasyfikują wyniki na korzyść własnych produktów platformy, doradców AI w kontekście finansowym lub zdrowotnym, którzy kierują użytkowników do konkretnych dostawców, oraz narzędzia AI do zarządzania zgodnością, które kształtują wyniki w celu zminimalizowania narażenia regulacyjnego operatora bez informowania użytkowników. Komentarze publiczne są otwarte do 31 lipca. Jeśli zostaną ostatecznie zatwierdzone, polityka da FTC uprawnienia do ścigania szerokiego zakresu produktów AI i zmusi do znaczących zmian w zakresie ujawniania informacji w całej branży.

Korporacyjna adopcja AI znacznie wyprzedza zarządzanie

Wspólne badanie Smarsh i FTI Consulting wśród liderów technologii i zgodności korporacyjnej wykazało, że 55% organizacji wdrożyło systemy AI do produkcji, ale tylko 26% ma ramy zarządzania dostosowane do tych wdrożeń. Pracownicy korzystający z osobistych lub nieautoryzowanych narzędzi AI na systemach firmowych — tzw. shadow AI — są wykrywalni tylko przez 30% ankietowanych organizacji.

Luka nie jest zaskakująca biorąc pod uwagę tempo adopcji AI, ale liczby wyostrzają rosnącą odpowiedzialność. Przedsiębiorstwa, które nie mogą monitorować tego, co robią systemy AI, kto ich używa lub jakie dane przetwarzają, borykają się z narastającym narażeniem regulacyjnym i awariami wewnętrznych kontroli. Wyniki pojawiają się w momencie, gdy regulatorzy w całej UE, Wielkiej Brytanii i USA intensyfikują skupienie na odpowiedzialności organizacyjnej za decyzje napędzane przez AI.

AI wizyjno-językowa rozwiązuje zagadkę fizyczną frustrującą naukowców przez dziesięciolecia

Badacze UC Irvine opublikowali w tym miesiącu wyniki pokazujące, że model AI wizji i języka — wytrenowany zarówno na literaturze naukowej, jak i na obrazach eksperymentalnych — z powodzeniem zidentyfikował mechanizm strukturalny leżący u podstaw anomalnego zachowania przechłodzonej wody, zagadki, która opierała się konwencjonalnym metodom analitycznym przez dziesięciolecia.

Przechłodzona woda — ciekła woda utrzymywana poniżej 0°C bez zamarzania — wykazuje niezwykłe właściwości termodynamiczne istotne dla nauki o atmosferze, kriobiologii i badań materiałowych. Model nie tylko dopasował wzorce do znanych wyników; zidentyfikował wcześniej nierozpoznane relacje strukturalne w danych i wygenerował czytelne dla człowieka wyjaśnienia swojego rozumowania — co konwencjonalne narzędzia uczenia maszynowego rzadko produkują. Badacze opisują wynik jako dowód nowego paradygmatu dla AI w fizyce eksperymentalnej, gdzie modele multimodalne działają jako wspólni partnerzy analityczni, a nie nieprzejrzyste predyktory.