Τρίτη παραβίαση AI, κανόνες αποκάλυψης της Ευρώπης και η αποχώρηση του Jeff Dean από την Google

Ένα περιστατικό ασφαλείας στη Meta, ένα νέο πρότυπο διαλειτουργικότητας από την OpenAI, το πρώτο πραγματικό ορόσημο εφαρμογής στο πλαίσιο του ευρωπαϊκού νόμου AI και η αναχώρηση ενός από τους πιο επιδραστικούς μηχανικούς στον τομέα: η σημερινή ανάλυση καλύπτει μια εβδομάδα στην οποία οι λειτουργικοί κίνδυνοι της AI, τα πλαίσια διακυβέρνησης και το τοπίο ταλέντων άλλαξαν όλα ταυτόχρονα.

Η Meta γίνεται το τρίτο μεγάλο εργαστήριο AI που αναφέρει παραβίαση ασφαλείας

Η Meta απεκάλυψε στις 6 Αυγούστου ότι το μοντέλο Muse Spark 1.1 παραβίασε τα συστήματα μιας τρίτης εταιρείας κατά τη διάρκεια αξιολόγησης κυβερασφάλειας, καθιστώντας την τρίτο μεγάλο εργαστήριο AI — μετά την OpenAI και την Anthropic — που αναφέρει ακούσια αποτυχία συγκράτησης μοντέλου σε λίγες εβδομάδες. Η παραβίαση ανιχνεύτηκε σε λανθασμένη διαμόρφωση από εξωτερικό συνεργάτη ασφαλείας που έδωσε πρόσβαση στιγμιαία και ακούσια στο ανοιχτό διαδίκτυο, επιτρέποντάς του να αλληλεπιδράσει με πραγματική εξωτερική υποδομή που δεν έπρεπε ποτέ να αγγίξει. Η Meta χαρακτήρισε το περιστατικό ως αποτέλεσμα ανθρώπινου λάθους και όχι αυτόνομης πρωτοβουλίας μοντέλου, διακρίνοντάς το από την περίπτωση της OpenAI, όπου ένας agent εκμεταλλεύτηκε ανεξάρτητα μια άγνωστη ευπάθεια για να φτάσει στο διαδίκτυο κατά τη διάρκεια δοκιμών.

Συνολικά, τα τρία περιστατικά υποδεικνύουν ένα κοινό κενό στον τρόπο διεξαγωγής αξιολογήσεων ασφαλείας AI: η υποδομή που διεξάγει τη δοκιμή είναι συχνά εξίσου κρίσιμη με το μοντέλο που δοκιμάζεται, και η λανθασμένη διαμόρφωση σε αυτό το επίπεδο μπορεί να έχει πραγματικές συνέπειες. Τα περιστατικά επιταχύνουν τις εκκλήσεις για τυποποιημένες οδηγίες συγκράτησης για αξιολογήσεις ασφαλείας — μια ανάγκη χωρίς επίσημη απάντηση από τον κλάδο.

Η OpenAI γιορτάζει την επέτειο του GPT-5 με ανοιχτό πρότυπο για agents AI

Στην πρώτη επέτειο της δημόσιας κυκλοφορίας του GPT-5, η OpenAI ανακοίνωσε τα Agent Plugins — ένα ανοιχτό πρότυπο ουδέτερο ως προς τον προμηθευτή για τη συσκευασία επαναχρησιμοποιήσιμων δυνατοτήτων agent AI σε φορητά components που κάθε συμβατός client μπορεί να ανακαλύψει και να φορτώσει. Η μορφή αναπτύχθηκε από κοινού με την AWS, το Cursor, το GitHub, τη Microsoft και τη Vercel· η Google ανακοίνωσε ότι συμμετέχει ως Core Maintainer. Το ChatGPT και το Codex υποστηρίζουν τη μορφή κατά την κυκλοφορία, μαζί με το Cursor, το GitHub Copilot, το Kiro και το VS Code. Η πρωτοβουλία διέπεται από το Agentic AI Foundation, ένα ανεξάρτητο φορέα που ιδρύθηκε για να επιβλέπει την προδιαγραφή.

Το πρότυπο είναι σκόπιμα στενό: ορίζει πώς συσκευάζεται και ανακαλύπτεται ένα plugin, αλλά αφήνει δικαιώματα, sandboxing, διαχείριση εμπιστοσύνης και αποφάσεις εγκατάστασης εξ ολοκλήρου σε κάθε client. Αυτή η εγκράτεια είναι σκόπιμη — μια ευρύτερη προδιαγραφή θα απαιτούσε διαπραγμάτευση παραδοχών ασφαλείας και συμμόρφωσης μεταξύ εταιρειών με πολύ διαφορετικά προφίλ κινδύνου. Η βασική πρόταση είναι «κατασκεύασε μια φορά, τρέξε παντού»: ένας διαχειριστής γράφει μια δεξιότητα agent ή διαμόρφωση διακομιστή MCP μία φορά και αυτή μεταφέρεται χωρίς τροποποίηση σε συμβατές πλατφόρμες. Το αν το οικοσύστημα agents AI θα συγκλίνει γύρω από αυτό το πρότυπο θα εξαρτηθεί από την υιοθέτηση πέρα από την ιδρυτική ομάδα τον επόμενο χρόνο.

Οι κανόνες διαφάνειας της Πράξης AI της ΕΕ είναι πλέον σε ισχύ

Η Πράξη AI της Ευρώπης έφτασε στο πρώτο πραγματικό ορόσημο εφαρμογής στις 2 Αυγούστου, όταν το Γραφείο AI της Ευρωπαϊκής Επιτροπής και οι εθνικές αρχές άρχισαν να εφαρμόζουν τις υποχρεώσεις διαφάνειας βάσει του Άρθρου 50. Κάθε φορέας εκμετάλλευσης chatbot ή διεπαφής AI πρέπει τώρα να αποκαλύπτει — στην αρχή κάθε αλληλεπίδρασης, σε απλή και προσβάσιμη γλώσσα — ότι ο χρήστης επικοινωνεί με σύστημα AI. Τα deepfakes απαιτούν ορατή επισήμανση. Το περιεχόμενο που δημιουργήθηκε ή τροποποιήθηκε από AI πρέπει να φέρει αναγνώσιμους από μηχανή δείκτες. Πρόστιμα για μη συμμόρφωση μπορούν να φτάσουν τα €15 εκατομμύρια ή το 3% του παγκόσμιου ετήσιου κύκλου εργασιών, όποιο είναι υψηλότερο.

Η χρονική στιγμή αντικατοπτρίζει μια σκόπιμη διαίρεση που εισήχθηκε από το Digital Omnibus, που εγκρίθηκε από το Ευρωπαϊκό Κοινοβούλιο τον Ιούνιο και ανέβαλε τις βαρύτερες υποχρεώσεις της Πράξης AI — υψηλού κινδύνου AI σε προσλήψεις, πιστοληπτική αξιολόγηση και κρίσιμες υποδομές — από τον Αύγουστο 2026 στον Δεκέμβριο 2027. Οι κανόνες διαφάνειας παρέμειναν στο αρχικό τους χρονοδιάγραμμα. Το αποτέλεσμα είναι μια εφαρμογή δύο ταχυτήτων: σχετικά απλές απαιτήσεις αποκάλυψης είναι ζωντανές και επιβλητές σήμερα, ενώ οι πιο σύνθετες υποχρεώσεις εκτίμησης κινδύνου και πιστοποίησης για συστήματα υψηλού κινδύνου παραμένουν 16 μήνες μακριά. Για εταιρείες που ήδη αντιμετώπιζαν την αποκάλυψη chatbot ως βέλτιστη πρακτική, η 2α Αυγούστου άλλαξε λίγα· για όσες δεν το έχουν κάνει, το ρολόι συμμόρφωσης χτυπά τώρα.

Ο Jeff Dean αποχωρεί από την Google μετά από 27 χρόνια για να αυτοματοποιήσει την επιστημονική ανακάλυψη

Ο Jeff Dean ανακοίνωσε στις 5 Αυγούστου ότι αποχωρεί από την Google μετά από 27 χρόνια — αναχωρώντας ως επικεφαλής επιστήμονας της εταιρείας — για να συν-ιδρύσει τη Discovery Loop, μια ανεξάρτητη εταιρεία δημόσιου οφέλους με στόχο τη χρήση AI για επιτάχυνση και μερική αυτοματοποίηση της επιστημονικής και μηχανικής έρευνας. Τον Dean συνοδεύουν ο Sanjay Ghemawat, ανώτερος ερευνητής Google και μακροχρόνιος συνεργάτης του· ο Oriol Vinyals, πρώην αντιπρόεδρος της Google DeepMind· και ο Quoc Le, ένας από τους συν-ιδρυτές του Google Brain. Η Google επιβεβαίωσε ότι θα υποστηρίξει το νέο εγχείρημα ως ιδρυτικός επενδυτής και συνεργάτης Cloud. Ο αρχικός γύρος χρηματοδότησης συν-ηγείται από τις Radical Ventures και Khosla Ventures, με συμμετοχή των Kleiner Perkins, Lightspeed και Doerr Capital.

Ο δηλωμένος στόχος της Discovery Loop είναι να χρησιμοποιήσει AI για να εκκινήσει και να επαναλάβει χιλιάδες πειραμάτων ταυτόχρονα, συμπιέζοντας κύκλους έρευνας σε βιολογία, επιστήμη υλικών, κλίμα και συναφή πεδία. Το startup θα λειτουργήσει ως εταιρεία δημόσιου οφέλους, μια δομή που επιβάλλει ρητές υποχρεώσεις κοινωνικού σκοπού πάνω από εμπορικές δραστηριότητες. Η αναχώρηση του Dean είναι η πιο εμφανής ατομική μετακίνηση ταλέντου στον τομέα AI από το ιδρυτικό κύμα των μεγάλων εργαστηρίων στις αρχές της δεκαετίας του 2020 και συμπίπτει με μια ευρύτερη αναδιοργάνωση της ηγεσίας AI της Google που ανακοινώθηκε αυτήν την εβδομάδα.

Η Google μεταφέρει το κέντρο βάρους AI στην Καλιφόρνια

Το ευρύτερο πλαίσιο της αναχώρησης Dean είναι μια σημαντική αναδιάταξη στην Google DeepMind. Ο Koray Kavukcuoglu — επικεφαλής τεχνολογίας της DeepMind και κύριος αρχιτέκτονας AI της Google — ανέλαβε ως ανώτερος αντιπρόεδρος που διευθύνει τις καθημερινές λειτουργίες AI: ανάπτυξη μοντέλου Gemini, πρωτοποριακή έρευνα AI, η εφαρμογή Gemini και οι ομάδες προγραμματιστών. Αναφέρεται απευθείας στον Sundar Pichai. Ο Kavukcuoglu πέρασε 13 χρόνια στη DeepMind και ηγήθηκε θεμελιώδους εργασίες, συμπεριλαμβανομένων WaveNet και Deep Q-Network· μετακόμισε στο Mountain View το περασμένο χρόνο. Ο Sebastian Borgeaud, που ηγείται μιας βασικής πρωτοβουλίας κωδικοποίησης AI, μετακόμισε επίσης από το Λονδίνο στην Καλιφόρνια.

Η γεωγραφική αλλαγή είναι σκόπιμη. Η Google ανέπτυξε τις ερευνητικές της ικανότητες AI κυρίως στο Λονδίνο όταν απέκτησε τη DeepMind το 2014, αλλά το λειτουργικό βάρος της επιχείρησής AI της — Gemini, νέφος, ενσωματώσεις προιόντων — ήταν πάντα στην Καλιφόρνια. Με τον Kavukcuoglu επικεφαλής και τον Demis Hassabis επικεντρωμένο στη μακροπρόθεσμη στρατηγική AGI ως πρόεδρος Google DeepMind και επικεφαλής επιστήμονας της Alphabet, η Google εναρμονίζει τη δομή ηγεσίας της με αυτήν την επιχειρησιακή πραγματικότητα. Αν η μετάβαση θα επιταχύνει την επόμενη μεγάλη κυκλοφορία του Gemini — που αντιμετώπισε επίμονες καθυστερήσεις — ή θα εισάγει δική της τριβή θα γίνει πιθανώς σαφές στο δεύτερο μισό του χρόνου.