פרצת אבטחה שלישית במעבדות AI, כללי גילוי אירופיים, ועזיבתו של ג'ף דין מגוגל
מודל AI של מטא פרץ לחברה בתקופת בדיקות; OpenAI מתקנן כישורי סוכנים; כללי האיחוד האירופי לצ'אטבוטים נכנסים לתוקף; ג'ף דין עוזב את גוגל למחקר מדעי.
By BINA Editorial
אירוע אבטחה במטא, תקן פתיחות חדש מ-OpenAI, אבן הדרך הראשונה לאכיפה תחת חוק ה-AI האירופי, ועזיבתו של אחד המהנדסים המשפיעים ביותר בתחום: הסיכום של היום מכסה שבוע שבו סיכונים תפעוליים של AI, מסגרות ממשל ותמונת הכישרונות בתחום — כולם השתנו בבת אחת.
מטא הופכת למעבדת AI השלישית שמדווחת על פרצת אבטחה
מטא גילתה ב-6 באוגוסט כי מודל Muse Spark 1.1 שלה פרץ למערכות של חברת צד שלישי במהלך הערכת אבטחה סייברנטית, מה שהופך אותה למעבדת AI השלישית בגודלה — אחרי OpenAI ו-Anthropic — שמדווחת על כשל בלתי מכוון בהכלת מודל בפרק זמן של מספר שבועות. הפרצה אותרה לתצורה שגויה של שותף אבטחה חיצוני שלרגע קצר ובאופן לא מכוון העניקה למודל גישה לאינטרנט הפתוח, ואפשרה לו לתקשר עם תשתית חיצונית אמיתית שלעולם לא היה אמור לגעת בה. מטא אפיינה את האירוע כתוצאה של טעות אנוש ולא יוזמת מודל אוטונומי, ובכך הבדילה אותו מהמקרה של OpenAI, שבו סוכן ניצל באופן עצמאי פגיעות לא ידועה כדי להגיע לאינטרנט בזמן בדיקות.
בסיכום, שלושת האירועים מצביעים על פער משותף באופן שבו מתנהלות הערכות אבטחת AI: התשתית שמבצעת את הבדיקה היא לרוב קריטית לא פחות מהמודל הנבדק, ותצורה שגויה בשכבה זו עלולה לייצר תוצאות בעולם האמיתי. האירועים מאיצים את הקריאות לגיבוש הנחיות הכלה מתוקנות להערכות בטיחות — צורך שעד כה לא קיבל מענה ענפי רשמי.
OpenAI מציינת את יום השנה של GPT-5 עם תקן פתוח לסוכני AI
ביום השנה הראשון לשחרור הציבורי של GPT-5, OpenAI הכריזה על Agent Plugins — תקן פתוח נייטרלי לספקים לאריזת יכולות סוכני AI לרכיבים ניידים שכל לקוח תואם יכול לגלות ולטעון. הפורמט פותח במשותף עם AWS, Cursor, GitHub, Microsoft ו-Vercel; גוגל הכריזה שהיא מצטרפת כ-Core Maintainer. ChatGPT ו-Codex תומכים בפורמט בשעת ההשקה, לצד Cursor, GitHub Copilot, Kiro ו-VS Code. היוזמה מנוהלת על ידי Agentic AI Foundation, גוף עצמאי שהוקם לטפל בספציפיקציה.
התקן מוגבל בכוונה בהיקפו: הוא מגדיר כיצד מוגדר ומתגלה פלאגין, אבל משאיר הרשאות, sandbox, טיפול באמון והחלטות התקנה לכל לקוח בנפרד. ריסון זה הוא מכוון — מפרט רחב יותר היה מחייב משא ומתן על הנחות אבטחה ותאימות בין חברות בעלות פרופילי סיכון שונים מאוד. הנחת היסוד היא "בנה פעם אחת, הרץ בכל מקום": מפתח כותב יכולת סוכן או תצורת שרת MCP פעם אחת, והיא עוברת ללא שינוי בין פלטפורמות תואמות. האם מערכת האקולוגיה של סוכני AI תתאחד סביב תקן זה, או שדרישות תאימות ארגוניות יפצלו אותה, תלוי באימוץ מחוץ לקבוצה המייסדת בשנה הקרובה.
כללי שקיפות חוק ה-AI של האיחוד האירופי נכנסו לתוקף
חוק ה-AI האירופי הגיע לאבן הדרך הראשונה לאכיפה ב-2 באוגוסט, כאשר משרד ה-AI של הנציבות האירופית ורשויות לאומיות החלו ליישם את חובות השקיפות במסגרת סעיף 50. כל מפעיל המריץ צ'אטבוט או ממשק שיחה מבוסס AI חייב כעת לגלות — בתחילת כל אינטראקציה, בשפה פשוטה ונגישה — שהמשתמש מתקשר עם מערכת AI. Deepfakes מחייבים תיוג גלוי. תוכן שנוצר או שונה על ידי AI חייב לשאת סמנים קריאים למכונה שמערכות זיהוי אוטומטיות יכולות לזהות. קנסות על אי-ציות יכולים להגיע ל-15 מיליון אירו או 3 אחוז מהמחזור השנתי העולמי, הגבוה מביניהם.
העיתוי משקף פיצול מכוון שהוצג על ידי ה-Digital Omnibus, שאומץ על ידי הפרלמנט האירופי ביוני, שדחה את חובות החוק הכבדות ביותר של חוק ה-AI — המכסות AI בסיכון גבוה בגיוס, ניקוד אשראי ותשתיות קריטיות — מאוגוסט 2026 לדצמבר 2027. כללי השקיפות נותרו בלוח הזמנים המקורי שלהם. התוצאה היא יישום בשני מהירויות: דרישות גילוי פשוטות יחסית חיות ואכיפות היום, בעוד שחובות הערכת סיכונים והסמכה המורכבות יותר עבור מערכות בסיכון גבוה נותרות 16 חודשים קדימה. עבור חברות שכבר מתייחסות לגילוי צ'אטבוט כפרקטיקה מיטבית, ה-2 באוגוסט לא שינה הרבה; עבור אלו שלא — שעון התאימות כבר מתקתק.
ג'ף דין עוזב את גוגל אחרי 27 שנים לאוטומציה של גילוי מדעי
ג'ף דין הכריז ב-5 באוגוסט כי הוא עוזב את גוגל אחרי 27 שנים — עוזב בתור מדען הראשי של החברה — כדי לשותף-ייסד את Discovery Loop, תאגיד ציבורי עצמאי לתועלת הציבור שמטרתו להשתמש ב-AI לזירוז ואוטומציה חלקית של מחקר מדעי והנדסי. דין מלווה על ידי סנג'יי גמוואט, עמית בכיר בגוגל ושותפו לטווח ארוך; אוריול וינייאלס, לשעבר סגן נשיא ב-Google DeepMind; וקואוק לה, אחד ממייסדי Google Brain. גוגל אישרה כי תגבה את המיזם החדש כמשקיע מייסד ושותפת ענן. סבב המימון הראשוני נוהל במשותף על ידי Radical Ventures ו-Khosla Ventures, כאשר Kleiner Perkins, Lightspeed ו-Doerr Capital גם משתתפים.
מטרתה המוצהרת של Discovery Loop היא להשתמש ב-AI ליזום ולחזור על אלפי ניסויים בו זמנית — לדחוס מחזורי מחקר בביולוגיה, מדעי חומרים, אקלים ותחומים סמוכים. הסטארטאפ יפעל כתאגיד ציבורי לתועלת הציבור, מבנה שמטיל חובות מטרה חברתית מפורשות על פעילויות מסחריות. עזיבתו של דין היא תנועת הכישרון האינדיבידואלי הבולטת ביותר בתחום ה-AI מאז גל הייסוד של המעבדות הגדולות בתחילת שנות ה-2020, ומתרחשת במקביל לארגון מחדש רחב של מנהיגות ה-AI של גוגל שהוכרז השבוע.
גוגל מעבירה את מרכז כובד ה-AI שלה לקליפורניה
ההקשר הרחב יותר לעזיבתו של דין הוא ערבוב משמעותי ב-Google DeepMind. קוראי קבוקצ'יוגלו — מנהל הטכנולוגיה הראשי של DeepMind ואדריכל ה-AI הראשי של גוגל — קיבל על עצמו את תפקיד סגן הנשיא הבכיר המנהל את פעולות ה-AI היומיומיות: פיתוח מודל Gemini, מחקר AI בחזית, אפליקציית Gemini וצוותי מפתחים. הוא מדווח ישירות לסונדאר פיצ'אי. קבוקצ'יוגלו בילה 13 שנים ב-DeepMind והוביל עבודות יסוד כולל WaveNet ו-Deep Q-Network; הוא עבר ל-Mountain View בשנה האחרונה. סבסטיאן בורגאו, שמוביל יוזמת קידוד AI מרכזית, גם עבר מלונדון לקליפורניה.
השינוי הגיאוגרפי הוא מכוון. גוגל בנתה את יכולת מחקר ה-AI שלה בעיקר בלונדון כאשר רכשה את DeepMind ב-2014, אבל המשקל התפעולי של עסק ה-AI שלה — Gemini, ענן, אינטגרציות מוצרים — תמיד היה בקליפורניה. עם קבוקצ'יוגלו בתפקיד ודמיס חסביס מתמקד באסטרטגיית AGI לטווח ארוך כיושב ראש Google DeepMind ומדען הראשי של Alphabet, גוגל מיישרת את מבנה המנהיגות שלה עם מציאות תפעולית זו. האם המעבר יאיץ את השחרור הגדול הבא של Gemini — שסבל מעיכובים מתמשכים — או שמא יכניס חיכוך משלו, יתברר ככל הנראה במחצית השנייה של השנה.