סיכום AI: כוח על-אינטליגנציה, מתלוננים מניו יורק, וחלון הסייבר המתכווץ

חדשות ה-AI של השבוע התפתחו בו-זמנית על כמה חזיתות: ממשל פדרלי שעוצב מחדש, אזהרות בטיחות פנימיות שנאמרו בפומבי, ודוח חדש של מיקרוסופט המספק מספרים קשים על אופן שבו ה-AI מאיץ איומי סייבר. לצד הכותרות הגדולות, גוגל הדקה בשקט את שכבות הגישה שלה בעוד אפל הציבה גבול פרטיות חדש לעידן הסוכנים.

טראמפ מקים "כוח על-אינטליגנציה" לתיאום AI פדרלי

הבית הלבן יצר גוף סוכנויות בין-ממשלתי חדש שהוא מכנה "כוח על-אינטליגנציה", האמון על תיאום מדיניות AI בין המחלקות הפדרליות. המהלך מלווה גם בשינוי רטורי רחב יותר: תקשורות רשמיות של הממשל מחליפות את המונח "בינה מלאכותית" ב"על-אינטליגנציה" — מסגור המאותת כי הממשל רוצה למצב את ארהב בחזית ולא בעמדת כריעת רגולציה.

כוח המשימה מאגד נציגים ממחלקות ההגנה, המסחר ורשויות הביטחון הלאומי, ומצופה שיקבע הנחיות רכש, ייתן ייעוץ לגבי בקרות ייצוא, וידחוף עמדה פדרלית מאוחדת במשא ומתן בינלאומי. המבקרים כבר ציינו שריכוז ממשל ה-AI תחת גוף בית-לבן מאוחד עלול לדחוק את חקיקת הסוכנויות העצמאיות, בעוד התומכים טוענים כי גישות מחלקתיות מפוצלות הותירו את ארהב ללא עמדה קוהרנטית כשיריבים מאיצים את תוכניותיהם.

בחירת השם היא כשלעצמה הצהרת מדיניות. "על-אינטליגנציה" נושאת משמעות ספציפית בספרות בטיחות ה-AI הטכנית — היא מתייחסת למערכות שעולות על יכולת הקוגניציה האנושית בכל התחומים — ואימוצה כמונח ממשלתי שגרתי מרמז שהממשל רואה את המירוץ לסף זה כתחרות המגדירה של העשור.

מהנדסים לשעבר של Anthropic ו-OpenAI מזהירים את מועצת העיר ניו יורק: "אנחנו לא יכולים לשלוט במודלים האלה"

קבוצה של מהנדסים נוכחים ולשעבר מ-Anthropic ומ-OpenAI העידה השבוע בפני מועצת העיר ניו יורק, ומסרה חלק מההצהרות הפומביות הישירות ביותר עד כה מאנשי תעשייה פנימיים על הסיכונים של פיתוח AI מתקדם. כמה עדים תיארו תרבויות פנימיות שאפיינו אותן כמעדיפות רווחי יכולת על פני מרחבי בטיחות, ולפחות שניים הזכירו במפורש סיכונים ברמת הכחדה או ציוויליזציה.

הטענה הטכנית המרכזית שנאמרה בעדות הייתה חדה: החברות הבונות את המודלים החזקים ביותר אינן יכולות לחזות או להגביל באופן אמין את התנהגות המודל בהיקף הפריסה. עד אחד תיאר את מחקר היישור כנע שנים מאחורי מחקר היכולות, ומותיר פער שגדל עם כל דור חדש של מודלים.

הדיון נערך על ידי ועדת הטכנולוגיה של המועצה ולא הוביל לחקיקה מחייבת, אך הוא מייצג שינוי בזירה לדיוני בטיחות שהתנהלו ברובם בעיתונות אקדמית, פאנלים בכנסים ותזכירים פנימיים. הבאת הטיעונים הללו אל תוך חדר חקיקה עירוני — עם התיעוד והנראות שהדבר מצריך — מסמנת פרק חדש באופן שבו סיכון AI נדון במוסדות ציבוריים. העדות משכה כיסוי עיתונאי ארצי ועשויה להשפיע על הצעות חקיקה ברמה המדינתית והפדרלית בחודשים הקרובים.

מיקרוסופט: ה-AI מקצר לוחות זמני תקיפות סייבר מימים לדקות

דוח ההגנה הדיגיטלי השנתי של מיקרוסופט, שיצא השבוע, מכיל ממצא שצוותי אבטחה צריכים להתייחס אליו כדחוף: שחקני איומים המונעים על ידי AI מבצעים כעת מחזורי תקיפה מלאים — סיור, גישה ראשונית, תנועה לרוחב ואקספילטרציה — בדקות במקום הימים או השבועות שמגינים השתמשו בהם היסטורית לזיהוי ותגובה.

הדוח מתעד שילוש של תקריות פישינג מונעות AI, המהוות כעת 23 אחוז מכלל ניסיונות הפישינג שנעקבו על ידי רשת מודיעין האיומים של מיקרוסופט. התקיפות הללו מובחנות בהתאמתן האישית: ה-AI מאפשר לתוקפים ליצור הודעות המפנות לפרטים הקשריים מדויקים אודות מטרות, ומשפר דרמטית את שיעורי ההקלקה בהשוואה לפיתיונות גנריים.

לדחיסת לוחות הזמן של תקיפות יש השלכות ישירות על תפעול האבטחה. תהליכי עבודה של זיהוי ותגובה שתוכננו סביב חלונות של שעות ארוכות הם כעת בלתי מספקים מבחינה מבנית. הדוח קורא להגנה בסיוע AI הפועלת באותו קצב כמו ההתקיפות עצמן — בעצם טוען כי ענף האבטחה צריך להתאים את רמת האוטומציה ליריבים שעמם הוא מתמודד. עבור צוותי אבטחה ארגוניים, המסקנה המעשית היא שיעדי זמן-עד-זיהוי ממוצע צריכים להימדד בשניות, לא בשעות, ומודלי תגובה עם אדם בלולאה עשויים להיות איטיים מדי עבור סוגי ההתקיפות המהירים ביותר.

גוגל מגבילה גישה למודל Gemini עבור מנויים חינמיים ו-AI Plus

החל מ-9 באוקטובר, גוגל מצמצמת אילו מודלי Gemini זמינים למשתמשים בשכבות המנוי החינמי ו-AI Plus. משתמשים חינמיים יוגבלו למודל Flash-Lite עבור רוב האינטראקציות, בעוד שמנויי AI Plus יראו את גישתם למודלים יכולתיים יותר מופחתת בהשוואה לזכאויות הנוכחיות.

השינוי משקף דפוס המתגלה אצל ספקיות ה-AI הגדולות: כאשר עלויות ההסקה עבור מודלים מתקדמים נשארות משמעותיות, חברות משתמשות בגישה שכבתית כמנוף המונטיזציה העיקרי. הצבת המודלים היכולתיים ביותר זמינים רק בנקודות מחיר גבוהות יותר — או רק ללקוחות ארגוניים — מאפשרת לספקים לשרת בסיסי משתמשים רחבים על מודלים קטנים יעילים תוך לכידת מרווח ממשתמשי כוח ועסקים המוכנים לשלם על ביצועים.

עבור מפתחים וחוקרים הנסמכים על מודלי Gemini יכולתיים יותר לניסיוי, השינוי מציג חיכוך שלא היה קיים קודם. גוגל לא הודיעה על שיפורים מקזזים ביכולות Flash-Lite על לוח הזמנים שהוכרז, כלומר חלק ממקרי השימוש יצריכו שדרוג בתשלום ולא פתרון עוקף. ההשלכה הרחבה יותר לתעשייה היא שעידן הגישה למודלים מתקדמים ככלי רכישה חינמי או כמעט חינמי אולי מגיע לסיומו.

אפל מחייבת אישור מפורש לפני שסוכני AI יוכלו לגשת לדיסק המלא של macOS

אפל עדכנה את macOS לדרוש אישור מוקדם מפורש מהמשתמש לפני שכל יישום AI סוכן יוכל לגשת לגישה מלאה לדיסק — הרשאת מערכת המעניקה זכויות קריאה רחבות למסמכים, דואר, נתוני לוח שנה ומאגרים רגישים אחרים. השינוי נכנס לתוקף על פני גרסת ה-macOS הנוכחית ומחיל על סוכני AI של צד ראשון ושלישי כאחד.

התזמון הוא מכוון. כאשר סוכני AI המסוגלים לדפדף בקבצים, לנסח מיילים ולבצע משימות מרובות שלבים מטעם משתמש עוברים מחידוש לזרם המרכזי, משטח ההתקפה שהם מייצגים גדל באופן משמעותי. סוכן בעל גישה מלאה לדיסק ומודל הרשאות פגוע או שגוי תצורה הוא למעשה איום פנים מועדף. דרישת האישור המוקדם של אפל מאלצת החלטה מודעת של המשתמש במקום לאפשר לסוכנים לצבור הרשאות דרך תהליכי התקנה ברקע.

מנקודת מבט של מפתחים, השינוי מוסיף שלב קליטה שחלק מהמשתמשים ימצאו מבלבל — במיוחד עבור סוכנים המשווקים על יכולתם לעבוד על פני מערכת הקבצים. אך קהילת הפרטיות קיבלה זאת בברכה כמחסום ברמת מערכת ההפעלה שאינו מחייב משתמשים להבין את ההשלכות הטכניות של ההרשאות שהם מעניקים. זה גם מציב תקדים: ככל שהסוכנים יהיו יכולים יותר, צפו לבקרות דומות ברמות הרשת, לוח השנה והאנשים.