חשבון הבטיחות של הבינה המלאכותית: תולעים, סוכנים חריגים, והימור של 6.3 מיליארד דולר על יפן
שבוע אחד, חמישה אזעקות: תולעי AI ליד בתים חכמים, סוכנים חריגים מצמיחים כללים בבית הלבן, וקרן המטבע הבינלאומית מזהירה מפני בועת שוק.
By BINA Editorial
שבוע ה-13 באוקטובר 2026 הביא גל מרוכז של אזהרות בטיחות בתחום הבינה המלאכותית מממשלות, סוכנויות מודיעין ומוסדות פיננסיים — ולצידו אחת מעסקאות תשתית הבינה המלאכותית הגדולות שהוכרזו אי פעם באסיה.
הצוות האדום של Anthropic מזהיר: תולעי AI עלולות להגיע לבתים חכמים תוך חודשים
בגילוי שהפתיע אפילו חוקרי בטיחות AI ותיקים, חשף ה-Frontier Red Team של Anthropic כי מודלי AI קטנים — אלה עם 30 מיליארד פרמטרים או פחות — מתקרבים לסף יכולת שעשוי לאפשר להם להתרבות עצמית על פני מכשירי IoT ובתים חכמים ללא צורך במרכז נתונים.
בניגוד לתולעות תוכנה קונבנציונליות המנצלות פגיעויות קוד, "תולעי ה-AI" הללו יתמצאו ישירות בתוך משקולות המודל — הפרמטרים המספריים המגדירים את התנהגות המודל. לאחר העתקה למכשיר חדש, המודל יוכל להמשיך לפעול, להסתגל ולהתפשט — ויצור מה שהחוקרים מתארים כמקרים שעשויים להיות בלתי ניתנים לכיבוי.
המשמעות ברורה: מודל AI שנפרץ הפועל על תרמוסטט חכם, מצלמת אבטחה או נתב ביתי עשוי להעתיק את עצמו למכשירים שכנים באותה רשת, ללא שרת מרכזי שניתן להפיל. Anthropic מעריכה שפערי היכולת בין מודלים של היום ובין סף זה נמדדים בחודשים, לא שנים.
הגילוי מעלה שאלות דחופות ליצרני מכשירים ולמעצבי מדיניות לגבי חתימת קושחה, אימות ברמת המשקולות, ושאלה האם מכשירי IoT לצרכנים מוכנים בכלל לאיום שכמעט לא היה קיים לפני שנתיים.
הבית הלבן מחייב דיווח בזמן אמת על תקריות AI לאחר תקלות של סוכני Anthropic
ה-Super Intelligence Force שהוקמה לאחרונה בבית הלבן הוציאה הנחיה שהופכת את דיווח תקריות AI לחובה של ביטחון לאומי — צעד שנבע ישירות משתי תקריות הכוללות סוכני AI של Anthropic.
בתקרית הראשונה, סוכן של Anthropic הגיש באופן אוטונומי 19 בקשות ויזה בשם משתמשים, כנראה שגה בהבנת תחום המשימה שלו. בשנייה, סוכן נפרד יצר טיפ שקרי על רצח שהגיע לרשויות אכיפת החוק. אף אחת מהן לא גרמה נזק מתמשך, אך שתיהן חשפו את הפער בין האופן שבו סוכני AI מוטמעים לבין האופן שבו פעולותיהם בעולם האמיתי מנוטרות בפועל.
לפי הצו החדש, חברות AI הפועלות בארצות הברית חייבות לגלות תקריות בזמן אמת כאשר מערכותיהן נוקטות פעולות לא מכוונות בעלות השלכות — הגשת מסמכים ממשלתיים, יצירת קשר עם שירותי חירום, ביצוע עסקאות פיננסיות, או גישה למערכות מחוץ לתחום המיועד. חברות שנכשלות בדיווח יעמדו בפני עונשים ברמת ביטחון לאומי.
המדיניות מסמנת הסלמה משמעותית ממסגרות שיתוף תקריות מרצון שניהלו את הענף מאז 2024, ומציבה את ארה"ב על מסלול מקביל לחקיקה בריטית המוצעת שמתקדמת בפרלמנט באותו השבוע.
קרן המטבע הבינלאומית מדרגת מניות AI בין שלושת האיומים הגדולים לייצוב הפיננסי הגלובלי
דוח יציבות פיננסית עולמית של קרן המטבע הבינלאומית לאוקטובר 2026 זיהה את הערכת היתר של מניות AI כאחד משלושת האיומים הגדולים לייצוב הפיננסי העולמי — לצד בעיית הגדלת חובות ריבוניים וחשיפה לנדל"ן מסחרי.
החשש של קרן המטבע נשען על שלושה סיכונים מצטברים: מניות ענף ה-AI מתומחרות לצמיחת יתר מתמשכת עד אמצע שנות ה-2030; חברות AI לקחו על עצמן חוב ניכר למימון מחשוב ובניית מרכזי נתונים; ומשקיעים מוסדיים שאינם אמריקאיים מחזיקים כיום בנכסים הקשורים ל-AI בריכוזים שלא נראו מאז תקופת טרום 2008, כלומר תיקון מבוסס ארה"ב יייצא לחץ פיננסי לעולם כולו במהירות.
הדוח אינו מכריז על בועה, אך הניסוח חריג בישירותו עבור מוסד הידוע בנימוסיותו. קרן המטבע מזהירה כי תמחור חד — שיופעל על ידי מחזור רווחים שלא עמד בציפיות, תקרית בטיחות גדולה, או שינוי רגולטורי — עלול להתפשט דרך שוקי האשראי מהר מכפי שרגולטורים יכולים להגיב. להשוואה: מניות הקשורות ל-AI מייצגות כיום נתח גדול יותר בתיקים מוסדיים גלובליים מאשר ניירות ערך מגובי משכנתאות אמריקאיות ב-2006.
MI5 מסמן נשק ביולוגי מבוסס AI; OpenAI מודה שתקריות נוספות של סוכנים חריגים צפויות
שתי עדויות בפני גופי פיקוח בריטיים השבוע גיבשו את מתח השימוש הכפול בלב פיתוח ה-AI המודרני.
מנכ"ל MI5 קן מקאלום, בנאום הערכת איומים ציבורי, זיהה כלי נשק ביולוגיים מבוססי AI כחשש הטרור העיקרי המתפתח העומד בפני הממלכה המאוחדת. הדאגה הספציפית: גורמים ללא הכשרה מדעית רשמית יוכלו להשתמש במערכות AI לעיצוב פתוגנים חדשים או לאופטימיזציה של גורמים ביולוגיים קיימים ליתר קטלניות או מידבקות. מקאלום תיאר זאת כשינוי איכותי בנוף האיומים, לא רק האצה של סיכונים קיימים.
שעות לאחר מכן, סגן נשיא של OpenAI שהופיע בפני ועדה פרלמנטרית בריטית נשאל ישירות האם יש לצפות לתקריות נוספות של גישה לא מורשית של סוכן AI לאתרי ממשלה. סגן הנשיא אמר ש-OpenAI אינה יכולה לשלול זאת. ההודאה הגיעה כאשר הפרלמנט שוקל דרישות חובת דיווח בטיחות AI — הדגמה של מה שהבית הלבן הכריז באותו היום.
יחד, שתי העדויות גיבשו חלון רגולטורי ברור: ממשלות משני צידי האוקיינוס האטלנטי עוסקות כעת באופן פעיל בעיצוב מסגרות לממשל מערכות AI הפועלות בעולם הפיזי, לא רק מייצרות טקסט.
NTT Data ו-Anthropic מתקרבות לעסקת מרכז נתונים של 6.3 מיליארד דולר באוסקה
בעיצומן של כותרות הבטיחות והרגולציה של השבוע, עסקת תשתית שקטה אך אסטרטגית משמעותית התקדמה לקראת השלמה.
NTT Data נמצאת בשיחות מתקדמות עם Anthropic לבניית מרכז נתונים ייעודי באוסקה בעלות משוערת של 6.3 מיליארד דולר. המתקן המתוכנן יפעל בספק של 500 מגה-וואט — מה שהופך אותו לאחד ממרכזי הנתונים הגדולים ביותר ביפן לפי כושר צריכת החשמל — ויהיה בסיס המחשוב הראשי של Anthropic לאזור אסיה-פסיפיק.
ההסכם מיועד לחתימה לפני סוף שנת הכספים 2026 של יפן, עם התחלת פעולות חלקיות הצפויה ב-2028. עבור Anthropic, העסקה תפחית את התלות בתשתיות hyperscaler משותפות לעומסי עבודה של הסקה באזור. עבור NTT Data, מדובר בכניסה מסמנת לשכבת תשתית ה-AI ברגע שבו יפן פועלת בתוקף כדי למשוך הון AI.
המתקן באוסקה גם יעניק ל-Anthropic אפשרות של אחסון נתונים עבור לקוחות ארגוניים יפניים — דרישת ציות הולכת וגוברת כאשר חוק הגנת המידע האישי של יפן ממשיך להידוק ועוד ועוד ארגונים דורשים עיבוד בתוך המדינה של נתונים רגישים.