כוח AI, מהירות ובטיחות מתנגשים בשבוע אחד

חמש חדשות נחתו השבוע שביחד מציירות תמונה אחת לא נוחה: פיתוח AI מאיץ מהר מכפי שמסגרות הממשל של מישהו יכולות לעקוב, וכל שחקן מרכזי — ממשלות, תאגידים, בתי משפט והמעבדות עצמן — מתרוצץ כדי לקבוע מי מקבל את הזכות להחזיק את הבלמים.

טראמפ מקים 'כוח AI' וממנה 'צאר AI', ומכנה בטיחות 'שטות'

הנשיא טראמפ הכריז השבוע שארצות הברית תקים גוף ממשלתי חדש שייקרא כוח ה-AI וימנה צאר AI ייעודי לתיאום אסטרטגיית ה-AI הפדרלית. בדברו באירוע תעשייתי, טראמפ מסגר את המהלך כתגובה למה שאיפיין כזהירות מופרזת המאטה את התחרותיות האמריקאית, וכינה במפורש את חששות בטיחות ה-AI שטות שהומצאה להפלת חברות אמריקאיות.

ההכרזה מחדדת קו פוליטי שמתרחב מאז צו הביצוע של ממשל ביידן בנוגע ל-AI. בעוד אותו צו נשען רבות על הערכות בטיחות ובקרות יצוא, הבית הלבן של טראמפ מאותת על ציר לעבר מהירות הפרסום כמדד ההצלחה העיקרי. ההשלכות המעשיות משמעותיות: קריטריוני רכש פדרליים, רישוי יצוא ומימון מחקר עלולים להטות לטובת מדדי יכולות על פני ביקורות בטיחות בחודשים הקרובים.

למפתחי AI, המסר מעורב. חוזי הגנה ומודיעין עשויים להיפתח מהר יותר. אבל חברות שבנו את המותג שלהן סביב מחויבויות בטיחות — Anthropic ו-OpenAI בראשן — עשויות לגלות שאותה מיצוב הופכת לא נוחה יותר ויותר בוושינגטון, אפילו כאשר היא נשארת בעלת ערך מסחרי עם קונים ארגוניים באירופה ובאסיה.

תביעת הגבלים עסקיים מכוונת למחויבויות בטיחות של מעבדות AI כ'קרטל האטה' בלתי חוקי

תביעה שהוגשה השבוע נגד Anthropic, OpenAI, Google ו-SpaceXAI טוענת שקבוצה של מחויבויות בטיחות AI הידועות ביחד כ-'Pace the Frontier' מהווה קנוניה בלתי חוקית להגבלת מהירות פרסום ה-AI. התובעים טוענים שכאשר מתחרים מסכימים במשותף להגביל את מהירות פרסום היכולות, הם בעצם קובעים את קצב השוק — אותו סוג של הגבלה אופקית שדיני ההגבלים עסקיים אוסרים בהסכמי תמחור.

התיאוריה המשפטית חדשנית ולא נבדקה, אך היא ראויה לתשומת לב רצינית. רגולטורים בתחום ההגבלים עסקיים התמקדו היסטורית בקנוניות שפוגעות בצרכנים דרך מחירים גבוהים יותר; אינו ברור באמת האם בתי המשפט יקבלו טיעון שהאטת פרסום טכנולוגיה מהווה אותו סוג של נזק. הנתבעים כמעט בוודאי יטענו שמחויבויות בטיחות משרתות את האינטרס הציבורי ושונות איכותית מקביעת מחירים.

מה שהופך את התיק למעניין הוא התזמון. הוא נוחת באותו שבוע שממשל טראמפ מסמן אי-אמון במסגרות בטיחות, ויוצר סביבה פוליטית שבה התובעים יכולים לטעון שהתחייבויות הבטיחות הן מסווה לגורמים מבוססים המגנים על עמדת השוק שלהם. בין אם התביעה תצליח בבית המשפט ובין אם לא, היא כבר הזריקה סיכון מסחרי ומוניטין לכל מחויבויות בטיחות חוצות-תעשייה עתידיות.

מעבדות AI מזהירות שמודלים משפרי-עצמם קרובים

Anthropric, OpenAI ו-xAI כולם ציינו השבוע — בהצהרות ציבוריות שונות ובראיונות עם חוקרים — שהיכולת של מערכות AI לבצע שיפור עצמי רקורסיבי כבר אינה תרחיש תיאורטי רחוק. שיפור עצמי רקורסיבי משמעו מודל שיכול לשנות באופן אוטונומי את האדריכלות שלו, תהליך האימון שלו, או את שניהם, ואז להשתמש בגרסתו המשופרת כדי לתכנן את האיטרציה הבאה — לולאת משוב שעשויה, באופן עקרוני, להאיץ רווחי יכולות הרחק מעבר למה שמהנדסים אנושיים לבדם יכולים להשיג.

הפרט שמשך את תשומת הלב הרבה ביותר: Anthropic גילתה ש-Claude כבר תורם ליותר מרבע של מחקר ה-AI הפנימי של החברה. נתון זה עדיין אינו שיפור עצמי רקורסיבי במובן המלא — בני אדם עדיין מכוונים ובודקים את העבודה — אבל הוא ממחיש עד כמה מהר הקו בין כלי לשיתוף פעולה מתמוסס.

נכונותן של המעבדות לומר זאת בפומבי היא עצמה בולטת. לפני שנה, רוב החוקרים היו זהירים לשמור על תחזיות לגבי לוחות הזמנים של על-אינטליגנציה מעורפלות. הצבת מסגרת קרובת-טווח על שיפור עצמי רקורסיבי — גם ללא תאריכים ספציפיים — מעצימה את הדחיפות של שאלות שממשלות, חוקרי בטיחות ובתי משפט רק מתחילים להתמודד אתן: מי מחליט מתי מערכת משפרת-עצמה בטוחה להפעלה ללא פיקוח, ואיזה סמכות יש למישהו לעצור אותה?

מיקרוסופט מפרסמת 'חוקת AI הומניסטי' שמציבה עקיפת אדם במקום הראשון

מנכ"ל מיקרוסופט מוסטפה סולימאן פרסם טיוטת חוקת AI — הנקראת רשמית קוד ההתנהגות של AI הומניסטי — ופתח אותה לשישה שבועות של הערות ציבוריות. עקרון המרכזי של המסמך הוא שסמכות עקיפת האדם חייבת לדרג מעל השלמת משימה ואוטונומיה של המודל. במונחים מעשיים, המשמעות היא שמוצרי ה-AI של מיקרוסופט צריכים להיות מתוכננים כך שאדם תמיד יוכל להפריע, להפנות מחדש או לכבות כל פעולת AI, והמערכת צריכה לאפשר זאת באופן פעיל ולא להתנגד לכך.

המסגור מכוון. סולימאן, שהיה שותף-מייסד של DeepMind לפני שהצטרף למיקרוסופט, היה אחד הקולות הברורים יותר שטוען שיכולת שליטה ושימושיות מסחרית אינן בסתירה — שקוני ארגוניים, בפרט, ישלמו פרמיה עבור מערכות שהם יכולים לנהל בפועל. תקופת ההערות הציבוריות היא חלקה התייעצות אמיתית וחלקה אות רכש: מיקרוסופט אומרת לקוני ארגוניים וממשלתיים שארכיטקטורת הבטיחות בנויה בתוך המוצר, לא מוסמרת אחר כך.

שחרור המסמך משמש גם תפקיד רגולטורי. עם כניסת חוק ה-AI האירופי לתוקף מלא וממשלות לאומיות שונות המנסחות מסגרות אחריות AI משלהן, פרסום קוד התנהגות מפורט עם עקבות הערות ציבוריות נותן למיקרוסופט תיעוד שהיא יכולה להצביע עליו כראיה לפיתוח אחראי. האם עקרונות הקוד ישרדו מגע עם החלטות מפת הדרכים של מוצר בפועל — זה נותר לראות.

Anthropic מאשרת ניסיונות נשק ביולוגי בדוח מודיעין האיומים הראשון של התעשייה

Anthropic פרסמה את מה שהיא אומרת שהוא דוח מודיעין האיומים הציבורי הראשון ממעבדת AI גדולה, המתעד שבע קטגוריות של שימוש לרעה שצוותי הבטיחות שלה זיהו ושיבשו. הגילוי המשמעותי ביותר: ניסיונות מאושרים מצד משתמשים לחלץ מידע שימושי לתכנון נשק ביולוגי. Anthropic אומרת שניסיונות אלו נחסמו ושהממצאים שותפו עם הרשויות הרלוונטיות.

שש הקטגוריות האחרות כוללות פעולות סייבר מתואמות המשתמשות ב-Claude כעוזר, קמפיינים של השפעה שתוכננו ליצור ולהפיץ מידע כוזב בקנה מידה, הונאה פיננסית ותשתית הונאות, ומספר קטגוריות קטנות יותר. בכל מקרה, הדוח מתאר את סוג השימוש לרעה מבלי לנקוב בשמם של שחקנים או מבצעים ספציפיים.

ההחלטה לפרסם — ולהיות מפורשת לגבי ניסיונות הנשק הביולוגי במקום לתארם בלשון המעטה כ'תוכן מזיק' — משקפת חישוב שהשקיפות משרתת את התחום טוב יותר מהשתיקה. חוקרי בטיחות מחוץ ל-Anthropic טענו זה מכבר שכישלון התעשייה לשתף מודיעין איומים הוא בעיה של פעולה קולקטיבית: כל מעבדה יודעת אילו התקפות היא מתמודדת, אבל ללא שיתוף, כולם עפים בחלקית עיוורת. דוח זה, אם הוא מניע גילויים הדדיים מ-OpenAI, Google DeepMind ואחרים, עשוי לסמן את תחילתה של משהו כמו מערכת אקולוגית משותפת של מודיעין איומים ל-AI.

הדוח גם מעלה את ההימורים עבור ויכוחי הממשל המתרחשים בכל מקום אחר השבוע. אם מערכות AI המסוגלות לסייע בתכנון נשק ביולוגי כבר נבדקות בפועל, השאלה האם מחויבויות בטיחות הן אמצעים לגיטימיים לטובת הציבור או כיסוי אנטי-תחרותי הופכת להרבה פחות מופשטת.

---

ביחד, חדשות השבוע מתארות תעשייה שבה-זמנית הופכת יותר חזקה, יותר שנויה במחלוקת ויותר שקופה לגבי הסיכונים שלה עצמה. הסביבה הפוליטית בארצות הברית מתמקדת במהירות; הסביבה המשפטית הופכת לבלתי צפויה; הגבול הטכנולוגי מתקדם מהר יותר ממה שרוב הצעות הממשל מניחות; ונוף האיומים כבר כולל תרחישים שעד לאחרונה נחשבו היפותטיים. אף אחד מאלה לא מסתדר בצורה נקייה. אבל העובדה שמעבדות מפרסמות כעת מודיעין איומים, שבתי משפט מיישמים תיאוריית הגבלים עסקיים על מחויבויות בטיחות, וממשלות יוצרות ביורוקרטיות AI ייעודיות — כל זה מציע שעידן ה-AI המתפתח ברובו ברקע הסתיים.