מעבדות ה-AI מקימות גוף בטיחות עצמאי בעת שהממשל הגלובלי מתפצל

חדשות ה-AI של השבוע מתכנסות על קו שבר אחד: מי, אם בכלל, ינהל את הטכנולוגיה החזקה ביותר בעולם — והפער בין אלה שדורשים פעולה לאלה שמתנגדים לה מתרחב במהירות.

מעבדות ה-AI המובילות מקימות גוף סטנדרטים רגולטורי עצמאי

OpenAI, Anthropic ו-Google DeepMind משתפות פעולה כדי להקים גוף ממומן משותפות, המנוהל באופן עצמאי, שיעריך מודלי AI מרמת חזית לפני שחרורם הציבורי — מדגם המבוסס באופן רופף על FINRA, הרגולטור העצמי של התעשייה הפיננסית האמריקאית. לפי המבנה המוצע, מודלים חדשים וחזקים יעברו הערכות בטיחות סטנדרטיות בידי מעריכים חיצוניים לפני פריסתם, מה שיוסיף שכבת אחריות בין הבדיקות הפנימיות של החברה לבין הגישה הציבורית. היוזמה באה בעקבות סדרה של אזהרות בטיחות פומביות מצד חוקרים באותן ארגונים, ומסמנת שהמעבדות עצמן מכירות בכך שבדיקה חיצונית כבר נחשבת לדבר מצופה. השאלה המרכזית נותרת האם הגוף יהנה מעצמאות אמיתית מהחברות המממנות אותו; הצעות רגולציה עצמית בתעשיות אחרות התקשו בדיוק בנקודה הזו.

טראמפ מכנה את חששות הבטיחות של ה-AI "מתיחה"

בארוע ציבורי ב-16 בספטמבר, דחה דונלד טראמפ את הסיכון הקיומי של ה-AI כ"מתיחה" וטען שהפיקוח היחיד שארה"ב צריכה הוא "נשיא חזק". הצהרותיו מציבות אותו במתח ישיר עם חוקרים ב-OpenAI וב-Anthropic שהזהירו פומבית שמודלים בעלי יכולות גוברות עלולים לגרום נזק חמור ללא אמצעי הגנה מתאימים. טראמפ גם חזר על התנגדותו לחקיקת AI פדרלית, מעדיף רגולציה עצמית של התעשייה — עמדה שנתמכת על ידי כמה משקיעי טכנולוגיה גדולים אך עומדת בסתירה לרוב הערכות סיכוני ה-AI שפורסמו ולסטנדרטי הבטיחות שהמעבדות עצמן מאמצות כעת. ההצהרות מעמיקות את הפיצול הפוליטי האמריקאי המשמעותי ממילא סביב השאלה כיצד, ואם בכלל, לנהל את ה-AI מרמת החזית.

מזכ"ל האו"ם מזהיר מ"מירוץ לתחתית" בנושא בטיחות ה-AI

מזכ"ל האו"ם אנטוניו גוטרש הזהיר ב-16 בספטמבר שלחץ תחרותי בין מדינות מניע ממשלות להרפות מדרישות בטיחות ה-AI במקום לחזק אותן, ותיאר את הדינמיקה כ"מירוץ לתחתית". בנאומו בניו יורק, קרא גוטרש להסכמה בינלאומית דחופה על עקרונות משותפים להגנה על אזרחים מנזקים הנגרמים על ידי AI, תוך שהצביע על נשק אוטונומי ומעקב בסיוע AI כתחומים הדורשים כללים רב-צדדיים מיידיים. הוא ציין שאין כיום מסגרת גלובלית מחייבת ל-AI, ושהפער בין יכולות ה-AI לתשתית הממשל גדל מהר יותר ממה שמדינות החברות מתקדמות לסגירתו. המזכ"ל הכניס את ממשל ה-AI לסדר היום של האו"ם מאז 2023; שפתו הישירה השבוע משקפת דחיפות גוברת כששמות הגדולות מעמיקות את השקעותיהן.

ריבלות ה-AI צפויה לשלוט בפסגת שי-טראמפ בוושינגטון

כאשר נשיא סין שי ג'ינפינג ודונלד טראמפ ייפגשו בוושינגטון בשבועות הקרובים, הבינה המלאכותית צפויה להיות בין הנושאים המרכזיים בסדר היום. חברות סיניות כולל DeepSeek ו-Moonshot AI סגרו חלק משמעותי מהפער ביכולות עם מודלי ה-AI המובילים בארה"ב בשנה האחרונה, מה שמסבך הנחות אמריקאיות קודמות בדבר שמירה על עדיפות טכנולוגית ברורה. השיחות צפויות לכסות גישה לשבבי מחשב מתקדמים — שם הגבלות הייצוא האמריקאיות נבדקו ועוקפו שוב ושוב — וכן טענות להעתקת קניין רוחני ואפשרות הסכמים דו-צדדיים לפיקוח על ה-AI. התוצאות עשויות לעצב מחדש הן את נוף ממשל ה-AI הבינלאומי והן את הכללים הגלובליים סביב החומרה החזקה ביותר של הטכנולוגיה.

הקונגרס האמריקאי מוסיף מנגנוני כיבוי לחוק ה-AI; הצבעת המליאה נדחית ל-2027

חברי הקונגרס האמריקאי דנים בהוספת ביקורות בטיחות חובה לפני פריסה, מנגנוני כיבוי חירום למערכות AI בסיכון גבוה, ואיסור קבוע על פיתוח מודיעין מלאכותי-על לחוק הבטיחות של AI מרמת החזית — הצעת החוק הפדרלית המקיפה ביותר לבינה מלאכותית שנמצאת כרגע בדיון. ההוראות החדשות משקפות חשש גובר בקונגרס הן לגבי שימוש לרעה בטווח הקרוב והן לגבי סיכוני יכולת ארוכי טווח. עם זאת, יו"ר ועדת הבית האחראית על הצעת החוק ציין שסביר שהיא לא תגיע להצבעת מליאה מלאה לפני 2027, תוך ציטוט התנגדות מקבוצות תעשייה ואי-הסכמות בין חברי הוועדה בנוגע להיקף. העיכוב משאיר את ארה"ב ללא חוק AI פדרלי כאשר מדינות בודדות — קליפורניה בראש ובראשונה — ממשיכות להעביר כלליהן, מה שיוצר מארג גדל והולך של דרישות בהיעדר תקנים לאומיים.