בטיחות ה-AI הופכת גלובלית: פרקליטים, שי ג'ינפינג, האיחוד האירופי וגוף תקנים תעשייתי חדש
פרקליטים דו-מפלגתיים, פסגת טראמפ-שי, מחקר בעלות מיליארד דולר בחיוב רפואי, אכיפת האיחוד האירופי והשקת SAFA משנים את ממשל ה-AI.
By BINA Editorial
ממשל ה-AI נע בכמה חזיות בו-זמנית השבוע — מבתי משפט של מדינות ופסגות דיפלומטיות ועד לתאריכי יעד לאכיפה בבריסל וגוף ויסות עצמי תעשייתי חדש. הנה מה שקרה ומדוע זה חשוב.
26 פרקליטי מדינה דו-מפלגתיים דורשים חוק פדרלי לבטיחות AI
קואליציה של 26 פרקליטי מדינה, בהובלת פרקליטת ניו יורק לטישיה ג'יימס, שלחה השבוע מכתב משותף לקונגרס הקורא לחקיקה פדרלית מקיפה להסדרת בטיחות ה-AI. הקואליציה היא בעלת אופי דו-מפלגתי בולט, ומשלבת פרקליטים ממדינות לאורך כל הספקטרום הפוליטי.
המכתב מציג שלוש דרישות מרכזיות: בדיקות בטיחות מנדטוריות לפני פריסה עבור מערכות AI בסיכון גבוה, תקנים ברורים לתגובה לאירועים כאשר AI גורם נזק, ואיסור מפורש על הפדרל לבטל הגנות חזקות יותר ברמת המדינה. הפרקליטים ציינו את אירוע הסוכן הנוכל של Hugging Face — בו סוכן AI אוטונומי בפלטפורמה ביצע פעולות לא מכוונות — כראיה לכך שמחויבויות מרצון מהתעשייה אינן מספיקות.
המהלך משקף תסכול גובר בקרב פקידי המדינות שניסו למלא את הוואקום הרגולטורי הפדרלי. מספר מדינות חוקקו כללי AI משלהן בשנתיים האחרונות, אך טלאי של חוקי מדינות יוצר מורכבות ציות למפתחים והגנה לא אחידה לצרכנים. הפרקליטים מאותתים שהם רוצים רצפה פדרלית, לא תקרה פדרלית שתשלול את סמכותם.
עבור תעשיית ה-AI, זהו אות אזהרה. הסכמה דו-מפלגתית בין פרקליטי מדינות היא נדירה ועמידה פוליטית. אם הקונגרס יישאר נעול, צפו ממדינות נוספות לפעול באופן חד-צדדי — ואולי לחוקק כללים מגבילים יותר מכל מה שוושינגטון הייתה מאשרת.
טראמפ ושי ג'ינפינג מניחים AI על שולחן הדיפלומטיה
בפסגה פורומינטית בוושינגטון ב-24 בספטמבר, נשיא סין שי ג'ינפינג ביצע מהלך בלתי צפוי: הוא קרא ל-AI להישאר "תחת שליטה אנושית" והציע מנגנון הודעה דו-צדדי שידרוש מארה"ב וסין להתריע זו לזו על אירועי ביטחון לאומי הקשורים ל-AI.
ההצעה מייצגת שינוי משמעותי באופן שבו סין מציגה את עמדת ה-AI שלה בינלאומית. שי מסגר את ממשל ה-AI לא כמגבלה על חדשנות אלא כעניין של הישרדות הדדית — טיעון שנועד לפנות לנציגי ביטחון בוושינגטון מבלי לוותר במפורש על קצב הפיתוח.
התגובה האמריקאית הייתה קרירה. יועץ המדע של הבית הלבן של טראמפ ציין כי הממשל אינו מתכוון להאט את פיתוח ה-AI והביע סקפטיות כלפי כל מסגרת דו-צדדית שעלולה להגביל את היתרון התחרותי האמריקאי. הפער היה גלוי ומכוון: סין ממצבת את עצמה כשחקן אחראי שמוכן לנהל משא ומתן על גדרות ביטחון, בעוד עמדת ארה"ב הנוכחית מתייחסת לרגולציה בעיקר כבלם על צמיחה.
ההמרות המעשיות הן משמעותיות. מנגנון הודעה דו-צדדי, אפילו צנוע, יהיה ההסכם הרשמי הראשון הסמוך לבקרת נשק AI בין שתי מעצמות ה-AI המובילות. היעדרו אומר שלאירוע AI נוכל עם השלכות על ביטחון לאומי — בין אם מקרי או מיוחס — אין ערוץ דיפלומטי מוסכם להפחתת הסלמה. אנליסטים ב-Brookings ובמועצה ליחסי חוץ הזהירו כי פגיעה זו מגדילה את סיכון החישוב השגוי.
כלי חיוב AI עלו למבטחים כמעט מיליארד דולר, מצא מחקר
מחקר שפורסם ב-24 בספטמבר על ידי איגוד Blue Cross Blue Shield מצא כי כלי קידוד וחיוב רפואי מסייעי AI יצרו כ-653 מיליון דולר בעלויות נוספות למבטחים בתקופת 2024-2025. הכלים, המשמשים בתי חולים ומרפאות לאוטומציה של הגשת תביעות, נקשרו לקידוד כלפי מעלה שיטתי — הנוהג לחייב על פרוצדורות יקרות יותר מאלו שבוצעו בפועל.
הממצאים מניחים נתון דולרי על חששות שהיו בעבר אנקדוטיים. בתי חולים ומוכריהם אימצו כלי קידוד AI במהירות, נמשכים על ידי הבטחה לפדיון מהיר יותר ופחות תביעות שנדחו. מה שהמחקר של BCBS מתעד הוא שהרווחים ביעילות אלו יכולים לבוא על חשבון דיוק החיוב — ובסופו של דבר, של משלמי הפרמיות.
מנהל CMS מהמט עוז הכיר בבעיה במונחים ישירים בצורה יוצאת דופן, ואמר כי AI "ייעצים" את החיוב בטווח הקצר לפני שחסכונות פוטנציאליים בטווח ארוך יתממשו. מסגור זה מרמז שהממשל מודע לדינמיקה אך עדיין אינו מוכן לחייב אמצעי הגנה ספציפיים.
עבור מקבלי מדיניות, המחקר מגיע בזמן שימושי. מספר ועדות קונגרס בוחנות AI בשירותי הבריאות, ונתון עלות של כמעט מיליארד דולר המצורף לקטגוריית יישום AI ספציפית מעניק למחוקקים ראיות קונקרטיות לצטט. עבור מבטחי בריאות ומעסיקים שמממנים הטבות, זהו תמריץ לבחון טענות שנוצרו על ידי AI בצורה אגרסיבית יותר.
אכיפת חוק ה-AI של האיחוד האירופי היא עכשיו ממשית
החל מ-2 באוגוסט 2026, רוב התחייבויות חוק ה-AI של האיחוד האירופי הפכו לבעלות תוקף חוקי — אבן דרך שמסמנת את המעבר מטקסט חקיקתי לנטל ציות חי. הכללים שכעת תקפים כוללים דרישות שקיפות סעיף 50, המחייבות גילוי כאשר משתמשים מקיימים אינטראקציה עם תוכן שנוצר על ידי AI או מערכות AI, ומנגנוני אכיפה עבור מודלי AI למטרות כלליות.
המועד האחרון הגדול הבא חל בדצמבר, כאשר האיסורים על תמונות מיניות סינתטיות ללא הסכמה ייכנסו לתוקף, לצד דרישה שתוכן שנוצר על ידי AI יישא סמנים קריאי מכונה. הוראות אלו היו בין השנויות ביותר במחלוקת בתקופת היישום של החוק, כשפלטפורמות טוענות שתקני סימון טכניים אינם בשלים מספיק לציות אמין.
לחברות הפועלות באיחוד האירופי או המשרתות משתמשיו, תאריך האכיפה של אוגוסט היה הרגע בו ההכנה התיאורטית הייתה צריכה להפוך לנוהל מבצעי. אלה שהתייחסו לחוק כבעיה עתידית הם כעת מאחרים. המשרד האירופי לבינה מלאכותית, שנוצר לתיאום אכיפה בין מדינות חברות, החל לקבל תלונות רשמיות.
גישת האיחוד האירופי נותרת מסגרת ממשל ה-AI המקיפה ביותר בעולם, והגעתה החוץ-טריטוריאלית — היא חלה על כל מערכת AI עם פלטים המשפיעים על משתמשי האיחוד האירופי — פירושה שחברות המבוססות בארה"ב, בריטניה או אסיה חייבות לציית או לצאת מהשוק.
OpenAI, Google ו-Anthropic משיקות SAFA — גוף תקני בטיחות AI חדש
שלושת מפתחי ה-AI הגבוליים הגדולים ביותר הכריזו השבוע על הקמת רשות התקנים לבינה מלאכותית גבולית (SAFA), גוף בהובלת התעשייה שנועד להגדיר הנחיות משותפות להערכת סיכונים, בדיקות לפני שחרור ובדיקת בטיחות של מודלי AI מתקדמים. SAFA מתוכנן להשיק עד סוף 2026 או תחילת 2027.
היוזמה מגיעה לצד אישור נפרד: 22 מנהיגים בינלאומיים, כולל ראש ממשלת נורווגיה ונשיא פינלנד, חתמו על הצהרה משותפת הקוראת להערכות עצמאיות מחייבות של מערכות AI גבוליות לפני פריסה. שני ההתפתחויות קשורות אך שונות — SAFA היא יצירה תעשייתית ללא פיקוח ממשלתי, בעוד הצהרת המנהיגים הבינלאומיים מדמיינת מעריכים חיצוניים מוכרים ממשלתיים.
ההכרזה מצייה מיד השוואה למאמצי ויסות עצמי קודמים ב-AI, כולל המחויבויות הוולונטריות שנגבו על ידי הבית הלבן של ביידן ב-2023. המבקרים מציינים כי סמכות SAFA מוטלת לחלוטין על עצמה וכי תקניה ייקבעו על ידי אותן חברות שמוצריהן היא בוחנת. התומכים טוענים כי גופי תקנים בהובלת התעשייה עבדו בתחומים סמוכים — שירותים פיננסיים, טלקומוניקציה, תעופה — וכי SAFA יכולה לספק עקביות משמעותית במרחב שבו אף רגולטור ממשלתי עדיין לא בעל כושר טכני מספיק.
העיתוי אינו מקרי. עם חוק ה-AI של האיחוד האירופי בתוקף, לחץ פרלמנטרי אמריקאי גובר, ו-22 ראשי ממשלות הקוראים להערכות מחייבות, המעבדות הגדולות עוברות לקבוע את תנאי האחריות בתנאים שלהן לפני שמחוקקים יעשו זאת במקומן. האם SAFA תפתח עצמאות אמיתית או תתפקד כמנגנון הסמכה לחברות ותיקות היא השאלה שתגדיר את מורשתה.