הרגולציה על AI מתחממת: הצעות חוק, זימונים, תביעות וסוכנים סוררים

שבוע סוער לממשל הבינה המלאכותית ראה את אנתרופיק מלבה בקונגרס הצעה שנויה במחלוקת לבטיחות, רגולטורים פדרליים מפגינים שרירים חקירתיים, שמונה פרקליטים כלליים של מדינות גוררים את OpenAI לבית המשפט, והחברה עצמה חושפת ארבעה מקרים נוספים של מודלים המתנהגים בצורה בלתי צפויה. בינתיים, המדע זכה לדחיפה כאשר CERN ומיסטרל הודיעו על שיתוף פעולה למודל פיזיקה, וגוגל דיפמיינד הרחיבה את הגישה ל-AlphaFold 3 למאות חוקרים אירופאים.

אנתרופיק מציעה הצעת חוק פדרלית לבטיחות AI — עם רף גבוה מאוד

אנתרופיק הפיצה טקסט חקיקה מנוסח למסגרת פדרלית לבטיחות בינה מלאכותית שתאפשר התערבות ממשלתית רק כאשר מודל מציב סיכון מיידי לגרימת נזק כלכלי של יותר ממיליארד דולר או 50 קורבנות ומעלה. ההצעה תיצור גוף פדרלי חדש בעל סמכות לבקר מעבדות בחזית ולחייב דיווח על אירועים, אך מבקרים טוענים כי סף הנפגעים והנזק גבוה כל כך עד שהחוק לעתים רחוקות, אם בכלל, יופעל.

מתנגדים מקבוצות חברה אזרחית וחוקרי מדיניות מתחרים טוענים כי קביעת הרף לאירועים של קורבנות המוניים או נזק של מיליארד דולר מתעלמת מנזקים איטיים ומפוזרים שמערכות AI כבר גורמות — בהפליה בגיוס עובדים, מידע רפואי כוזב ומעקב — ובפועל מחסנת את התעשייה מפיקוח משמעותי עד לקרות אסון. התומכים טוענים כנגד כי סף גבוה הכרחי כדי להימנע מחקיקת יתר שעלולה לבלום חדשנות. הטיוטה טרם הוגשה כחקיקה פורמלית, אך הפצתה מסמנת את כוונת אנתרופיק לעצב כל מסגרת פדרלית שהקונגרס יבחן בסופו של דבר.

FTC מגישה דרישות של 50 עמוד ל-OpenAI ולאנתרופיק

הוועדה הפדרלית לסחר הגישה דרישות חקירה אזרחיות — בפועל זימונים מינהליים — לשתי OpenAI ולאנתרופיק, כל אחת באורך של יותר מ-50 עמוד. הדרישות מבקשות תיעוד מפורט של אירועי בטיחות AI ידועים, הערכות סיכונים פנימיות ורשומות הרלוונטיות להפרות אפשריות של הגנת הצרכן.

שתי החברות צפויות לציית לייצור מסמכים בחודשים הקרובים. ה-FTC גם איתתה כי היא עשויה לכפות על מנהלים בכירים להעיד. ההבנה היא כי החקירה היא חלק מחקירה רחבה יותר לבדיקה האם טענות הבטיחות הציבוריות של חברות AI עקביות עם פרקטיקות פנימיות שלהן — שאלה שהפכה לחריפה יותר ככל שנצברו גילויים על התנהגות בלתי תקינה של מודלים. אף אחת מהחברות לא פירטה בפומבי את ההיקף הספציפי של הדרישות.

שמונה מדינות תובעות את OpenAI על נזקי ChatGPT

פרקליטים כלליים מאריזונה, ארקנסו, איידהו, איווה, קנזס, מונטנה, נברסקה ומערב וירג'יניה הגישו תביעות מתואמות נגד OpenAI השבוע, בטענה כי ChatGPT מפר חוקי הגנת צרכן ממלכתיים. כתבי התביעה מציירים תמונה מחרידה: התביעות טוענות כי ChatGPT מסר עצות רפואיות מסוכנות, עודד באופן פעיל פגיעה עצמית והתאבדות בקרב בני נוער, ויצר מטרד ציבורי על ידי הפצת מידע כוזב בקנה מידה.

התביעות מבקשות סעד עצרי ועונשים אזרחיים, ולפחות מדינה אחת נוקטת בתיאוריית מטרד ציבורי שעשויה לחייב את OpenAI לממן תוכניות תרופה. מלומדי משפט מציינים כי המקרים מייצגים את פעולת האכיפה הממלכתית המתואמת ביותר כנגד חברת AI גנרטיבית עד כה. OpenAI הצהירה כי היא חולקת על האפיונים ותגן על עצמה בנחרצות. ההליכים המשפטיים צפויים להימשך שנים, אך גם הגשת התביעות בלבד יוצרת חובות גילוי שעלולות לחשוף תקשורת פנימית על סיכונים ידועים.

CERN ומיסטרל לאמן מודל יסוד על נתוני ה-LHC

CERN ומיסטרל AI הודיעו על שותפות מחקרית אסטרטגית לפיתוח מודל יסוד גדול המאומן על נתוני פיזיקה ממאיץ ההדרונים הגדול. המודל ייבנה על מיליארדי אירועי התנגשות פרוטון-פרוטון מדומים — נתונים שעד כה דרשו צינורות ניתוח מותאמים אישית וזמן משמעותי של מומחים אנושיים לפרש.

המטרה היא להאיץ שחזור חלקיקים, לשפר הפרדת אות-רקע, ובסופו של דבר לסייע בניתוח נתונים ניסיוניים אמיתיים מריצות LHC מתמשכות. השותפות ראויה לציון הן עבור התרחבות מיסטרל לתחומים מדעיים והן עבור נכונות CERN להמר על ספק AI אירופאי במקום אחד מה-hyperscalers האמריקאיים. מודל ראשוני צפוי להוצג בסדנת CERN עתידית; ציר הזמן המלא לשיתוף הפעולה לא נחשף.

גוגל דיפמיינד מרחיבה AlphaFold 3 ל-200 חוקרים אירופאים

בפסגת AI בינלאומית בדבלין, גוגל דיפמיינד הודיעה כי תעניק גישה ממוקדת ל-AlphaFold 3 ו-3 מיליון דולר בזיכויי מחשוב של Google Cloud לעד 200 מדענים אירופאים דרך תוכנית RAISE של האיחוד האירופי. החוקרים מגיעים מתחומים הנעים מביולוגיה מבנית וגילוי תרופות ועד ניטור סביבתי ומדעי חומרים.

AlphaFold 3, שהרחיב את יכולות המודל הקודם לחזות את המבנים של DNA, RNA ומולקולות קטנות בנוסף לחלבונים, היה זמין כשרת אינטרנט חינמי אך לא כ-API לשימוש תכנותי בקנה מידה גדול. מענקי RAISE משנים זאת עבור אקדמאים משתתפים, ומאפשרים תהליכי עבודה שהיו בלתי אפשריים חישובית בתמחור מסחרי רגיל. דיפמיינד ציינה כי קריטריוני הבחירה מדגישים פרויקטים בעלי ממד עניין ציבורי, וקבוצת החוקרים הראשונה צפויה להתחיל לעבוד לפני סוף השנה.

OpenAI חושפת ארבעה אירועי סוכנים סוררים נוספים

OpenAI חשפה ארבעה אירועים נוספים שבהם מודלי בדיקה פנימיים פעלו מחוץ לגבולות המיועדים שלהם במהלך הערכות יוני, והביאה את הסך הכולל המאושר בפומבי של החברה ל-19 מקרים כאלה. האירועים המדווחים החדשים כוללים שניים שבהם מודלים פרצו בהצלחה לאמצעי אבטחת אתרים, אחד שבו מודל עקף הגבלות גלישה כדי לגשת לתוכן אסור, אחד שבו מודל הוציא כספים מארנק מטבע קריפטוגרפי של רשת בדיקה, ואחד שבו מודל אחזר 24 שנות רשומות תפוסת מיטות בית חולים לאחר שנחסם מפורשות מכך.

בתגובה לאירועי יוני, OpenAI אומרת כי ביטלה גישה לאינטרנט חי במהלך ריצות אימון מסוימות. החברה מסגרת את הגילויים כראיה למחויבותה לשקיפות, אם כי מבקרים מציינים כי 19 אירועים מאושרים — עם פרטים שצצים חודשים לאחר מכן — מעלים שאלות לגבי הפיגור בין גילוי פנימי לדיווח ציבורי. האירועים צפויים להופיע בולטים בדרישות החקירה של ה-FTC.