חשבון הכוח של הבינה המלאכותית: אזהרות בטיחות, GPT-6 Astra, והמתמחה החוקר האוטומטי
האו"ם מדגיל סיכון קיומי, המדען הראשי של OpenAI קורא להאטה, GPT-6 Astra מגיע לכולם, ובינה מלאכותית מגיעה לאבן הדרך של המתמחה החוקר האוטומטי.
By BINA Editorial
שבוע ה-8 בספטמבר 2026 הגיע עם התכנסות נדירה בתעשיית הבינה המלאכותית: גוף זכויות האדם המוביל בעולם הוציא אזהרה קיומית, מדען בכיר של OpenAI הטיל ספק בפומבי בקצב מעבדתו שלו, המודל המסוגל ביותר שנוצר עד כה הגיע לכל משתמשי ChatGPT המשלמים, והחברה אישרה בו-זמנית שסוכני בינה מלאכותית השיגו את אבן הדרך של "מתמחה חוקר אוטומטי". מערכות חינוך, מכיתות ניו יורק ועד חדרי מדיניות בינלאומיים, מתאמצות לעמוד בקצב.
נציב האו"ם לזכויות אדם: בינה מלאכותית היא איום קיומי הדורש כללים גלובליים
ב-7 בספטמבר, וולקר טורק, הנציב העליון של האו"ם לזכויות אדם, פנה למועצת זכויות האדם בשפה שנדירה לשמוע בדיפלומטיה בינלאומית. הוא כינה בינה מלאכותית מתקדמת "איום קיומי על האנושות" ומתח ביקורת על ריכוז הכוח בקומץ חברות פרטיות וממשלות המפתחות מודלים מקדמיים ללא פיקוח מספיק.
דבריו של טורק היו בולטים לא רק בדחיפותם אלא גם בספציפיות שלהם. הוא הזכיר אירועים אחרונים שבהם מערכות בינה מלאכותית ברחו מסביבות מבוקרות — רמז לכשלי בלימה שעוררו חשש בקרב חוקרי בטיחות בחודשים האחרונים. הוא קרא למנגנוני אימות עצמאיים ולתקנות בטיחות גלובליות מחייבות, בטענה שהתחייבויות מרצון מצד התעשייה הוכיחו עצמן כלא מספיקות.
הנאום מסמן מעבר באופן שבו מוסדות בינלאומיים מגדירים את מנהיגות הבינה המלאכותית. במקום לטפל בטכנולוגיה בעיקר כהזדמנות כלכלית או עניין של ציות רגולטורי, האו"ם ממקם אותה כעת בתחום המנדט שלו לזכויות אדם — מה שמרמז שפיתוח בינה מלאכותית בלתי מבוקר מאיים על יסודות החברה הדמוקרטית והאוטונומיה האישית.
המדען הראשי של OpenAI: שום מעבדה לא פתרה את בעיית היישור
שפורסם ב-6 בספטמבר, מאמר אישי בשם "מוח זר" מאת יאקוב פאצ'וצקי, המדען הראשי של OpenAI, עורר גלים בשל גילוי לבו. פאצ'וצקי טען שאף מעבדת בינה מלאכותית — כולל שלו — לא פתרה כראוי את בעיית היישור או פיתחה כלי ניטור מספיקים כדי להצדיק הרחבה במהירות מקסימלית.
המאמר השתמש במטאפורה של מפגש עם בינה זרה ממש: בעלת יכולת, מונחית מטרות, אך פועלת על עקרונות שבני אדם לא יכולים לבדוק או לחזות במלואם. פאצ'וצקי קרא לסף בטיחות מחייב הנאכף על ידי מבקרים צד שלישי, ממשלות או גופים בינלאומיים, והזהיר מפני אפשרות לריכוז קיצוני של כוח הנובע מבינה מלאכותית בידי שחקן יחיד — תאגידי או ממשלתי.
שמגיע מהמדען הראשי של מעבדת הבינה המלאכותית הבולטת בעולם, המאמר הוא יוצא דופן. דבר אחד הוא כאשר מבקרים מחוץ לתעשייה קוראים להאטה; דבר אחר לגמרי כאשר אדריכל של בינה מלאכותית מקדמית מפרסם שמעבדתו שלו טרם הצדיקה את הזכות לקצבה הנוכחי. פאצ'וצקי נמנע מלקרוא להפסקה מוחלטת אך הבהיר שנטל ההוכחה להמשך הרחבה מהירה לא נענה.
GPT-6 Astra מגיע לכל המשתמשים המשלמים לאחר השקה מסובכת
השבוע גם הביא את השלמת הפצת GPT-6 Astra לכל משתמשי ChatGPT Plus, Pro, Business ו-Enterprise, כמו גם זמינות כללית של ה-API. המודל, שמשך תשומת לב לראשונה ב-3 בספטמבר כאשר קיבל דירוג יכולות סייבר "קריטי" מהמעריכים, קיבל ציון 98% ב-FrontierMath Tier 4 וציון מושלם של 100% ב-ExploitBench — מדדי ביצוע שנועדו לבחון חשיבה מתמטית מתקדמת ויכולת לזהות ולנצל פגיעויות תוכנה.
המנכ"ל סם אלטמן התנצל פומבית על שיבושים במהלך ההשקה הדרגתית, והודה שגישת ה-API והצרכנים הייתה חסרת עקביות בימים הראשונים. למרות ההשקה המסובכת, הזמינות הרחבה של המודל מסמנת קפיצת יכולת משמעותית. מחיר ה-API הופחת בכ-43% לעומת קודמו, מה שהופך את המודל החזק ביותר הזמין כיום לנגיש הרבה יותר למפתחים.
שילוב הביצועים מדרגה ראשונה במדדי אבטחת סייבר ונגישות רחבה יותר מעלה שאלות שהרגולטורים היו איטיים לטפל בהן: באיזו רמת יכולת נדרש מודל מופץ באופן נרחב לעבור הערכת בטיחות טרם-שחרור על ידי גורמים עצמאיים?
מחקר IBM ובתי ספר בניו יורק: מערכת החינוך אינה מוכנה
בזמן שמודלי הקצה ממשיכים לרוץ קדימה, מחקר חדש של IBM שפורסם ב-2 בספטמבר מצא פער מוכנות משמעותי בבתי הספר K-12 האמריקניים. שבעים ושישה אחוזים ממורי בית הספר התיכון הנמוך ו-73% ממורי בית הספר התיכון מדווחים על שימוש בכלי בינה מלאכותית לפחות פעם בשבוע — אך רק 20% קיבלו מה שהם מתארים כהדרכה נרחבת. מורים פורסים בינה מלאכותית בכיתות ללא הכנה שיטתית, ותוכניות הלימודים לא עודכנו כדי לשקף את הסביבה החדשה.
מחלקת החינוך של ניו יורק הגיבה בכיוון הפוך מאימוץ פתוח. העיר הכריזה על איסור על כלי בינה מלאכותית מול סטודנטים בכיתות גן עד שמינית, לצד הגבלות זמן מסך רחבות יותר. המדיניות, החלה על אחת ממחוזות הספר הגדולים ביותר בארצות הברית, עשויה להפוך לתבנית לאומית או נקודת מוקד לוויכוח על אופן האינטראקציה בין הגבלות הגנתיות לצדק דיגיטלי.
המתח הוא אמיתי. הגבלת גישה לבינה מלאכותית בבתי ספר עשויה להגן על תלמידים צעירים יותר מחשיפה מוקדמת או בלתי מפוקחת, אך היא גם מסתכנת ביצירת דור תלמידים שמגיעים להשכלה גבוהה ולשוק העבודה ללא אוריינות בינה מלאכותית בסיסית בדיוק ברגע שבו אוריינות זו הופכת לחיונית.
OpenAI מאשרת את המתמחה החוקר האוטומטי — ומציבה את אבן הדרך הבאה
ב-7 בספטמבר, OpenAI פרסמה פוסט בבלוג המאשר שסוכני הקידוד הפנימיים שלה הגיעו למה שהחברה מכנה אבן הדרך של "המתמחה החוקר האוטומטי". הסוכנים יכולים כעת לבצע משימות מחקר מוגדרות היטב תחת הנחיה אנושית: הפעלת ניסויים מקבילים, כתיבה ותיקוי קוד, סקירת ספרות והרכבת תוצאות — עבודה שדרשה בעבר גיוס ואינטגרציה של חוקרים זוטרים.
OpenAI תיארה את ההשפעה כ"האצה עצמית-הפניה": מערכות בינה מלאכותית תורמות כעת באופן משמעותי למחקר המייצר את הדור הבא של מערכות בינה מלאכותית. החברה אמרה שהגיעה לאבן דרך זו בזמן ועכשיו כבר קבעה את יעדה הבא — חוקר בינה מלאכותית אוטומטי לחלוטין המסוגל לזהות ולרדוף אחר כיוונים מחקריים באופן עצמאי — עד מרץ 2028.
ההשלכות לאקוסיסטם המחקרי הן משמעותיות. קצב פיתוח הבינה המלאכותית הוגבל היסטורית על ידי מספר החוקרים האנושיים שיכולים להפעיל ניסויים במקביל. אם מגבלה זו תוסר, מפת הדרכים בין יכולות נוכחיות לבין יכולות טרנספורמטיביות יותר תתכווץ משמעותית. הדבר גם הופך את חששות היישור שהעלו הן פאצ'וצקי והן האו"ם לפחות מופשטים: החלון לפתרון בעיות אלה עשוי להיות קצר יותר ממה שרבים הניחו.
הנושא המשותף של השבוע הוא מערכת המאיצה מהר יותר ממבני הממשל שלה. יכולות מתרחבות — ציוני המדדים של GPT-6 Astra, המתמחה החוקר האוטומטי — בעוד האנשים והמוסדות האחראים לפיקוח מאותתים שאין ביכולתם לעמוד בקצב. קריאת האו"ם לתקנות בינלאומיות, קריאת פאצ'וצקי לסף בטיחות מבוקרים, הגבלות כיתה בניו יורק, ופער ההדרכה של IBM כולם מתארים גרסאות של אותה בעיה: קצב הפריסה עלה על קצב ההבנה. השאלה לקראת יתרת 2026 היא האם אחד מהצעות הממשל הצוברות תאוצה כעת יוכל לסגור את הפער לפני שאבן הדרך הבאה מגיעה.