סיכום בריאות AI: ניסויים קליניים, סקירות ראיות, ומשבר הממשל

IQVIA משיקה AI לחיזוי תוצאות ניסויים קליניים לפני שהניסויים מתחילים

IQVIA, ארגון נתוני הבריאות הגלובלי, הכריזה על מערכת AI חדשה המסוגלת לחזות תוצאות ניסויים קליניים עם דיוק של 85% — לפני שהניסוי אפילו מתחיל לגייס מטופלים. המערכת מנתחת נתוני ניסויים היסטוריים, מאפיינים של אוכלוסיית המטופלים, ופרמטרים של פרוטוקול כדי להצביע על אילו ניסויים צפויים להצליח ואילו יתקשו.

החברה אומרת שהכלי יכול לסייע לחברות תרופות בהקצאת משאבים בצורה חכמה יותר — במיוחד בהחלטות על שלב II לעומת שלב III של ניסויים, שם עלות הכישלון עשויה להגיע למאות מיליוני דולרים. בין הגורמים שהמערכת לוקחת בחשבון: היסטוריית ציות של אתרי ניסוי, דפוסי גיוס היסטוריים, ורלוונטיות ביו-מרקרים.

מומחים ציינו שדיוק של 85% הוא מרשים אך לא מוחלט, ועלולים להיות השלכות על החלטות מימון ועל מגוון אוכלוסיות הניסוי אם המודל לומד מנתונים היסטוריים שמשקפים הטיות קיימות.

AHRQ מהמרת 7.95 מיליון דולר שAI יכול לקצץ סקירות ראיות משנה לשעות

הסוכנות לאיכות ומחקר בבריאות (AHRQ) הכריזה על מענק של 7.95 מיליון דולר לפיתוח כלי AI שיזרזו את יצירת סקירות ראיות שיטתיות — תהליך שלוקח כיום בין שישה חודשים לשנה ואמור לקחת שעות בלבד.

סקירות ראיות שיטתיות הן עמוד השדרה של הנחיות רפואיות. כאשר לוקח שנה ליצור אחת, היא עלולה להיות מיושנת עוד לפני שפורסמה. AHRQ מקווה שAI יכול לאוטומט את החלקים הממושכים — סינון מחקרים, חילוץ נתונים, הערכת איכות — תוך שמירה על פיקוח אנושי על השיפוטים הפרשניים.

האתגרים הם ריבוי. מחקרים רבים שAI ישתמש בהם ניתנים בפורמטים לא עקביים. פרסומי כתבי עת אינם תמיד מצרפים נתוני גלם. ומשמעות "שיטתי" בסקירת ראיות היא שקפיצת שיפוט אחת שגויה עלולה לשנות המלצה קלינית.

AHA ובתי חולים מתנגדים לדו"ח BCBS המקשר כלי AI לקידוד לתביעות מנופחות של מיליארד דולר

Blue Cross Blue Shield פרסמה דו"ח הטוען שכלי קידוד AI המשמשים בתי חולים יצרו כ-1 מיליארד דולר בתביעות מנופחות — על ידי הצעת קודי אבחון ברמת חומרה גבוהה יותר שלא תמיד היו מוצדקים קלינית.

האגודה לבתי חולים אמריקאים (AHA) וארגוני בתי חולים אחרים דחו את הממצאים בחריפות, וטענו שהניתוח של BCBS מבלבל בין שיפור לגיטימי של תיעוד קוד לבין הונאה מכוונת. לדבריהם, כלי AI רבים עוזרים לרופאים לתעד מצבים שכבר נוכחים אך לא צוינו בצורה מלאה — וזה לא אותו דבר כמו יצירת קודים כוזבים.

הוויכוח מציג את אחת מנקודות החיכוך העיקריות ב-AI לבריאות: מי אחראי כאשר כלי AI ממליץ על קוד שמשלם דוחה בסופו של דבר? לבתי החולים יש אינטרס לתעד מלא; לחברות הביטוח יש אינטרס לשמור על עלויות נמוכות. AI במרכז הופך ויכוח ישן ליותר חריף.

מומחי ממשל AI בבריאות: פריסה היא ההתחלה, לא הסוף

דיון בכנס בכיר בתחום AI לבריאות כלל מסר שחוזר על עצמו: ארגונים רבים מתמקדים כל כך הרבה בהחלטת "לקנות או לבנות" שהם מפספסים את השאלות הקשות יותר שמגיעות לאחר שפריסה מתרחשת.

מומחים הציגו מסגרות לניטור מתמשך של ביצועי מודלים, זיהוי סחף, ותהליכי אישור מחדש. הם הדגישו שמודל שעובד בינואר עשוי לא לעבוד ביולי אם הרכב אוכלוסיית המטופלים השתנה, אם נוהלי קידוד השתנו, או אם הנחיות קליניות עודכנו.

הנחיות רגולטוריות, כולל הנחיות FDA ל-SaMD ועדכוני ONC מתצהיר הניהול AI לשנת 2024, מציבות דרישות ברורות יותר — אך כפי שציין מרצה אחד, "הרגולציה לא יכולה לרוץ מהר מהפריסה."

AI מסתורי וכלים של צד שלישי מרחיבים חשיפת אבטחת הסייבר בבריאות

HHS ומספר גופי אבטחה דיווחו שAI מסתורי — כלומר עובדים שמשתמשים בכלי AI שלא אושרו על ידי ה-IT של ארגונם — מהווה אחד מוקטורי הסיכון הצומחים ביותר בבריאות כיום.

כלי צד שלישי המחוברים לנתוני מטופלים יוצרים שרשרות ספקים שקשה לנהל. IT בריאות אינה מסוגלת לבקר כלים שאינה יודעת שקיימים. ועובדים, מרפאים ועד צוות אדמינסטרטיבי, מוצאים שChatGPT ו-Copilot וכלים דומים עוזרים להם לעבוד מהר יותר — ללא אישור מפורש.

הדו"חות ממליצים לארגוני בריאות לבצע ביקורות כלים קבועות, ליישם פתרונות CASB (Cloud Access Security Broker), ולפתח מדיניות AI ברורה שמאזנת בין גמישות עובדים לבין ניהול סיכוני HIPAA.