Clear Sky Science
הסברים מבוססי ראיות, עם מעט ז'רגון

Clear Sky Science · he

EPEE: לקראת מודלים יסודיים יעילים ואפקטיביים בביו-רפואה

· חזרה לאינדקס

למה חשיבה מהירה של בינה מלאכותית חשובה ברפואה

בינה מלאכותית מודרנית מסוגלת לקרוא תרשימים רפואיים ולסרוק תמונות במיומנות מרשימה, אך בבתי חולים אמיתיים כל שנייה נחשבת. רופאים בחדרי מיון ובמחלקות טיפול נמרץ לא יכולים להמתין בזמן שמודל עצום "חושב" לאט דרך עשרות שלבים, במיוחד אם אותם שלבים נוספים אינם משפרים את התשובה. המחקר הזה מציג דרך לעזור למערכות בינה מלאכותית רפואיות גדולות להבין מתי הן כבר ראו מספיק כדי לקבל החלטה בטוחה ובטוחה בעצמה, ולחסוך זמן וכוח מחשוב בלי לפגוע בדיוק.

Figure 1. כיצד בינה מלאכותית רפואית יכולה לצאת מוקדם במקרים קלים כדי לספק החלטות מהירות יותר בלי לאבד דיוק
Figure 1. כיצד בינה מלאכותית רפואית יכולה לצאת מוקדם במקרים קלים כדי לספק החלטות מהירות יותר בלי לאבד דיוק

הבעיה של בינה מלאכותית איטית וקפדנית

"מודלים יסודיים" גדולים מניעים רבות מההתפתחויות האחרונות בטכנולוגיית הבריאות. מודלים לשפה עוזרים לסנן רשומות רפואיות אלקטרוניות ומאמרי מחקר, בעוד שמודלים חזותיים בוחנים תמונות כגון צילומי רנטגן ופרוסות רקמה. עם זאת, מודלים אלה בנויים משכבות רבות המחבצות את אותו קלט שוב ושוב. בפועל, השכבות המאוחרות מוסיפות לעתים ערך מועט ואף עלולות לפגוע בדיוק — בעיה שהמחברים מכנים "הרהור יתר". עבור רופא שמחכה לציון סיכון או לסימון של תגובת תרופה מסוכנת, הגירוד המחשבתי הנוסף הזה הופך לעיכובים בעולם האמיתי ולהוצאות חישוביות גבוהות יותר.

לאפשר למקרים קלים לצאת מוקדם

מחקרים קודמים הציעו "יציאה מוקדמת", שבה מודל כולל נקודות בדיקה קטנות בין השכבות. אם נקודת בדיקה כבר בטוחה בתשובתה, המודל יכול להפסיק שם במקום להעביר את הנתונים דרך כל השכבות הנותרות. משפחה אחת של שיטות מחליטה על בסיס ביטחון: אם התחזית מרוכזת מאוד בתוצאה אחת, המודל יוצא. גישות אלה פשוטות וגמישות אך עלולות לאבד דיוק כאשר מכוונים למהירות. משפחה אחרת ממתינה למספר שכבות רצופות שיסכימו על אותה תשובה — כלל "סבלנות" שנוטה להגן על הדיוק אך רגיש למספר ההסכמות הנדרשות, מה שהופך אותו למאתגר לכוונון לצרכים קליניים שונים.

יציאה מוקדמת היברידית בשם EPEE

המחברים מציגים את EPEE, ראשי תיבות של יציאה מוקדמת מבוססת אנטרופיה וסבלנות (Entropy- and Patience-based Early Exiting), שממזגת את שתי הרעיונות האלה. בכל שכבה של מודל טרנספורמר, EPEE מחברת מסווג קל משקל. המערכת בודקת שני תנאים פשוטים: האם התחזית הנוכחית מאוד בטוחה, והאם שכבות אחרונות היו בעקביות מעלות את אותו הממצא? אם אחד מהתנאים מתקיים, המודל נעצר ומחזיר את התוצאה. על ידי כוונון האופן שבו מוגדר "ביטחון" וכמה הסכמות חוזרות נדרשות, המשתמשים יכולים לכוונן גם מהירות וגם זהירות. חשוב, המחברים מראים ששיטות ישנות המבוססות רק על ביטחון או רק על סבלנות הן מקרים פרטיים של אסטרטגיה כללית יותר זו.

Figure 2. כיצד מודל בינה מלאכותית משתמש ביציאות שכבתיות כך שקלטים פשוטים נפסקים מוקדם בעוד שקלטים מורכבים עוברים לשכבות עמוקות יותר לפני קבלת ההחלטה
Figure 2. כיצד מודל בינה מלאכותית משתמש ביציאות שכבתיות כך שקלטים פשוטים נפסקים מוקדם בעוד שקלטים מורכבים עוברים לשכבות עמוקות יותר לפני קבלת ההחלטה

בדיקות על טקסטים ותמונות רפואיות אמיתיות

כדי לבדוק האם EPEE עובד בפועל, הצוות בדק אותו בשלושה סוגי משימות ביומדיות: סיווג הערות או ביקורות, מציאת יחסים כגון אינטראקציות בין תרופות והוצאת אירועים רפואיים מטקסט. הם השתמשו בשמונה מודלים יסודיים פופולריים, כולל מודלים לשפה כמו BERT ו-GPT-2 וטרנספורמר חזותי לתמונות רפואיות. לאורך שנים־עשר מערכי נתונים שנלקחו מרשומות טיפול נמרץ, ביקורות מטופלים, ספרות רפואית ואוספי תמונות כגון צילומי חזה ומשטחי תאי דם, הם השוו את EPEE לאינפרנציה ברוחב מלא הסטנדרטית ואל מול שיטות יציאה מוקדמת קודמות. במקרים רבים, המודל הגיע לדיוק הטוב ביותר או קרוב אליו בשכבות ביניים, מה שאומר שאילוץ השימוש בכל השכבות היה מיותר. EPEE ניצל זאת על ידי לאפשר למקרים פשוטים לצאת מוקדם בעוד שמקרים קשים יותר עברו דרך שכבות נוספות.

לאזן מהירות ואמינות בקליניקה

כאשר החוקרים מדדו זמן ריצה, EPEE הפחית בעקביות את השהיית האינפרנציה בהשוואה גם למודלים רגילים ברוחב מלא וגם לטכניקות יציאה מוקדמת קודמות, לעתים קרובות קיצץ את החישוב האפקטיבי בעוד ששמר על דיוק דומה או אפילו שיפר אותו במעט. השיטה דרשה רק עלות קטנה נוספת במהלך האימון ועבדה בדומה עבור מודלים לשפה ולתמונה, כולל מודלים ביומדיים גדולים יותר. מכיוון ששני ההגדרות שלה ניתנות לכוונון כדי לעמוד על פשרה נבחרת בין מהירות לנכונות, EPEE מתאים היטב להגדרות כמו טיפול נמרץ, שבהן תשובות מהירות קריטיות אך טעויות יקרות.

מה זה אומר עבור בינה רפואית בעתיד

במונחים פשוטים, עבודה זו מלמדת מערכות בינה מלאכותית רפואיות גדולות להפסיק כשהן כבר יודעות את התשובה, במקום לבדוק את עבודתן שוב ושוב. על ידי שילוב שני כללי יציאה נפוצים למסגרת גמישה, EPEE מראה שבתי חולים עשויים לא להזדקק למודלים אף גדולים יותר כדי להשיג ביצועים טובים יותר; הם עשויים פשוט להזדקק למודלים שמשתמשים ב"מוחם" הקיים באופן חכם יותר. אם יאומץ באופן רחב, סוג אסטרטגיית היציאה המוקדמת הזו יכול לסייע להביא מודלים חזקים של טקסט ותמונה לזרימות עבודה קליניות בזמן אמת, ותומך בהחלטות מהירות ועדיין אמינות ליד המיטה.

ציטוט: Zhan, Z., Zhou, S., Zhou, H. et al. EPEE: towards efficient and effective foundation models in biomedicine. npj Health Syst. 3, 30 (2026). https://doi.org/10.1038/s44401-026-00083-2

מילות מפתח: יציאה מוקדמת, בינה מלאכותית ביומדית, מודלים יסודיים, יעילות מודל, תמיכה בהחלטות קליניות