השפעת מידע שגוי ממערכות בינה מלאכותית על דיוק אבחוני וכיול ביטחון בקרב סטודנטים לרפואה מתחילים

מדוע מכונות חכמות עדיין יכולות להטעות מתחילים

בינה מלאכותית נכנסת במהירות לכיתות ולמרפאות, ומבטיחה למידה מהירה יותר והחלטות חכמות יותר. אך כאשר סטודנטים נשענים על בינה מלאכותית כדי להבין בעיות רפואיות מורכבות, מה קורה אם ההסבר נשמע משכנע אך שגוי? המחקר בוחן את הדילמה הזו בקרב סטודנטים לרפואה צעירים ומוצא ממצא מטריד: הסברים מטעהים מצד הבינה המלאכותית עלולים להזיק ללמידה, בעוד שהסברים נכונים לעתים קרובות עוזרים הרבה פחות ממה שציפינו.

בחינת שלושה סוגי סיוע של בינה מלאכותית

חוקרים בסין ערכו ניסוי אקראי עם 111 סטודנטים לרפואה בשנים המוקדמות שלהם, שנהגו לקבל הכשרה במדעים הבסיסיים אך בעלי ניסיון קליני מועט. כל הסטודנטים ענו על 25 שאלות בחירה מרובות קשות בסגנון בחינות רישוי אמיתיות. קבוצה אחת ראתה רק את השאלות. קבוצה שנייה קיבלה הסברים מבוססי-בינה מלאכותית שבודקו בקפידה ואושרו על ידי מומחים והכוונו לתשובה הנכונה. קבוצה שלישית ראתה הסברים בסגנון בינה מלאכותית שנוסחו באופן מלוטש ומשכנע אך באופן מכוון תמכו באפשרות שגויה מסוימת. אחרי כל שאלה, הסטודנטים בחרו תשובה ודירגו עד כמה הם בטוחים בתשובתם.

מתי הנחייה שגויה גרועה יותר מאי־סיוע

התוצאות הראו חוסר איזון חד בין תועלת לנזק. הסטודנטים שקיבלו את ההסברים המטעהים הציגו ביצועים הרבה פחות טובים מאלו שלא קיבלו כלל הסברים: הדיוק שלהם ירד מכ־20% תשובות נכונות לפחות מ־10%. לעומת זאת, הסטודנטים שראו את ההסברים הנכונים של הבינה המלאכותית שיפרו רק במעט את ביצועיהם לעומת קבוצת הביקורת, וההבדל לא היה מהימן סטטיסטית. במילים אחרות, הנחייה מלוטשת אך שגויה דרכה את הסטודנטים בכיוון הלא נכון באופן מכריע, בעוד שהנחייה מלוטשת ונכונה לא הצליחה להרים באופן מהימן את ביצועיהם מעל הרמה שהשיגו כשעבדו לבדם.

טעויות ביטחוניות ומלכודת "ההיגיון הסביר"

התמונה הייתה אפילו מדאיגה יותר כשהחוקרים בחנו את רמות הביטחון. כל הסבר של בינה מלאכותית — נכון או שגוי — גרם לכך שהסטודנטים הרגישו ביטחון עצמי גבוה יותר מאשר אלה שעבדו ללא עזרה. עם זאת, רק הקבוצה שקיבלה הסברים נכונים הראתה כיול בריא, שבו הביטחון היה גבוה יותר בתשובות נכונות מאשר בתשובות שגויות. בקבוצה שקיבלה הסברים מטעהים, ביטחון נשאר גבוה הן כאשר הסטודנטים היו נכונים והן כאשר היו לא נכונים, כלומר הם לא יכלו להשתמש בתחושת ההוודאות שלהם כדי להבחין בין טיעון טוב לטיעון רע. ניתוחים מפורטים הראו שההסברים המטעהים לעתים קרובות כיוונו את הסטודנטים לאפשרות שגויה מסוימת: בקבוצה המטעהה, יותר מ־70% מהתשובות השגויות היו אותה אפשרות שהבינה המליצה עליה בעדינות. חלק מההסברים פעלו כ"חצי־אמת", כשהשתמשו בפרטים מדויקים כדי לתמוך במסקנה פגומה שקשים לאתגר למתחילים.

מדוע הדבר חשוב להכשרה רפואית

ממצאים אלה מהדהדים חששות לגבי "הטיית אוטומציה", שבה אנשים סומכים יותר מדי על תוצאת מחשב במקום לבדוק מידע בקפידה. בתחום כבד ידע כמו הרפואה, הסכנה אינה רק תשובה שגויה — אלא תשובה שגויה שנראית מוצדקת לחלוטין. המחקר מציע כי הכנסת בינה מלאכותית שוחחת לתוך שגרת הלמידה של הסטודנטים כ"מורה ידידותי" היא מסוכנת, במיוחד כאשר הלומדים חסרי ניסיון לזהות פגמים עדינים. המחברים טוענים שיש להפנות את בתי הספר לרפואה מלראות בבינה מלאכותית מורה יודע־הכול לשימוש בה כחומר לתרגילי "בדיקת בינה מלאכותית" מובנים. בתרגילים אלה הסטודנטים יתאמנו בפירוק ההסברים של המערכת, באימות טענות מול מקורות מהימנים ולמידה לזהות את ההבדל בין היגיון רהוט להיגיון תקף באמת.

מה זה אומר לרופאים העתידיים ולכלים שלהם

במונחים פשוטים, המסקנה של המחקר חדה: עבור סטודנטים לרפואה מתחילים, הסברים רעים של בינה מלאכותית מזיקים יותר מאשר הסברים טובים מועילים. הנחייה מטעה לא רק מפחיתה את סיכוייהם למצוא את התשובה הנכונה, אלא גם מותירה אותם בטוחים בטעותם. כדי להגן על המטופלים בעתיד, מחנכים ומעצבי מערכות בינה מלאכותית יצטרכו לבנות מערכות ותכניות לימוד שמאטות את רתימת הסטודנטים, חושפות דפוסי כשל נפוצים של בינה מלאכותית ומעודדות בדיקה ביקורתית במקום אמון עיוור. המטרה היא לא לדחות את הבינה המלאכותית, אלא לאמן את הדור הבא של הרופאים לשאול בה בקפידה, כדי שכלים חכמים יהפכו לשותפים בטיפול בטוח במקום למקורות מידע משכנעים אך מטעות.

ציטוט: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

מילות מפתח: בינה מלאכותית בחינוך רפואי, מידע מטעה, חשיבה אבחונית, ביטחון עצמי של סטודנטים, הטיית אוטומציה