מחקר איכותני על ראיונות הבוחן נקודות מבט של מטופלים, אנשי מקצוע בתחום הבריאות ומפתחים על יישום בעולם האמיתי של מערכות בינה מלאכותית ממוקדות מטופל

למה זה חשוב למשפחות בחיי היומיום

ככל שמחשבים נעשים חכמים יותר, רבים מקווים שבינה מלאכותית (AI) תעזור לרופאים לזהות בעיות בריאות בזמן ולהתאים טיפול לכל אדם באופן אישי. עם זאת, גם כלי AI מדויקים מאוד לעתים קרובות אינם מצליחים להשפיע באמת על חיי אנשים אחרי שהם יוצאים ממעבדת המחקר. מחקר זה בוחן בקפדנות מה מטופלים, אנשי מקצוע בתחום הבריאות ומפתחים של AI חושבים שיידרש כדי להכניס מערכות AI ממוקדות מטופל לשגרת הטיפול, באמצעות כלי שמנבא את הסיכון לדיכאון אחרי לידה במהלך ההריון כדוגמה מעשית.

להקשיב לשלוש קבוצות יחד

החוקרים ראיינו 36 אנשים: מטופלות בהריון או כאלה שילדו לאחרונה, אנשי מקצוע בתחום הבריאות המטפלים בהם, ומפתחים של AI המוכרים את תחומי בריאות הנפש או בריאות רבייה. במקום להתמקד רק במדד הדיוק של האלגוריתם, הצוות התרכז באופן שבו הוא באמת ישתלב בחייהם של אנשים ובשגרות הקליניות. הם שאלו כל קבוצה כיצד הם מרגישים לגבי צפייה או שימוש בציוני סיכון שנוצרו על ידי AI לדיכאון אחרי לידה, כיצד יש לשתף את המידע ומי אמור להיות אחראי אם משהו ישתבש. באמצעות שילוב הקולות הללו במסגרת אחת, המחקר חשף מתחים ונקודות השקה שקשה להבחין בהן כאשר שואלים רק קבוצה אחת.

חששות מפגיעה ותקוות לעזרה ממשית

בכל הקבוצות היה קונצנזוס כי כל AI ממוקד מטופל חייב להביא יותר טובים מאשר נזקים. המטופלות חששו שמסר של סיכון גבוה לדיכאון עלול להעמיק את הסטיגמה או אפילו להוביל למעורבות שירותי הגנת הילד. אנשי המקצוע התרכזו בסכנה של נתונים מוטים או באיכות נמוכה, במיוחד אם קבוצות גזעיות או חברתיות מסוימות אינן מיוצגות כראוי. המפתחים הדגישו את הצורך לזהות ולהפחית בעיות אלה בזמן בניית הכלים, לא רק לאחר פריסתם. יחד עם זאת, כולם הדגישו שהכלי חייב להוביל לצעדים ברורים ושימושיים — כמו הפניות קלות יותר לשירותי בריאות הנפש או לתמיכה חברתית — ולא להיות רק עוד מספר בתיק הרפואי. כאשר ציוני הסיכון הוצגו ללא צעדים ברורים להמשך, גם מטופלות וגם קלינאים לא ידעו כיצד להגיב.

כיצד יש לשתף מידע

לאנשים היו דעות חזקות ומגוונות לגבי האופן שבו תוצאות ה-AI צריכות להגיע אל המטופלות. חלק רצו לראות את ציוני הסיכון לפני פגישות דרך פורטל מקוון כדי שיוכלו להכין שאלות ולעבד רגשות בפרטיות. אחרים העדיפו ללמוד על התוצאות רק בשיחה עם קלינאי מהימן שיוכל להסביר מה המשמעות שלהן. כל הקבוצות הסכימו שההסברים צריכים להיות בשפה פשוטה, לא בטרמינולוגיה רפואית או טכנית, וכי המטופלות יזדקקו להדרכה כדי לפרש מה משמעות אחוז מסוים או טווח סיכון עבור חייהן. מטופלות רבות רוצות לדעת אילו גורמים ספציפיים, כגון היסטוריה רפואית קודמת או מתח נוכחי, משפיעים על ציון הסיכון כדי שיוכלו לשוחח עם צוות הטיפול על מה שניתן לשנות.

אמון, פרטיות ואחריות משותפת

התעוררה הקשר הדוק בין האמון ב-AI לשאלות של פרטיות ואחריות. המשתתפים רצו ביטחון כי נתונים אישיים, ובעיקר מידע רגיש על בריאות הנפש וההריון, יאוחסנו וישומשו באופן בטוח. מטופלות הניחו לעיתים קרובות שכל דבר הנראה ברשומה המקוונת שלהן כבר נבדק ונכון, מה שמגדיל את השלכות הטעויות. אנשי מקצוע חששו שיכללו ואף יאשמו בהם אם הם יפעלו לפי — או יחליטו לא לפעול לפי — המלצת AI שהתגלתה מאוחר יותר כבעייתית. המפתחים טענו שעל האחריות להתחלק: מערכות בריאות, רגולטורים, קלינאים ויוצרי ה-AI כולם משחקים תפקיד בבדיקת הטיה, במעקב אחרי ביצועים לאורך זמן ובהגדרת האופן והמתי יש להשתמש בכלים אלו בטיפול.

מה צריך להשתנות הלאה

ממהשיחות הללו, המחברים מפרטים כמה צעדים פרקטיים להפיכת ה-AI ליותר ממוקד מטופל באמת. אנשי מקצוע בתחום הבריאות זקוקים להכשרה, זמן וכלים תומכים כדי לפרש פלטי AI ולדון בהם עם מטופלות. מטופלות וקלינאים בקו הראשון צריכים להיות מעורבים כבר בשלבי העיצוב והבדיקה של מערכות ה-AI כדי ששאלות של הוגנות, שימושיות ותקשורת יטופלו מההתחלה. פלטי ה-AI צריכים להיות מוצגים בפורמטים גמישים וקלים להבנה שמדגישים אפשרויות לפעולה, לא רק רמות סיכון. לבסוף, נדרשות חקיקה ופיקוח ברורים ורב-שכבתיים כדי להגן על הפרטיות ולחלוק את האחריות בין מוסדות, רגולטורים ומפתחים. יחד, שינויים אלה יכולים לסייע להעביר את ה-AI מתוצאות מרשימות במעבדה לתמיכה בטוחה ומשמעותית יותר למשפחות במהלך ההריון ולאחריו.

ציטוט: Benda, N., Desai, P., Reza, Z. et al. A qualitative interview study investigating patient, health professional, and developer perspectives on real-world implementation of patient-centered AI systems. npj Digit. Med. 9, 352 (2026). https://doi.org/10.1038/s41746-026-02587-5

מילות מפתח: בינה מלאכותית בתחום הבריאות, דיכאון אחרי לידה, טיפול ממוקד מטופל, אתיקה של בריאות דיגיטלית, סינון לבריאות הנפש