הבטחת שלמות מודלי ה‑AI: גישה מבוססת בלוקצ’יין להגנה על נתוני אימון של דימות רפואי

מדוע חשוב להגן על סריקות רפואיות

כאשר רופאים משתמשים בבינה מלאכותית כדי לזהות גידולים במוח בסריקות MRI, הם מפקידים אמון עצום בנתונים ובתוכנה. מה אם מישהו ישנה בשקט את אותן סריקות כך שה‑AI ילמד מסקנות שגויות — או שיתייג גידול כחסר‑סכנה? מאמר זה בוחן כיצד שילוב של טכנולוגיית בלוקצ’יין ואחסון מבוזר יכול לנעול תמונות רפואיות מרגע יצירתן, ובכך לעזור להבטיח שהחלטות של חיים או מוות לא יתבססו על נתונים מושחתים.

האיום החבוי בתמונות הרפואיות

מערכות AI מודרניות, ובעיקר מודלים של למידה עמוקה, יכולות לזהות דפוסים עדינים בתמונות MRI של המוח שמקצוענים עלולים להתעלם מהם, ולשפר את הדיוק ולהקל על העומס על הרופאים. עם זאת, אמינות המודלים תלויה באמינות התמונות שעליהן הם מאומנים. תוקפים יכולים לבצע התקפות "הרעלת נתונים" על‑ידי החדרה של סריקות MRI שעברו שינויים קלים למדי לתוך מערכי האימון. השינויים כל כך זעירים שבני אדם לא מבחינים בהם, אך הם יכולים לדחוף את המודל לטעות מסוכנת, למשל לסווג בהמעה סוג גידול באופן שגוי. שינויים דומים יכולים גם להיעשות בשלב הבדיקה — תוקף יכול לשנות בצורה עדינה סריקה בודדת כדי להטעות מודל פרוס ולגרום לאבחון שגוי. מאחר שלרוב צינורות דימות רפואי כיום אין ערובות חזקות לגבי המקור או שלמות הנתונים, התקפות אלה קשות לגילוי ועלולות לגרום לתוצאות מסכנות חיים.

מדוע ההגנות הקיימות אינן מספיקות

חוקרים ניסו מספר טקטיקות להגן על מודלי AI, אך רובן מטפלות בתסמינים במקום בסיבה. אימון עויין חשוף את המודלים להרבה דוגמאות שמניפולציות כדי שילמדו לעמוד בפני התקפות מסוימות, אך זה גוזל משאבים חישוביים ונוטה להגן רק מפני טריקים ידועים. שיטות "ניקוי" תמונה, כמו דחיסה או הסרת רעש, יכולות להסיר כמה שינויים אך עלולות להכשל מול התקפות מתוחכמות יותר ואינן נותנות הוכחה למקור הנתונים. גישות אחרות, כגון סימון מים דיגיטלי או חומרה מאובטחת מיוחדת, מספקות תכונות שימושיות כמו גילוי זיוף או חישוב מוגן, אך הן מניחות שהתמונות הנכנסות למערכת כבר אמינות. אף אחת מהשיטות האלה אינה מספקת רישום מקצה‑לקצה של כל תמונה רפואית מרגע הצילום בסורק ועד אחסון, שיתוף ושימוש באימון AI.

צינור נתונים חדש המבוסס על אמון משותף

המחברים מציעים ארכיטקטורה חדשה שמתחילה להגן על התמונות מהרגע שהן נוצרות במרכז האבחון. בעיצובם שלוש תפקידים משתפים פעולה: בעל‑הנתונים (כמו מחלקת הדימות של בית חולים) שיוצרת את סריקות ה‑MRI, המשמורן (DataCustodian) שמנהל אחסון מאובטח והרשאות, ומרכז המחקר שמאמן את מודלי ה‑AI. במקום לשים תמונות ישירות על בלוקצ’יין — מה שהיה איטי וכבד — קבצי ה‑MRI הגולמיים מאוחסנים ברשת פרטית מבודדת של צמתים לאחסון מבוזר המכונה Private IPFS. לכל תמונה נוצר טביעת אצבע קריפטוגרפית ייחודית, או מזהה תוכן, שמשתנה גם אם פיקסל יחיד משתנה. טביעת האצבע הזאת, יחד עם מידע על מי העלה את התמונה ומתי, נרשמת לאחר מכן בבלוקצ’יין מורשה המבוסס על Hyperledger Fabric, שנמצא בשיתוף רק בין ארגונים מאושרים.

כיצד המערכת מונעת שינויי תוכן

כל עת שחוקר רוצה להשתמש בתמונות, הוא שולח בקשה חתומה דיגיטלית שנרשמת על הבלוקצ’יין. רק צדדים מורשים יכולים לאשר בקשה זו, והאישור עצמו הופך לחלק מהרשומה הקבועה. החוקרים לאחר מכן משחזרים את התמונה מהרשת הפרטית ומחשבם מחדש את טביעת האצבע שלה. אם טביעת האצבע החדשה לא תואמת את זו שנשמרה בבלוקצ’יין, התמונה מסומנת כמזויפת וחסומה מלהיכנס לצינור אימון ה‑AI. זה יוצר מסלול גילוי־שינוי־מידע שניתן לבדוק במלואו: כל העלאה, בקשת גישה, אישור ושליפה מתועד על פני מספר מחשבים עצמאיים, מה שמקשה מאוד על מניפולציה שקטה. המחברים מימשו את העיצוב הזה עם תמונות MRI אמיתיות של גידולי מוח, מדדו את הביצועים בעזרת כלי בשם Hyperledger Caliper והראו כי המערכת יכולה לטפל בהעלאות מאובטחות כמעט בזמן אמת עם שיעורי כישלון נמוכים ועיכובים ניתנים לניהול.

מה משמעות הדבר ל‑AI בטוח יותר בבתי חולים

במונחים פשוטים, המערכת המוצעת פועלת כמו כספת נעולה ושקופה לתמונות רפואיות. כולם יכולים לראות מתי סריקה נכנסת או יוצאת מהכספת, וכל ניסיון לשנות סריקה משאיר טביעת אצבע ברורה. על‑ידי שילוב בלוקצ’יין מורשה עם אחסון מבוזר פרטי ובקרות גישה קפדניות, המסגרת מתמודדת עם שורש הבעיה: היא מונעת מתמונות מורעלות או מזויפות להגיע אי‑פעם למודל ה‑AI. אמנם קיימים אתגרים מעשיים — כגון חיבור המערכת לתוכנות בתי חולים קיימות וניווט בתקנות פרטיות מורכבות — הגישה הזו מציעה נתיב מבטיח לעבר כלים של בינה מלאכותית שרופאים ומטופלים יכולים לבטוח בהם, במיוחד בתחומים מסוכנים כמו אבחון גידולי מוח.

ציטוט: Shinde, R., Patil, S., Kotecha, K. et al. Ensuring the integrity of AI models: a blockchain-based approach for protecting medical imaging training data. Sci Rep 16, 13989 (2026). https://doi.org/10.1038/s41598-026-44040-3

מילות מפתח: אבטחת דימות רפואי, בלוקצ’יין בתחום הבריאות, התקפות עוינות, MRI של גידול במוח, AI אמין