סינפסות ניאוהבbian להאצת אימון מקוון בחומרה ניורומורפית

ללמד שבבים ללמוד מניסיון

הבינה המלאכותית המודרנית מרשימה בעוצמתה אך עדיין רחוקה מהיכולת של המוח ללמוד ממשוב דל ומאוחר—כמו לזכור איזה קיצור דרך בעיר חסך זמן בפועל. מאמר זה מציג סוג חדש של "סינפסה" מלאכותית, הקישורים בין נוירונים מלאכותיים, שמאפשר לשבבים ניורומורפיים ללמוד בצורה מקוונת יותר הדומה למוח, תוך שמירה על קומפקטיות ויעילות אנרגטית. עבור קוראים המתעניינים בעתיד חומרת ה‑AI, הוא מראה כיצד החום עצמו ניתן להפוך לאות שימושי ללמידה בתוך כלי זיכרון קטנטנים.

מדוע מוחים ניורומורפיים צריכים סינפסות טובות יותר

חישוב ניורומורפי שואף לחקות את אופן עיבוד המידע במוח: באמצעות רשתות עצביות מתפרצות, שבהן קוצצי זרם חשמלי קצרים עוברים דרך רשת רחבה של סינפסות. החומרה של היום כבר מסוגלת לממש סינפסות באמצעות רכיבים ממיריסטיביים כמו ReRAM, שניתן לכוונן את ההולכה החשמלית שלהם כדי לאחסן משקל. עם זאת, כללי למידה "הבביאניים" פשוטים—שבהם סינפסות מתחזקות או נחלשות רק על בסיס תזמון מקומי של קוצים—מצטברות לקשיים במשימות מציאותיות שמצריכות לקשר בין אירועים המופרדים בזמן, כגון הבנת דיבור או פתרון בעיות ניווט. טכניקות למידה עמוקה סטנדרטיות מתמודדות עם זה באמצעות חישוב לאחור דרך הזמן, אך שיטה זו דורשת זיכרון רב וצורך אנרגיה גבוהה מדי לחומרה הדומה למוח. לכן הקהילה פנתה לכללי למידה "תלת‑גורמיים" ולאלגוריתמים כמו eligibility propagation (e‑prop), שמוסיפים טביעת זיכרון מקומית בכל סינפסה כך שאות תגמול גלובלי מאוחר עדיין יוכל לכוונן את הקשרים הנכונים.

לאחסן זיכרון מתעמעם באמצעות חום

הרעיון המרכזי בעבודה זו הוא סינפסה "ניאוהבביאנית" שיש לה שני משתני מצב פנימיים: משקלcoupling לטווח ארוך וטביעת זכאות לטווח קצר שמזכירה פעילות אחרונה. המשקל מקודד, כרגיל, בהולכה של מכשיר ReRAM. לעומת זאת, טביעת הזכאות מאוחסנת בטמפרטורה המקומית של אותו מכשיר, הנשלטת על ידי גוף חימום התנגדותי בקנה מידה ננומטרי המובנה ישירות מעליו או לצדיו. במהלך עיבוד הקוצים הרגיל, ה‑ReRAM פשוט מכפיל קוצים נכנסים על ידי המשקל המאוחסן. במהלך למידה, אותות שמיוצרים על ידי הנוירון המתארים "מה התפשט קודם" ו"כמה רגיש הנוירון הפוסט‑סינפטי ברגע זה" מניעים זרם דרך החימום הזעיר. מאחר שהחימום וה‑ReRAM מקושרים תרמיתית, הכוח הזה מעלה את טמפרטורת המכשיר בפרופורציה למכפלת שני האותות—הטביעת הזכאות המתמטית הנדרשת על ידי אלגוריתם e‑prop.

כיצד החום משנה זיכרון

לאחר שעיבדו רצף קלט קצר—"מערכת מסדי נתונים" קצרה—עליית הטמפרטורה המצטברת מקודדת עד כמה הסינפסה "זכאית" להשתנות. לאחר מכן מוחל פולס תכנות קבוע על פני ה‑ReRAM. קריטי כאן הוא שמגוון ניסויים מראים ששינוי ההולכה שנוצר תלוי בעוצמה בטמפרטורה: מכשירים חמים משתנים יותר, וכיוון ועוצמת השינוי תלויים במצב ההולכה ההתחלתי ובאם המכשיר מונע לכיוון הולכה גבוה יותר או נמוך יותר. על‑ידי בחירה מדוקדקת של משרעת הפולסים וניצול רגישות זו לטמפרטורה, המחברים מסדירים את שינוי המשקל כך שיהיה בקירוב פרופורציונלי לטביעת הזכאות המאוחסנת. מודלים מספריים של זרימת חום בערימת חימום‑ועם‑ReRAM המשולבת בתלת‑ממד מאשרים שניתן להעלות את הטמפרטורה ולאפשר לה לדעוך בזמני דִעָכָּה מתכווננים, וכן שניתן לתכנן את המבנה כדי להגביר חימום עצמי רצוי תוך הגבלת "התקהלות" תרמית לשכנים.

מבחן הסינפסות התרמיות

כדי להעריך האם סינפסה אקזוטית זו שימושית בפועל, המחברים מדמים מערכות ניורומורפיות מלאות שכוללות התנהגויות מכשיר ריאליסטיות כגון דעיכת טמפרטורה, שונות בין מכשירים ודיוק לא מלא. בהדגמה אחת, רשת מתפצת שולטת בעכבר וירטואלי שלומד לנווט במבוך רשתי כדי למצוא גבינה ולהמנע מלכודות. כאן הקירור התרמי הטבעי—המאבד לאט את טביעת הזכאות המאוחסנת—משמש כמו "פקטור הניכוי" שהכרחי בלמידת חיזוק: זוגות מצב‑פעולה אחרונים חשובים יותר מאשר ישנים מאוד. הסימולציות מראות שהלמידה מהירה ביותר כאשר הדעיכה אינה מהירה מדי ולא איטית מדי, ושהשונות בהתנהגות ה‑ReRAM מפחיתה ביצועים רק בהדרגה. במבחן שני, תובעני יותר, רשת מתפצת חוזרת עם סינפסות ניאוהבביאניות תרמיות מאומנת מקוון על תקן TIMIT לסיווג פונמות, משימה סטנדרטית לזיהוי דיבור. ברזולוציית הולכה מספקת (כ‑8 ביט שקול), המודל המודע‑לחומרה משיג דיוק הנמצא במרחק של כמה אחוזים מביצוע אידיאלי בפלוט‑פוינט.

מה משמעות הדבר עבור חומרת AI עתידית

בסך הכל המחקר מראה שטמפרטורה מקומית יכולה לשמש כזיכרון פנימי מעשי ונשלט לכללי למידה מתקדמים, ולאפשר אימון מהיר על השבב בלי הוצאות דיגיטליות עצומות. הסינפסה המוצעת תופסת בקירוב את אותו שטח כמו תא ReRAM קונבנציונלי, אך מממשת גם משקל יציב וגם טביעת דעיכה, ועלות האנרגיה שלה לכל צעד למידה נמצאת בטווח הפיקוג'אול. אמנם ההסתמכות על חום מעלה אתגרים ממשיים—טמפרטורה קשה למדידה ישירה ועלולה להאיץ בלאי של המכשיר—העבודה מרמזת כי להירתם להשפעות אלקטרו‑תרמיות, במקום להלחם בהן, עשויה לשחרר מעמדות חדשות של חומרת למידה קומפקטית. עבור לא מומחים, המסקנה היא ששבבי AI עתידיים לא יסתכמו רק בהובלת אלקטרונים: הם עשויים גם "לחשב" באמצעות דפוסי חום מהונדסים בקפידה, ובכך לקרב את הלמידה המכונתית ליעילותו ולהסתגלנותו של המוח האנושי.

ציטוט: Pande, S., Bezugam, S.S., Bhattacharya, T. et al. NeoHebbian synapses to accelerate online training of neuromorphic hardware. Sci Rep 16, 6836 (2026). https://doi.org/10.1038/s41598-026-35641-z

מילות מפתח: חישוב ניורומורפי, רשתות עצביות מתפרצות, סינפסה ReRAM, למידה מקוונת, בינה מלאכותית חסכונית בחומרה