ארכיטקטורת חישוב-בזיכרון עבור רשתות קולמוגורוב–ארנולד המבוססת על תאי זיכרון דמויי-גאוס עם כיוונון

מדוע רעיון השבב החדש הזה חשוב

מערכות הבינה המלאכותית של היום, מתוכניות משחק ועד צ׳אטבוטים, נשענות על רשתות ענק של יחידות חישוב פשוטות שצורכות הרבה אנרגיה ודורשות שבבי גרפיקה חזקים. המאמר הזה מציג סוג שונה של חומרת AI שממזג זיכרון וחישוב באותם רכיבים זעירים ומתואם לשכבת רשת חדשה הנקראת רשתות קולמוגורוב–ארנולד. התוצאה היא קונספט לשבב שמטרתו ללמוד באופן גמיש ויעיל יותר—בדומה למוח—בעודו צורך הרבה פחות חשמל מהחומרה השלטת כיום.

גישה חדשה ללמידת רשתות נוירונים

מרבית רשתות הנוירונים בשימוש היום, כגון פרספטרונים רב-שכבתיים, מסתמכות על נוסחאות קבועות שבהן הלמידה מתרחשת בעיקר על ידי כוונון חוזק החיבורים בין הנוירונים המלאכותיים. רשתות קולמוגורוב–ארנולד נוקטות בגישה שונה: במקום רק לכוונן משקלי חיבור, הן לומדות את הצורה המפורטת של הפונקציות הממירות קלט לפלט. העקומות הנלמדות האלה פועלות כחסמים בנייה בהתאמה אישית, ומאפשרות לרשת להסתגל לדפוסי נתונים מורכבים ו,חשוב מכך, לזכור משימות ישנות בעת למידה של חדשות. עם זאת, יישום הפונקציות העשירות האלה על שבבים רגילים יקר מבחינת מעגלים וצריכת אנרגיה, כיוון שהוא דורש חישובים חוזרים ולא סדירים שרוב המעבדים ושבבי הגרפיקה לא מטפלים בהם ביעילות.

סוג חדש של תא זיכרון

כדי לגשר על הפער בין האלגוריתם לחומרה, החוקרים תכננו אבני בניין אלקטרוניות בסיסיות שהם קוראים להן תא זיכרון דמוי-גאוס. כל תא משלב שני רכיבים בקנה מידה ננו בסדרה: טרנזיסטור מיוחד שהתשובה החשמלית שלו עולה ויורדת בעקומת פעמון חלקה, ומממריסטור—מכשיר שהתנגדותו ניתנת לכיול קבוע באמצעות פולסים חשמליים. על ידי כיוונון הממריסטור, הצוות יכול להזיז ולמדלל את תגובת הטרנזיסטור בצורת פעמון, ובכך לתכנת בפועל את הגובה והרוחב של עקומת דמוי-גאוס ישירות בחומרה. מדידות מראות שתאים אלו ניתנים לתכנות חוזר באופן חוזר, שומרים על מצבם לזמנים ארוכים ומתנהגים באופן אחיד במהלך מחזורים ומכשירים רבים—תכונות חיוניות לבניית מטריצות גדולות ואמינות.

הפיכת תאים למוח חישובי-בזיכרון

השלב הבא הוא לסדר אלפי תאי זיכרון אלה במעגלי קרוס-ברד ברשת. במבנה זה, שורות ועמודות של חוטים חוצים כל תא, ואותות המיושמים לאורך העמודות מבקרים את התנהגות התאים בעוד שזרמים שנאספים לאורך השורות מצטברים באופן טבעי לפי חוקי החשמל הבסיסיים. משמעות הדבר היא שהשבב יכול לבצע ישירות איפיוני הליבה של רשת קולמוגורוב–ארנולד—חיבור של פונקציות רבות דמוי-גאוס ליצירת עקומת הפעלה גמישה—במקום שבו המידע מאוחסן, בלי לשנע נתונים הלוך ושוב בין מעבדים נפרדים וזיכרון. מעגלים נוספים מאפשרים לייצג ולסכם תרומות חיוביות ושליליות, ודרכי-שארית אופציונליות משפרות את היציבות של רשתות עמוקות מבלי להחליף את חישוב היסוד שבזיכרון.

מבחן הארכיטקטורה

באמצעות סימולציות מפורטות המקושרות להתנהגות המכשירים שנמדדה, המחברים מראים שרשתות הבנויות ממערכי תאי הזיכרון הללו יכולות להתמודד עם מגוון רחב של משימות. הם הצליחו להתאים פונקציות חד-ממדיות מורכבות בלי לשכוח פונקציות קודמות, לזהות ספרות ומוצרי לבוש בכתב יד, לפתור משוואות דיפרנציאליות חלקיות ולחזות סדרות זמן כאוטיות. בכל ההקשרים הללו, רשתות התאים הגאוסיות שומרות על החוזקות המרכזיות של רשתות קולמוגורוב–ארנולד: ביצועים חזקים עם יחסית מעט פרמטרים ויכולת מובהקת להימנע משכחה קטסטרופלית בעת אימון על משימות חדשות. בהשוואה לרשתות נוירונים מסורתיות שממומשות בחומרה ממריסטיבית דומה, הארכיטקטורה החדשה לעתים קרובות משיגה דיוק והכללה טובים יותר תוך שימוש בשכבות ביניים קטנות יותר.

חיסכון באנרגיה והבטחה מעשית

מכיוון שהחישוב מתבצע בתוך אותם רכיבים שאוחזים בפרמטרים שנלמדו, הארכיטקטורה המוצעת עוקפת במידה ניכרת את תנועת הנתונים היקרה בין זיכרון למעבד שמטרידה את חומרת ה-AI של היום. המחברים מעריכים שמערכת תאי הזיכרון הדמויי-גאוס שלהם יכולה לבצע את פעולות הליבה של רשתות קולמוגורוב–ארנולד ביעילות אנרגטית הטובה בערך בסדרי גודל לעומת שבבי גרפיקה מודרניים המריצים אלגוריתמים שקולים. בפשטות, העבודה מתארת כיצד לבנות שבבים שבהם כל מכשיר זעיר יכול גם לזכור וגם לחשב תגובות גמישות בצורת פעמון, וכיצד רבים ממכשירים כאלה משתפים פעולה במקביל. זה מצביע על חומרה נאורומורפית עתידית שלומדת ברציפות, מתנגדת לשכחה ופועלת על דגמי AI חזקים בצריכת אנרגיה נמוכה בהרבה מפלטפורמות קיימות.

ציטוט: Wen, Z., Zhang, Q., Chen, J. et al. Computing-in-memory architecture for Kolmogorov-Arnold networks based on tunable Gaussian-like memory cells. Nat Commun 17, 3496 (2026). https://doi.org/10.1038/s41467-026-69592-w

מילות מפתח: מחשוב נאורומורפי, חישוב-בזיכרון, רשתות קולמוגורוב–ארנולד, מכשירי ממריסטור, חומרה ל-AI חסכונית באנרגיה