הערכת פגיעויות במערכות זיהוי צעד באמצעות PPO והתקפות עוינות שנוצרו ב-GAN

מדוע הטעיית דפוס הליכה חשובה

רובנו מזהים חברים ובני משפחה לפי אופן ההליכה שלהם, אפילו מרחוק. מחשבים יכולים כיום לעשות משהו דומה: מערכות "זיהוי צעד" מנתחות את סגנון ההליכה של אדם כדי לזהותו ללא טביעות אצבע או סריקות פנים. כלים אלה נמצאים בשימוש גובר בביטחון ובמערכות מעקב. המחקר הזה שואל שאלה מטרידה: עד כמה קל להטעות מערכות כאלה בעזרת שינויים זעירים ומעודנים שאינם נראים לעין האדם — אך משפיעים על המחשב? לתשובה יש השלכות חשובות על פרטיות, אבטחה ואמון בבינה מלאכותית בסביבות רגישות.

איך מחשבים קוראים את הדרך שבה אנחנו הולכים

זיהוי צעד מודרני מסתמך על למידת עומק, אותה משפחה של טכניקות מאחורי זיהוי פנים ורכבים אוטונומיים. במקום מבט אחד בודד, מערכות אלה משלבות מספר פריימים של אדם הולך לתמונה אחת שנקראת "תמונת אנרגיית צעד" — מעין סילואטה מטושטשת שמקבלת את תנועת חלקי הגוף לאורך מחזור צעד מלא. רשת נוירונים מותאמת לאחר מכן כדי להבחין בין הדפוסים של אנשים שונים, גם כאשר חליפותיהם או החפצים שהם נושאים משתנים. במבחנים על שתי אוספי מחקר מרכזיים של סרטוני הליכה (מערכי הנתונים CASIA-B ו-OU-ISIR), דגם הבסיס של המחברים זיהה נכון אנשים ביותר מ-97% מהמקרים — ביצועים מרשימים שעשויים לרמז שהטכנולוגיה מוכנה לפריסה ממשית.

המדבקות הבלתי־נראות שמטעות מצלמות חכמות

הלב של המאמר אינו שדרוג שיטת זיהוי, אלא שברורה בכוונה כדי לחשוף חולשות. החוקרים יוצרים "מדבקות עוינות" קטנות — אזורי ריבוע של פיקסלים משונים שנראים תמימים, אך מכוונים מתמטית לבלבל את רשת הנוירונים. ליצירת מדבקות אלה הם משתמשים ברשת יריבתית מחוללת (GAN), סוג של בינה מלאכותית שלומד להפיק תמונות שנראות מציאותיות באמצעות תחרות מול מבקר פנימי. ה-GAN מאומן ישירות על תמונות אנרגיית הצעד כך שהתוצרים שלו ישתלבו באופן טבעי בסילואטות הרפאים. המדבקות מתוכננות להיות צפוניות עד כדי כך שמבט מהיר של אדם על דפוס ההליכה עשוי שלא לשים לב לשום חריגה.

להשאיר לסוכן לומד לאתר את הנקודות החלשות

מיקום המדבקה יכול להיות חשוב באותה מידה כמו מראהה. כדי לגלות את המיקומים ההרסניים ביותר, המחברים פונים לשיטת למידת חיזוק הנקראת Proximal Policy Optimization (PPO). הם מתייחסים לכל תמונת צעד כסביבה בצורת רשת ומאפשרים ל"סוכן" תוכנה להזיז את המדבקה — למעלה, למטה, שמאלה או ימינה — תוך כדי מעקב אחר ירידת הביטחון של מערכת הזיהוי. כאשר מיקום גורם לדגם לזהות את האדם באופן שגוי, הסוכן מתוגמל; כשזה נכשל — הוא מושפע בעונש. במשך פרקים רבים של ניסיון וטעייה לומד הסוכן מדיניות למיקום המדבקות באזורי חולשה מיוחדים של תמונת הצעד, לעתים קרובות בסמוך לחלקי גוף נעים שהדגם נשען עליהם ביותר.

מה קורה כשמשחררים את ההתקפה

לאחר שאימנו הן את יוצר המדבקות והן את אסטרטגיית המיקום, הצוות תוקף את מערכת הזיהוי הביצועית שלהם. בתנאים רגילים המערכת מציגה דיוק מצוין, שיעור אזעקות שגוי נמוך והפרדה חזקה בין התאמות נכונות לשגויות. עם הוספת המדבקות העוינות, הביצועים יורדים בחדות. בהתאם לרמת החופש שניתן למדבקה לנוע על התמונה, שיעורי הצלחת ההתקפה עולים מעל 60%, ושיעור האנשים המזוהים נכון יכול לרדת לכמעט שליש מהרמה המקורית. עקומות שהציגו פעם הפרדה כמעט מושלמת בין משתמשים אמיתיים למתחזים נוטות כעת לקו של ניחוש אקראי, וחושפות עד כמה קל להטות את הדגם ללא עיוותים נראים לעין.

מה המשמעות של זה לאבטחה היומיומית

לקהל הרחב, המסקנה ברורה: מערכת זיהוי צעד שנראית מדויקת במעבדה עלולה להיות שבירה להפתעה מול מניפולציות חכמות שנוצרות על ידי מכונות. המחקר מדגים ששילוב של כלים גנרטיביים ללימוד תמונה עם למידת חיזוק ניסויית יכול להפיק שינויים זעירים וכמעט בלתי נראים שגורמים לשגיאות זיהוי חמורות. העבודה אינה מתווה לשימוש זדוני במציאות, אלא אזהרה ומסגרת בדיקה. היא מספקת למעצבי מערכות דרך לבדוק ולמדוד עד כמה הדגמים שלהם פגיעים, ומדגישה את הצורך לפתח הגנות נגד התקפות אלה לפני שזיהוי צעד יהפוך לכלי מהימן לצורכי מעקב, בקרת גישה או יישומים קריטיים אחרים.

ציטוט: Saoudi, E.M., Jaafari, J. & Jai Andaloussi, S. Evaluating gait system vulnerabilities through PPO and GAN-generated adversarial attacks. Sci Rep 16, 6039 (2026). https://doi.org/10.1038/s41598-026-37011-1

מילות מפתח: זיהוי צעד, אבטחת ביומטריה, התקפות עוינות, למידת עומק, למידת חיזוק