מסגרת הסברתית לריבוי גרנולריות בסיבתיות לזיהוי חדשות מזויפות

מדוע זיהוי חדשות מזויפות נעשה קשה יותר

כל יום, מיליוני פוסטים שמשלבים מילים ותמונות זורמים ברשתות החברתיות. חלקם תמימים, חלקם אמיתיים, וחלקם זיופים מתוחכמים שנועדו לתפוס תשומת לב, להצית רגשות או להשפיע על דעות. ככל שכלי עריכת תמונות וגנרטורים של בינה מלאכותית זולים ונוחים יותר לשימוש, החדשות המזויפות נעשות מחושבות ומסוכנות יותר. מאמר זה מציג שיטה חדשה להציץ פנימה למערכות זיהוי חדשות מזויפות, כך שנוכל להבין לא רק האם פוסט עשוי להיות שקרי, אלא גם מדוע.

كيف חדשות מזויפות מטעות את עינינו ומוחנו

יוצרי חדשות מזויפות מנצלים את הדרך שבה אנשים גולשים במהירות בכותרות ובתמונות. הם עלולים לזייף או לשנות תמונות, לשזור פרטים חלקית נכונים לתוך סיפור בלתי אפשרי, לחבר קטעים מאירועים שונים, או לערב מקומות ולוחות זמנים שלא שייכים זה לזה. פוסט בודד על אירוע מתגלגל עשוי להציג תמונה דרמטית מאירוע אחר מלפני שנים, או שתמונה משכנעת נוצרה כולה על ידי בינה מלאכותית. מערכות זיהוי מסורתיות מטפלות בדרך כלל בכל הפוסטים המזויפים באותו האופן וממזגות טקסט ותמונה ל"מרק תכונות" אחד. גישה זו יכולה לעבוד די טוב, אבל היא מתנהגת כמו קופסה שחורה: קשה לעיתונאים, לפלטפורמות או למשתמשים יום-יומיים להבין אילו רמזים ספציפיים עוררו את האזהרה.

דרך חדשה לשאול: "למה זה מזויף?"

המחברים מציעים מסגרת מתבהרת בשם EMAR‑FND הבוחנת פוסטים חדשותיים מארבע זוויות מובחנות, כל אחת קשורה לאופן נפוץ שבו נוצרים זיופים. ראשית, היא בוחנת האם התמונה עצמה מראה סימנים של טיפול או יצירה סינתטית, על ידי התמקדות בתבניות רעש עדינות ברמת המצלמה שמשתנות כאשר התמונה עוברת שינוי. שנית, היא בודקת האם עובדות הסיפור מסתדרות עם ידע חיצוני מהימן, כגון קשרים ידועים בין אנשים, מקומות ואירועים. שלישית, היא בוחנת האם הישויות המרכזיות המוזכרות בטקסט — כמו דמות ציבורית או עיר — תואמות למעשה למה שמופיע בתמונה המצורפת. רביעית, היא מעריכה האם האירוע המתואר משתלב בזמן ובמקום, למשל על ידי איתור חוסר התאמה בין מיקום מצויין לרמזים חזותיים בתמונה, או בין ציר זמן מדווח לבין ראיות אחרות.

הרכבת רמזים ממספר זוויות

כל אחד מארבעת הבדיקות הללו מטופל על ידי מודול סיבתי נפרד, שמספק שיפוט חלקי לגבי האם ההיבט הזה נראה אמין. מודול אחד מתמקד בזיוף חזותי; אחר טוען מסקנות על סמך גרפי ידע חיצוניים; שלישי בונה רשת עשירה שמקשרת מילים, עצמים בתמונה ואירועים שאותרו; ורביעי משווה את הפוסט לראיות קשורות על ציר זמן ומרחב. במקום להסתיר את האותות הללו בתוך ייצוג מאוחד אחד, EMAR‑FND שומרת על תרומותיהם נפרדות ואז משלבת אותן באמצעות שלב החלטה סופי שיכול לשקול עד כמה כל זווית חשובה במקרה מסוים. התוצאה אינה רק דירוג אמת-או-שקר סופי, אלא גם שיוך שמראה, למשל, שהפוסט מסומן בעיקר כי התמונה נראית מזויפת, או כי האירוע המתואר לא תואם עובדות ידועות.

בדיקת המערכת בשטח

כדי לבדוק עד כמה הגישה הזאת עובדת, החוקרים החילו את EMAR‑FND על שתי אוספיות ציבוריות של פוסטים אמיתיים ומזוייפים הכוללות גם טקסט וגם תמונות. לאורך מערכי הנתונים הללו, השיטה שלהם עלתה על כמה מערכות חזקות קיימות, והשיגה דיוק גבוה יותר ואיזון משופר בין תפיסת פוסטים מזויפים והימנעות מהתרעות שווא. כשבחנו כיצד הפוסטים מתקבצים בתוך המודל, חדשות אמיתיות נטו ליצור קבוצות צפופות ועקביות, בעוד חדשות מזויפות היו מפוזרות יותר — תוצאה של שיטות הזיוף המגוונות. פלטי השיוך היו גם שימושיים בדוגמאות מהעולם האמיתי וקשות: פוסטים שבהם הטקסט והתמונה נראו תואמים במבט ראשון נחשפו כמזויפים או כי התמונה הראתה סימני מניפולציה חבויים או כי ידע חיצוני סתר את העובדות המדווחות.

מה משמעות הדבר לקוראים יום-יומיים

בהגדרה פשוטה, המחקר מראה שאפשר לבנות גלאי חדשות מזויפות שמתנהגים פחות כמו אורקל ויותר כמו חוקרים זהירים. במקום לתת תשובה יבשה של כן-או-לא, EMAR‑FND מדגישה איזה חלק בפוסט חשוד: התמונה, העובדות, האנשים המוזכרים או האירוע עצמו. סוג ההסבר הזה יכול לסייע לבודקי עובדות, לפלטפורמות ולקוראים לבטוח בהחלטות המערכת וללמוד לזהות דפוסים שכיחים של הטעיה. ככל שחדשות מזויפות ממשיכות להתפתח, כלים שיכולים גם לזהות וגם להסביר מניפולציה יהיו חיוניים כדי להשאיר את מערכות המידע המקוונות בריאות ושקופות יותר.

ציטוט: Ji, W., Lv, H., Zhao, H. et al. Explainable multi-granularity attribution reasoning framework for fake news detection. npj Artif. Intell. 2, 38 (2026). https://doi.org/10.1038/s44387-026-00093-3

מילות מפתח: זיהוי חדשות מזויפות, מידע שגוי מולטימודלי, בינה מלאכותית תלויית-הסבר, יושרת רשתות חברתיות, ניתוח זיוף תמונה