מצבי שאלה כמתגים: אי-עקביות מונעת-פרומפט בתוצרים של ChatGPT לגבי שוויון מגדרי

למה זה חשוב לשיחות יומיומיות עם בינה מלאכותית

יותר ויותר אנשים פונים לצ׳אטבוטים כמו ChatGPT לא רק עבור עובדות מהירות, אלא גם לעצה על אהבה, משפחה, עבודה ושאלות על הוגנות בין נשים וגברים. המאמר שואל שאלה פשוטה אך חיונית: האם ChatGPT תמיד תומך בשוויון מגדרי, או שהעמדה שלו משתנה בהתאם לאופן שבו אנו מתייעצים איתו? המחברים מראים שדרך ניסוח השאלות שלנו יכולה בשקט להדליק מתגים נסתרים בתוך המערכת, ולהזיז את התגובות שלה בין טון שוויוני עכשווי לבין סטריאוטיפים מיושנים.

איך החוקרים "דיברו" עם הצ׳אטבוט

כדי לבדוק את עמדות ChatGPT לפי מגדר, החוקרים בנו מה שהם קוראים לו "מצפן שוויון המגדר" — אוסף שאלות המכסה כסף ועבודה, פוליטיקה, תרבות יומיומית, מין ורבייה, ויחסים קרובים. הם שאלו את ChatGPT על 13 נושאים בתחומים אלה בשלוש דרכים שונות. ראשית, השתמשו בפרומפטים ספציפיים שנראו כפריטי סקר ("האם זה בסדר שאישה תהיה נשיאה אם היא מוסמכת?"). שנית, השתמשו בפרומפטים פתוחים ("מה על אימהות ואבות לעשות במשפחה?"). שלישית, השתמשו בפרומפטים מעמיקים וקונטקסטואליים שהזמינו משחק תפקידים או סיפורים, למשל לבקש מ‑ChatGPT לשחק אם דואגת או לדמיין סצנה משפחתית. כל התשובות נאספו בשיחות נפרדות ונותחו בעזרת תיאוריה מבוססת (grounded theory), שיטה איכותנית שבונה מושגים מתוך דפוסים בטקסטים מן המציאות.

מה ש‑ChatGPT אומר על פני השטח

כאשר השאלות היו ברורות ופשוטות ובאמת נגעו למגדר, ChatGPT התנהג כתומך חזק של שוויון. הוא זיהה במהירות ניסוח מוטה, דחה אמירות שנאה או סקסיסטיות ולעיתים הזהיר שמילות ניסוח מסוימות עלולות להפר את כללי השימוש. בשאלות על הפלה, אלימות בין בני זוג או אנשים מהקהילה הלהט"ב, הוא הדגיש את האוטונומיה הגופנית של נשים, דחה האשמות קורבן והציג את ההפלה כזכות אישית בסיסית. הוא שבח אימהות חד־הוריות ומיעוטים מיניים, נמנע מתנאי סקסיסטיים ודיבר בעקביות על חלוקת מטלות, הכנסה וקבלת החלטות בין בני זוג. בגרסאות חדשות המבוססות על GPT‑4, תשובות אלה הפכו אף לעדינות ו"אנושיות" יותר, נשענות על רעיונות פמיניסטיים ומציעות הצעות קונקרטיות, כמו חינוך להסכמה ותפקידים מגדריים.

מה קורה בשיחות עמוקות ודמויות‑סיפור

התמונה השתנתה ברגע שהשיחות נעשו אינטימיות ודמיוניות יותר. במשחק תפקידים ובסצנות בדיוניות שבהן התבקש ChatGPT לשחק אם, חבר/ת זוג או לתאר סיפור משפחתי, מסנני ההטיה המובנים שלו לעתים נחלשו. במקום זאת, המערכת חזרה לתבניות תרבותיות מוכרות מן נתוני האימון. בנות זוג תוארו כנעימות ועדינות, חברים ובעלים כאחראים ואמיצים; אבות הפכו לעמודים ומקבלי החלטות, בעוד שאמהות תוארו כטבחים, מטפלות ותמיכה רגשית. עלילות רומנטיות נטו להתנהל סביב גברים הרודפים נשים, ועצות הניחו בעד שקט יחסים הטרוסקסואליים אלא אם המשתמש תיקן זאת במפורש. החוקרים מראים ש"ההגדרות המחדל" הללו מתאימות למה שהתיאורטיקנית הפמיניסטית ג'ודית באטלר קוראת לו "המטריצה ההטרוסקסואלית": עולם שבו מין, מגדר ותשוקה מסתדרים בצורה צרה ומסורתית אחת.

למה סיפורים קשים במיוחד עבור בינה מלאכותית

המחברים טוענים שהשגיאות האלה אינן רק תקלות טכניות; הן נובעות מאופיו של בניית המודלים הלשוניים הגדולים. ל‑ChatGPT אין גוף, אין חוויות מציאותיות ואין תחושת התנסות ישירה לגבי אפליה. הוא לומד דפוסים ממיליארדי מילים באינטרנט, שם סטריאוטיפים ותפקידים בלתי שווים נפוצים, במיוחד בבדיון. בשאלות פשוטות ועובדתיות, מאמני האדם וכללי הבטיחות יכולים להטות אותו לתשובות הוגנות יותר. אבל כאשר מבקשים ממנו להמציא סצנות או לשחק תפקידים, המודל נשען יותר על אותן תבניות ישנות. בלי עיגון בחוויה אמיתית, הוא מתקשה "להרגיש" מתי סיפור מחלחל ונורמטיביזציה של חוסר שוויון, גם אם המילים עצמן אינן מזכרות את המגדר במפורש.

מה המשמעות לזה עבור אנשים ומדיניות

עבור הקורא הרגיל, המסר המרכזי ברור: ChatGPT יכול להגן בנחישות על שוויון מגדרי כששואלים אותו בצורה ישירה וברורה, ובכל זאת עדיין לשחזר סקסיזם עדין באותה סוג של שיחות רגשיות־אישיות שבהן משתמשים עלולים להיות הפגיעים ביותר. מאחר שאנשים לעתים מתייחסים לצ'אטבוט כאל חבר מהימן, חוסר העקביות הנסתר הזה מציב סיכון להפצת הטיות ישנות תחת פנים מודרניות וידידותיות. המחברים קוראים לשיטות בדיקה חזקות יותר, לנתוני אימון מגוונים ומודעים לפמיניזם, ולתשומת לב קפדנית יותר לאופן שבו פרומפטים עמוקים וסוג־סיפורי מעצבים את התנהגות ה‑AI. בקצרה, המחקר מראה שדרך השאלה חשובה: מצב השאלה יכול להחליף את ChatGPT בין היותו תומך שוויון לבין היותו מראה לא־מחשבתית של נורמות מסורתיות.

ציטוט: Song, S., Liang, Z. & Zhao, W. Modes of asking as switches: prompt-driven inconsistency in ChatGPT’s gender equality perspective outputs. Humanit Soc Sci Commun 13, 478 (2026). https://doi.org/10.1057/s41599-025-05577-2

מילות מפתח: הטיה מגדרית, ChatGPT, אתיקה של בינה מלאכותית, עיצוב פרומפטים, סטריאוטיפים