تدفئة مستوحاة من المخ مع ضوضاء عشوائية لمعايرة عدم اليقين

لماذا يحتاج الذكاء الاصطناعي الأذكى إلى معرفة متى قد يكون مخطئًا

يمكن للأنظمة الحديثة للذكاء الاصطناعي التعرف على الصور وقيادة السيارات والتحدث باللغة الطبيعية بمهارة مبهرة. ومع ذلك، فإن لديها غالبًا ثغرة خطيرة: قد تكون خاطئة تمامًا بينما تكون واثقة للغاية من نفسها. هذا التباين بين الثقة والصحّة يمكن أن يؤدي إلى قرارات طبية سيئة، أو سلوكيات غير آمنة في السيارات ذاتية القيادة، أو روبوتات محادثة تخترع الحقائق بشكل مقنع. يستكشف البحث "تدفئة مستوحاة من المخ مع ضوضاء عشوائية لمعايرة عدم اليقين" طريقة بسيطة بشكل مدهش ومستوحاة من الأحياء لتعليم نماذج الذكاء الاصطناعي عادة بشرية مهمة: التعبير عن عدم اليقين عندما لا تعرف فعلاً.

عندما تنحرف الثقة عن الواقع

يبدأ المؤلفون بفحص كيفية إبلاغ الشبكات العصبية اليوم عن مدى ثقتها. فالمصنّف المدرب على صور طبيعية لا يتنبأ بما يراه فحسب، بل يقدّر أيضًا احتمال أن يكون جوابه صحيحًا. بالمثالية، إذا قال النموذج إنه واثق بنسبة 80% فيجب أن يكون على حق حوالي 80% من الوقت. في الواقع، يبيّن الباحثون أنه كلما ازدادت عمق الشبكات وتدربت على بيانات محدودة، أصبحت ثقتها متضخمة: فهي كثيرًا ما تمنح يقينًا شديدًا لأجوبة خاطئة. وتزداد هذه المشكلة سوءًا عندما يواجه النموذج صورًا لم يرها أثناء التدريب — وهو موقف يُعرف بالبيانات خارج التوزيع — حيث يستمر في التصرف بثقة مفرطة بدلًا من الاعترف بعدم اليقين.

تدفئة مستعارة من المخ النامي

لمعالجة ذلك، يستلهم البحث من الأحياء. قبل الولادة، تكون أدمغة الحيوانات نشطة بالفعل، مطلقة أنماطًا عفوية من النشاط الكهربائي قبل ظهور المناظر والأصوات المعنوية بفترة طويلة. يعتقد علماء الأعصاب أن هذه "الضوضاء" المبكرة تساعد على توصيل الدوائر بحيث تكون جاهزة للتجربة الحسية الحقيقية. مستلهمين من هذا، يقترح المؤلفون مرحلة تدفئة للشبكات الاصطناعية: قبل رؤية أي صور أو تسميات حقيقية، يتم تدريب النموذج لفترة وجيزة على أنماط إدخال عشوائية تمامًا مقترنة بتسميات عشوائية وعديمة المعنى. للوهلة الأولى يبدو هذا بلا جدوى — لا يمكن للشبكة أن تتعلم شيئًا مفيدًا من الضوضاء الخالصة. ومع ذلك خلال هذه المرحلة القصيرة تستقر استجاباته الداخلية إلى حالة تصبح فيها احتمالات الإخراج موزعة بالتساوي، ما يعادل الاحتمال العشوائي بدلًا من الثقة المفرطة.

كيف تجعل الضوضاء العشوائية الثقة صادقة

باستخدام نماذج مبسطة ونماذج كاملة للمصنّفات الصورية، يظهر الباحثون ما تفعله هذه التدفئة تحت الغطاء. في شبكة مُهيَّأة عشوائيًا بشكل قياسي، غالبًا ما تكون الإشارات الرياضية قبل طبقة القرار النهائية ذات تذبذبات كبيرة، والتي يحولها دالة السوفتمكس إلى احتمالات متطرفة قريبة من الصفر أو الواحد. وهذا يعني أن النموذج غير المدرب يتصرف بالفعل كما لو أنه واثق جدًا، رغم أنه لا يعرف شيئًا. يعيد التدريب على الضوضاء العشوائية قياس تلك الإشارات الداخلية بلطف، ويجذبها إلى نطاق تتجمع فيه احتمالات الإخراج قرب مستوى الاحتمال العشوائي. لا تتغير الأوزان ذاتها كثيرًا؛ بل يتم "ما قبل معايرة" نمط النشاط العام بحيث يعبر النموذج بطبيعته عن أقصى درجات عدم اليقين تجاه مدخلات غير مألوفة قبل أن يبدأ التعلم الحقيقي.

سلوك أفضل على البيانات الحقيقية والمجهولة

بعد اكتمال هذه التدفئة المستوحاة من الدماغ، تُدرَّب نفس الشبكات على مجموعات بيانات صور حقيقية باستخدام طرق قياسية. عبر العديد من البُنى — من الشبكات الأحادية التمرير البسيطة إلى نماذج ResNet وDenseNet والمحوّلات البصرية الشائعة — تحافظ الشبكات المدربة على الضوضاء على تطابق أقرب بين الثقة والدقة الفعلية طوال عملية التعلم. تعمل بمستوى أداء مساوٍ أو أفضل قليلًا من الشبكات ذات التهيئة التقليدية على مجموعات الاختبار القياسية، لكن درجات ثقتها تصبح أكثر موثوقية بكثير. والأهم من ذلك، عندما تُعرض صور غير مألوفة فعليًا، تمنح هذه النماذج ما قبل المعايرة ثقة منخفضة تحوم قرب الاحتمال العشوائي، بدلًا من وسمها بشكل خاطئ بثقة. تحسّن هذه السمة البسيطة بشكل كبير قدرتها على اكتشاف متى يكون المدخل "مجهولًا" — وهو مطلب أساسي للنشر الآمن في العالم الحقيقي.

أسس لذكاء اصطناعي أكثر موثوقية

بعبارات بسيطة، يُظهر البحث أن تدفئة قصيرة وغير مكلفة على الضوضاء العشوائية يمكن أن تعلّم الشبكات العصبية نوعًا من التواضع من البداية. بدلًا من أن تبدأ كخمنات واثقة مفرطة، يبدأ النموذج في حالة حذرة يعترف فيها بأنه لا يعرف، ثم يرفع ثقته تدريجيًا فقط مع تراكم الأدلة الحقيقية. يتجنب هذا النهج خطوات معالجة لاحقة إضافية، ويعمل عبر أنواع نماذج وأحجام بيانات عديدة، ويعكس كيف يبدو أن الأدمغة البيولوجية تجهز نفسها قبل الولادة. إذا ما تم تبنيه على نطاق واسع، فقد تساعد هذه التدفئة المستوحاة من المخ في جعل أنظمة الذكاء الاصطناعي ليست دقيقة فحسب، بل أيضًا واعية بشكل مناسب بحدودها — خطوة أساسية نحو جعلها شركاء أكثر أمانًا وموثوقية في اتخاذ القرارات اليومية.

الاستشهاد: Cheon, J., Paik, SB. Brain-inspired warm-up training with random noise for uncertainty calibration. Nat Mach Intell 8, 602–613 (2026). https://doi.org/10.1038/s42256-026-01215-x

الكلمات المفتاحية: معايرة عدم اليقين, الشبكات العصبية, تدفئة بضوضاء عشوائية, كشف البيانات خارج التوزيع, الذكاء الاصطناعي المستلهم من الدماغ