تفسير جديد لاختلاف نتائج نماذج الذكاء الاصطناعي رغم تطابق تدريبها

توصل باحثون أستراليون إلى تفسير رياضي يوضح سبب اختلاف نتائج أنظمة الذكاء الاصطناعي، رغم خضوعها لعمليات تدريب متطابقة تقريباً.

أوضح الباحثون أن بعض مظاهر عدم القدرة على التنبؤ بسلوك هذه الأنظمة، قد تكون مرتبطة بطبيعة التعلم الآلي نفسه، وليس بأخطاء البرمجة، أو العيوب التقنية، ما يفتح آفاقاً جديدة لتطوير أنظمة أكثر موثوقية واستقراراً.

وأظهرت النتائج، التي توصل إليها باحثون بجامعة سيدني في أستراليا، ونُشرت في دورية Nature Machine Intelligence، أن اختلافات متناهية الصغر في الظروف الأولية لتدريب الشبكات العصبية، يمكن أن تقود إلى نتائج مختلفة، بصورة كبيرة، حتى عند استخدام البيانات والخوارزميات نفسها، وفي بيئات حوسبة تخضع لقواعد محددة لا تتضمن عناصر عشوائية.

وأوضح الباحثون أن التفسيرات التقليدية لهذه الظاهرة ركزت على مصادر العشوائية الخارجية، مثل ترتيب تقديم البيانات أثناء التدريب، أو الاختلافات الحسابية الدقيقة الناتجة عن مكونات الحاسوب.

لكن النتائج الجديدة تشير إلى وجود آلية رياضية أعمق، تجعل بعض الشبكات العصبية شديدة الحساسية للتغيرات الأولية، بما يضع حدوداً لإمكانية التنبؤ بالنتائج النهائية لعمليات التدريب.

ودرس الباحثون كيفية تطور الشبكات العصبية خلال التدريب، عندما تعدل الأنظمة ملايين أو مليارات المعاملات الداخلية لتحسين أدائها، واستخدموا نموذجاً رياضياً يشبه خريطة تتوزع عليها نقاط البداية المحتملة، بحيث تقود كل مجموعة من النقاط إلى نتيجة معينة، وتُعرف المناطق التي تنتهي إلى النتيجة نفسها باسم "أحواض الجذب".

ووجد الباحثون أدلة على أن هذه المناطق تتخذ بنية هندسية شديدة التعقيد، تعرف باسم "أحواض الجذب المتداخلة"، ترتبط بـ"الأشكال الكسيرية"، وهي أشكال هندسية معقَّدة تتكرر فيها الأنماط والتفاصيل عند مستويات مختلفة من التكبير، بمعنى أنك إذا نظرت إلى جزء صغير منها وكبَّرته، فقد تجد أنه يشبه الشكل الأكبر، أو يحتوي على أنماط مشابهة له.

ويمكن رؤية أمثلة قريبة من هذه الظاهرة في الطبيعة، مثل تفرعات الأشجار وأوراق السرخس وشكل السواحل، إذ تتميز هذه الأشكال بأن حدودها قد تكون شديدة التعقيد، بحيث تظهر تفاصيل جديدة كلما زاد التكبير، وفي أبحاث الذكاء الاصطناعي، تساعد هذه الفكرة على تفسير كيف يمكن لاختلافات متناهية الصغر في نقطة بداية التدريب أن تؤدي إلى نتائج مختلفة تماماً.

وفي مثل هذه البنية، يمكن العثور على نقاط تقود إلى نتائج مختلفة مهما اقتربت من بعضها، وهو ما يعني أن زيادة دقة تحديد نقطة البداية لا تضمن بالضرورة إمكانية التنبؤ بالنتيجة النهائية.

وللتحقق من هذه الفرضية، درَّب الباحثون نحو 500 ألف شبكة عصبية، شملت أنظمة لمعالجة الصور والنصوص، واختبروا تأثير التغيرات الدقيقة في إعدادات التدريب.

وأظهرت التجارب أدلة متسقة مع وجود هذه البنية الرياضية عبر معماريات مختلفة للشبكات العصبية، ومجموعات متنوعة من البيانات وطرق التدريب، بما يشير إلى أن الظاهرة لا تقتصر على نموذج واحد.

وفي إحدى الشبكات الأكبر المستخدمة للتعرف على الصور، لم تؤد زيادة دقة الإعدادات الأولية بمقدار 10 مليارات مرة إلى تحسن قابل للقياس في إمكانية إعادة إنتاج النتائج، كما أدى تغيير الإعدادات بمقدار أصغر اختلاف رقمي يمكن للحاسوب تسجيله، وهو "بت" واحد، إلى وصول التدريب إلى تكوين داخلي مختلف في نحو 48% من الحالات.

وكشفت النتائج أيضاً عن مفاضلة بين كفاءة التعلم واستقرار مخرجاته؛ إذ أفضت الإعدادات التي تعزز قدرة الشبكات على التعلم إلى زيادة صعوبة التنبؤ بالنتائج النهائية للتدريب وإعادة إنتاجها.

وفي المقابل، ساعد خفض معدل التعلم، الذي يحدد حجم التعديلات المتتابعة للمعاملات الداخلية، على تحسين قابلية إعادة إنتاج النتائج، لكنه قلل من فاعلية التعلم.

وتوقع الباحثون أن تساعد النتائج في تطوير أدوات جديدة لقياس حساسية أنظمة الذكاء الاصطناعي، وتصميم شبكات عصبية أقل عرضة للاختلافات غير المتوقعة، خصوصاً في التطبيقات الحساسة مثل الرعاية الصحية.

لكن الدراسة لا تعني أن جميع أنظمة الذكاء الاصطناعي غير قابلة للتنبؤ، ولا تثبت أن اختلاف التكوينات الداخلية يؤدي بالضرورة إلى أخطاء في القرارات، بل تكشف عن حدود رياضية ينبغي أخذها في الاعتبار عند تطوير تقنيات أكثر موثوقية.