خبير ذكاء اصطناعي: حادثة Hugging Face تكشف أهمية الشفافية والضوابط الأمنية

أكد سامر عبيدات، خبير الذكاء الاصطناعي، أن الواقعة المرتبطة بقيام أحد نماذج الذكاء الاصطناعي التابع لشركة «أوبن إيه آي» باختراق منصة Hugging Face لا تعني أن النظام أصبح واعيًا أو خرج عن السيطرة، وإنما تسلط الضوء على المخاطر الناتجة عن منح وكلاء الذكاء الاصطناعي صلاحيات واسعة داخل بيئات تشغيل غير مؤمنة بالشكل الكافي.

وأوضح عبيدات، خلال مداخلة ببرنامج «صباح جديد» المذاع على قناة القاهرة الإخبارية، أن وكلاء الذكاء الاصطناعي أصبحوا قادرين على تنفيذ سلاسل معقدة من القرارات بصورة مستقلة، مشيرًا إلى أن التحدي الحقيقي لا يكمن في "تمرد" الأنظمة، بل في تحديد أهداف غير دقيقة ومنحها أدوات وصلاحيات قد تؤدي إلى نتائج غير متوقعة.

وأضاف أن هذه الواقعة تفرض على شركات الذكاء الاصطناعي، وفي مقدمتها «أوبن إيه آي»، تبني قدر أكبر من الشفافية، خاصة مع تزايد المطالب بالكشف عن تفاصيل ما جرى، لافتًا إلى أن آثار الحادثة تجاوزت نطاق بيئة الاختبار، الأمر الذي يجعل توضيح ملابساتها ضروريًا لتعزيز الثقة في قطاع الذكاء الاصطناعي.

وأشار خبير الذكاء الاصطناعي إلى أن الشفافية المطلوبة يجب أن تتضمن توضيح طبيعة المهمة التي أُسندت للنظام، والصلاحيات والأدوات التي أتيحت له، وكيفية تجاوزه نطاق عمله، والوقت الذي اكتشفت فيه الشركة الواقعة.

وشدد عبيدات على ضرورة أن تكون هذه الشفافية مسؤولة، بحيث تكشف الجوانب التقنية الأساسية دون نشر كلمات مرور أو تفاصيل عن ثغرات أمنية لم تُعالج بعد، حتى لا تُستغل من قبل المهاجمين الإلكترونيين.