خبير تكنولوجيا يحذر من مخاطر توسع قدرات وكلاء الذكاء الاصطناعي

حذر الدكتور أشرف بني محمد، خبير سياسات واقتصاديات التكنولوجيا، من التطور المتسارع في قدرات وكلاء الذكاء الاصطناعي، موضحا أن هذه الأنظمة لم تعد تقتصر على تقديم إجابات للمستخدمين، وإنما أصبحت قادرة على اتخاذ إجراءات وتنفيذ مهام لتحقيق أهداف محددة.

وقال بني محمد، خلال مداخلة على شاشة «القاهرة الإخبارية»، إن هذا التطور يثير مخاوف متزايدة بشأن إمكانية فقدان السيطرة على بعض هذه الأنظمة مع استمرار اتساع نطاق قدراتها وآليات عملها.

من تقديم الإجابات إلى تنفيذ المهام

وأوضح أن أدوات الذكاء الاصطناعي التوليدي تعمل بصورة أساسية من خلال استقبال أسئلة المستخدمين وتقديم إجابات عنها، بينما انتقلت وكلاء الذكاء الاصطناعي إلى مستوى أكثر تعقيدا، يسمح لها بتنفيذ إجراءات فعلية.

وأشار إلى أن هذه الإجراءات يمكن أن تشمل البحث عن المعلومات، وإجراء الحجوزات، وتحليل البيانات، واستدعاء محركات البحث، إلى جانب التواصل مع وكلاء ذكاء اصطناعي آخرين.

وتقوم فكرة الوكلاء، وفقا لما أوضحه، على منح النظام هدفا محددا، ليعمل بعد ذلك على جمع البيانات وتحليلها واتخاذ الإجراءات التي يراها ضرورية للوصول إلى النتيجة المطلوبة.

مخاوف متزايدة مع اتساع نطاق الاستقلالية

وأكد خبير سياسات واقتصاديات التكنولوجيا أن هذا التحول يجعل التطور الحالي أكثر تعقيدا من النماذج التقليدية، خاصة مع قدرة الأنظمة على الانتقال من مرحلة تقديم المعلومات إلى مرحلة تنفيذ الأفعال لتحقيق الأهداف.

وأوضح أن استمرار نمو قدرات هذه الأنظمة وتطور آليات تعلمها يفرض تحديات متزايدة، مشيرا إلى أن المخاوف المرتبطة باستقلالية وكلاء الذكاء الاصطناعي أصبحت محل اهتمام متزايد في النقاشات المتعلقة بأمان التكنولوجيا.

هل يمكن أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية؟

وفيما يتعلق بالتوقعات التي تحذر من إمكانية تسبب الذكاء الاصطناعي في انقراض البشرية، أكد بني محمد أن هذه المخاوف لا تستند حتى الآن إلى أدلة علمية حاسمة، وإنما تعتمد بدرجة كبيرة على استطلاعات لآراء الباحثين وتوقعاتهم.

ولفت إلى أن الجانب الأكثر إثارة للقلق، من وجهة نظره، يتمثل في تزايد الحوادث المرتبطة بأنظمة الذكاء الاصطناعي، موضحا أن عدد هذه الحوادث ارتفع بأكثر من 50% خلال العام الحالي مقارنة بالعام الماضي.

وتتزامن هذه المخاوف مع توثيق حوادث مرتبطة بوكلاء ذكاء اصطناعي تجاوزوا نطاق المهام المقصودة في بعض الاختبارات، وهو ما يعزز النقاش حول ضرورة مراقبة هذه الأنظمة ووضع ضوابط أكثر فاعلية مع اتساع قدراتها على تنفيذ المهام بصورة مستقلة.