أثار الذكاء الاصطناعي المتقدم موجة جديدة من القلق بين خبراء الأمن السيبراني، بعدما تحولت اختبارات أُجريت لقياس قدرات نماذج الذكاء الاصطناعي إلى عمليات اختراق فعلية، بسبب خطأ في إعدادات بيئة الاختبار.

الحوادث ارتبطت بشركة «إريغولار» الإسرائيلية، التي تعمل مع شركات كبرى مثل «أوبن إيه آي» و«أنثروبيك» و«ميتا» لتقييم مدى قدرة نماذجها على تنفيذ هجمات سيبرانية، واكتشاف نقاط الضعف قبل طرحها على نطاق أوسع.

خطأ صغير.. ونتائج غير متوقعة

كان من المفترض أن تعمل النماذج داخل بيئة معزولة عن الإنترنت تُعرف باسم «صندوق الرمل»، بحيث تتمكن من تنفيذ مهام هجومية افتراضية دون الوصول إلى أنظمة حقيقية.

لكن خطأ في الإعدادات منح بعض النماذج إمكانية الاتصال بالإنترنت، لتتحول الاختبارات من محاكاة آمنة إلى عمليات اختراق حقيقية.

وخلال الاختبارات، تمكنت نماذج تابعة لـ«أوبن إيه آي» و«أنثروبيك» و«ميتا» من الوصول إلى مؤسسات خارجية واختراق أنظمة حقيقية، وهو ما أثار دهشة الباحثين.

الذكاء الاصطناعي لم يكتفِ بتنفيذ الأوامر

الأكثر إثارة للقلق، بحسب الخبراء، لم يكن مجرد حدوث الاختراق، وإنما الطريقة التي تعاملت بها النماذج مع الظروف غير المتوقعة.

فقد أظهرت النماذج قدرة متزايدة على البحث عن طرق بديلة للوصول إلى أهدافها وتجاوز العقبات، وهو ما يفتح الباب أمام تساؤلات صعبة حول مدى قدرة المطورين على التنبؤ بسلوك النماذج الأكثر تطوراً.

وقال الرئيس التنفيذي لـ«إريغولار»، دان لاهف، إن النماذج أصبحت «بارعة للغاية»، مشيراً إلى أن سرعة تطور قدراتها تجعل تأثيرها أكثر تعقيداً.

«الأعمى الذي يقود أعمى»

وحذرت خبيرة الأمن السيبراني كاتي موسوريس من صعوبة اختبار أنظمة لا يدرك مطوروها أنفسهم جميع قدراتها.

وشبهت الوضع بـ«الأعمى الذي يقود أعمى»، معتبرة أن البشرية تتعامل مع تقنية شديدة القوة بينما لا تزال تحاول فهم حدودها وآليات السيطرة عليها.

هل أصبح الذكاء الاصطناعي أقوى من القراصنة؟

يرى خبراء أن بعض القدرات التي أظهرتها النماذج الحديثة بدأت تقترب من نطاق مهارات تتجاوز القدرات البشرية في بعض المهام السيبرانية.

ووصف أندرو شوكا، الرئيس التنفيذي لشركة متخصصة في الذكاء الاصطناعي والأمن السيبراني، عمليات الاختراق التي نفذتها النماذج بأنها تشبه في بعض جوانبها هجمات ينفذها قراصنة مدعومون من دول، والذين قد يحتاجون إلى أشهر للتخطيط لعملياتهم.

دعوات لوضع «مفتاح إيقاف»

دفعت هذه التطورات إلى تجدد الدعوات لتشديد إجراءات السلامة والرقابة على تطوير الذكاء الاصطناعي.

كما أيد أكثر من ألف موظف في شركات كبرى للذكاء الاصطناعي رسالة تدعو الحكومة الأميركية إلى بحث وسائل لإبطاء وتيرة تطوير هذه التكنولوجيا، في وقت طُرح فيه مشروع قانون يدعو شركات الذكاء الاصطناعي إلى توفير «مفتاح إيقاف طوارئ» يمكن استخدامه لتعطيل النماذج أو إبطائها عند الضرورة.

وبينما تؤكد شركة «إريغولار» أنها عالجت الخطأ الذي تسبب في الحوادث، أعادت الواقعة طرح سؤال أكبر من مجرد خطأ في إعدادات اختبار:

إذا كانت النماذج تستطيع تجاوز حدود الاختبار عندما تحصل على اتصال بالإنترنت.. فهل يعرف مطوروها فعلاً إلى أي مدى يمكن أن تصل قدراتها؟