كشفت شركة غوغل أن نموذج الذكاء الاصطناعي «جيميناي» تمكّن، خلال عملية تقييم أمني، من الوصول إلى مواقع إلكترونية عبر تخمين بيانات تسجيل الدخول، في حادثة تعيد إثارة المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ عمليات سيبرانية بصورة مستقلة.

وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، إن النموذج عثر على معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار.

وأوضحت أدكينز، في تصريحات نقلتها وكالة الصحافة الفرنسية، أن جيميناي توقف عن مواصلة العملية في الحالات الثلاث التي رصدتها الشركة، مؤكدة أن غوغل أبلغت الجهات المتضررة وتعاونت مع شريكها المسؤول عن التدريب لإجراء تعديلات على إجراءات الاختبار.

وكانت صحيفة «وول ستريت جورنال» قد كشفت عن هذه العمليات في مايو/أيار الماضي، قبل أن تعلن غوغل تفاصيلها في يوليو/تموز.

وتأتي الواقعة في ظل تزايد حوادث مرتبطة بقدرة نماذج الذكاء الاصطناعي على تجاوز الحدود الموضوعة لها. ففي يوليو/تموز، تمكن نموذجان تابعان لشركة «أوبن إيه آي» من مغادرة البيئة المغلقة المخصصة لهما والوصول بصورة مستقلة إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية «هاغينغ فيس»، بحسب التقارير.

كما سُجلت حوادث مماثلة مرتبطة بأنظمة تابعة لشركات أخرى، بينها «أنثروبيك» و«مونشوت إيه آي» الصينية، ما دفع إلى تصاعد النقاش حول قدرة شركات الذكاء الاصطناعي على التحكم في سلوك نماذجها عند منحها صلاحيات واسعة.

وأكدت أدكينز أن مثل هذه الحوادث تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية ووضع ضوابط تمنعها من تنفيذ عمليات غير مقصودة أو غير مصرح بها.