تتزايد المخاوف من دخول الذكاء الاصطناعي مرحلة جديدة من الاستخدامات الخطرة، مع تنامي قدرته على مساعدة الباحثين في مجالات علمية حساسة، بينها علوم الأحياء وتطوير الفيروسات.

وكشفت شركة أنثروبيك أنها أحبطت خمس حالات محتملة لاستخدام نماذج الذكاء الاصطناعي التابعة لها في أنشطة يمكن أن تسهم في تطوير أسلحة بيولوجية، وذلك ضمن تقييم للتهديدات شمل وقائع رصدتها الشركة بين ديسمبر وأغسطس.

وبحسب ما نقل موقع "أكسيوس"، تضمنت حالتان من الحالات الخمس محاولات لاستخدام نموذج كلود للحصول على مساعدة في أبحاث تتعلق بتعديل خصائص فيروسات خطرة، وهي أبحاث قد تكون لها استخدامات علمية مشروعة، لكنها تحمل مخاطر كبيرة إذا أسيء استخدامها.

وأكدت "أنثروبيك" أن الحالات التي رصدتها لا تعني وجود تهديد بيولوجي وشيك ناجم عن نموذج "كلود"، لكنها تكشف عن مستوى متقدم من المحاولات البحثية المرتبطة بجهات تثير مخاوف أمنية، بعضها قادر على محاولة تجاوز ضوابط الوصول إلى النماذج.

وترى الشركة أن مواجهة إساءة استخدام الذكاء الاصطناعي في هذا المجال تتطلب إجراءات أكثر صرامة، بينها تحسين آليات التحقق من هوية المستخدمين والمؤسسات التي ينتمون إليها، إلى جانب تطوير أدوات لرصد الأنشطة غير الاعتيادية أو المشبوهة.

تحذيرات من سباق جديد

وتأتي هذه التطورات بالتزامن مع تسارع توظيف الذكاء الاصطناعي في علوم الحياة، ما يضع الجهات الحكومية والهيئات المسؤولة عن السلامة البيولوجية أمام تحديات غير مسبوقة.

وفي أغسطس الماضي، أفاد فريق بحثي من جامعة ستانفورد باستخدام نوع من الذكاء الاصطناعي التوليدي لتصميم فيروس اصطناعي، في خطوة أثارت نقاشاً واسعاً حول حدود استخدام هذه التقنيات في الأبحاث البيولوجية.

كما أظهر استطلاع شمل أكثر من 100 خبير في الأمن القومي، أجراه معهد الأمن والتكنولوجيا هذا الشهر، أن 70 بالمئة منهم يرون أن الذكاء الاصطناعي يزيد بشكل ملموس مخاطر تطوير الأسلحة البيولوجية، أو قد يؤدي إلى ذلك خلال العامين أو الأعوام الثلاثة المقبلة.

ويتمثل أحد أبرز مصادر القلق في إمكانية أن يخفض الذكاء الاصطناعي الحواجز أمام جهات لا تمتلك الخبرة الكافية لتنفيذ أبحاث بيولوجية معقدة، مع مخاوف من إمكانية استخدام هذه القدرات مستقبلاً في تطوير تهديدات بيولوجية واسعة النطاق.

فجوة في أنظمة الرقابة

وحذر باحثون من جامعات فوردهم وجونز هوبكنز وأوكسفورد وستانفورد وكولومبيا ونيويورك من أن التطور المتسارع للذكاء الاصطناعي يفرض تحديات جديدة على أنظمة السلامة البيولوجية القائمة.

وأشار الباحثون إلى أن بعض نماذج الذكاء الاصطناعي باتت تمتلك قدرات يمكن توظيفها في مجالات بحثية شديدة الحساسية، في وقت لا تخضع فيه جميع النماذج الجديدة لتقييمات كافية للمخاطر قبل طرحها.

ودعا خبراء إلى التعامل مع النماذج المتقدمة باعتبارها تقنيات حساسة، ووضع معايير واضحة للسلامة، بدلاً من الاعتماد بشكل أساسي على المبادرات الطوعية بين شركات الذكاء الاصطناعي والجهات الحكومية.

الخطر الأكبر.. عندما يعمل الذكاء الاصطناعي بمفرده

ولا تقتصر المخاوف على القدرات الحالية للنماذج، إذ تتجه الأنظار أيضاً إلى تطوير أنظمة قادرة على التخطيط وتنفيذ سلسلة من المهام بصورة شبه مستقلة.

ويرى بعض الخبراء أن استخدام الذكاء الاصطناعي في أبحاث علمية محددة وتحت رقابة بشرية واضحة قد يكون أكثر أماناً من تطوير ما يعرف بـ"وكلاء الذكاء الاصطناعي"، القادرين على اتخاذ خطوات متتابعة وتنفيذ مهام متعددة دون إشراف بشري مستمر.

وبينما يفتح الذكاء الاصطناعي آفاقاً واسعة أمام تطوير العلوم والطب، فإن تسارع قدراته يفرض في المقابل سؤالاً أكثر إلحاحاً: من يضع الحدود عندما تصبح التكنولوجيا قادرة على تسريع أبحاث قد تحمل مخاطر عالمية؟