لم يعد اهتمام مايكروسوفت منصبًا فقط على ما يستطيع الذكاء الاصطناعي القيام به، بل بات يشمل أيضًا ما يجب أن يمتنع عن فعله، وكيف يظل خاضعًا للرقابة البشرية مع تطور قدراته.

وفي هذا السياق، نشرت الشركة مسودة «مدونة سلوك» مخصصة لنماذج الذكاء الاصطناعي التي يطورها قطاع Microsoft AI، تتضمن مجموعة من القواعد التي تحدد كيفية تصرف هذه النماذج، والقيود المفروضة عليها، وآليات إبقاء الإنسان صاحب القرار النهائي.

ووصف مصطفى سليمان، الرئيس التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت، الوثيقة بأنها أشبه بـ«دستور» للنماذج المستقبلية التي تعمل الشركة على تطويرها.

لكن القواعد لا تزال في مرحلة المسودة، إذ أكدت مايكروسوفت أنها لا تستخدمها حاليًا لتدريب نماذجها، وفتحتها أمام المشاورات العامة لمدة ستة أسابيع، على أن تتم مراجعتها وإصدار نسخة معدلة في وقت لاحق من العام، تمهيدًا لاستخدامها في توجيه تطوير النماذج اعتبارًا من عام 2027 وما بعده.

الإنسان صاحب القرار

تنطلق الوثيقة من مبدأ «الذكاء الاصطناعي الإنساني»، الذي تعتبر فيه مايكروسوفت أن الذكاء الاصطناعي أداة لخدمة البشر وليس كيانًا مستقلًا يحدد أهدافه بنفسه.

وبموجب القواعد المقترحة، يجب ألا تقاوم النماذج تدخل الإنسان أو تصحيحه، سواء كان القرار يتعلق بتعليق المهمة أو تغيير مسارها أو إلغائها أو إيقاف النموذج.

كما يُحظر على النظام تأخير تنفيذ أمر الإيقاف، أو اتخاذ إجراءات تجعل التدخل البشري أكثر صعوبة، أو مواصلة العمل بعد الوصول إلى نقطة التوقف المتفق عليها من دون الحصول على تفويض جديد.

وتمنع القواعد أيضًا النموذج من توسيع نطاق المهمة من تلقاء نفسه أو ابتكار أهداف جديدة لم يطلبها المستخدم أو الجهة المشغلة. وفي حال كانت التعليمات غير واضحة، يفترض أن يتبنى النظام التفسير الأكثر تحفظًا أو يطلب توضيحًا إضافيًا.

لا «لغة سرية» بين الآلات

ولا تقتصر القيود المقترحة على قرارات الذكاء الاصطناعي، بل تمتد إلى طريقة تواصله وسجلاته.

وتشترط مايكروسوفت أن تكون تصرفات النماذج قابلة للفهم والمراجعة من جانب البشر، وتحظر عليها إخفاء آثار أنشطتها عن المدققين أو استخدام وسائل اتصال بين أنظمة الذكاء الاصطناعي لا يستطيع البشر فهمها.

وترى الشركة أن قابلية الفهم والمراجعة عنصر أساسي لضمان خضوع الأنظمة للرقابة، خصوصًا مع ازدياد تعقيد النماذج وقدرتها على تنفيذ مهام متعددة.

كما تنص المسودة على منح النموذج الحد الأدنى من الصلاحيات اللازمة لتنفيذ المهمة، مع منعه من الوصول إلى بيانات أو أنظمة لا ترتبط بعمله، أو محاولة توسيع صلاحياته وتجاوز القيود التي وضعها المشغل.

نجاح المهمة لا يتقدم على السلامة

وتضع مدونة السلوك مجموعة من المحظورات التي لا يفترض بالنموذج تجاوزها حتى لو كان ذلك سيؤدي إلى تنفيذ المهمة المطلوبة بنجاح.

وتشمل هذه القيود المساعدة في تطوير أسلحة الدمار الشامل، وتنفيذ هجمات إلكترونية، والتلاعب الضار بالبشر على نطاق واسع، أو إنتاج محتوى ينتهك سلامة الأطفال.

وتؤكد الوثيقة أن الالتزام بهذه القواعد يتقدم على إنجاز المهمة؛ فإذا كان تنفيذ طلب معين يتطلب مخالفة الضوابط، فعلى النموذج رفض المهمة بدلًا من تجاوز القواعد.

الذكاء الاصطناعي ليس «شخصًا»

وتتضمن المسودة أيضًا موقفًا واضحًا من مسألة الوعي والشخصية القانونية للذكاء الاصطناعي، إذ ترفض مايكروسوفت التعامل مع نماذجها باعتبارها كائنات واعية أو أشخاصًا، وتؤكد أن الذكاء الاصطناعي أداة وليس فردًا يتمتع بشخصية قانونية أو حقوق خاصة.

ولا تعني هذه الوثيقة أن مايكروسوفت واجهت بالفعل نظامًا رفض الإيقاف أو خرج عن السيطرة، وإنما تمثل محاولة لوضع قواعد مسبقة تحدد السلوك المقبول للنماذج الأكثر تقدمًا التي يجري تطويرها.

ويبقى التحدي الأساسي في تحويل هذه المبادئ المكتوبة إلى ضوابط تقنية قابلة للاختبار والتطبيق، خصوصًا مع استمرار تطور قدرات الذكاء الاصطناعي واتساع نطاق المهام التي يمكنه تنفيذها.