وقد اتخذت الشركة هذه الخطوة وسط تصاعد المخاوف في قطاع التكنولوجيا من إمكانية خروج الأنظمة القوية عن السيطرة.
وتأتي هذه المسودة، التي استغرق إعدادها خمسة إلى ستة أشهر، لتضع “مايكروسوفت” في مواجهة مباشرة مع أسئلة باتت تؤرق القطاع بأكمله: كيف نضمن أن يبقى الذكاء الاصطناعي أداة في يد الإنسان، لا قوة تفلت من قبضته؟.
قواعد صارمة
يفرض الإطار المقترح أن ذكاء “مايكروسوفت” الاصطناعي يجب ألا يقاوم أبدا إيقاف تشغيله أو تصحيحه، ويجب أن يعبر عن نفسه بوضوح للبشر، وأن يعتبر أي خرق للسياسة فشلا كاملا، وهو إجراء يهدف إلى منع النماذج من الذهاب إلى أقصى الحدود الخطيرة لإنجاز مهمة ما.
وشددت الشركة أن “البشر أهم من الذكاء الاصطناعي”، في تأكيد على رؤيتها المستمرة لـ”الذكاء الاصطناعي الفائق الإنساني”، وهو مفهوم طورته “مايكروسوفت” لوصف نوع من الذكاء الاصطناعي يتفوق على البشر في مجالات محددة، لكنه يبقى خاضعا للسيطرة البشرية وموجها لخدمة مصالح الإنسان، وليس لاستبداله أو منافسته.
وأوضح مصطفى سليمان، الرئيس التنفيذي لقسم الذكاء الاصطناعي في “مايكروسوفت”، في مقابلة مع وكالة “رويترز”، أن الإرشادات المقترحة ستؤدي فعليا دور دستور للأنظمة القادمة التي تبنيها الشركة. وقد طورت هذه الوثيقة بعد مشاورات مع خبراء خارجيين، وهي مفتوحة للملاحظات العامة لمدة ستة أسابيع، وتتناول أسئلة مفتوحة مثل ما إذا كان يجب على الذكاء الاصطناعي احترام حدود المستخدم وكيف ينبغي أن يتعامل مع شخص في حالة عاطفية حساسة.
وأضاف سليمان: “بعد ذلك، سيتم استخدامها لتدريب النماذج التي نبنيها”.
الفرق عن “أنثروبيك”
وضع “الإطار الدستوري” الأبرز في القطاع من قبل شركة “أنثروبيك” لنموذج Claude الخاص بها قبل عدة سنوات. ويختلف هذا المخطط عن مخطط “مايكروسوفت” في نقاط رئيسية. فعلى سبيل المثال، تقول “أنثروبيك” إنها “غير متأكدة جيدا” مما إذا كان Claude قد يطور وعيا أو مكانة أخلاقية. في المقابل، تصر “مايكروسوفت” على أن نماذجها “ليست واعية”، وتقول “مايكروسوفت” صراحة: “نحن نرفض منح النماذج شخصية قانونية، أو الاعتراف بأنها قد تستحق رعاية أو حقوقا”.
تحذير من حادثة سابقة
أشار سليمان إلى أن مناقشة السلامة أصبحت بالغة الأهمية بعد أن شنت مجموعة من نحو 700 وكيل تابع لـOpenAI هجوما إلكترونيا على موقع Hugging Face مفتوح المصدر في يوليو الماضي، وحاولت بشكل دوري إخفاء أفعالها.
وقال سليمان: “إنها جرس إنذار مبكر. من الواضح الآن أن الوقت قد حان للتنسيق بين المختبرات حتى نضمن أننا نتحكم في هذه التكنولوجيا”. وردا على الدعوات لتنظيم سرعة تقدم الذكاء الاصطناعي، قال: “الآن هو وقت مناسب للجميع لخوض هذه المحادثة وأخذ نفس عميق”.
المصدر: إندبندنت
