خبراء يدعون إلى وقفة بشأن التنمية الذكاء الاصطناعي “الخارجة عن السيطرة”

وقع ستيف وزنياك وإيلون ماسك وأكثر من 1 آخرين خطابا مفتوحا يطالبون بوقف فوري لمدة ستة أشهر لتقنية الذكاء الاصطناعي أقوى من ChatGPT-000 لمدة ستة أشهر.

لقد كان هذا هو العام الذي أصبح فيه وكلاء الذكاء الاصطناعي مثل ChatGPT و Google Bard سائدين. على الرغم من أن جميع الشركات الذكاء الاصطناعي تصف منتجاتها بأنها تجارب أو إصدارات تجريبية فعالة ، يتم دمج ميزات معالجة اللغة الخاصة بها في Microsoft 365 وعمليات البحث بما في ذلك Bing.

الآن يطلب معهد مستقبل الحياة وقفة “عامة ويمكن التحقق منها” تشمل “جميع الجهات الفاعلة الرئيسية” في هذا المجال. ويضيف: “إذا لم يكن بالإمكان سن مثل هذا التوقف بسرعة، فيجب على الحكومات التدخل وفرض وقف”.

يهدف معهد مستقبل الحياة إلى “توجيه التكنولوجيا التحويلية نحو إفادة الحياة وبعيدا عن المخاطر الشديدة واسعة النطاق”.

تجادل هذه الرسالة المكونة من 600 كلمة ، والتي تستهدف جميع مطوري الذكاء الاصطناعي ، بأن هناك حاجة إلى وقفة لأن “الأشهر الأخيرة شهدت مختبرات الذكاء الاصطناعي تخوض سباقا خارجا عن السيطرة لتطوير ونشر عقول رقمية أكثر قوة من أي وقت مضى لا يمكن لأحد – ولا حتى منشئيها – فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق”.

“يجب على الذكاء الاصطناعي المختبرات والخبراء المستقلين استخدام هذا التوقف المؤقت لتطوير وتنفيذ مجموعة من بروتوكولات السلامة المشتركة لتصميم وتطوير الذكاء الاصطناعي المتقدمة التي يتم تدقيقها بدقة والإشراف عليها من قبل خبراء خارجيين مستقلين”. “يجب أن تضمن هذه البروتوكولات أن الأنظمة التي تلتزم بها آمنة بما لا يدع مجالا للشك.”

تقول الرسالة المفتوحة: “هذا لا يعني وقفة الذكاء الاصطناعي التطوير بشكل عام ، بل مجرد تراجع عن السباق الخطير إلى نماذج الصندوق الأسود الأكبر حجما والتي لا يمكن التنبؤ بها مع قدرات ناشئة”.

في وقت كتابة هذا الملخص، وقع على الرسالة المفتوحة للمعهد 1,123 موقعا. وتشمل هذه الشخصيات البارزة مثل:

• إيلون ماسك ، الرئيس التنفيذي لشركة SpaceX و Tesla و Twitter
• ستيف وزنياك، المؤسس المشارك، شركة آبل
• جان تالين ، المؤسس المشارك لشركة Skype
• إيفان شارب، المؤسس المشارك، بينتيريست

تعمل كل من Google و Microsoft على تنفيذ أدوات تقنية تعتمد على أنظمة chatbot الذكاء الاصطناعي الجديدة. كان أداء الإطلاق الأولي لتطبيق Bing من Microsoft ضعيفا وارتكب Bard من Google خطأ واقعيا في أول عرض توضيحي له.

المصدر / appleinsider