حذر ديفيد روبنسون، الموظف السابق في قسم السلامة لدى "أوبن إيه آي" الذي قدم استقالته في الآونة الأخيرة، من مخاطر النهج الذي تتبعه الشركة في التعامل مع سلامة الذكاء الاصطناعي، معتبرا أن الثقافة التي تركز على التطوير السريع والمتسارع تزيد من احتمالات الإخفاقات.

وفي مقال نشرته مجلة "ذي أتلانتيك" السبت بعنوان "استقلت من أوبن إيه آي لأن ثقافتها معيبة"، رأى روبنسون أن شركات الذكاء الاصطناعي، بما في ذلك "أوبن إيه آي"، لا تتعامل مع السلامة بالقدر الكافي من الحذر، داعيًا إلى منح الخبرة والبحوث المتخصصة في هذا المجال اهتمامًا أكبر قبل تطوير أنظمة تتمتع بقدرات متقدمة.

ومع تصاعد قدرات هذه الأنظمة، شدد روبنسون على أن وتيرة التطور أصبحت أسرع من فهم الباحثين لمفهوم "المواءمة"، الذي يركز على ضمان عمل أنظمة الذكاء الاصطناعي وفقًا لأهداف البشر وقيمهم.

وفي انتقاده للنهج القائم على معالجة المشكلات بعد ظهورها، قال روبنسون: "انتهى عصر التجربة والخطأ"، مؤكدًا أن أنظمة الذكاء الاصطناعي المتقدمة تحتاج إلى إجراءات وقائية تقترب من تلك المعتمدة في قطاعات مثل الطاقة النووية والطيران.

ويشير روبنسون إلى أن "أوبن إيه آي" تعتمد بدرجة كبيرة على ما تسميه "النشر التكراري"، وهي آلية تقوم على إطلاق الأنظمة ثم تعزيز إجراءات الحماية عندما تظهر المشكلات.

وتأتي ملاحظاته في وقت يتواصل فيه الجدل داخل قطاع الذكاء الاصطناعي بشأن سرعة تطوير أنظمة ذات قدرات متزايدة، ولا سيما مع تعرض "أوبن إيه آي" والشركة المنافسة لها "أنثروبيك" لتدقيق شديد عقب وقائع لم تنجح فيها ضوابط السلامة، أو تصرفت خلالها الأنظمة التجريبية على نحو غير متوقع.

وبحسب روبنسون، الذي أمضى ثلاث سنوات ونصف السنة في "أوبن إيه آي"، فقد ساعد خلال فترة عمله في صياغة إطار عمل التأهب الخاص بالشركة، كما أشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة. 

وقال: "مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي أعتقد أنه ضروري".

وفي المقابل، أكدت "أوبن إيه آي" أنها تتخذ إجراءات لتجنب تجاوز قدرات نماذجها لما يمكن التعامل معه بأمان، وقال متحدث باسم الشركة في بيان: "نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتًا أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل".