استقال مسؤول بارز في مجال السلامة لدى شركة "أوبن إيه آي" الأميركية التي أصبحت الأبرز على مستوى العالم في مجال الذكاء الاصطناعي بعد أن ابتكرت "شات جي بي تي"، وحذر المسؤول من أن ثقافة الشركة تعاني من خلل عميق، وقال إن شركات الذكاء الاصطناعي لا تتوخى "القدر الكافي من الحذر" عند تطوير هذه التقنية.

وبحسب مقال نشرته مجلة "ذا أتلانتيك" الأميركية، فقد أوضح ديفيد روبنسون أن أسباب استقالته تعود إلى أن "ثقافة الشركة معتلة".

وكان روبنسون قد قاد عملية إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة، ويُعتبر أحد أبرز المسؤولين فيها، لكنه ليس أول المستقيلين، حيث شهدت الشركة خلال العام الماضي والعام الحالي موجة استقالات من قبل عدد من المسؤولين.

وأشار روبنسون إلى الحاجة لإصلاح جذري للثقافة المؤسسية في شركات الذكاء الاصطناعي الرائدة، مشيراً إلى خطورة بعض الحوادث المرتبطة بالذكاء الاصطناعي والتي تعمل بشكل مستقل دون إشراف بشري.

وكتب روبنسون: "أتفق مع موظفين آخرين غادروا الشركة مؤخراً في الرأي القائل بأن الشركات التي تطور هذه التقنية لا تتوخى القدر الكافي من الحذر.. لكنني أؤمن بأننا بحاجة إلى النظر فيما هو أعمق من مجرد قواعد محددة أو قوانين جديدة؛ إذ يتعين علينا مناقشة الثقافة السائدة".

وفي معرض حديثه عن وتيرة التطوير في "أوبن إيه آي"، كتب قائلاً: "بينما تسارع الشركة من عملية إطلاق منتج إلى آخر، فإنها تفشل في تحقيق مستوى الحذر الذي أرى أنه ضروري".

حادثة "Hugging Face"

وأظهرت "أوبن إيه آي" بوادر حذر في الأسابيع الأخيرة عقب حادثة "Hugging Face" والكشف عن إخطارها لأكثر من 100 مؤسسة بشأن أنشطة "وكلاء ذكاء اصطناعي مارقين" (أي وكلاء تصرفوا بشكل غير متوقع أو خارج عن السيطرة).

وقد أعلنت الشركة قبل أيام عن إلغاء خطط إطلاق نموذج ذكاء اصطناعي من الجيل التالي، وذلك بعد أن أثار باحثون مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية، كما علّقت الشركة عمليات تدريب نماذجها الأكثر تطوراً.

وفي سياق متصل، أصدر جيفري إيرفينغ، الذي عمل سابقاً في "أوبن إيه آي" وشغل منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية تحذيراً بشأن الذكاء الاصطناعي يوم السبت.

القوة التدميرية للذكاء الاصطناعي

وكتب إيرفينغ في مجلة "التايم" أن "التحذيرات الأخيرة بشأن القوة التدميرية المحتملة للذكاء الاصطناعي تقلل من شأن خطورة الموقف، وأعتقد أن هناك احتمالاً بنسبة 50% تقريباً بأن نهلك جميعاً نتيجة لتطوير أنظمة ذكاء اصطناعي تفوق البشر ذكاءً، وأن أفعالنا خلال السنوات العشر المقبلة هي التي ستحدد النتيجة".

ويأتي مقال روبنسون في أعقاب استقالة جاكوب كوكسون، الباحث في شركة "أنثروبيك" المنافسة لشركة "أوبن إيه آي" والذي ترك عمله لدى الشركة المطورة لروبوت المحادثة "كلود" الشهر الماضي.

وكان كوكسون قد حذر من أن الذكاء الاصطناعي "قد يقضي علينا جميعاً بحلول نهاية العقد"، بعد تحذير صادر عن "أنثروبيك" نفسها يفيد بوجود احتمال يتجاوز 10% بأن يتسبب الذكاء الاصطناعي في إبادة البشرية خلال العقد المقبل.

ومع ذلك، نبه منتقدو هذه التحذيرات إلى أنها تفتقر إلى الطابع العلمي؛ نظراً لتعذر إثبات صحتها أو دحضها.

وكتب روبنسون أن "وادي السيليكون" يفتقر إلى الوعي بـ "كيفية التعامل مع التكنولوجيا الخطيرة" و"ما يعنيه الاهتمام بالناس"، وفي معرض تحذيره من "التفاؤل غير المقيّد" الذي تتبناه "أوبن إيه آي" بشأن حل المشكلات فور ظهورها، أشار روبنسون إلى أن هذه الثقافة الداخلية تعني أن إخفاقات السلامة ستتفاقم مع ازدياد قدرات الأنظمة.

ليصلك المزيد من الأخبار اشترك بقناتنا على التيليكرام