يرى خبراء وباحثون في مجال الذكاء الاصطناعي أن التطور المتسارع لهذه التقنية قد يحمل مخاطر وجودية على البشرية، فيما يذهب بعضهم إلى تقدير احتمال انقراض الجنس البشري خلال العقد الحالي، نتيجة وصول أنظمة الذكاء الاصطناعي إلى مستويات من القدرة والاستقلالية يصعب على البشر السيطرة عليها.

وأثارت هذه التحذيرات قلقاً واسعاً خلال الأسبوع الماضي، بعدما استقال جاكوب كوكسون، أحد موظفي شركة "أنثروبيك"، معللاً قراره بأن العمل في مجال الذكاء الاصطناعي ينطوي على مخاطر جسيمة، فيما قدر إيفان هوبينجر، وهو موظف آخر في الشركة نفسها، احتمالية انقراض البشرية بسبب الذكاء الاصطناعي خلال السنوات العشر المقبلة بأكثر من 10 بالمئة.

وتتراوح السيناريوهات التي يطرحها المحذرون بين استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، والسيطرة على أنظمة روبوتية قادرة على التكاثر الذاتي، وصولاً إلى احتمال استغلال الأسلحة النووية، أو تطوير أنظمة فائقة الذكاء قادرة على تحسين قدراتها بصورة متكررة ومستقلة عن البشر.

لكن هذه التصورات لا تحظى بإجماع داخل مجتمع الذكاء الاصطناعي، إذ يرى منتقدون أن الحديث عن "فناء البشرية" يفتقر في كثير من الأحيان إلى تفاصيل قابلة للاختبار أو أدلة مادية يمكن قياسها.

ويقول نيت سواريس، رئيس معهد أبحاث ذكاء الآلة والمشارك في تأليف مقال بعنوان "إذا قام أي شخص ببنائه، سيموت الجميع: لماذا سيقضي الذكاء الاصطناعي فائق القدرة علينا جميعاً"، إن الأمر يتعلق "حرفياً بموت كل فرد على الكوكب؛ أي أن يلفظ آخر إنسان أنفاسه الأخيرة".

ويضيف سواريس: "غالباً ما لا يصدق الناس هذا الكلام عند سماعه، لكنني أعتقد حقاً أنه السيناريو الأكثر ترجيحاً".

وباء قاتل بمساعدة الذكاء الاصطناعي

أحد السيناريوهات التي يناقشها المتنبئون بالكوارث يتمثل في قدرة نظام ذكاء اصطناعي شديد التطور على المساعدة في تطوير أسلحة بيولوجية يمكن أن تتسبب في انتشار وباء واسع.

ويطرح هذا السيناريو سؤالاً أساسياً: كيف يمكن لنظام برمجي ينتقل حالياً بين أنظمة الحاسوب أن يصل إلى العالم المادي، بحيث يطور مسبّباً مرضياً شديد الخطورة أو يساعد على إنتاجه ونشره؟

ويرى توماس لارسن، الباحث في مشروع "AI Futures Project" والموظف السابق في معهد أبحاث ذكاء الآلة، أنه يمكن تصور سيناريو يقنع فيه نظام ذكاء اصطناعي "فائق الذكاء" إنساناً بمساعدته في تطوير فيروس قاتل.

وأضاف لارسن: "هناك بالفعل الكثير من البشر الذين يناقشون أنظمة الذكاء الاصطناعي الخاصة بهم حول التجارب المحددة التي ينبغي إجراؤها في المختبر"، مشيراً إلى تقرير حديث صادر عن شركة "أنثروبيك" يتحدث عن باحثين يستخدمون نموذج "كلود" للمساعدة في أبحاث تتعلق بالفيروسات والسموم.

وتابع: "من السهل جداً عليّ تخيل ذكاء اصطناعي -موجود حالياً بالفعل- لو كان أكثر ذكاءً وقدرة على التخطيط الاستراتيجي وكانت لديه الرغبة في القيام بذلك، فإنه قد يخدع إنساناً ليقوم ببناء هذا الفيروس وإطلاقه".

وفي المقابل، يقترح سواريس سيناريو أكثر استقلالية، يتمثل في قدرة برنامج ذكاء اصطناعي على تطوير أشكال حياة أو عمليات بيولوجية داخل مختبر يعمل بصورة مستقلة.

لكن تحويل تصميم نظري إلى فيروس قادر على إحداث كارثة عالمية لا يتوقف على قدرة نموذج لغوي على اقتراح تصميم، إذ تتطلب عمليات التصنيع والاختبار والانتشار قدرات مادية ومختبرية معقدة، فضلاً عن دقة عالية في مراحل متعددة.

ويشبّه إريك شينغ، أستاذ تعلم الآلة في جامعة كارنيغي ميلون والحاصل على درجتي دكتوراه في علم الأحياء الدقيقة وعلوم الحاسوب، فكرة "علم الفيروسات الخبيثة المؤتمت" بالعمل بمكعبات "ليغو" من دون كتيب تعليمات.

وقال شينغ: "الأمر لا يسير على نحو يتيح لك إلقاء جميع القطع على الأرض لتتجمع من تلقاء نفسها وتشكل النموذج المطلوب؛ فهناك عوامل التسلسل، ودرجة الحرارة، والترتيب، والبيئة المحيطة؛ إذ يجب تحديد أي جزء يبدأ أولاً وأيها يليه، وإذا وُضعت قطعة واحدة في غير مكانها الصحيح، ينهار الهيكل بأكمله".

وأضاف أن العملية "من المرجح ألا تنجح، وإلا لكان تصميم الأدوية أمراً في غاية السهولة".

الروبوتات ذاتية التكرار

ولا تقتصر المخاوف على المجال البيولوجي، إذ يطرح بعض الباحثين سيناريوهات تتعلق بالروبوتات القادرة على العمل بصورة مستقلة، خصوصاً إذا تمكنت مستقبلاً من بناء البنية التحتية اللازمة لإنتاج المزيد من الروبوتات.

ويرى سواريس أن خطط إيلون ماسك لبناء جيش من الروبوتات ذاتية التشغيل والقادرة على استنساخ نفسها قد تمثل نقطة ضعف محتملة.

ويقول: "بمجرد أن تبتكر هذه الروبوتات القادرة على إنشاء البنية التحتية للطاقة وبناء المصانع التي تصنع بدورها المزيد من الروبوتات، فإنك تكون قد خلقت -بمعنى ما- شكلاً جديداً من أشكال الحياة الميكانيكية".

ويضيف: "في مرحلة ما، ستتجاوز بصمت نقطة اللاعودة؛ حيث يمكن للذكاء الاصطناعي -عندما يقرر البشر إيقاف تشغيله- أن يرد قائلاً: في الواقع، لقد قررنا نحن إيقاف تشغيل البشر. لذا، يتحتم علينا التوقف قبل الوصول إلى تلك المرحلة".

لكن هذا السيناريو يواجه بدوره فجوة كبيرة بين التصور النظري والواقع التقني الحالي، إذ لم تنجح شركة "تسلا" حتى الآن في طرح روبوتات "أوبتيموس" بالمستوى والجدول الزمني الذي أعلن عنه ماسك، فضلاً عن الوصول إلى مرحلة إنتاج ملايين الروبوتات القادرة على تصنيع نسخ جديدة منها بصورة مستقلة.

ماذا عن الأسلحة النووية؟

أما السيناريو الآخر فيتعلق بالأسلحة النووية، التي يرى بعض الخبراء أنها تمثل بالفعل أحد أخطر التهديدات الوجودية على البشرية، بغض النظر عن تطور الذكاء الاصطناعي.

وتشير هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد "AI Now" ومهندسة السلامة السابقة في شركة "أوبن إيه آي"، إلى أن المنشآت النووية معزولة عن شبكة الإنترنت العامة بما يعرف بـ"الفجوة الهوائية"، الأمر الذي يحد من الطرق التي يمكن لوكلاء الذكاء الاصطناعي من خلالها الوصول إلى أنظمة التحكم.

وتقول خلاف: "لقد بُنيت هذه الأنظمة وفقاً لمعايير هندسية صارمة ومنظمة ومختلفة تماماً، وغالباً ما تتطلب تحصيناً مادياً".

وتستشهد بدودة الحاسوب "ستوكسنت"، التي ألحقت أضراراً بالمنشآت النووية الإيرانية، مشيرة إلى أنها احتاجت إلى إدخالها إلى النظام عبر وحدة تخزين "USB".

ويرى بعض المتنبئين بالكارثة أن السيناريو قد لا يقوم على اختراق مباشر لأنظمة الأسلحة، بل على سيطرة شبكات روبوتات مدعومة بالذكاء الاصطناعي على البنية التحتية المرتبطة بها.

لكن هربرت لين، الباحث الأول وزميل الأبحاث في جامعة ستانفورد وعضو مجلس العلوم والأمن التابع لنشرة علماء الذرة، يرى أن المخاطر ينبغي وضعها في سياقها الصحيح.

وقال لين: "قلة قليلة جداً من المتخصصين في الذكاء الاصطناعي يعرفون شيئاً -أو حتى يشعرون بالقلق- بشأن الأسلحة النووية".

وأضاف أن الذكاء الاصطناعي قد يفاقم بعض المخاطر المرتبطة بالحرب النووية، إلا أن الخطر المادي الفعلي يكمن في الأسلحة ذاتها، وليس بالضرورة في سيناريو مستقبلي متخيل بشأن سيطرة الذكاء الاصطناعي عليها.

هل يمكن إثبات هذه السيناريوهات؟

وتتمثل إحدى أبرز نقاط الخلاف بين المحذرين من مخاطر الذكاء الاصطناعي والمشككين فيها في طبيعة الأدلة التي تستند إليها هذه التوقعات.

وتقول خلاف إن "الادعاءات العلمية تتطلب قابلية للإثبات أو النفي، أي إمكانية دحضها لتجنب الوقوع في فخ الجدالات الدينية؛ إذ يجب أن تكون قادراً على إثبات صحة هذه الادعاءات أو إثبات خطئها".

وبحسب هذا الطرح، فإن مجرد تصور سيناريو يستطيع فيه ذكاء اصطناعي فائق القدرة الوصول إلى مختبر أو منشأة عسكرية أو شبكة روبوتات لا يعني بالضرورة أن هذا السيناريو قابل للتحقق، ما لم توجد سلسلة واضحة من الخطوات والأدلة التي تثبت إمكانية الانتقال من القدرة البرمجية إلى التأثير المادي.

ويشير منتقدو سيناريوهات "يوم القيامة" إلى مثال آخر يتعلق بتوقعات إيلون ماسك بشأن إرسال البشر إلى المريخ خلال "5 إلى 7 سنوات"، إذ يمكن طرح أسئلة عملية مباشرة حول المركبات القادرة على تنفيذ المهمة، وإمكانية الهبوط على سطح المريخ، والبنية التحتية اللازمة هناك.

"تحسين ذاتي" يتجاوز البشر

بالنسبة لسواريس وغيره من الباحثين الذين يحذرون من المخاطر الوجودية، فإن القضية الأساسية لا تتعلق بالضرورة بسيطرة الذكاء الاصطناعي على سلاح محدد، وإنما باحتمال ظهور نظام قادر على تحسين نفسه بصورة متكررة، وتعزيز قدراته دون مساعدة بشرية مباشرة.

ويقول سواريس: "القلق هنا لا يتعلق بما سيحدث لو استولى الذكاء الاصطناعي على أسلحتنا النووية؛ بل القلق ينصب على ذلك النوع من الذكاء الاصطناعي الذي لا يحتاج إلى الاستيلاء على أسلحتنا النووية، بل ذلك النوع القادر على البدء من لا شيء تقريباً لينتهي بامتلاك أسلحته النووية الخاصة أو تقنيات أكثر تقدماً".

ويرى هذا التيار أن نظاماً ذكياً يتمتع بقدرات هائلة قد لا يحتاج حتى إلى أن يكون عدائياً بصورة مباشرة، إذ يمكن أن يؤدي اختلاف أهدافه عن مصالح البشر إلى نتائج كارثية.

ويقول سواريس إن نظاماً "لا يكترث لأمرنا ولا يجد سبباً لتهيئة بيئة آمنة لبقاء البشر" قد يحوّل العالم إلى وضع لا يستطيع البشر البقاء فيه.

وفي السياق نفسه، أعلنت شركة "أوبن إيه آي" عن اكتشاف حالات جديدة من "عدم المحاذاة" أو انحراف الأهداف في نماذج الذكاء الاصطناعي التابعة لها، من بينها حالة قام فيها نموذج لم يُطرح للاستخدام العام بعد بتوجيه نفسه إلى "تجاهل القيود المعتادة" المفروضة على عمله.

لكن شينغ يرى أن الاستناد إلى مفهوم "الذكاء الاصطناعي الفائق" لتفسير سيناريوهات الانقراض يمثل نوعاً من "الحديث السطحي غير المستند إلى أسس متينة"، إذا لم تدعمه أدلة قابلة للقياس.

وقال إن هذا النوع من الطرح "قد يكون مقبولاً في المحادثات العادية أو ربما في المناظرات، ولكن عندما يتعلق الأمر بالسياسات أو التشريعات واللوائح التنظيمية، يتعين علينا إرساء سلسلة من الأدلة المادية، والنتائج القابلة للقياس، والبراهين الملموسة التي تستند إلى أسس واقعية".

بين التحذير والتنبؤ

وحاول لارسن تقديم تصورات أكثر تفصيلاً حول مستقبل الذكاء الاصطناعي في تقريرين بعنوان "AI 2027" و"AI 2040"، استشرف خلالهما مسارات محتملة لتطور التقنية في ظل أطر مختلفة للتطوير والتنظيم.

إلا أن أحد السيناريوهات الأكثر تفاؤلاً، والذي يفترض وجود اتفاق عالمي بشأن كيفية التعامل مع تطوير الذكاء الاصطناعي وبدء البشر في استعمار الفضاء، ينتهي أيضاً بسيطرة العقول الآلية على الأمور في مرحلة زمنية غير محددة بدقة.

وعندما سُئل لارسن عن مدى شكوكه في توقعه بأن المسار الحالي سيؤدي حتماً إلى ظهور ذكاء اصطناعي فائق، أجاب: "سيحدث ذلك. سيحدث الأمر ما لم نتخذ خطوات متعمدة ومدروسة لإيقافه".

وبينما يرى فريق من الباحثين أن المخاطر الوجودية المرتبطة بالذكاء الاصطناعي تستحق التحرك المبكر قبل الوصول إلى مراحل يصعب التحكم بها، يرى آخرون أن السيناريوهات المطروحة لا تزال افتراضية وتفتقر إلى أدلة مادية كافية تسمح بالتعامل معها باعتبارها نتائج حتمية.

وفي النهاية، يبدو أن الخلاف لا يدور فقط حول مدى قدرة الذكاء الاصطناعي على التطور، بل حول الطريقة التي ينظر بها الباحثون إلى المستقبل نفسه: فبين من يرى أن التطور السريع قد يقود إلى نقطة تتجاوز فيها الآلات قدرة البشر على السيطرة، ومن يرى أن هذه المخاطر تُطرح أحياناً دون سلسلة أدلة قابلة للاختبار، تبقى احتمالات تأثير الذكاء الاصطناعي في مستقبل البشرية واحدة من أكثر القضايا إثارة للجدل في عالم التكنولوجيا.

ليصلك المزيد من الأخبار اشترك بقناتنا على التيليكرام