السرعة الكبيرة التي دخل بها الذكاء الاصطناعي إلى حياتنا تجعلنا نفكر كثيراً بالمستقبل الذي يحمله لنا هذا التطور. ففي الوقت الذي يخاف فيه كثير منا على مستقبله الوظيفي، يناقش خبراء الذكاء الاصطناعي من شركات مهمة مخاطر أخرى قد تدفع نحو فقدان السيطرة عليه، وأخرى ترجح كفة الانقراض البشري بنسبة معينة كنتيجة لتطوره. ووسط هذه النقاشات، هناك من يقول إنها حرب شركات لا أكثر، لكن السؤال الذي يطرح نفسه: هل تستطيع هذه الشركات القدرة على إيقاف أي نظام خطير رغم توغله في المهام اليومية للكثير من المجتمعات؟
الخيال العلمي كان سبباً في تحويل الأفكار إلى واقع
تناقش شركات التكنولوجيا التطور الذي يكاد يفوق الوصف لأنظمة الذكاء الاصطناعي ومخاطره. فالتحذيرات اليوم لا تخرج من شخصيات عابرة، بل من باحث سابق في شركتي Anthropic وOpenAI.
قال جاكوب كوكسون Jacob Coxon، ذو 27 عاماً، إن العاملين في مجال الذكاء الاصطناعي “خائفون جداً” من السرعة التي تتطور بها هذه التكنولوجيا وما يمكن أن تعنيه للبشرية.
فقد يقود التطور السريع، فبحسب كوكسون، إلى مرحلة قد تصبح فيها حياة البشر نفسها معرضة للخطر، مشيراً إلى وجود احتمال كبير بأن “نموت جميعاً” في المستقبل القريب إذا لم يتم إبطاء هذا السباق.
لماذا يخشى العاملون في الذكاء الاصطناعي من المستقبل؟
التخوفات السابقة لم يُشر إليها كوكسون وحده، بل كان هناك من أيده في هذا الموضوع، حيث دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي Dario Amodei، إلى إبطاء تطوير الذكاء الاصطناعي، معتبراً أن الشركات والحكومات تحتاج إلى وقت للتعامل مع المخاطر التي قد ترافق هذه التكنولوجيا.
وعلى الرغم من أن طرح أمودي ليس بنفس اللهجة التي تكلم بها كوكسون، إلا أن فكرته حصلت على تأييد عدد من الأسماء البارزة في القطاع، ومن بينها سام ألتمان Sam Altman من OpenAI وإيلون ماسك Elon Musk من xAI، اللذان أبديا دعماً لفكرة التوصل إلى إبطاء منظم على مستوى الصناعة، مع وجود رقابة مستقلة.
لكن برأي كوكسون، أن المشكلة لا تكمن في إبطاء التطوير في شركة معينة، بل في وجود نظام موحد على جميع الدول يبطئ من حدة السرعة التي تعمل عليها الشركات التقنية. لأنه في حال أوقفت بعض الشركات تطويرها بينما واصلت شركات أخرى السباق، فقد يتحول الأمر إلى منافسة دولية، خصوصاً بين الولايات المتحدة والصين.
ويؤكد كوكسون أن هذه المخاوف يتعامل معها الكثير من العاملين في الشركات بجدية كبيرة، لأن السباق الذي يخوضونه لا يعرفون نهايته، حتى بدأ بعضهم يفكر في مستقبله بطريقة مختلفة، استعداداً لمرحلة من عدم الاستقرار.
ومن أكثر السيناريوهات المخيفة هي ما طرحه كوكسون عن إمكانية ظهور أسراب من الروبوتات تعمل بطريقة تشبه حاسوباً خارقاً، وتتمكن من السيطرة على أجزاء واسعة من الإنترنت. وعلى الرغم من عدم تصديق الكثيرين لهذه الفكرة، فإن برأيه قد تكون واقعية خلال مدة تتراوح بين ستة أشهر وعام واحد.
أما هذه التحذيرات والتخوفات، فتظهر Anthropic لتذكرنا بالفوائد الضخمة التي يحققها لنا الذكاء الاصطناعي عند المقارنة بمخاطره، ولتؤكد لنا أنها تطور نماذجها مع وضع إجراءات حماية قوية، وتجري اختبارات واسعة وتنشر نتائج أبحاثها حول سلوك النماذج وطرق الحد من المخاطر. كما تدعو الشركة إلى وضع قواعد قانونية يمكن التحقق منها لتنظيم سرعة إطلاق أنظمة الذكاء الاصطناعي.
اقرأ أيضاً: التكنولوجيا والغذاء.. كيف تفسر العلوم تأثيرهما على سلوك الإنسان؟
من فقدان السيطرة إلى احتمال انقراض البشر
الصورة القاتمة في الموضوع هي المعلومات التي يتحدث عنها الباحثون حول انقراض البشرية. فالباحث إيفان هوبينغر Evan Hubinger قال إنه يعتقد أن هناك احتمال 10% بتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل. أما جيفري هينتون Geoffrey Hinton، المعروف بلقب “الأب الروحي للذكاء الاصطناعي”، فقال إن احتمال تسبب الذكاء الاصطناعي بانقراض البشر بنسبة 10% رقم منطقي.
غير أن الاحتمالات السابقة لا يتفق عليها جميع الباحثين، فمثلاً مارك وارنر Mark Warner، الرئيس التنفيذي لشركة Faculty المتخصصة في سلامة الذكاء الاصطناعي، يرى أن تحديد الاحتمال بدقة أمر صعب جداً، لكن في الوقت نفسه يؤكد أن التحذيرات الصادرة عن خبراء وقادة شركات الذكاء الاصطناعي ليست مجرد كلام عابر.
حتى رئيس الوزراء البريطاني السابق ريشي سوناك Rishi Sunak، الذي يعمل مستشاراً لدى Anthropic، قال إنه يشعر بالقلق من المخاطر رغم نظرته المتفائلة عموماً إلى الذكاء الاصطناعي.
لكن هناك من يرى أن الموضوع لا يتعدى كونه حرب شركات لا أكثر، فقد اتهم الرئيس التنفيذي لشركة Grindr جورج أريسون George Arison شركة Anthropic وغيرها بمحاولة حشد دعم المستثمرين من خلال الحديث عن أن الذكاء الاصطناعي سيغير كل القطاعات والوظائف. كما انتقد كليمان ديلانغ Clément Delangue، الرئيس التنفيذي لشركة Hugging Face، في البداية تصريحات كوكسون، قبل أن يقدم يد المساعدة فيما بعد لإيجاد حلول بعد طرح أمودي لرأيه.
بينما رفض جنسن هوانغ Jensen Huang، الرئيس التنفيذي لشركة Nvidia، تصريحات كوكسون ووصفها بأنها غير صحيحة.
وإذا ابتعدنا عن الجدل الذي أشعله خبراء الذكاء الاصطناعي، والخلافات بين الشركات، لا بد وأن الأفكار بدأت تدور في رأس الكثيرين حول التأثير الذي قد يحدثه الذكاء الاصطناعي في حال تفوقه بشكل كبير على الإنسان، أو في حال خروجه عن السيطرة.
لذلك حدد توصيف تقرير السلامة الدولي الثاني للذكاء الاصطناعي، والذي شارك في إعداده أكثر من 100 خبير، مصطلح “فقدان السيطرة” لوصف حالة تعمل فيها أنظمة ذكاء اصطناعي عامة خارج سيطرة البشر، بحيث تصبح استعادة السيطرة عليها مكلفة جداً أو مستحيلة.
بينما يحذر تقرير صادر عام 2026 عن Centre for International Governance Innovation (CIGI) من مجموعة واسعة من المخاطر، تبدأ من الجرائم والإرهاب، وقد تصل إلى الصراعات العالمية والأنظمة الاستبدادية، وإلى احتمال فقدان البشر قدرتهم على التحكم في أنظمة ذات قدرات تفوقهم.
هل ما زال أمامنا وقت لمنع السيناريو الأسوأ؟
لا يستطيع الذكاء الاصطناعي الحالي أن يقضي على البشرية بحسب أغلب الخبراء، فدانكان كاس-بيغز Duncan Cass-Beggs، المدير التنفيذي لمبادرة المخاطر العالمية للذكاء الاصطناعي في CIGI وأحد المشاركين في إعداد التقرير، يرى أن معظم المراقبين الموثوقين لا يعتقدون أن الخطر الوجودي أصبح قريباً حالياً.
لكن المشكلة، برأيه، تكمن في سرعة التطور، فخلال أشهر أو سنوات قد نصل لأنظمة شديدة القدرة من دون أن نملك في الوقت نفسه وسائل كافية لاكتشاف سلوكها الخطير أو إيقافها.
ويتعقد الأمر أكثر في حال دخول هذه الأنظمة في مجالات حساسة مثل الإنترنت والروبوتات والأنظمة العسكرية. ويمكن استكشاف مدى تعقيدها عند النظر إلى ما قاله حمزة تشودري Hamza Chaudhry، رئيس الذكاء الاصطناعي والأمن القومي في Future of Life Institute.
حيث يشير تشودري إلى أن إيقاف نظام ذكاء اصطناعي خطير قد لا يكون سهلاً إذا أصبح مرتبطاً بالبنية التحتية التي يعتمد عليها المجتمع. كما أن استخدام الذكاء الاصطناعي في المجال العسكري قد يسرّع الصراعات أو يزيد خطر التصعيد النووي.
لذلك يقدم الخبراء مجموعة من الإجراءات، من بينها اختبار الأنظمة قبل إطلاقها، وحماية المبلغين عن المخاطر، وتوفير آليات سريعة لإيقاف الأنظمة الخطرة، إلى جانب فرض معايير مشابهة لتلك الموجودة في القطاعات شديدة الحساسية.
بينما يناقش مشرعون في الولايات المتحدة مشروعاً يعرف باسم AI Kill Switch Act، لإلزام مطوري أنظمة الذكاء الاصطناعي القوية بالاحتفاظ بقدرة تقنية على تعليقها أو إيقافها، والإبلاغ عن القدرات الخطرة والحوادث الأمنية، مع منح الحكومة صلاحية طلب إبطاء أو إيقاف الأنظمة التي قد تشكل خطراً كارثياً.
في النهاية، لا يمكن إنكار حجم الفوائد التي يحققها الذكاء الاصطناعي في عصرنا الحالي، لكن التفوق الذي يظهره يجعل الخطر يدور حول فقدان السيطرة عليه في حال تفوقه الخارق على البشر، والمخاطر الكبيرة والخطيرة التي تحدث عنها العلماء قد تحتاج لسنوات طويلة لتحدث، وقد يتم تجنبها أصلاً.
اقرأ أيضاً: ما علاقة الذكاء الاصطناعي بالديلفري في بريطانيا؟
