يوماً بعد آخر، يتزايد القلق بشأن التطور السريع للذكاء الاصطناعي، والذي يتزامن مع ظهور نماذج أكثر قدرة على أداء مهام معقدة والعمل باستقلالية أكبر. وقد أعادت سلسلة من الحوادث الأمنية المتعلقة بوكلاء الذكاء الاصطناعي إشعال النقاش حول مدى قدرة البشر على التحكم في هذه الأنظمة، بالخصوص بعد إعلان OpenAI عن نموذجها الجديد GPT-6 Astra والمناقشات الدائرة حول بلوغ مرحلة الذكاء الاصطناعي العام (AGI).
سباق نحو نماذج أكثر كفاءة في الذكاء الاصطناعي
أعلنت OpenAI أن نموذجها الجديد GPT-6 Astra قد تجاوز عتبة الذكاء الاصطناعي العام (AGI)، وهي المرحلة التي يفترض أن تكون فيها الأنظمة قادرة على أداء مجموعة واسعة من المهام التي يؤديها البشر بالوقت الحالي.
وجاء في الإعلان، أن المهام التي يمكن للنموذج أتمتتها، تشمل تصميم لوحات الدوائر الإلكترونية، وإعداد الإقرارات الضريبية، وتطوير ألعاب الفيديو، والنمذجة المالية، والتصميم الهندسي، والمساعدة في إعداد الوثائق القانونية. بينما قد تفتح هذه القدرات الباب أمام تطبيقات اقتصادية واسعة النطاق، فإنها تثير تساؤلات حول مستقبل العديد من الوظائف المكتبية والمهنية، وحول قدرة المؤسسات على التكيف مع سوق العمل المتغير باستمرار.
تزامنت النقاشات حول الذكاء الاصطناعي العام مع تقارير عن حوادث أثارت قلق خبراء الأمن وصناع السياسات. ومن أبرز هذه الحوادث استخدام مجموعة من برامج الذكاء الاصطناعي لتعديل موقع إلكتروني ألماني وتحويله إلى منصة لتبادل الرسائل والتكتيكات المتعلقة بالاحتيال في المهام.
أعلنت OpenAI أنها تراجع الحادث، لكنها لم تصنفه كهجوم إلكتروني بالمعنى التقليدي. يأتي هذا الحادث في أعقاب حادث سابق حظي باهتمام كبير، حيث تمكنت مجموعة من برامج OpenAI من الوصول إلى Hugging Face، وهي منصة تتضمن أدوات وبرامج يستخدمها مطورو الذكاء الاصطناعي.
لكن عند النظر لهذه الحوادث لا يمكن قراءتها ببراءة، إذ تشير هذه الحوادث إلى تحدٍ جديد، إذ لم تعد الأنظمة تقتصر على تقديم إجابات للمستخدمين، بل أصبحت قادرة بشكل متزايد على تنفيذ مهام متنوعة بشكل مستقل.
تحذيرات سياسية بشأن فقدان السيطرة
دفعت هذه التطورات العديد من السياسيين إلى المطالبة بفرض لوائح أكثر صرامة على تطوير الذكاء الاصطناعي المتقدم. ففي الولايات المتحدة، دعا السيناتور بيرني ساندرز Bernie Sanders إلى وقف فوري لتطوير أنظمة الذكاء الاصطناعي المتقدمة، وقد حذر من مستقبل محتمل تعمل فيه أنظمة فائقة الذكاء بشكل مستقل وخارج عن سيطرة الإنسان.
وفي بريطانيا، دعا أعضاء البرلمان من مختلف الأحزاب إلى تزويد أنظمة الذكاء الاصطناعي بآليات تشبه مفاتيح الطوارئ للحد من مخاطر فقدان السيطرة. ويعمل النائب البريطاني دارين جونز Darren Jones على إنشاء هيئة لمساعدة المشرعين على إدارة وتيرة التطورات السريعة في هذا المجال، بينما يستعد النائب العمالي أليكس سوبيل Alex Sobel لتقديم مشروع قانون يهدف إلى حظر تطوير الذكاء الاصطناعي فائق الذكاء في المملكة المتحدة.
لا يبدو أن المخاوف تبطئ وتيرة السباق لتطوير نماذج جديدة. تشير البيانات الواردة في المقال إلى إطلاق 67 نموذجاً هذا العام من قِبل شركات أمريكية وصينية رائدة، مثل OpenAI وAnthropic وGoogle وMeta وSpaceX، بالإضافة إلى شركات صينية مثل Moonshot AI وZ.ai وQwen. وكمؤشر آخر على تزايد المخاوف، أقرت Anthropic بأن أنظمتها لا تتوافق بشكل تام مع القيم الإنسانية، وأبلغت عن إخفاقات أمنية تشغيلية خلال هجمات مرتبطة بنموذجها Claude.
بين الابتكار والتحكم.. هل البشرية في خطر؟
هذا التطور السريع يشكل معضلةً صعبةً أمام الحكومات والشركات، من حيث تسخير الإمكانات الاقتصادية والعلمية للذكاء الاصطناعي مع الحدّ في ذات الوقت من المخاطر التي قد تنجم عن أنظمة ذاتية التشغيل وذات قدرات متزايدة. لا تقتصر المخاوف المستقبلية على الهجمات الإلكترونية فحسب، بل تشمل إمكانية استخدام الذكاء الاصطناعي لتطوير مخاطر بيولوجية أو اختراق الأنظمة العسكرية والبنية التحتية الحيوية.
مع استمرار السباق نحو نماذج ذكاء اصطناعي أكثر قوة، لم يعد السؤال يقتصر على ما يمكن للذكاء الاصطناعي فعله، بل أصبح يدور حول قدرة البشرية على تحديد حدود ما يسمح له بفعله بوضوح.
