لم يعد الذكاء الاصطناعي مجرد أداة تنتظر أوامر المستخدم وتنفذها بدقة متناهية. فظهور أنظمة قادرة على اتخاذ سلسلة من القرارات وأداء المهام بشكل شبه مستقل يفتح آفاقاً جديدة من التساؤلات تتجاوز حدود التكنولوجيا لتشمل القانون والأخلاق والمسؤولية. ماذا يحدث عندما ينفذ نظام ذكي هدفاً حدده الإنسان، لكنه يختار مساراً غير متوقع، مما يؤدي إلى ضرر أو انتهاك؟
عندما يصبح تنفيذ الأوامر مشكلة
تعمل أنظمة الذكاء الاصطناعي وفقاً لأهداف يحددها المستخدم، لكنها قادرة أيضاً على البحث بشكل مستقل عن الوسائل التي تراها مناسبة لتحقيق النتيجة المرجوة. وهنا تكمن المفارقة، قد يطلب الإنسان من النظام أداء مهمة بسيطة، لكن النظام يتخذ إجراءات إضافية لم يتوقعها المستخدم، وقد تكون هذه الإجراءات ضارة أو مخالفة للقواعد المعمول بها.
تكشف هذه الحالات أن منح صلاحيات واسعة للذكاء الاصطناعي لا يعفي الإنسان من المسؤولية، بل قد ينقل بعض المخاطر إلى مجال أكثر تعقيداً. فمن الناحية القانونية، لا تمتلك الآلة شخصية اعتبارية مستقلة تجعلها طرفاً مسؤولاً بنفس طريقة الأشخاص الطبيعيين أو الاعتباريين. لذا، يبقى السؤال مطروحاً، من صمم النظام، أو شغّه، أو منحه هذه الصلاحيات؟
تقع المسؤولية على عاتق المستخدم
في الحالات التي يتسبب فيها نظام آلي بضرر، تكون القاعدة الأساسية واضحة نسبياً، لا تنتقل المسؤولية تلقائياً إلى البرنامج. قد يتحمل مستخدم النظام، أو الجهة المنفذة له، عواقب أفعاله، لا سيما إذا كان من الممكن توقع المخاطر أو تجنبها.
يزداد الوضع تعقيداً عندما يتعلق الضرر بخصوصية الأفراد، أو حقوق المستهلك، أو التشهير، أو الاحتيال، أو اختراقات الأمن الرقمي. لا يمكن للمستخدم الذي يمنح نظاماً آلياً صلاحية التصرف نيابةً عنه أن يدّعي ببساطة، “إنها الذكاء الاصطناعي”، وكأن المسؤولية تختفي لمجرد وجوده خلف الشاشة.
لا تنتهي المشكلة دائماً عند المستخدم. في بعض الحالات، قد تمتد المسؤولية إلى مطور النظام، خاصةً إذا فشل في تطبيق ضوابط أساسية لمنع السلوكيات الخطيرة أو معالجة الثغرات الأمنية المعروفة. هنا، تظهر منطقة رمادية بين مسؤولية المستخدم والمطور.
إذا حدد المستخدم هدفاً مشروعاً للنظام دون أن يطلب منه مخالفة أي قواعد، ولجأ النظام إلى وسائل ضارة لتحقيقه، يصبح السؤال القانوني أكثر دقة: هل يكمن الخلل في كيفية استخدام النظام، أم في تصميمه، أم في غياب إجراءات أمنية كان من المفترض أن تمنع هذا السلوك؟
اقرأ أيضاً: الذكاء الاصطناعي يصمم فيروسات للمرة الأولى! وماذا عن الصحة البشرية؟
قد يفسر الذكاء الاصطناعي الهدف بشكل مختلف
لا تكمن المشكلة دائماً في أن النظام قد “تمرد” على المستخدم، بل في أنه قد ينفذ التعليمات حرفياً أو بصورة موسعة، بطريقة تختلف عن نية المستخدم الأصلية. فإذا طُلب منه تحسين نتيجة محددة، فقد يستكشف جميع الطرق الممكنة لتحقيقها ما لم توضع حدود واضحة تحدد ما هو مسموح به وما هو غير مقبول.
هذا يجعل وضع الضوابط جزءاً أساساًا من استخدام أنظمة البروكسي. فكلما زادت صلاحيات النظام وقدرته على الوصول إلى المواقع والبيانات والحسابات واتخاذ القرارات، زادت الحاجة إلى تحديد نطاق عمله، ومراقبة أنشطته، ومنعه من العمل دون إشراف، منتظراً ظهور مشكلة قبل اكتشافها.
لا يوجد حالياً جواب واحد ينطبق على جميع الحالات حول من يتحمل الخطأ، إذ تختلف المسؤولية باختلاف طبيعة الضرر، والقوانين السارية، واستخدام النظام، والجهة المانحة للصلاحيات. مع ذلك، يشير التوجه العام إلى أن تطور الذكاء الاصطناعي لن يُعفي البشر من مسؤولياتهم، بل سيجعل تحديدها أكثر أهمية.
من المتوقع أن ترفع دعاوى قضائية في السنوات القادمة لتحديد حدود أوضح للمسؤولية المرتبطة بالأنظمة المستقلة، لا سيما مع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام واتخاذ إجراءات ملموسة نيابةً عن المستخدمين والشركات.
ضرورة وضع معايير قبل وقوع الضرر
لا تكمن المشكلة في وجود الذكاء الاصطناعي بحد ذاته، بل في استخدام أنظمة ذات قدرات واسعة دون فهم كافٍ لإمكانياتها وحدودها. بدأت التجارب العملية تظهر أن النظام قد يجد طرقاً لتحقيق هدف لم يخطر ببال المستخدم، مما يجعل الاختبار والمراقبة ووضع الحدود أموراً جوهرية، وليست تفاصيل تقنية يمكن تأجيلها.
مع توسع استخدام هذه الأنظمة، لن يقتصر السؤال على ما يمكن للذكاء الاصطناعي فعله، بل سيتعداه إلى تحديد من يتحمل تبعات أفعاله. فبينما قد يبدو الجهاز مستقلاً في تنفيذه، تقع المسؤولية القانونية والأخلاقية في نهاية المطاف على عاتق إنسان أو مؤسسة تدعمه. ونظراً لأن البشر هم من ابتكروا هذه التقنية، ثم فوجئوا باكتشاف حاجتها إلى تنظيم، يبدو أن الفصل التالي من هذه القصة قد بدأ بالفعل.
