صدر عن المركز العربي للأبحاث ودراسة السياسات كتاب الذكاء الاصطناعي في مسطرة التشريعات والمعاهدات الدولية، من تأليف إبراهيم محمد بن حمود الزنداني، وهو من المؤلفات المهمّة التي قدمت دراسة شاملة عن الذكاء الاصطناعي في أطواره المختلفة، ابتداء بالمستوى الأدنى وانتهاء بالمستوى المتقدم ذي العقل الجمعي الذي تحتكره القوى الدولية الكبرى، حيث يطرح المؤلف مقاربة جديدة تتجاوز الطرح التقني السائد إلى تحليل قانوني – أمني – سياسي معمّق، يسلّط الضوء على الفجوات الأخلاقية والتشريعية التي تحيط بهذا المجال، لا سيما في ما يتعلق بالأنظمة العالية المخاطر المستخدمة في القطاعات العسكرية والأمنية، والمخاطر الجيوسيبرانية الناشئة عنها.
ويختلف هذا الكتاب عن غيره، بمنظوره المركّب القائم على التحليل التاريخي -المقارن للوثائق السياسية واللوائح التنظيمية والاستراتيجيات الوطنية الصادرة عن الاتحاد الأوروبي والولايات المتحدة الأمريكية وروسيا الاتحادية وجمهورية الصين الشعبية، إضافة إلى ما صدر عن المؤسسات الدينية كبطريركية موسكو والكرسي الرسولي في الفاتيكان، فضلا عن المؤسسات الدولية كالأمم المتحدة ومجلس الأمن الدولي التابع لها.
إشكالية المعايير المزدوجة
يتمثل الهدف الأساسي لهذا الكتاب في تحليل أنظمة الذكاء الاصطناعي العالية المخاطر، ولا سيما المستخدمة في المجالات العسكرية والأمنية، وتقييم آثارها الجيوسيبرانية وتداعياتها الجيوسياسية المحتملة، نظرا إلى ما يمكن أن يُحدثه تكامل الخوارزميات المتطورة مع المنظومات ذات القدرات المتصاعدة وغير المقيدة من نتائج غير مرغوب فيها، يمكن أن تزيد من حدة التوترات بين الدول، وترفع من مستوى الخطر الوجودي الذي يتهدد البشرية.
وتمحورت إشكالية الدراسة في هذا الكتاب حول أسباب ازدواج المعايير القانونية والأخلاقية للدول الفاعلة في مجال الذكاء الاصطناعي (الاتحاد الأوروبي والولايات المتحدة الأمريكية وجمهورية الصين الشعبية وروسيا الاتحادية)، وعدم وجود ضمانات حقيقية تكافئ التحديات والمخاطر التي تصاحب استخدام أنظمة الذكاء الاصطناعي العالية المخاطر، وتلك المستخدمة في المجالات العسكرية والأمنية، والأضرار والأخطاء الناتجة منها.
هذه الإشكالية تتفرع منها تساؤلات متعلقة بمدى وجود أدوات فاعلة من عدمه، بما يمكن المجتمع الدولي من تحديد المسؤولية القانونية والأخلاقية عن الأضرار والأخطاء الناتجة من أنظمة الذكاء الاصطناعي العالية المخاطر في أثناء التنافس والصراع المحموم بين القوى الفاعلة في مجال الذكاء الاصطناعي، ومن الضمانات المتاحة، أو المقدمة لحماية الأفراد والمجتمعات من تلك الأنظمة، وتقليل مخاطر التعرض للاستغلال وانتهاك الخصوصية نتيجة استخدام ذلك النوع من التكنولوجيا، ومدى تطبيق آليات التحكم والرقابة على استخدام أنظمة الذكاء الاصطناعي.
البنية الهيكلية..
قسم الزنداني كتابه إلى خمسة فصول أساسية، عمد الفصل الأول منها إلى تعقب مراحل تطور الذكاء الاصطناعي، بدءا من فلسفة الذكاء الاصطناعي في الأرشيف الإنساني الغربي – المعسكر الشرقي-الإسلامي”، ويعرض تضارب المعلومات حول مكوّنات الذكاء الاصطناعي ومستوياته. واختتم الفصل بتحليل ركائز الذكاء الاصطناعي ونهجه ونماذجه.
أما الفصل الثاني، فهو تشظي رؤى المؤسسات الدينية الكنسية، سواء في الفاتيكان (روما)، أو في بطريركية موسكو، أي في القطبين الأكبرين في العالم المسيحي، وكذا انقسام المنابر الأممية حول اعتماد رؤية موحدة لمواجهة مخاطر الذكاء الاصطناعي.
وتضمن الفصلان الثالث والرابع دور الذكاء الاصطناعي الراهن بصفته قوة محورية تحتل موقعا متقدما في أجندات دوائر صنع القرار والسياسات التشريعية في المدرك السياسي والقانوني الغربي (الاتحاد الأوروبي – الولايات المتحدة)، وفي الحوكمة القانونية والسياسية وفقا للمنظور الشرقي (جمهورية الصين الشعبية – روسيا الاتحادية)، بينما يبين الفصل الخامس مآلات مخاطر الذكاء الاصطناعي في وضع يتسم بتصارع القوى، وما يمثله الذكاء الاصطناعي في البعد العربي.
من المحاكاة إلى الاستقلالية الذاتية
ويسجل الباحث إن الدراسة كشفت عن ارتباك تصنيفي إبستيمولوجي لصيق بركائز الذكاء الاصطناعي ونهجه ومستوياته، وعما نجم عنه من توليد لفيض معلوماتي متضارب، جرى اعتماده مسلمات علمية في كثير من الأدبيات الأكاديمية ومحركات البحث، وقال إن الذكاء الاصطناعي ما عاد أداة لمحاكاة الإدراك البشري، بل غدا كيانا يتقدم بثبات نحو اتخاذ قرارات تتجاوز كثيرا من القيود البيولوجية؛ فبينما افترضت النظريات الكلاسيكية أن الوعي والتنبؤ والتكيف والتفاعل صفات بشرية، وأن إمكانية محاكاتها آليا لا تزال في طور المفاهيم النظرية، كشفت التطورات الحديثة عن نماذج وأنظمة ذكية قادرة على التعلم والتكيف خارج نطاق برامجها الأصلية. وتقيم هذه الأنظمة أداءها وتحلّل أهدافها وتتخذ قراراتها بشكل مستقل، وما كنا نعتقده سمات بشرية خالصة، تجسده اليوم خوارزميات متقدمة.
وبينما يستمر الجدل حول إن كانت تلك القدرات الآلية قد بلغت طور الوعي الذاتي البشري المرتكز على الاستبطان، تبين التجارب العملية أن يقين التفرد البشري بات يترنح مع كل خوارزمية جديدة، ومع كل نموذج ذكي أكثر تطورا.
تحدّيات الحوكمة العالمية
يقول الباحث: لقد أحدث الذكاء الاصطناعي جلبة، اهتز لها الكرسي الرسولي في فاتيكان روما، وحول المائدة المستديرة في بطريركية موسكو. وما بدا أنه حوار ديني و نقاشات مستفيضة لحماية المجتمع البشري من أضرار الذكاء الاصطناعي، تحوّل إلى انحياز ديني كنسي للأقطاب التي تتنافس في مضمار سيادة العالم والتربع على عرش التفوق التكنولوجي.
في المقابل، برزت دعوات متكررة توجه الوعي الجمعي نحو الآثار الحتمية للذكاء الاصطناعي في سوق العمل، وحقوق الإنسان، والخصوصية والانتهاكات الفكرية. من جهة أخرى، يُعدّ غياب إطار عالمي موحد لمواجهة مخاطر الذكاء الاصطناعي من أبرز العقبات؛ إذ إنه يُعوّق تحقيق توازن ضروري بين دعم الابتكار وفرض سيطرة فعالة، كما يحد من فرص المشاركة العادلة الموارد البيانات والمعرفة. هذا، بينما يبقى الأمر الأكثر إلحاحا هو عجز هذا الواقع عن التصدي الحازم لاستخدام الذكاء الاصطناعي في الأغراض التي تضر بالبشرية، ولا سيما في المجالات العسكرية والسياقات الحساسة.
تشرذم المعايير والنوادي التكنولوجية
وسجل الباحث أن المنظومة الدولية تواجه تحديا متصاعدا في ضبط الذكاء الاصطناعي العالي المخاطر، في الوقت الذي تعتمد القوى الكبرى سياسات تنظيمية متباينة، تعكس مصالحها الاستراتيجية من دون توافق دولي فعال. ويُفضي هذا التباين إلى تشرذم في المعايير، ويُقوّض فرص بناء منظومة عالمية متماسكة، تُعنى بالامتثال والمساءلة.
ولقد أدى تسارع التطور التقني واتساع الفجوة بين المبادرات الوطنية والاحتياجات العالمية إلى انزلاق القوى الفاعلة نحو سباق تكنولوجي غير منضبط.
وتمتلك الدول المتنافسة والمتصارعة في مجال الذكاء الاصطناعي أدوات وقوى تكنولوجية فاعلة متحررة من القوانين الصارمة والأطر الأخلاقية؛ إذ لديها قواعدها الخاصة وفقا لقانون السوق الذي تحكمه، ضمنيا، الأيديولوجيات المتباينة، وسلاحها في ذلك البيانات الضخمة باعتبارها موردا سياديا ذا بعد أمني واقتصادي، وباعتبارها وسيلة للسيطرة على مسارات الابتكار وتوجيهها بما يخدم مصالحها الاستراتيجية. وفي سبيل إحكام السيطرة التكنولوجية، لجأ عدد من الدول الفاعلة إلى تشكيل تحالفات ضيقة النطاق، تُعرف بـ«النوادي التكنولوجية الحصرية”، تحت ذرائع مختلفة، مهمتها تكريس حالة من الإقصاء التكنولوجي المقصود وفرض حواجز مصطنعة لعرقلة التطور التكنولوجي للدول الأخرى.
ركزت جهود دوائر صنع القرار في التشريعات الناظمة للذكاء الاصطناعي، في الاتحاد الأوروبي والولايات المتحدة وروسيا الاتحادية وجمهورية الصين الشعبية، على تشكيل بيئة تُحفّز الاستثمارات في مجال الذكاء الاصطناعي بغرض تعزيز القدرات التكنولوجية والصناعية والاقتصادية، من أجل ضمان القدرة التنافسية، والبقاء في طليعة التطور التكنولوجي بما يضمن تعظيم التنافسية الجيوسياسية. وتأتي بعد ذلك التحولات البنيوية التي يتوقع أن يُحدثها الذكاء الاصطناعي على المستوى الاجتماعي، بينما يأتي في ذيل القائمة الإطار الأخلاقي والقانوني الذي يتوافق مع قيم كل دولة ومصالحها.
المخاطر الوجودية والتفرد التكنولوجي
تمثل أنظمة الذكاء الاصطناعي العالية المخاطر سلاحا ذا حدين في المجالات الحيوية؛ إذ يمكن تسخيرها لتعزيز الأمن، لكنها في الوقت ذاته تفتح الباب أمام تهديدات غير مسبوقة، لعل أبرزها احتمال استخدام النماذج الذكية في تصميم هجمات كيماوية وبيولوجية وإشعاعية أو تنفيذها، أو عبر الأحماض النووية الاصطناعية. وتكمن الخطورة في أن هذه النماذج تتيح قدرات تحليلية وتوليدية متقدمة، قد تستغلها جهات خبيثة لتسريع تطوير مواد خطرة، أو توجيه استخدامها بطرائق يصعب اكتشافها أو التصدي لها.
أصبحت مفاهيم الذكاء الاصطناعي العام (AGI) والخارق (ASI) واقعا يخطو بثبات نحو التحقق ليس بوصفها تصورات نظرية مجردة، بل من خلال تجسيدها في أنظمة متقدمة وتطبيقات عسكرية عالية التقنية؛ فقد باتت الأسلحة الذكية وأنظمة الاستشعار والطائرات المسيرة ومنصات الحرب السيبرانية، جزءا لا يتجزأ من البنية العسكرية المعاصرة مدفوعة بتطورات الذكاء الاصطناعي التي تشق طريقها تدريجا صوب تجاوز حدود الذكاء البشري. في هذا السياق، تنشأ مخاوف حقيقية من دنو مرحلة التفرد التكنولوجي”، وهي النقطة التي يصبحعندها الذكاء الاصطناعي قادرا على تحسين ذاته من دون تدخل بشري، بما يؤدي إلى تكوين أنظمة لا يمكن التنبؤ بسلوكها أو ضبطها، وانتهاء بخروجها، في نهاية المطاف، عن السيطرة البشرية.
بين الابتكار والتشريع..
يخلص الزنداني إلى حقيقة مفصلية مفادها أن الاستمرار في السباق التقني المحموم دون غطاء قانوني رصين يضع العالم على حافة الهاوية، فالفجوة العميقة بين “الطموحات التقنية” المتسارعة وبين “الواقع التشريعي” المترهل والمنقسم، أدت إلى انزلاق القوى الفاعلة نحو فضاء تكنولوجي غير منضبط، ويرى المؤلف أن هذا الارتباك يعيق قدرة المجتمع الدولي على تحديد المسؤولية القانونية، خاصة وأن الذكاء الاصطناعي ما عاد مجرد أداة لمحاكاة البشر، بل غدا كيانا يتخذ قراراته بشكل مستقل، ما يجعل تحديث “المسطرة التشريعية” ضرورة حتمية لا ترفا فكريا.
وتبرز المصلحة العامة للبشرية كضرورة ملحة تتطلب تجاوز سياسة “النوادي التكنولوجية الحصرية” والتحالفات الضيقة التي تسعى لتكريس الإقصاء التكنولوجي، ويرى الزنداني أن الطريق نحو حماية المجتمعات يبدأ بإرساء “حوكمة دولية متكاملة” تضمن المشاركة العادلة في الموارد والمعرفة، وتمنع احتكار القوى الكبرى لهذا “العقل الجمعي” الجديد. إن هذه الحوكمة هي الكفيلة بكسر قيود “قانون السوق” الذي تحكمه الأيديولوجيات المتباينة، واستبداله بمنظومة عالمية متماسكة تُعنى بالامتثال والمساءلة الأخلاقية.
إن الحوكمة المنشودة هي وسيلة استراتيجية قادرة على “تحويل التحديات إلى فرص مشتركة”. فبدلا من أن تظل الأنظمة عالية المخاطر- خاصة في المجالات العسكرية والأمنية – تهديدا وجوديا ينذر بهجمات سيبرانية أو بيولوجية يصعب التصدي لها، يمكن للتوافق الدولي أن يحول هذه التقنيات إلى أدوات لتعزيز الأمن الجماعي والتنمية المستدامة، وهذا التحول يتطلب – كما يؤكد الكتاب – جسرا حقيقيا للهوة عبر صياغة معايير قانونية تتفوق على المصالح الجيوسياسية الضيقة للدول المتنافسة.
وفي الختام، يشدد الكتاب على أن ضمان عدم خروج الأنظمة الذكية عن السيطرة البشرية، خاصة مع دنو مرحلة “التفرد التكنولوجي”، مرهون بمدى نجاح المجتمع الدولي في توحيد رؤيته. فالمصلحة العليا للبشرية تقتضي ألا يُترك مستقبلنا رهينة لـ«خوارزميات” تحسن ذاتها بذاتها بعيدا عن الأطر الأخلاقية.. إن المخرج الوحيد يكمن في إيجاد توازن دقيق يدعم الابتكار وفي الوقت ذاته يفرض سيطرة فعالة، بما يضمن أن يظل الذكاء الاصطناعي في خدمة الإنسان، لا سببا في تشرذم المنظومة الدولية أو فناء البشرية.