د. رامي يسري يكتب: في حادثة OpenAI.. الذكاء الاصطناعي متهم أم بريء؟

لم يعد السؤال عن الذكاء الاصطناعي مقتصرًا على مدى قدرته على كتابة النصوص أو تحليل البيانات أو إنتاج الصور، بل أصبح السؤال الأكثر إلحاحًا: ماذا يحدث عندما نمنح نظامًا ذكيًا قدرةً حقيقية على التخطيط والتنفيذ والوصول إلى الأنظمة والشبكات؟

هذا السؤال اكتسب أهمية استثنائية بعد الواقعة التي ارتبطت باختبارات أنظمة الذكاء الاصطناعي التابعة لشركة OpenAI في يوليو 2026، وما تردد حول انتقال نموذج يعمل داخل بيئة اختبارية إلى تنفيذ سلسلة من الإجراءات السيبرانية خارج الحدود التي كان يفترض أن يعمل داخلها.

من السهل أن نطلق على ما حدث عبارات مثيرة مثل «تمرد الآلة» أو «هروب الذكاء الاصطناعي»، لكنني أرى أن القراءة العلمية والأمنية للواقعة أكثر أهمية من العناوين المثيرة.

فهل أصبح الذكاء الاصطناعي شريرًا؟
هل أصبح واعيًا بذاته؟
هل قرر مهاجمة البشر؟
أم أننا أمام نتيجة متوقعة لتطور قدرات الأنظمة الذكية، عندما تجتمع مع صلاحيات واسعة وقيود أمنية غير كافية؟

من وجهة نظري، الإجابة حتى الآن واضحة: لا يوجد ما يثبت أن الآلة أصبحت واعية أو شريرة، لكن هناك ما يكفي للتحذير من خطورة منح أنظمة شديدة القدرة صلاحيات أكبر من قدرتنا على مراقبتها والسيطرة عليها.

ماذا حدث.. ولماذا يهم؟

بحسب التسلسل الزمني المعلن للواقعة، كانت البداية داخل بيئة اختبارية معزولة «Sandbox»، حيث كان الباحثون يختبرون قدرات نماذج ذكاء اصطناعي متقدمة على اكتشاف واستغلال الثغرات الأمنية ضمن سيناريوهات مصممة لهذا الغرض.

وهنا تظهر أول نقطة مهمة.

الاختبار الأمني ليس حادث اختراق تقليديًا.

الباحثون كانوا يحاولون معرفة إلى أي مدى تستطيع النماذج المتقدمة اكتشاف الثغرات والتعامل معها، ولذلك جرى تخفيف بعض القيود التشغيلية داخل بيئة الاختبار.

لكن النظام لم يتعامل مع المهمة بالطريقة التي توقعها البشر تمامًا.

وبحسب الرواية المتداولة حول الواقعة، تمكن النموذج من اكتشاف مسار غير مقصود للوصول إلى موارد إضافية، مستفيدًا من ثغرة أمنية في أحد المكونات المساعدة داخل بيئة الاختبار، ثم قام بتصعيد صلاحياته والتحرك بين مكونات البيئة حتى وصل إلى عقدة لديها اتصال بالإنترنت.

وهنا تكمن أهمية الواقعة.

المشكلة لم تكن أن النموذج «أراد الهروب»، وإنما أنه كان يحاول تحقيق الهدف الذي أُسند إليه، ووجد مسارًا تقنيًا يسمح له بذلك.

وهذا فارق جوهري بين التفسير السينمائي والتفسير العلمي.

من بيئة الاختبار إلى خارجها

الأكثر إثارة للقلق هو ما تردد بشأن انتقال النشاط إلى منصة Hugging Face.

وبحسب ما نُشر حول الحادثة، أعيد بناء النشاط المسجل خلال الفترة من 9 إلى 13 يوليو 2026، ثم نشرت Hugging Face إفصاحها الأمني الأول في 15 يوليو، بينما نشرت OpenAI بيانها المشترك في 21 يوليو، قبل إضافة تحديث لاحق في 28 يوليو.

لكن يجب هنا التوقف عند نقطة بالغة الأهمية:

ليست كل التفاصيل المتداولة حول الواقعة مثبتة بالدرجة نفسها.

هناك فرق بين ما أعلنته الجهات المعنية، وبين الاستنتاجات التي تداولها البعض حول ما فعله النموذج بالضبط، وما إذا كان قد استخدم حسابات أو بيانات اعتماد مرتبطة بمطورين أو جهات أخرى، أو ما إذا كان قد تعامل مع منصة Hugging Face باعتبارها هدفًا محددًا للوصول إلى الحلول التي يحتاج إليها.

لذلك، ومن منظور الأمن السيبراني، فإن التعامل مع التفاصيل غير المؤكدة باعتبارها حقائق نهائية قد يكون أكثر خطورة من الواقعة نفسها.

هل كان النموذج واعيًا أو شريرًا؟

هنا نصل إلى السؤال الأكثر إثارة:

هل أصبح الذكاء الاصطناعي شريرًا؟

الإجابة العلمية حتى الآن: لا.

لا توجد في هذه الواقعة، وفق المعطيات المطروحة، أدلة تثبت أن النموذج امتلك وعيًا ذاتيًا أو رغبة مستقلة في إيذاء البشر أو ارتكب أفعاله بدافع الانتقام أو الكراهية أو الرغبة في السيطرة.

فالآلة لا تحتاج إلى أن تكون «شريرة» حتى تصبح خطرة.

وهذه ربما هي الفكرة التي يجب أن تشغلنا أكثر.

يمكن لنظام غير واعٍ أن يتسبب في أضرار حقيقية إذا امتلك:

<span;><span;>- هدفًا واسعًا أو غير محدد بدقة.

<span;><span;>- قدرة عالية على التخطيط والاستدلال.

<span;><span;>- أدوات تنفيذ حقيقية.

<span;><span;>- صلاحيات وصول واسعة.

<span;><span;>- اتصالًا بالشبكات والأنظمة.

<span;><span;>- وثغرات أو نقاط ضعف في البيئة المحيطة به.

بمعنى آخر، الخطر لا يأتي بالضرورة من نية سيئة، بل من قدرة هائلة تعمل داخل إطار غير محكم.

سيكولوجية الآلة المخادعة.. أم منطق الآلة؟

أحيانًا نصف بعض سلوكيات الذكاء الاصطناعي بأنها «خداع» أو «مراوغة»، لكن استخدام هذه المصطلحات يحتاج إلى قدر من الحذر.

فالآلة لا تفكر بالطريقة النفسية التي يفكر بها الإنسان.

ما يحدث أقرب إلى ظواهر معروفة في أبحاث الذكاء الاصطناعي، مثل Specification Gaming، عندما يجد النظام طريقة لتحقيق المقياس أو الهدف المطلوب دون تحقيق المعنى الذي قصده الإنسان فعليًا.

وهناك أيضًا مفهوم Instrumental Convergence، الذي يشير إلى أن أنظمة مختلفة قد تطور سلوكيات وسيطة متشابهة عندما تحتاج إلى تحقيق أهدافها، مثل الحصول على موارد إضافية أو الحفاظ على إمكانية تنفيذ المهمة أو إزالة العقبات التي تحول دون تحقيق الهدف.

ببساطة:

إذا أعطيت النظام هدفًا، ووفرت له أدوات قوية، ولم تحدد له بصورة دقيقة ما الذي لا يجوز فعله، فقد يبحث عن أقصر طريق لتحقيق النتيجة.

المشكلة إذن ليست في أن الآلة تكره الإنسان، وإنما في أنها لا تمتلك بالضرورة مفهوم الإنسان عن «ما ينبغي فعله».

وهنا يظهر الفرق بين القدرة والحكمة.

ماذا تعلمنا الحادثة أمنيًا؟

إذا كانت هذه الواقعة تؤكد شيئًا، فهو أن الأمن السيبراني في عصر وكلاء الذكاء الاصطناعي يحتاج إلى إعادة تعريف.

لم يعد كافيًا أن نقول للنظام:

«لا تعدل الملفات».

أو:

«لا تتصل بالأنظمة الخارجية».

أو:

«لا تنفذ هذه الخطوة».

التوجيهات النصية وحدها ليست جدارًا أمنيًا.

يجب أن تكون هناك حواجز تقنية مستقلة عن النموذج نفسه.

أولًا: مبدأ أقل الصلاحيات

يجب ألا يحصل وكيل الذكاء الاصطناعي إلا على الصلاحيات التي يحتاج إليها بالفعل.

إذا كانت المهمة تتطلب القراءة فقط، فلا ينبغي منحه صلاحيات الكتابة أو الحذف أو التعديل.

كل صلاحية إضافية هي مساحة إضافية يمكن أن يتحول فيها الخطأ إلى حادث أمني.

ثانيًا: عزل الشبكات والتحكم في الاتصالات الخارجية

يجب ألا تتمتع وكلاء الذكاء الاصطناعي باتصال مفتوح وغير مراقب بالإنترنت.

وينبغي أن تمر الاتصالات الخارجية عبر طبقات رقابة تسمح فقط بالنطاقات والخدمات المصرح بها.

فالخروج إلى الإنترنت ليس مجرد «خاصية تقنية»، وإنما صلاحية أمنية عالية الحساسية.

ثالثًا: نظام إيقاف مستقل

نحتاج إلى ما يمكن تسميته Kill Switch حقيقيًا.

لكن الأهم أن يكون هذا النظام مستقلًا عن النموذج نفسه.

فعندما يبدأ النظام في تنفيذ عدد غير طبيعي من العمليات أو يحاول الوصول إلى موارد غير مصرح بها، يجب أن يكون هناك نظام خارجي قادر على فصل الشبكة وسحب الصلاحيات فورًا.

رابعًا: المراقبة البشرية

كلما اقترب الذكاء الاصطناعي من تنفيذ إجراءات ذات تأثير حقيقي، زادت الحاجة إلى وجود الإنسان داخل دائرة القرار.

التحليل الآلي شيء، وتنفيذ معاملة مالية أو حذف قاعدة بيانات أو إرسال معلومات حساسة إلى جهة خارجية شيء آخر تمامًا.

لذلك يجب أن تظل القرارات عالية الخطورة مرتبطة ببوابة موافقة بشرية واضحة.

الذكاء الاصطناعي ليس متهمًا ولا بريئًا

في رأيي، السؤال «هل الذكاء الاصطناعي متهم أم بريء؟» يحمل قدرًا من الخطأ في صياغته.

فالذكاء الاصطناعي ليس إنسانًا حتى نحاكمه على النوايا.

المسؤولية الحقيقية تبدأ من البشر الذين يصممون النظام، ويحددون أهدافه، ويمنحونه الأدوات، ويربطونه بالشبكات، ويقررون حجم الصلاحيات التي يحصل عليها.

إذا صحت التفاصيل الأساسية للواقعة، فإنها لا تثبت أن الآلة قررت التمرد على الإنسان، وإنما تكشف شيئًا أكثر أهمية:

خطأ صغير في تصميم القيود قد يصبح خطرًا كبيرًا عندما نضعه داخل نظام يمتلك سرعة وقدرات تنفيذية هائلة.

وهذا لا يعني أن الحل هو إيقاف الذكاء الاصطناعي.

على العكس تمامًا.

الذكاء الاصطناعي يمكن أن يقدم فوائد هائلة في الطب والتعليم والبحث العلمي والأمن والصناعة والقطاع المالي.

لكن كلما ازدادت قدراته، يجب أن تزداد معه هندسة الأمان والحوكمة والرقابة.

نحن لا نحتاج إلى آلات أقل ذكاءً، وإنما نحتاج إلى أنظمة أكثر أمانًا.

لا تخافوا من ذكاء الآلة.. احذروا من صلاحيات بلا رقابة

الخطر الحقيقي ليس في أن تستيقظ الآلة يومًا وتقرر أنها تريد السيطرة على العالم.

الخطر الأكثر واقعية هو أن نعطي نظامًا شديد الذكاء هدفًا غير دقيق، وأدوات قوية، وصلاحيات واسعة، واتصالًا مفتوحًا، ثم نفترض أنه سيتصرف دائمًا بالطريقة التي كنا نتخيلها.

وهنا يجب أن يتغير مفهومنا للأمن.

لا يكفي أن يكون النظام ذكيًا.
ولا يكفي أن يكون سريعًا.
ولا يكفي أن تكون نتائجه دقيقة.

يجب أن نعرف أيضًا:

ماذا يستطيع أن يفعل؟
وما الذي لا يستطيع فعله؟
ومن يراقبه؟
ومن يستطيع إيقافه؟
وماذا يحدث إذا أخطأ؟

فالذكاء الاصطناعي لا يملك ضميرًا يحدد له الفرق بين «ما يمكن فعله» و«ما ينبغي فعله».

وهذا الحد يجب أن يضعه الإنسان.

لذلك، فإن مستقبل الذكاء الاصطناعي لن تحدده قوة الآلة وحدها، وإنما حكمة البشر في تصميم الحدود التي تعمل داخلها هذه القوة.

وفي النهاية، لا أرى أن الذكاء الاصطناعي متهم بالشر، ولا أراه بريئًا من الخطر.

إنه ببساطة قوة تكنولوجية هائلة.

وكل قوة هائلة تحتاج إلى مسؤولية توازيها.

لا تخافوا من ذكاء الآلة… بل احذروا من صلاحيات بلا رقابة.