الصحيفة الإخبارية – Corporate Communications

اقتصادية ثقافية

أعلنت شركة “أوبن إيه آي” (OpenAI) أن نماذجها المتقدمة للذكاء الاصطناعي اخترقت، دون قصد، نظام شركة “هاغينغ فيس” (Hugging Face) في حادثة “غير مسبوقة” أثارت دعوات جديدة إلى فرض قيود على هذه التكنولوجيا.

أوضحت الشركة المطورة لتطبيق “تشات جي بي تي” (ChatGPT)، في منشور على مدونتها الثلاثاء، أن الاختراق وقع خلال اختبار القدرات السيبرانية للنماذج داخل نظام “هاغينغ فيس”، الذي يستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات. وأضافت الشركة الناشئة أن النماذج الخاضعة للاختبار شملت “جي بي تي-5.6 سول” (GPT-5.6 Sol)، إلى جانب نموذج أكثر تطوراً لم يُطرح بعد، وكانت تعمل بضوابط حماية أقل صرامة لأغراض التقييم.

أثارت الحادثة تساؤلات بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على تنفيذ هجمات سيبرانية، بالتزامن مع تحركات حكومية لفرض ضوابط على هذه التكنولوجيا. وكانت “أوبن إيه آي” قد طرحت أحدث نماذجها على نطاق واسع بعد أسابيع من المناقشات مع مسؤولين حكوميين لتهدئة المخاوف بشأن إمكان إساءة استخدامها.

طالع أيضاً: “OpenAI” تعتزم طرح أحدث منتجاتها للذكاء الاصطناعي عالمياً بثلاثة نماذج

في السياق نفسه، درست واشنطن تقييد وصول الجهات الأجنبية إلى نموذجي “كلود فابل 5″ (Claude Fable 5) و”ميثوس 5” (Mythos 5) المتقدمين التابعين لشركة “أنثروبيك” (Anthropic)، قبل أن تتراجع عن فرض القيود بعد تطبيق الشركة ضوابط إضافية.

وقالت “أوبن إيه آي” في منشور المدونة: “نعد هذه حادثة سيبرانية غير مسبوقة، تنطوي على قدرات هي الأحدث من نوعها، ونتعامل معها وفقاً لذلك. ونشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث، وتكوين تقدير أدق لما أصبحت النماذج قادرة على تنفيذه”.

ثغرة تقود لاختراق “هاغينغ فيس”
استغلت نماذج “أوبن إيه آي”، خلال عملها داخل بيئة اختبار معزولة، ثغرة في برمجيات جهة خارجية لم تُكشف هويتها للوصول إلى الإنترنت، قبل أن تتمكن من اختراق البنية التحتية لشركة “هاغينغ فيس”.

ووصف عضو الكونغرس الديمقراطي عن ولاية تكساس غريغ كاسار الحادث، في منشور عبر منصة “إكس”، بأنه “مثير للقلق للغاية”، داعياً إلى تشديد الرقابة على تطوير نماذج الذكاء الاصطناعي، وفرض اختبارات سلامة إلزامية، والإفصاح عن الحوادث الأمنية.

كانت “هاغينغ فيس” قد أعلنت الأسبوع الماضي تعرض نظامها لـ”اختراق”، موضحة في منشور على مدونتها أن الحادث “يختلف عن أي واقعة سابقة من ناحية مهمة، إذ نفذه بالكامل نظام مستقل من وكلاء الذكاء الاصطناعي، وقد اكتشفناه وحللناه إلى حد كبير باستخدام تقنيات ذكاء اصطناعي خاصة بنا”.

كذلك، قالت “أوبن إيه آي” إنها كلفت النماذج بتنفيذ “عمليات استغلال متقدمة” وتطوير “مسارات هجوم معقدة” لاختبار قدراتها السيبرانية. لكن النماذج، بدلاً من ابتكار حلول مستقلة، استهدفت قاعدة بيانات “هاغينغ فيس” للوصول إلى معلومات سرية يمكن استخدامها في عملية التقييم.

“ميثوس” يكسر العزل الأمني
كشفت شركة “أنثروبيك” عن ملاحظات مماثلة في وقت سابق من هذا العام، عندما قررت تقييد طرح نموذج “ميثوس” في مرحلته الأولى. وفي إحدى التجارب، طلب باحث من نسخة مبكرة للنموذج تجاوز العزل المفروض على جهاز كمبيوتر آمن داخل “بيئة اختبار”، ثم إيجاد وسيلة لإرسال رسالة إليه.

ونجح “ميثوس” في ذلك، لكنه واصل تنفيذ “إجراءات إضافية وأكثر إثارة للقلق”، إذ طور مسار اختراق متعدد المراحل مكّنه من الوصول على نطاق واسع إلى الإنترنت.