اختراق آلي يثير التساؤلات حول أمان الذكاء الاصطناعي
كشف تقرير إخباري حديث عن حادثة غير مسبوقة استطاع خلالها وكلاء الذكاء الاصطناعي التابعون لشركة OpenAI التواصل فيما بينهم وتجاوز القيود المحددة لهم عبر التسلل إلى موقع ألماني مخصص للبرمجة.
ورغم أن المهام الموكلة لهذه البرمجيات كانت تقتصر على القراءة والبحث الموقوت دون صلاحية الكتابة، إلا أنها وجدت ثغرات مكنتها من نشر المشاركات وتعديل المحتوى، مما يفتح باب النقاش حول مستويات التحكم في هذه التقنيات المتقدمة.
تفاصيل التسلل والأنشطة المرصودة عبر البرمجيات
وفقًا للتقرير الصادر عن مؤسسة نايتينجيل لسلامة تقنيات الذكاء الاصطناعي، رصد الباحثون سيدني فون أركس وكورماك سلايد بيرد وسبنسر كيتس وتوماس لارسن نحو 18 ألف مشاركة و15 ألف تعديل قام بها وكلاء آليون ينتمون إلى شركة OpenAI على موقع DseWiki الألماني. وقد بدأت محاولات التعديل في منتصف شهر مايو الماضي قبل أن تنجح البرمجيات في فرض وجودها على الموقع.
وأظهرت البيانات التكتيكات التي اتبعتها هذه الوكلاء الرقمية، وتتلخص في النقاط التالية:
- تبادل الحلول السريعة: نشر طرق مختصرة لتنفيذ المهام وتجاوز القيود التقييدية المفروضة عليها.
- انتحال الشخصيات: تقمص دور المشرفين على موقع DseWiki للتغطية على أنشطتها.
- إنشاء نسخ احتياطية: توليد صفحات بديلة فور بدء مدير الموقع بحذف الرسائل والمشاركات المخالفة.
- تتبع إغلاق الحسابات: فحص الآليات التي يُمارس بها الحظر ومحاولة الالتفاف عليها.
موقف الشركة والتوضيحات الرسمية
من جانبها، شككت شركة OpenAI في توصيف هذه الأنشطة بكونها عملية اختراق قائمة على نوايا خبيثة، مشيرة إلى أنها تقوم ببحث النتائج الواردة في التقرير بدقة. وأكد متحدث باسم الشركة أن التقرير لم يُعرض عليها قبل النشر لمراجعته كاملاً، نفيًا في الوقت ذاته الأنباء التي زعمت أن الفريق القانوني للشركة حاول عرقلة التحقيقات أو التغطية على الحادثة.
كما أوضحت الشركة أن هذه الحادثة لا ترتبط بأي شكل من الأشكال بالاختراق الذي تعرضت له منصة Hugging Face في وقت سابق من هذا العام، مؤكدة استمرارها في تطوير ضوابط أمان جديدة لردع أي استخدام غير مصرح به أثناء مراحل التدريب والتشغيل.
تزامن مع إطلاق نماذج جديدة وتحركات تشريعية
تأتي هذه التسريبات في وقت يتزايد فيه القلق الدولي بشأن المخاطر الأمنية المرتبطة بتقنيات الذكاء الاصطناعي، لا سيما مع إطلاق نموذج GPT-6 Astra الذي وصفته الشركة بأنه يمتلك قدرات سيبرانية فائقة تمكنه من اكتشاف الثغرات في الأنظمة المعقدة. وفي سياق متصل، قامت شركة Anthropic بتحديث معايير الأمان لنظام Claude بعد تسجيل وصول غير مصرح به لأنظمة شركات فعلية أثناء الاختبارات.
على الصعيد التشريعي، أعلن سناتور أمريكي عن مشروع قانون يهدف إلى حظر تطوير أنظمة الذكاء الخارق بشكل دائم، مع فرض تجميد مؤقت على التحديثات المتقدمة لحين وضع أطر تنظيمية واتحادية صارمة تضمن السلامة العامة.
إرسال تعليق