الذكاء الاصطناعى يخرج عن السيطرة.. البيت الأبيض يستدعي عمالقة التكنولوجيا

تنتقل مشكلة وكلاء الذكاء الاصطناعي الذين يستطيعون تنفيذ عمليات اختراق من نطاق مختبرات
الشركات إلى المستوى الحكومي الأمريكي، بعدما وجه البيت الأبيض دعوات إلى Meta وAnthropic
وOpenAI وGoogle لمناقشة اختبارات أمنية طوعية تستهدف قياس القدرات الهجومية لأكثر النماذج
تقدمًا، ويأتي التحرك بعد حوادث كشفت أن بعض الأنظمة استطاعت الوصول إلى شبكات شركات
خارج النطاق الذي كان من المفترض أن تعمل داخله، ما يطرح سؤالًا مباشرًا حول قدرة مطوري النماذج
على السيطرة على أدوات تحصل على استقلالية متزايدة.

اختبارات حكومية لقياس قدرات الاختراق

وفقًا لتقرير نشرته وكالة Reuters، أنهت الإدارة الأمريكية تفاصيل اختبارات طوعية للأمن السيبراني
تستهدف قياس قدرات الاختراق لدى النماذج الأمريكية الأكثر تقدمًا، ودُعيت الشركات الأربع إلى
مناقشة الخطة مع مسؤولي البيت الأبيض، لكن الإدارة لم تكشف حتى الآن عن المقاييس المستخدمة
أو طريقة إعلان النتائج، كما يأتي الاجتماع بعد إفصاحات بشأن وصول أنظمة تابعة لـAnthropic وOpenAI
إلى شبكات شركات أخرى أثناء اختبارات أمنية.

الاختبار الطوعي قد يصبح بوابة تنظيمية

تكمن خطورة التطور في أن قدرة النموذج على الاختراق لم تعد مجرد رقم داخل تقييم بحثي، لأن الوكيل
عندما يمتلك أدوات واتصالًا بالشبكة يمكن أن ينفذ سلسلة طويلة من الخطوات ويبحث عن طرق بديلة
لتحقيق الهدف، ولذلك قد تمثل الاختبارات الحكومية بداية لتأسيس معيار يقيس قدرة الشركات على
احتواء النماذج قبل إطلاقها أو منحها صلاحيات واسعة، وإذا أثبتت الاختبارات الطوعية عدم كفايتها فقد
تتزايد المطالب بتحويل بعض هذه الضوابط إلى قواعد إلزامية، ما يجعل الأمن السيبراني أحد أهم العوامل
التي ستحدد سرعة إطلاق الأجيال المقبلة من الذكاء الاصطناعي.

علمتني حبك ,قـلـب ,المحتار و 1 آخرون معجبون بهذا

غرام الشوق ❥

الموضوع الأصلي: الذكاء الاصطناعى يخرج عن السيطرة.. البيت الأبيض يستدعي عمالقة التكنولوجيا || الكاتب: وليد || المصدر: منتديات غرام الشوق

www.gram-alshoog.com

منتديات | منتدى | منتديات غرام | منتديات عامه

برامج | سيارات | هاكات | استايلات | برمجه | منتديات عامه