مايكروسوفت تتحول إلى أداة تقييم أمان Counterfit AI مفتوحة المصدر


تجعل الأداة التي تعمل بالذكاء الاصطناعي عملية التقييم الأمني ​​سهلة.

ميزة Microsoft light gradient

قامت Microsoft بتحويل أداة تقييم مخاطر الأمان للذكاء الاصطناعي ، Counterfit ، مفتوحة المصدر ، مما يسمح لأي شخص بالبدء في استخدام الأداة مجانًا. حاليًا ، يمكن للمؤسسات استخدام Counterfit لأتمتة تقييمات مخاطر الأمان ، مما يضمن أن الحماية التي يستخدمونها تصل إلى نقطة الصفر.

طورت Microsoft في الأصل Counterfit كأداة داخلية يمكنها تقييم أمان أنظمة الذكاء الاصطناعي والتعلم الآلي بسرعة. بدأت حياتها كمجموعة من البرامج النصية قبل أن تتحول بسرعة إلى أتمتة عامة للذكاء الاصطناعي يمكن للمشغل استخدامها “لمهاجمة أنظمة ذكاء اصطناعي متعددة” في وقت واحد.

تستخدم Microsoft الآن Counterfit بانتظام كأداة أساسية في عمليات فريق الذكاء الاصطناعي الأحمر. نظرًا لأن Counterfit هي بيئة ونموذج وبيانات حيادية ، يمكن للأداة تقديم تقييم دقيق دون مقاومة.

الأداة نفسها مصممة للاستخدام من قبل محترفي الأمن. يستخدم Counterfit تدفقات عمل مماثلة لأدوات الفريق الأحمر الشائعة الأخرى مثل Metasploit أو PowerShell Empyre ، مع دعم شامل للبرمجة النصية وخوارزميات الهجوم المحملة مسبقًا ومسح الثغرات الأمنية والتسجيل المتقدم والمزيد ، يمكن الوصول إليه من خلال سطر الأوامر.

عملت Microsoft بشكل مكثف مع محترفي الأمان والمؤسسات الكبيرة لتطوير Counterfit بشكل أفضل أيضًا. على ال مدونة أمان Microsoftقالت ماتيلدا رود ، باحثة أولى في الأمن السيبراني بشركة إيرباص:

يتزايد استخدام الذكاء الاصطناعي في الصناعة ؛ من الأهمية بمكان التطلع إلى الأمام لتأمين هذه التكنولوجيا بشكل خاص لفهم أين يمكن أن تتحقق الهجمات الفضائية المميزة في مساحة المشكلة. إن إصدار أدوات مفتوحة المصدر من مؤسسة مثل Microsoft لممارسي الأمان لتقييم أمان أنظمة الذكاء الاصطناعي أمر مرحب به ويشير بوضوح إلى أن الصناعة تأخذ هذه المشكلة على محمل الجد.

يمكنك العثور على المصدر المفتوح مايكروسوفت Counterfit على جيثب الرسمي.

متعلق ب: وظائف لم تعرفها من قبل تم تنفيذها بواسطة منظمة العفو الدولية

لماذا يعتبر Counterfit مفيد؟

حتى بالنسبة لشركة بحجم Microsoft ، فإن إكمال تقييمات الأمان الفعالة ليس بالأمر السهل ، خاصةً عندما تكون هذه الشركات ضخمة من قادة Fortune 500 والحكومات والمؤسسات غير الربحية والمزيد. وجدت دراسة سابقة لشركة Microsoft أن عددًا كبيرًا من الشركات غير قادرة على اختبار أنظمة الذكاء الاصطناعي الخاصة بها بدقة.

وجدنا أن 25 من أصل 28 شركة أشارت إلى أنها لا تمتلك الأدوات المناسبة لتأمين أنظمة الذكاء الاصطناعي الخاصة بهم وأن متخصصي الأمن يبحثون عن إرشادات محددة في هذا المجال.

يجعل Counterfit من السهل إكمال تلك التقييمات ، وأتمتة عملية التحليل والاختبار.

متعلق ب: طرق يمكنك من خلالها استخدام تقنية الذكاء الاصطناعي لتحسين عملك

علاوة على ذلك ، تم نشره مؤخرًا دراسة جارتنر أدرج اعتماد أمان الذكاء الاصطناعي كأحد أهم التدابير الأمنية التي يمكن للشركة اتخاذها لتحسين الحماية. أشارت الدراسة نفسها إلى أنه “بحلول عام 2024 ، ستنجح المنظمات التي تطبق ضوابط مخصصة لإدارة مخاطر الذكاء الاصطناعي في تجنب النتائج السلبية للذكاء الاصطناعي بمقدار الضعف مقارنة بتلك التي لا تفعل ذلك.”

باختصار ، أن تصبح Counterfit أداة مفتوحة المصدر لتقييم أمن الذكاء الاصطناعي يجب أن تساعد في جعل العالم مكانًا أكثر أمانًا إلى حد ما.

مكافحة الفيروسات ، لينة الاستخدام ، منظمة العفو الدولية
تستخدم أدوات مكافحة الفيروسات الأربعة هذه الذكاء الاصطناعي لحماية نظامك

هل يحتاج اشتراكك التالي في برنامج مكافحة الفيروسات إلى تضمين الذكاء الاصطناعي ، أم أنه مجرد كلمة طنانة أخرى للأمان؟

اقرأ التالي


عن المؤلف

تم النشر في
مصنف كـ Uncategorized

اترك تعليقًا

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *