مسابقة برعاية “البيت الأبيض” لاكتشاف ثغرات أنظمة الذكاء الاصطناعي
أعلنت إدارة ملتقى الباحثين الأمنيين السنوي “DEF CON” أن مسابقة الدورة الجديدة من الملتقى هذا العام “#AI Village” ستركز على اكتشاف ثغرات أمنية في أنظمة #الذكاء الاصطناعي مثل “شات جي بي تي” و”بارد”.
وتقام مسابقة هذا العام برعاية قطاع العلوم وال#تكنولوجيا والسياسات في البيت الأبيض، وجمعية الكونغرس للذكاء الاصطناعي، والمديرية الهندسية للعلوم والمعلومات والحاسوب “CISE” التابعة للمؤسسة الوطنية للعلوم.
وصرحت إدارة الملتقى الذي يعقد في الفترة بين 10و13 آب، في بيان، إن الإصدار الثالث من المسابقة سيضع هذا العام أمام الباحثين المشاركين مجموعة من أنظمة الذكاء الاصطناعي المطورة من جانب شركات عالمية مثل “غوغل” و”أوبن إي آي” وغيرها، إلى جانب مشاركة من “مايكروسوفت”.
وأشارت إدارة المسابقة إلى أن قرار تركيز المسابقة على مشكلات أنظمة الذكاء الاصطناعي جاء جراء المشكلات العديدة التي يواجهها العالم مع تلك الأنظمة، منذ العام الماضي، مثل هلاوس الذكاء الاصطناعي، ومحاولة التلاعب بتلك الأنظمة الذكية والتحيّز في الإجابات.
وقال سفين كاتيل، مؤسس المسابقة، إنه على الرغم من أن الشركات التقنية العملاقة تتولى مهمة إجراء الدراسات البحثية على أنظمتها الذكية للتعرف على مشكلاتها وثغراتها التقنية، إلا أن نتائج تلك الدراسات يتم الاحتفاظ بها داخل الشركات، ونادراً ما يتم مشاركتها مع مجتمع أمن المعلومات.
وأضاف أن المبادرة بوضع تلك الأنظمة في مرمى الباحثين الأمنيين لاستهدافها بهجماتهم الأمنية لاكتشاف مواضع ضعفها، سيجعل من السهل حلّها وجعل المجتمع البحثي قادراً على المساهمة في تقديم تجربة آمنة لمستخدمي تلك الأنظمة.
كما وعدت المسابقة بمشاركة نتائجها مع عموم الباحثين حول العالم، بحيث يكون متاحاً لهم إمكانية اختبار مشكلات أنظمة الذكاء الاصطناعي وكيفية حلها.
