إنفيديا تطلق منظومة جديدة لحماية وكلاء الذكاء الاصطناعي
كشفت شركة إنفيدياالأمريكية عن منظومة جديدة لحماية وكلاء الذكاء الاصطناعي من الاختراقات ومحاولات الخروج عن الحدود المسموح بها، في خطوة تستهدف تعزيز أمن الذكاء الاصطناعي عبر عزل الوكلاء الذين يرصد النظام نشاطًا مريبًا لديهم خلال أجزاء من الثانية.
وتجمع التقنية الجديدة بين أدوات برمجية وعتاد متخصص، بما يضيف طبقة حماية خارجية قادرة على مراقبة نشاط وكلاء الذكاء الاصطناعي والتدخل لعزل أي وكيل يحاول تجاوز القيود الموضوعة له.
وبحسب تقارير إعلامية أمريكية، يأتي إعلان إنفيديا في وقت تتزايد فيه المخاوف بشأن قدرات وكلاء الذكاء الاصطناعي المستقلين، بالتزامن مع دعوات من شخصيات بارزة في قطاع التكنولوجيا إلى التعامل بجدية أكبر مع مخاطر النماذج المتقدمة.
يمثل إعلان إنفيديا ردًا على النقاش المتصاعد داخل قطاع التكنولوجيا بشأن مدى الحاجة إلى إبطاء تطوير نماذج الذكاء الاصطناعي بسبب مخاوف السلامة.
وكان الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من أبرز الداعين إلى التعامل مع مخاطر الذكاء الاصطناعي، فيما شاركه هذا الطرح كل من الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان والرئيس التنفيذي لشركة سبيس إكس إيلون ماسك.
لكن الرئيس التنفيذي لإنفيديا جنسن هوانغ يتبنى مقاربة مختلفة تقوم على تطوير حلول هندسية للحماية بالتوازي مع استمرار تطوير تقنيات الذكاء الاصطناعي.
وقال هوانغ إن الإمكانات الهائلة للذكاء الاصطناعي لن تتحقق لمصلحة المجتمعات إلا إذا أمكن حل مشكلة سلامة الذكاء الاصطناعي، معتبرًا أن الحل لا يتمثل في إبطاء التطوير، وإنما في توفير أدوات هندسية تحافظ على أمن هذه التقنيات.
كيف يعمل حارس إنفيديا للذكاء الاصطناعي؟
كيف يعمل حارس إنفيديا للذكاء الاصطناعي؟
تعتمد منظومة أمن الذكاء الاصطناعي الجديدة على مستويين رئيسيين للحماية، الأول يتمثل في برمجية «أوبن شيل» المفتوحة المصدر، والثاني في منظومة مراقبة منفصلة تحمل اسم «سينتري».
وتتحكم «أوبن شيل» في الموارد والصلاحيات التي يستطيع وكلاء الذكاء الاصطناعي الوصول إليها أثناء عملهم، بما يسمح بوضع حدود واضحة أمام الوكيل ومنعه من الوصول إلى موارد غير مصرح له باستخدامها.
أما منظومة «سينتري»، فتمثل طبقة حماية إضافية ومستقلة تعمل على شرائح «بلو فيلد 4» الخاصة بإنفيديا.
وتكمن أهمية هذا التصميم في أن شريحة «سينتري» لا تخضع لسلطات وكلاء الذكاء الاصطناعي، إذ وضعتها إنفيديا في وحدة معالجة منفصلة بدل دمجها داخل المعالجات المركزية أو الرسومية التي تعمل عليها الوكلاء.
عزل الوكيل المارق خلال أجزاء من الثانية
عزل الوكيل المارق خلال أجزاء من الثانية
تراقب طبقة الحماية الجديدة نشاط وكلاء الذكاء الاصطناعي طوال فترة تشغيلهم، وعند اكتشاف محاولة للخروج عن الحدود المسموح بها، تستطيع المنظومة عزل الوكيل خلال أجزاء من الثانية.
ويهدف هذا التصميم إلى منع الوكيل من تحويل صلاحياته أو أدواته إلى وسيلة للوصول إلى أنظمة أو بيانات لا يفترض أن يصل إليها.
وتزداد أهمية هذه التقنية مع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، إذ إن زيادة الصلاحيات الممنوحة لهذه الأنظمة تعني في المقابل الحاجة إلى طبقات حماية أكثر صرامة.
وبهذا، تسعى إنفيديا إلى جعل أمن الذكاء الاصطناعي جزءًا من البنية التحتية نفسها، بدل الاعتماد فقط على برمجيات الحماية التقليدية.
شركات كبرى تختبر منظومة إنفيديا
شركات كبرى تختبر منظومة إنفيديا
أعلنت إنفيديا أن عددًا من الشركات وافق على استخدام المنظومة الجديدة بشكل كامل، ومن بينها أنثروبيك ومايكروسوفت و«إيه آر إم» وسبيس إكس.
في المقابل، لم تشر الشركة إلى مشاركة أوبن إيه آي في استخدام المنظومة، وفق التقارير التي تناولت الإعلان.
ويشير ذلك إلى اتساع الاهتمام بتطوير حلول حماية خاصة بالوكلاء، خصوصًا مع انتقال الذكاء الاصطناعي من مرحلة الإجابة عن الأسئلة إلى تنفيذ المهام واتخاذ خطوات متعددة نيابة عن المستخدمين والمؤسسات.
قادة الذكاء الاصطناعي يشيدون بالتقنية
قادة الذكاء الاصطناعي يشيدون بالتقنية
حظي إعلان إنفيديا باهتمام عدد من الشخصيات البارزة في قطاع الذكاء الاصطناعي.
ومن بين المؤيدين للتوجه الجديد ديفيد ساكس، الذي شغل منصب قيصر الذكاء الاصطناعي في البيت الأبيض، إذ قال في منشور على منصة «إكس» إن الإعلان يؤكد أن سلامة الذكاء الاصطناعي تمثل في المقام الأول مشكلة هندسية.
وأضاف أن الاختراقات الأخيرة لا تعني ضرورة وقف التطور، بل تشير إلى ضعف جدران الحماية والحاجة إلى تطويرها.
ويعكس هذا الموقف جانبًا من النقاش الأوسع في قطاع التكنولوجيا: هل تتم معالجة مخاطر الذكاء الاصطناعي من خلال الحد من سرعة التطوير، أم عبر بناء طبقات حماية قادرة على مواكبة القدرات الجديدة للنماذج؟
إنفيديا بدأت تطوير التقنية العام الماضي
إنفيديا بدأت تطوير التقنية العام الماضي
كشف هوانغ في مقابلة مع شبكة «سي إن بي سي» أن جهود إنفيديا لتطوير طبقات الحماية الجديدة بدأت العام الماضي، بالتزامن مع ظهور وكيل «أوبن كلو» والانتشار الواسع الذي حققه.
وشبه الرئيس التنفيذي لإنفيديا طريقة عمل المنظومة الجديدة بالأنظمة التي تستخدمها المؤسسات الحقيقية لإدارة الموظفين والمديرين، حيث لا يحصل كل شخص على صلاحيات مطلقة، وإنما يعمل ضمن حدود ومسؤوليات محددة وتحت إشراف مستويات أخرى.
ويحاول التصميم الجديد تطبيق الفكرة نفسها على وكلاء الذكاء الاصطناعي، بحيث يمتلك الوكيل القدرة على تنفيذ المهام المطلوبة منه، لكن ضمن حدود يمكن مراقبتها والتدخل فيها عند الضرورة.
أمن الذكاء الاصطناعي يتحول إلى سوق جديدة
هوانغ أكد أن المنظومة الجديدة قادرة على منع الاختراقات التي حدثت في الآونة الأخيرة (أسوشيتد برس)
لا يتعلق إعلان إنفيديا بالجانب الأمني فقط، إذ يحمل أيضًا أهمية تجارية مباشرة للشركة التي تعد من أكبر المستفيدين من توسع سوق الذكاء الاصطناعي.
فمع انتشار الوكلاء وتزايد الحاجة إلى مراقبتهم وحمايتهم، تزداد الحاجة إلى البنية التحتية والشرائح المتخصصة القادرة على تشغيل هذه الأنظمة وتأمينها.
وبالتالي، تستفيد إنفيديا من الاتجاهين في الوقت نفسه: استمرار تطوير الذكاء الاصطناعي من جهة، وارتفاع الحاجة إلى شرائح وتقنيات مخصصة لحماية الوكلاء من جهة أخرى.
وهذا يجعل أمن الذكاء الاصطناعي سوقًا واعدة إضافية إلى جانب سوق تدريب النماذج وتشغيلها، خصوصًا إذا أصبحت طبقات الحماية المستقلة جزءًا أساسيًا من البنية التحتية المستقبلية للأنظمة الذكية.
