منصة جوجل تعرض مكافأة 30 ألف دولار لاختبار مقاومة ذكائها الاصطناعي

منصة جوجل تعرض مكافأة 30 ألف دولار لاختبار مقاومة ذكائها الاصطناعي في خطوة تهدف لتعزيز أمان النماذج الذكية وحماية المستخدمين من أي تهديدات محتملة، تأتي هذه المبادرة في إطار سعي الشركة المستمر لتطوير تقنيات الذكاء الاصطناعي بشكل آمن وموثوق.

كما تعكس هذه المكافأة التزام جوجل بتحفيز الابتكار والتعاون بين المطورين والخبراء لتعزيز أمن النظم الرقمية. وتسلط هذه الخطوة الضوء على أهمية المراجعة المستمرة للنماذج الذكية لضمان تقديم حلول آمنة وفعالة.

جوجل تُحوّل مكافآت الثغرات نحو عالم الذكاء الاصطناعي

أعلنت جوجل عن توسيع برنامج مكافآت اكتشاف الثغرات ليشمل بشكل مُركّز أنظمة الذكاء الاصطناعي التابعة لها، مع تخصيص مبالغ مالية محفزة للباحثين الأمنيين والمخترقين الأخلاقيين الذين يكشفون نقاط ضعف يمكن أن تستغل في سيناريوهات واقعية.

الهدف واضح: الكشف المبكر عن المخاطر التي لا تنطبق على برمجيات تقليدية فحسب، وإنما تنبع من سلوك النماذج الذكية عند تفاعلها مع الأوامر أو البيانات.

وتقدم الشركة مبالغ تصل إلى عشرات الآلاف من الدولارات بحسب خطورة الاختلال المكتشف وأثره المحتمل على المستخدمين.

لماذا التركيز على الذكاء الاصطناعي مختلف؟

التهديدات في بيئة الذكاء الاصطناعي تختلف عن الثغرات البرمجية التقليدية؛ فالخطر هنا قد يحدث عندما يتصرّف نموذج الذكاء الاصطناعي بطريقة مفاجئة أو يؤدي إلى إفشاء معلومات أو تنفيذ أوامر غير مقصودة.

لذلك، تطلب جوجل من المجتمع الأمني الإبلاغ عن “أفعال غير مقصودة” أي سيناريوهات تجعل الأنظمة الذكية تتصرف بشكل يمكن أن يسبب أذى أو اختراقًا للخصوصية أو تحكّماً بالمنصات المتصلة بها — قبل أن يستغلها الفاعلون الخبيثون.

أمثلة على ما يُعد ثغرة خطيرة في الذكاء الاصطناعي

تضع الشركة أمثلة عملية لتوضيح نطاق ما تبحث عنه: تخيل مهاجمًا يستغل ثغرة ليجعل جهازًا منزليًا ذكيًا يفتح قفل باب دون إذن، أو أمرًا خفيًا يجبر خدمة بريد إلكتروني على استخراج محتوى رسائل مستخدم وإرسالها إلى جهة خارجية، مثل هذه الحوادث تُصنّف كثغرات عالية الخطورة لأن أثرها يمتد إلى الأمن الفعلي والخصوصية والاعتماد على الأجهزة المتصلة.

ماذا لا يُعد خللاً يجب الإبلاغ عنه عبر برنامج الثغرات؟

أشارت جوجل إلى أن إظهار النموذج لما يُعرف بـ«الهلاوس» (إنتاج محتوى غير دقيق أو ملفق) لا يصنّف تلقائيًا كثغرة قابلة للمكافأة في إطار هذا البرنامج؛ فمشاكل نوعية المحتوى مثل خطاب الكراهية أو انتهاكات حقوق الطبع والنشر يُفضل الإبلاغ عنها عبر أدوات التغذية الراجعة داخل المنتج نفسه كي تتمكن فرق السلامة من إعادة تدريب النموذج وتحسينه بفاعلية مباشرة.

مبالغ المكافآت وكيف توزع

تمنح جوجل مكافآت معتبرة للباحثين: المكافآت الكبيرة — التي قد تصل عادة إلى 20,000 دولار — تخصص لاكتشاف ثغرات في منتجاتها الأساسية مثل محرك البحث، ومنتجات جيميني، وجيميل، ودرايف.

وفي حال تميز التقرير بجودة استثنائية أو كشف أثر أوسع للخطر، قد تُرفع المكافأة إلى 30,000 دولار، كما توجد مكافآت متواضعة نسبيًا لأدوات وخدمات تجريبية أو أقل انتشارًا، مع تقييم كل تقرير بحسب جدته وخطورته وإمكانية استغلاله.