Google a créé un programme de récompense en matière de vulnérabilité de l’IA pour récompenser les chercheurs qui ont découvert des failles de sécurité critiques dans son IA Gemini. Le programme offre des récompenses financières pour la découverte d’exploits qui présentent un danger tangible pour les utilisateurs ou la plateforme. Cette initiative dédiée est conçue pour rémunérer les chercheurs en sécurité qui découvrent des catégories spécifiques de bogues d’IA à haut risque. Le programme cible les vulnérabilités qui pourraient permettre à un attaquant d’interférer avec le compte Google d’un utilisateur ou les exploits permettant l’extraction d’informations sur l’architecture interne et le fonctionnement de Gemini lui-même. Pour être éligible à une récompense, une vulnérabilité découverte doit avoir un impact significatif qui va au-delà du simple fait que l’IA génère des réponses embarrassantes, absurdes ou factuellement incorrectes. Contourner les restrictions de contenu pour produire des réponses non conventionnelles n’est pas considéré comme une faille de sécurité admissible dans le cadre de ce programme, qui donne la priorité aux risques de sécurité démontrables. Pour les chercheurs qui parviennent à découvrir et à documenter des exploits aussi marquants, la compensation potentielle est substantielle. Les vulnérabilités les plus graves, en particulier celles affectant les produits phares de l’IA comme la recherche Google et l’application Gemini, peuvent rapporter jusqu’à 20 000 $. Un exemple d’exploit à fort impact qui répondrait aux critères du programme est une technique qui incite Gemini à intégrer un lien de phishing dans l’une de ses réponses dans le mode Search AI. Ce type de vulnérabilité est considéré comme critique en raison de son potentiel direct de compromettre la sécurité des utilisateurs. L’objectif primordial du nouveau programme de récompense est d’encourager les chercheurs en sécurité éthique à identifier et signaler activement les exploits graves. En fournissant un canal formel et des incitations financières, Google vise à garantir que ces vulnérabilités critiques soient découvertes et corrigées par les équipes internes avant qu’elles ne puissent être trouvées et utilisées par des acteurs malveillants. Cette mesure de sécurité proactive vise à protéger la stabilité de la plateforme Gemini et à maintenir sa réputation auprès des utilisateurs.
