La récente révélation selon laquelle l’IA Gemini de Google pourrait potentiellement accéder aux documents privés stockés dans Google Drive et les résumer a suscité l’inquiétude des utilisateurs.
La situation est apparue au grand jour lorsque Kevin Bankstonun éminent expert en politique technologique, a partagé son expérience sur les réseaux sociaux. Bankston a rapporté que Gémeaux avait a automatiquement résumé son document de déclaration de revenusqu’il avait ouvert dans Google Docs, sans sa demande explicite ni son autorisation.
Je viens de télécharger ma déclaration de revenus @Google Les documents – et sans que je le lui demande, Gemini l’a résumé. Donc… Gemini ingère automatiquement même les documents privés que j’ouvre dans Google Docs ? WTF, les gars. Je n’ai pas demandé ça. Maintenant, je dois aller chercher de nouveaux paramètres dont on ne m’a jamais parlé pour désactiver cette merde.
– Kévin Bankston (@KevinBankston) 10 juillet 2024
À mesure que les systèmes d’IA s’intègrent de plus en plus aux outils et services quotidiens, il est essentiel de comprendre comment ils interagissent avec nos données personnellesL’incident récent de Gemini rappelle l’importance de la transparence et du contrôle de l’utilisateur lorsqu’il s’agit de fonctionnalités basées sur l’IA dans les plateformes de stockage cloud et de gestion de documents.
IA ici, IA là-bas
L’incident Gemini a révélé plusieurs niveaux de complexité dans la façon dont les systèmes d’IA interagissent avec les données des utilisateurs sur les plateformes cloud. L’un des principaux problèmes qui ont émergé de l’expérience de Bankston était l’apparente manque de paramètres ou de commandes clairs pour gérer l’accès de Gemini aux documents personnels.
Bankston a signalé des difficultés à trouver les paramètres appropriés pour désactiver la fonction de résumé automatique de Gemini. Lorsqu’il a demandé conseil à Gemini, l’IA lui a fourni des instructions qui se sont révélées inexactes ou inexistantes.
Des recherches plus poussées ont révélé que le comportement de Gemini pourrait être lié à un paramètre « collant ». Si un utilisateur active Gemini pour un document d’un type particulier (par exemple, un PDF), l’IA peut continuer à traiter automatiquement tous les documents de ce type jusqu’à ce qu’ils soient explicitement désactivésCe comportement par défaut peut conduire à un traitement involontaire de documents sensibles si les utilisateurs ne savent pas comment fonctionne la fonctionnalité.
La conservation des données est un autre problème ici. Même si les résumés de Gemini ne sont pas utilisés pour entraîner le modèle d’IA, ils peut encore être stocké dans les journaux de discussioncréant des risques potentiels pour la confidentialité si ces journaux sont compromis ou consultés sans autorisation.
L’exploration de la question par Bankston a révélé des aspects plus déconcertants. Il a découvert que le paramètre permettant de désactiver l’intégration de Gemini avec Google Workspace était déjà désactivé dans son compte, mais que l’IA continuait à résumer les documents. Cette divergence entre les paramètres indiqués et le comportement réel du système soulève de sérieuses questions sur l’efficacité des contrôles utilisateur et la transparence des opérations de l’IA au sein de l’écosystème de Google.
De plus, Bankston a découvert que différents types de contenu (Musique Youtube, Vidéos youtubevols, hôtels et cartes) avaient des paramètres par défaut différents pour l’intégration de Gemini. La logique derrière ces paramètres par défaut n’était pas immédiatement apparente, ajoutant à la confusion générale sur la façon dont Gemini interagit avec différents types de données utilisateur dans les services de Google.
Précédemment Gemini a été pris en flagrant délit sur le compte Gmail de quelqu’un aussi.
Le paradoxe de la confidentialité dans les services améliorés par l’IA
L’incident Gemini met en lumière une tension fondamentale dans le développement et le déploiement de services cloud améliorés par l’IA : Le paradoxe de la vie privée.
D’une part, ces fonctionnalités d’IA offrent des avantages considérables en termes de productivité et de facilité d’utilisation. Le résumé automatique, l’analyse de contenu et les suggestions intelligentes peuvent grandement améliorer l’expérience utilisateur et faire gagner du temps.
D’un autre côté, ces fonctionnalités nécessitent un accès aux données utilisateur d’une manière qui peut ne pas être immédiatement apparente ou entièrement comprise par l’utilisateur moyen. Plus un système d’IA peut accéder à de données, plus il peut potentiellement être utile. Cependant, cela augmente également le risque de violations de la vie privée, utilisation abusive des donnéesou divulgation involontaire d’informations.
Vous avez le droit de vous opposer à Meta AI
L’expérience de Bankston souligne la nécessité d’une approche prudente équilibre entre fonctionnalité et confidentialitéCela soulève également des questions sur la paramètres par défaut choisis par les fournisseurs de services.
Les fonctionnalités d’IA doivent-elles être activées par défaut, obligeant les utilisateurs à les activer explicitement pour chaque type de contenu ? Ou est-il acceptable de les activer par défaut, les utilisateurs étant libres de découvrir et de modifier ces paramètres s’ils le souhaitent ?
L’incident souligne également l’importance des contrôles granulaires. Les utilisateurs devraient avoir la possibilité de spécifier facilement et clairement quels types de documents ou de données ils acceptent de voir traités par l’IA, et dans quelles circonstances. L’implémentation actuelle, telle que décrite par Bankston, semble manquer de ce niveau de contrôle nuancé.
Comment dire « non » aux Gémeaux ?
Pour empêcher Gemini de traiter automatiquement vos documents, vous pouvez suivre les étapes suivantes :
Désactiver l’intégration Gemini
- Allez à votre Paramètres du compte Google.
- Accédez à la section « Données et confidentialité ».
- Recherchez « Gemini Apps & Services ».
- Désactivez les commutateurs pour différents services Google comme Drive, Docs, etc.
Désactiver le comportement collant
Après avoir utilisé Gemini dans un document, fermez la barre latérale Gemini.
Cela l’empêche de s’activer automatiquement pour des documents similaires.
Vérifiez les paramètres de confidentialité
Vérifiez vos paramètres Google Workspace.
- Assurez-vous que les fonctionnalités de l’IA sont désactivées si vous ne les souhaitez pas.
- Recherchez les options liées à « Assistance IA » ou « Fonctionnalités intelligentes ».
Utiliser le mode navigation privée
Lorsque vous ouvrez des documents sensibles, utilisez le mode navigation privée/incognito de votre navigateur.
Cela peut empêcher certains traitements automatiques de l’IA.
Vérifiez les paramètres individuels de l’application
- Dans Google Drive, Docs, etc., recherchez les paramètres liés à l’IA.
- Désactiver les options de résumés automatiques ou d’assistance IA.
Refuser la collecte de données
- Dans votre compte Google, recherchez paramètres de collecte de données.
- Désactivez les options qui permettent à Google d’utiliser vos données pour améliorer les services.
Et maintenant ?
L’un des principaux enseignements de l’incident Gemini est le besoin crucial de transparence dans les services cloud optimisés par l’IA. Les utilisateurs doivent être clairement informés des fonctionnalités d’IA actives, des données qu’elles traitent et de la manière de contrôler ces fonctionnalités.
La confusion ressentie par Bankston en essayant de localiser et de comprendre les paramètres pertinents indique une lacune importante dans la communication avec l’utilisateur et la conception de l’interface.
Les fournisseurs de services comme Google doivent donner la priorité à des informations claires, accessibles et précises sur les fonctionnalités de l’IA.
Ceci comprend:
- Notifications explicites lorsque les fonctionnalités de l’IA sont activées ou modifiées.
- Paramètres clairs et faciles à trouver pour contrôler l’accès de l’IA à différents types de données.
- Documentation précise et à jour sur les fonctionnalités de l’IA et leurs implications.
- Audits réguliers pour garantir que le comportement de l’IA est conforme aux politiques énoncées et aux paramètres utilisateur.
De plus, les utilisateurs doivent disposer d’outils leur permettant de comprendre et de contrôler la manière dont l’IA interagit avec leurs données.
Cela pourrait inclure des fonctionnalités telles que :
- Journaux détaillés des interactions de l’IA avec les données utilisateur.
- La possibilité de consulter et de supprimer facilement les résumés ou analyses générés par l’IA.
- Options permettant de désactiver temporairement ou définitivement les fonctionnalités de l’IA pour des documents ou des types de documents spécifiques.
- Vérifications de confidentialité régulières qui aident les utilisateurs à examiner et à mettre à jour leurs paramètres liés à l’IA.
Alors que l’IA continue d’évoluer et de s’intégrer de plus en plus profondément dans les services cloud, des incidents comme celui-ci deviendront probablement plus fréquentsEn tirant les leçons de ces expériences et en accordant la priorité à la confidentialité et au contrôle des utilisateurs, nous pouvons œuvrer vers un avenir où l’IA améliore nos vies numériques. sans compromettre notre vie privée ou notre autonomie.
Crédit de l’image en vedette: Emre Çıtak/Créateur d’images Bing
