Anthropic a déployé un nouveau Fonction de création de fichiers et d’analyse Pour son assistant Claude AI, permettant aux utilisateurs de générer des feuilles de calcul Excel, des présentations PowerPoint et d’autres documents directement dans les conversations.
L’outil est désormais disponible en avant-première pour Abonnés Max, Team et Enterpriseavec Utilisateurs professionnels réglé pour accéder dans les semaines à venir.
Ce que fait la nouvelle fonctionnalité
La fonctionnalité, officiellement appelée «Création et analyse de fichiers améliorées», « élargit l’outil d’analyse existant de Claude. Il fonctionne de manière similaire à Interprète de code de Chatgptdonnant à Claude la capacité de travailler avec un Environnement informatique de sable.
Cet environnement permet à Claude de:
- Télécharger des packages
- Exécuter le code
- Créer des fichiers tels que .xlsx et .pptx
- Analyser les documents téléchargés
Les utilisateurs peuvent accéder à la fonctionnalité via les deux interface Web et le application de bureau.
Risques de sécurité signalés par anthropique
Parallèlement à la sortie, Anthropic a publié un avis de sécurité avertir les utilisateurs de risques potentiels. Parce que la fonctionnalité donne à Claude accès Internet à l’intérieur du bac à sableles instructions malveillantes pourraient potentiellement être exécutées.
L’entreprise a reconnu:
« Cette fonctionnalité donne à Claude Internet un accès à créer et à analyser des fichiers, ce qui peut mettre vos données en danger. »
Il est conseillé aux utilisateurs de Surveiller de près les chats Et arrêtez Claude si cela commence à tenter des actions en dehors du comportement attendu.
Vulnérabilité par des attaques d’injection rapides
La documentation d’Anthropic met en évidence la possibilité de Attaques d’injection rapides—Une vulnérabilité documentée pour la première fois en 2022. Ces attaques se produisent lorsque des instructions cachées sont intégrées dans des fichiers ou des sites Web avec lesquels Claude interagit.
Un chemin d’attaque potentiel pourrait impliquer:
- Un fichier ou un site Web malveillant ajoutant des instructions cachées.
- Claude Lire des informations sensibles à partir d’une source de connaissances connectée.
- Claude utilisant l’environnement de bac à sable pour faire une demande de réseau externe, divulguer des données.
Parce que les modèles d’IA traitent toutes les instructions en contexte, la distinction entre les invites sûres et malveillantes est extrêmement difficile.
Atténuation et responsabilité
Anthropic dit qu’il a identifié ces risques pendant Tests internes d’équipement rouge et de sécurité Avant le lancement. La stratégie d’atténuation actuelle de l’entreprise accorde la responsabilité de l’utilisateur.
Les conseils officiels sont:
Surveillez Claude lors de l’utilisation de la fonctionnalité.
Arrêter Claude immédiatement S’il accède ou utilise des données de manière inattendue.
Cette exigence de surveillance pratique contraste avec le positionnement de la fonctionnalité en tant qu’outil de productivité automatisé.
