Anthropic a dévoilé Un aperçu de recherche de Claude pour Chrome, un agent d’IA basé sur un navigateur propulsé par ses modèles Claude AI. Le déploiement initial est limité à 1 000 abonnés sur le plan MAX d’Anthropic, tandis qu’une liste d’attente a été établie pour des utilisateurs supplémentaires intéressés à accéder à la nouvelle fonctionnalité.
L’extension Claude pour Chrome permet aux utilisateurs de sélectionner de s’engager avec Claude via une fenêtre Sidecar. Il maintient la conscience de l’activité du navigateur de l’utilisateur. Les utilisateurs peuvent autoriser Claude à effectuer des actions au sein du navigateur, facilitant l’achèvement des tâches en leur nom.
L’intégration de l’IA dans les navigateurs est devenue un domaine compétitif pour les laboratoires d’IA. L’objectif est de créer des connexions plus transparentes entre les systèmes d’IA et les utilisateurs. Perplexity a récemment introduit Comet, son propre navigateur avec un agent d’IA conçu pour aider les utilisateurs à diverses tâches. La spéculation suggère qu’OpenAI développe également un navigateur alimenté par AI avec des capacités similaires à la comète. Google a déjà commencé à intégrer ses modèles Gemini dans Chrome.
Cette poussée pour les navigateurs améliorés en AI gagne une signification supplémentaire à la lumière du cas antitrust continu de Google. Une décision finale dans l’affaire est prévue sous peu. Le juge président a indiqué la possibilité d’imposer Google à céder son navigateur Chrome. En réponse, Perplexity a soumis une offre non sollicitée de 34,5 milliards de dollars pour Chrome. Le PDG d’OpenAI, Sam Altman, a également exprimé son intérêt potentiel à acquérir le navigateur.
Anthropic a abordé des problèmes de sécurité potentiels associés aux agents de l’IA ayant un accès au navigateur. L’équipe de sécurité de Brave a identifié une vulnérabilité dans l’agent de navigateur de Comet. Cette vulnérabilité l’a rendu susceptible d’attaques indirectes à injection rapide. Ces attaques impliquent un code malveillant sur un site Web qui pourrait manipuler l’agent dans l’exécution d’instructions involontaires sur le traitement de la page.
La perplexité a répondu à la vulnérabilité signalée. Jesse Dwyer, responsable des communications à la perplexité, a communiqué à TechCrunch par e-mail que la vulnérabilité identifiée soulevée par Brave avait été abordée et résolue. La résolution souligne l’importance des mesures de sécurité proactives dans le paysage en évolution des agents de navigateur alimentés par l’IA.
Anthropic vise à utiliser cet aperçu de recherche pour identifier et traiter les nouveaux risques de sécurité. La société a déjà mis en œuvre des défenses contre des attaques d’injection rapides. Ces interventions ont réduit le taux de réussite de ces attaques de 23,6% à 11,2%. Cela démontre un engagement à atténuer les vulnérabilités potentielles à mesure que les agents de l’IA deviennent plus intégrés à la fonctionnalité du navigateur.
Les utilisateurs ont la possibilité de restreindre l’accès de Claude à des sites Web spécifiques dans les paramètres de l’application. Anthropic a mis en œuvre des restrictions par défaut, empêchant Claude d’accéder aux sites Web offrant des services financiers, du contenu pour adultes et du contenu piraté. Ces mesures sont conçues pour protéger les utilisateurs contre les environnements en ligne potentiellement nocifs ou inappropriés.
Avant d’exécuter des actions à haut risque, telles que la publication, l’achat ou le partage de données personnelles, l’agent de navigateur de Claude demandera l’autorisation de l’utilisateur. Cette mesure ajoute une couche supplémentaire de sécurité et garantit que les utilisateurs conservent le contrôle des opérations sensibles menées via l’agent d’IA.
Ce n’est pas la première entreprise d’Anthropic dans les modèles d’IA capables de contrôler les écrans d’ordinateur. En octobre 2024, la société a présenté un agent d’IA avec la possibilité de contrôler un PC. Cependant, les tests initiaux ont révélé des limitations. Le modèle a montré des performances lents et un manque de fiabilité cohérente.
Les modèles d’IA agentiques ont connu une amélioration. Les agents d’IA à utiliser le navigateur modernes, y compris l’agent de la comète et de Chatgpt, sont devenus plus fiables pour effectuer des tâches simples. Bien que capable de gérer les fonctions de base, ces systèmes sont confrontés à des limitations. De nombreux systèmes agents ont encore des problèmes complexes en raison des subtilités des scénarios du monde réel.
