Une enquête auprès des dirigeants de la cybersécurité montre que 62% des attaques axées sur l’IA contre le personnel au cours de la dernière année. Ces incidents, impliquant l’injection rapide et audio ou vidéo DeepFake, ont provoqué des perturbations commerciales importantes, y compris les pertes de propriété financière et intellectuelle. Le vecteur d’attaque le plus courant a été les appels audio Deepfake ciblant les employés, 44% des entreprises signalant au moins un incident. Six pour cent de ces événements ont entraîné une interruption des entreprises, une perte financière ou une perte de propriété intellectuelle. Les données ont indiqué que la mise en œuvre d’un service d’écran audio était corrélée à une réduction de ces taux de perte à deux pour cent. Des incidents impliquant des FACE de profondeurs ont été signalés par 36% des organisations interrogées. Parmi ces cas, cinq pour cent ont été classés comme ayant causé un problème grave à l’entreprise. Cela représente une menace persistante, bien que moins fréquente, par rapport aux tentatives d’usurpation d’identité audio. Chester Wisniewski, Global Field Ciso de la société de sécurité Sophos, a expliqué que DeepFake Audio devient très convaincant et peu coûteux. « Avec l’audio, vous pouvez générer ces appels en temps réel à ce stade », a-t-il déclaré, notant qu’il peut tromper un collègue avec lequel on interagit occasionnellement. Wisniewski pense que les chiffres audio Deepfake peuvent sous-estimer le problème, et il a constaté que les chiffres vidéo plus élevés que prévu, étant donné qu’un faux vidéo en temps réel d’un individu spécifique peut coûter des millions de dollars à produire. Sophos a observé des tactiques où un escroc utilise brièvement un PDG ou une vidéo CFO Deepfake sur un appel WhatsApp avant de réclamer des problèmes de connectivité, de supprimer le flux et de passer au texte pour poursuivre une attaque d’ingénierie sociale. Des contrefaçons génériques sont également utilisées pour cacher une identité plutôt que pour en voler une. Il a été signalé que la Corée du Nord gagne des millions en demandant à son personnel de convaincre le Fakery de l’IA de prendre un emploi avec les entreprises occidentales. Une autre menace croissante est l’attaque d’injection rapide, où les instructions malveillantes sont intégrées dans le contenu traité par un système d’IA. Cela peut inciter l’IA à des informations sensibles révélatrices ou à une mauvaise utilisation des outils, conduisant potentiellement à l’exécution du code si les intégrations le permettent. Selon une enquête de Gartner, 32% des répondants ont signalé de telles attaques contre leurs demandes. Des exemples récents illustrent ces vulnérabilités. Les chercheurs ont montré que le chatbot Gemini de Google est utilisé pour cibler les e-mails et les systèmes de maison intelligente d’un utilisateur. Le modèle de langue Claude d’Anthropic a également connu des problèmes avec une injection rapide. Dans d’autres recherches, Chatgpt a été trompé avec succès pour résoudre les captchas, qui sont conçus pour différencier les utilisateurs humains et machines et à générer du trafic qui pourrait être utilisé pour les attaques de style déni de service contre les sites Web.
