Le récent événement DevDay d’OpenAI a révélé l’évolution de ChatGPT vers une « application polyvalente » dotée de nouvelles fonctionnalités de plate-forme. Un composant clé manquant, la messagerie directe d’utilisateur à utilisateur, semble désormais imminent suite aux découvertes dans une version bêta de son application Android. Les annonces de la conférence des développeurs étaient centrées sur la transformation de ChatGPT en une plate-forme capable d’exécuter des applications directement dans les chats, une démarche qui permet au service de fonctionner davantage comme un système d’exploitation. Cette évolution correspond aux plans potentiels pour un périphérique matériel ChatGPT propriétaire, qui, selon les rapports, pourrait être lancé fin 2026 au plus tôt. Combinés à la prise en charge précédemment annoncée des fonctionnalités d’achat, ces changements poussent ChatGPT vers le modèle d’une « application tout » avec l’intelligence artificielle comme noyau fonctionnel. Une caractéristique centrale de nombreuses plates-formes complètes de ce type est un outil de communication natif pour l’interaction d’utilisateur à utilisateur, une fonction qui était absente de ChatGPT. La preuve qu’OpenAI développe une telle fonctionnalité est apparue pour la première fois début octobre. La découverte a été faite par Tibor Blaho, une personne qui partage fréquemment en ligne des informations sur des produits d’IA inédits. Dans une version bêta de l’application ChatGPT pour le système d’exploitation Android, Blaho a trouvé un code faisant référence à la fonctionnalité de messagerie directe (DM). La fonctionnalité a été identifiée par les noms de code « Calpico » et « Calpico Rooms ». Cette convention de dénomination et cette fonction peuvent être similaires aux capacités de messagerie directe précédemment développées par OpenAI pour son application Sora sur iPhone, indiquant un modèle potentiel pour le nouveau système. https://twitter.com/btibor91/status/1973512279141622185 D’autres preuves sont apparues samedi, lorsque Blaho a fourni une mise à jour à partir d’une autre version bêta Android de l’application ChatGPT. Il a publié une capture d’écran de l’interface utilisateur qui comprenait une icône distincte destinée à la messagerie directe. Ces découvertes successives dans les versions préliminaires du logiciel indiquent clairement qu’un système de discussion entre utilisateurs est non seulement en développement, mais qu’il progresse vers une éventuelle version publique. Ce développement soulève une question cruciale concernant la mise en œuvre technique de la fonctionnalité, notamment celle de savoir si elle intégrera un cryptage de bout en bout (E2EE) pour correspondre aux normes de sécurité des services de messagerie établis comme iMessage, WhatsApp et Signal. https://twitter.com/btibor91/status/1976912415473144243 Meta a déjà intégré son assistant Meta AI dans sa suite d’applications, y compris les plateformes compatibles E2EE WhatsApp et Facebook Messenger. Une stratégie similaire d’OpenAI, consistant à créer une fonctionnalité DM au sein de son application principale de chatbot, serait une extension logique de sa plate-forme. L’utilité d’une telle fonctionnalité est évidente pour quiconque a utilisé la fonction « Partager » existante pour les conversations ChatGPT, car un système DM natif pourrait fournir une méthode plus intégrée et plus sécurisée de collaboration et de partage d’informations directement dans l’environnement de l’application, éliminant ainsi les complexités liées à la gestion des liens partagés externes. Les premières conclusions de Blaho en octobre comprenaient des notes spécifiques sur la vie privée. Il a déclaré que même si les utilisateurs pouvaient interagir avec ChatGPT dans des discussions de groupe, leurs souvenirs personnels stockés sur la plateforme ne seraient pas accessibles à l’IA ou aux autres participants de ces salles de messagerie directe. Le système est également conçu pour envoyer aux utilisateurs des notifications pour les nouveaux messages et pour les événements au sein d’une salle de discussion, comme l’arrivée d’un nouveau participant ou le départ d’un existant. Au cours du week-end, il a développé les fonctions prévues pour la fonctionnalité. Le système DM est conçu pour permettre aux utilisateurs de « ChatGPT ensemble », une expérience collaborative dotée d’une gamme de fonctionnalités.
- Outils collaboratifs : Les utilisateurs peuvent réfléchir à des idées, créer des plans, poser des questions et effectuer des recherches en groupe.
- Création de contenu : La fonctionnalité prendra en charge la création d’images conjointes dans l’interface de discussion.
- Personnalisation adjointe : Les participants auront la possibilité de renommer leurs assistants et de mettre à jour leurs personnalités pour le contexte du chat de groupe.
- Gestion des discussions : Le système comprend des options pour inviter d’autres personnes à des discussions de groupe et bloquer des participants.
- Automation: Une option de réponse automatique fait également partie des fonctionnalités prévues.
La question de savoir comment OpenAI va gérer la confidentialité des utilisateurs pour cette fonctionnalité de messagerie directe est complexe. Le PDG d’OpenAI, Sam Altman, a parlé de l’importance de garantir que les conversations avec l’IA restent privées, proposant un concept de « privilège de l’IA » qui offrirait des protections analogues à la confidentialité médecin-patient ou avocat-client. Ce niveau de confidentialité devient particulièrement critique dans le contexte d’un futur assistant personnel, qui traiterait probablement des données utilisateur très sensibles. Pour qu’un tel appareil soit fiable, ses systèmes de communication sous-jacents nécessiteraient des mesures de sécurité robustes. Cependant, les pratiques actuelles de traitement des données d’OpenAI présentent des défis pour la mise en œuvre de protections complètes de la confidentialité comme E2EE. L’entreprise utilise les données de discussion des utilisateurs pour entraîner ses modèles, un processus dont les utilisateurs peuvent se désinscrire mais qui est activé par défaut. De plus, OpenAI utilise des systèmes autonomes pour analyser les conversations à la recherche de violations potentielles de ses politiques d’utilisation et pour surveiller les idées d’automutilation. Dans les cas où les systèmes automatisés signalent du contenu, des équipes de révision humaines peuvent être impliquées, ce qui signifie que ces discussions ne sont pas entièrement privées. Ces processus de surveillance internes sont fondamentalement incompatibles avec un système dans lequel le fournisseur de services ne peut pas accéder au contenu des messages. Les problèmes juridiques et techniques externes compliquent également le paysage de la vie privée. Plus tôt cette année, dans une affaire intentée par le New York Times, un tribunal a ordonné à OpenAI d’empêcher la suppression permanente des discussions d’utilisateurs marquées pour suppression. Bien qu’une récente modification de l’ordonnance permette à l’entreprise de supprimer certaines de ces données conservées, l’affaire montre à quel point les obligations légales peuvent outrepasser les contrôles de confidentialité des utilisateurs. Lors d’un autre incident survenu au cours de l’été, un problème technique a provoqué l’indexation des conversations ChatGPT partagées, que les utilisateurs voulaient être semi-privées, par la recherche Google, les exposant ainsi publiquement. Ces événements soulignent les lacunes existantes dans la protection complète des données des utilisateurs sur la plateforme. Ces facteurs (utilisation des données pour la formation des modèles, surveillance du contenu pour l’application des politiques, ordonnances légales de préservation des données et vulnérabilités passées en matière de confidentialité) créent un environnement difficile pour la mise en œuvre d’E2EE dès le début de la fonctionnalité. Ne pas inclure ce niveau de sécurité se traduirait par une expérience DM moins sécurisée que celle de bon nombre de ses concurrents directs. Si l’ambition d’OpenAI est de faire de ChatGPT un système d’exploitation à part entière, la sécurisation de ses composants principaux, y compris toutes les applications de communication propriétaires, avec un cryptage fort sera une exigence fondamentale.
