Esto memor !
La fonction Recall peut de nouveau être testée dans un canal de développement de Windows 11, sur les machines équipées de NPU (Neural Process Unit). Si sa sécurité semble bien avoir été renforcée, elle capture malheureusement de nombreuses informations sensibles.
L’idée derrière Recall est simple : fournir des renseignements sur toute demande d’une personne au sujet d’une activité passée. On peut ainsi poser des questions sur des documents ouverts ou modifiés, des pages web consultées, des photos et ainsi de suite. Le résultat est fourni sous forme de listes d’éléments correspondants, accompagnés de captures pour fournir du contexte.
Une genèse bien difficile
Pour présenter ces informations, Recall prend régulièrement des captures d’écran et en analyse le contenu pour extraire le fameux contexte. L’ensemble est stocké dans une base de données. Les calculs sont effectués par plusieurs petits modèles locaux d’IA, d’où des prérequis sur le matériel. Initialement, seules les machines Copilot+ basées sur des puces Snapdragon X de Qualcomm étaient prises en charge. Désormais, les configurations Intel et AMD sont aussi de la partie, toujours en préversion.
Un déluge de critiques a cependant coupé court à une certaine euphorie technologique chez Microsoft. D’importantes failles de vie privée ont été mises en avant, Recall pouvant se révéler être un puissant outil d’espionnage sur l’ordinateur. Dans un premier temps, Microsoft a procédé à quelques améliorations, avant de retirer son produit et d’en reprendre toutes les bases.
La version actuellement proposée dans le canal Dev de Windows 11 est ainsi une application largement remaniée. L’opt-out de la première version s’est changé en opt-in et la fonction peut être complètement désinstallée. La base de données est chiffrée et les accès réclament une identification via Windows Hello (code PIN ou biométrie). Autant d’éléments qui auraient dû faire partie du projet dès l’origine, surtout venant d’une entreprise qui a fait de la sécurité sa grande priorité. Des vœux d’autant plus appuyés après la panne engendrée par CrowdStrike.
Le problème des informations sensibles
Tom’s Hardware s’est livré à une série de tests sur Recall. Nos confrères ont pu confirmer que la base était chiffrée, de même que toutes les captures d’écran prises par la fonction. Les données sont présentes au même endroit qu’initialement (\AppData\Local\CoreAIPlatform.00\UKP\ dans le dossier utilisateur), mais il est impossible de les ouvrir, du moins facilement. Dans la première version, il suffisait d’un outil comme DB Browser pour obtenir les informations. Les captures sont stockées dans le sous-répertoire AsymStore.
Le problème, pour Tom’s Hardware, réside dans la reconnaissance des informations. On sait depuis le début que Recall peut observer tout ce qui passe à l’écran, y compris des données aussi sensibles que les identifiants, mots de passe, numéros de Sécurité sociale, numéros de cartes bancaires et même les CVV (le fameux code à trois chiffres présent derrière chaque carte bancaire). Or, il semble que Recall ne se soit guère amélioré sur ce point.
Dans une fenêtre du Bloc-notes par exemple, nos confrères ont saisi de fausses informations telles que des numéros de cartes bancaires, des noms et des CVV. Elles se sont presque toujours retrouvées dans les captures d’écran de Recall. Même chose pour ce qui ressemblait clairement à des identifiants et mots de passe. Dans un formulaire de demande de prêt, Recall a récupéré le numéro de sécurité sociale.
Dans un autre test, Tom’s Hardware a créé un formulaire en ligne faisant apparaître la mention « Saisissez ci-dessous votre numéro de carte de crédit ». Le formulaire permettait de choisir le type de carte et demandait également la date d’expiration et le CVV. Toutes ces informations ont été capturées. En revanche, lors de la saisie de ces mêmes données sur deux vrais sites marchand, Recall les a reconnues. Dans ce cas, elles sont supprimées des captures et ne sont pas enregistrées.
La fonction dispose pourtant d’une option de filtrage des informations sensibles, activée par défaut. Il semble que cette partie nécessite encore des travaux. Il y a de bonnes chances que les travaux de Microsoft ces derniers mois se soient concentrés sur la sécurité entourant sa fonction.
Les progrès viendront, selon Microsoft
Interrogée par nos confrères, Microsoft a répondu en citant un passage de son dernier billet de blog évoquant Recall. Elle y indiquait que sa fonction savait reconnaitre les informations sensibles, mais qu’elle continuait « à améliorer cette fonctionnalité ».
Surtout, elle invite les personnes testant actuellement la préversion du canal Dev à signaler quand Recall s’écarte du droit chemin : « Si vous trouvez des informations sensibles qui devraient être filtrées en fonction de votre contexte, de votre langue ou de votre zone géographique, n’hésitez pas à nous en faire part dans le Feedback Hub ».
« Nous avons également prévu une option dans les Paramètres que nous vous encourageons à activer et qui permettra de partager anonymement les applications et les sites que vous préférez exclure de Recall afin de nous aider à améliorer le produit », ajoute l’entreprise.
Recall permet aussi d’exclure des pages web spécifiques. Idéalement, il faudrait cependant que la fonction sache mieux reconnaitre les informations sensibles, car elle a vocation à être utilisée par tout le monde. Y compris par le grand public, qui ne creuse pas toujours dans les paramètres.
Or, même si Recall est une fonction optionnelle, elle sera proposée spontanément par le système sur les machines compatibles, en présentant les avantages qu’il y aurait à l’utiliser. La finesse de la détection reste ainsi primordiale.