DeepMind et GovTech Singapore présentent le 14 octobre un modèle de détection des arnaques exécuté sur l’appareil. Une version de Gemma est adaptée aux conversations frauduleuses locales pour repérer des schémas de manipulation, au-delà des seuls liens de phishing. L’annonce décrit un développement et une intégration progressive dans des applications, pas une protection déjà activée sur tous les téléphones Android.
Le système comporte deux étapes : un classificateur léger examine les messages entrants ; les cas suspects passent à Gemma pour une analyse de plusieurs tours de conversation. Cette séparation vise à limiter la consommation d’énergie tout en conservant davantage de contexte pour les situations ambiguës. Une alerte doit inviter la personne à interrompre l’échange avant de transmettre de l’argent ou des informations sensibles.
Selon les partenaires, l’analyse reste locale et l’accès aux conversations dépend du consentement de l’utilisateur dans l’application concernée. Le fine-tuning a lieu dans l’environnement GCP géré par GovTech ; les données d’entraînement sont décrites comme anonymisées et sans informations personnelles identifiables. Ce sont des garanties déclarées par les partenaires, pas le résultat d’un audit indépendant effectué ici.
La disponibilité belge n’est pas annoncée et les performances détaillées, faux positifs compris, ne sont pas quantifiées dans ce billet. Pour un développeur, l’architecture en cascade est instructive, mais une protection utile exige aussi une gestion du consentement, une évaluation locale et un recours lorsque l’alerte se trompe. Exécuter un modèle sur le téléphone ne garantit pas, à lui seul, la sécurité de toute l’application.