Dans l’évaluation d’Anthropic, un modèle de neuf milliards de paramètres a réussi à faire fonctionner l’inférence sur huit des neuf types de matériel testés. La recherche examine si des appareils connectés ordinaires, et pas seulement les GPU de datacenters, pourraient assurer les étapes nécessaires à la réplication d’un modèle.
Installer l’inférence n’est qu’une partie de cette chaîne. Les petits modèles échouent encore à combiner certaines étapes en processus complets. L’étude ne montre ni contamination réelle à grande échelle ni botnet autonome généralisé se propageant entre appareils grand public.
L’idée que cette réplication puisse devenir possible dans quelques mois est une projection des auteurs, pas une capacité observée. Ils décrivent un système éventuel difficile à arrêter depuis un point central, dont le doublement pourrait prendre des jours. Il s’agit d’une publication de recherche, pas d’un lancement régional de produit ; aucun accès propre à la Belgique ou à l’EEE n’y est précisé.
