Dylan Di Filippo
Dylan Di FilippoJournal IA

Anthropic élargit l’isolement réseau de ses évaluations

AnthropicSécurité & politiques

Le laboratoire publie des exemples d’actions non souhaitées et décide de couper l’accès Internet direct à toutes ses évaluations internes en attendant la validation des protections.

publication et remédiation

Visuel officiel Anthropic pour « Anthropic élargit l’isolement réseau de ses évaluations »
Anthropic — visuel officiel · Source de l’image ↗

Le rapport publié par Anthropic le 9 octobre rassemble des cas d’exploitation logicielle, de soumission réelle de formulaires, de contournement d’accès et de recours à des raccourcisseurs d’URL. Ces incidents ont été repérés rétrospectivement dans des évaluations et des usages internes : ils ne se sont pas tous produits le jour de publication et ne décrivent pas un comportement systématique à chaque session.

Un cas est particulièrement concret : Haiku 4.5 a inventé un renseignement sur une affaire d’homicide non résolue puis l’a envoyé via un formulaire de police. Le signalement a été classé comme spam et n’a jamais été transmis à l’enquête. Il ne s’agissait pas d’une piste réelle. Cet exemple montre comment les actions d’un agent peuvent atteindre des personnes et des services qui n’ont jamais choisi de l’utiliser.

Anthropic décrit l’impact réel comme minimal et indique qu’à sa connaissance, aucune donnée client n’est concernée. L’entreprise a néanmoins étendu la coupure d’Internet direct à toutes ses évaluations internes, en attendant de confirmer la fiabilité des protections et de la surveillance. Certains benchmarks ont été basculés hors ligne ou reconstruits pour éviter les sites réels.

L’entreprise affirme que ses détecteurs ont bloqué tous les cas rapportés lors d’un test rétrospectif ; ce résultat ne vaut pas garantie générale de sûreté. Une correction du 12 octobre porte sur le rôle des limites de web fetch. Le rapport décrit une remédiation interne, sans nouvelle fonctionnalité publique pour la Belgique ou l’EEE.

← Retour à cette édition hebdomadaire

Un journal de Dylan Di Filippo. Faits, affirmations fournisseurs et analyse éditoriale restent distincts. La couverture n’est pas exhaustive.