Le PDG d'Anthropic s'oppose à la surveillance et aux armes autonomes, et est étiqueté par le Pentagone comme « risque de chaîne d'approvisionnement »

Le PDG de la société d’IA Anthropic, Dario Amodei, a réagi aux déclarations du Département de la Défense et de la Maison Blanche après que les contractants travaillant avec le Département de la Défense américain ont été invités à cesser d’utiliser les produits d’Anthropic.

Lors d’une interview avec CBS News samedi, Amodei a déclaré qu’Anthropic s’opposait à l’utilisation de ses modèles d’IA pour la surveillance de masse intérieure et au développement d’armes entièrement automatiques pouvant tirer sans intervention humaine.

Il a souligné qu’Anthropic était d’accord avec la plupart des propositions du gouvernement américain concernant l’utilisation de l’IA, à l’exception de ces deux domaines. Selon Amodei, ce sont des enjeux fondamentaux pour les citoyens américains, notamment le droit à la vie privée contre la surveillance gouvernementale et le droit pour les officiers militaires de prendre des décisions concernant la guerre, plutôt que de tout laisser aux machines.

Auparavant, le Département de la Défense américain avait qualifié Anthropic de « risque pour la chaîne d’approvisionnement », ce qui signifie que les contractants militaires ne peuvent pas utiliser les produits de l’entreprise dans leurs contrats de défense. Amodei a qualifié cette mesure d’« inédit » et de « punitive ».

Cependant, le PDG d’Anthropic a précisé qu’il n’était pas totalement opposé au développement futur d’armes automatiques, surtout si des forces étrangères commencent à déployer cette technologie. Selon lui, le problème actuel est que l’IA n’est pas encore suffisamment fiable pour fonctionner de manière totalement autonome dans un environnement militaire.

Amodei estime que le cadre juridique n’a pas suivi le rythme rapide du développement de l’IA, et appelle le Congrès américain à établir des « barrières de protection » pour empêcher l’utilisation de l’IA dans des programmes de surveillance de masse domestique.

Dans un développement connexe, le secrétaire à la Défense américain Pete Hegseth a déclaré vendredi qu’Anthropic représentait « un risque pour la chaîne d’approvisionnement de la sécurité nationale » et a exigé que tous les contractants, fournisseurs ou partenaires travaillant avec l’armée américaine cessent immédiatement leurs activités commerciales avec cette société.

Quelques heures après cette annonce, le concurrent d’Anthropic, OpenAI, a accepté un contrat avec le Département de la Défense américain pour déployer ses modèles d’IA sur le réseau militaire.