Anthropic accueille le physicien Christopher Stubbs dans son Trust pour le bénéfice à long terme

Anthropic a annoncé le 21 octobre que le physicien de Harvard Christopher Stubbs avait rejoint son Trust pour le bénéfice à long terme, l’organisme indépendant intégré à la gouvernance de l’entreprise d’IA. Stubbs est le premier physicien à y siéger. Sa nomination apporte une expérience de la science expérimentale, de la direction universitaire et du conseil en sécurité nationale à un organe chargé de considérer les effets à long terme de l’IA.

Selon l’annonce, le trust a le pouvoir de nommer une majorité du conseil d’administration d’Anthropic et conseille les administrateurs et dirigeants sur les décisions critiques, notamment celles concernant les risques de l’IA et ses effets sociaux. Stubbs rejoint le président Neil Buddy Shah, le spécialiste de la sécurité nationale Richard Fontaine et l’ancien président de la Réserve fédérale Ben Bernanke. Anthropic indique que les membres fiduciaires sont indépendants de sa direction et de ses investisseurs. Stubbs est nommé membre du trust, un rôle distinct de celui d’administrateur de l’entreprise.

Anthropic a présenté publiquement ce dispositif pour la première fois en septembre 2023. Sa conception attribuait au trust une catégorie spéciale d’actions donnant le droit d’élire et de révoquer des administrateurs, ces droits entrant progressivement en vigueur selon des jalons temporels et financiers. La structure visait à donner à un organisme protégé des intérêts financiers dans Anthropic une place formelle dans des décisions dont les conséquences pourraient dépasser les clients et les actionnaires de l’entreprise.

L’explication initiale réservait la gestion commerciale ordinaire au conseil et à l’équipe dirigeante. Elle décrivait la mission du trust comme portant sur des questions de plus long terme, notamment les incitations à évaluer les risques catastrophiques des futurs modèles et à maintenir une sécurité solide. Anthropic présentait cela comme une expérience de gouvernance d’entreprise, avec des mécanismes d’ajustement. La nomination prolonge cette structure existante, sans créer une nouvelle équipe opérationnelle ni annoncer de changement des capacités de Claude.

Stubbs est professeur Samuel C. Moncher de physique et d’astronomie à Harvard. Ses recherches couvrent la cosmologie, la physique des particules et la gravitation, et il faisait partie de l’équipe ayant contribué à découvrir l’expansion accélérée de l’Univers. Il a rejoint Harvard en 2003, dirigé le département de physique de 2007 à 2010 et été doyen des sciences de la Faculté des arts et des sciences de 2018 à 2024. Il a également travaillé sur l’Observatoire Rubin et appartient au groupe de conseil scientifique JASON.

Son engagement dans l’IA comprend l’enseignement autant que la recherche. Harvard rapportait en mars 2024 que lui et Logan McCarty enseignaient un cours de formation générale destiné aux étudiants de premier cycle sur les implications techniques, éthiques, juridiques et philosophiques de l’IA générative. Ce cours n’exigeait aucune formation en informatique et associait l’utilisation des outils à l’examen de leurs limites et effets. Ce travail antérieur inscrivait les questions d’usage responsable de l’IA dans le programme éducatif plus large de l’université.

La nomination suit une annonce séparée du 18 octobre sur le financement du bénéfice public. Anthropic proposait de consacrer 5% de ses actions à un fonds qu’elle détiendrait intégralement, sous réserve de l’approbation des actionnaires, avec des hausses possibles liées à des jalons de valorisation et à la discrétion du conseil. Ce véhicule permettrait différentes formes de dons, dont le soutien aux activités non lucratives et les réponses aux perturbations du marché du travail. Son rôle financier est distinct des droits de gouvernance du trust.

L’avis de nomination souligne également les travaux de Stubbs sur la reproductibilité de la science assistée par IA, où un modèle peut répondre différemment à la même question selon les exécutions. L’entreprise relie son choix à son expérience de direction de collaborations complexes entre universités, pouvoirs publics et laboratoires nationaux. Au sein du trust, cette perspective scientifique s’ajoute aux compétences existantes en sécurité nationale, politique économique et institutions de bénéfice public.