AI 治理
物理学家 Christopher Stubbs 加入 Anthropic 长期利益信托
哈佛物理学家 Christopher Stubbs 加入 Anthropic 独立的长期利益信托,为其公共利益治理结构带来实验科学和科研管理经验。
Anthropic 于 10 月 21 日宣布,哈佛大学物理学家 Christopher Stubbs 已加入其长期利益信托。这是嵌入公司治理结构的独立机构,Stubbs 成为其中首位物理学家。他在实验科学、大学管理和国家安全咨询方面的经历,为这个考察 AI 长期影响的机构增加了新的专业背景。
按照公告,信托拥有任命 Anthropic 董事会多数成员的权力,并就涉及 AI 风险和社会影响等重大决定,向董事和公司管理层提供建议。Stubbs 加入的成员包括主席 Neil Buddy Shah、国家安全专家 Richard Fontaine,以及前美联储主席 Ben Bernanke。Anthropic 表示,受托人独立于管理层和投资者。这次任命的职务是受托人,与担任公司董事有所区别。
Anthropic 最早在 2023 年 9 月公开介绍了这套安排。其设计赋予信托一类特殊股份,用于选举和罢免董事;相关权力会按照时间和融资里程碑逐步落实。公司的初衷,是让不受其财务利益影响的独立机构,在可能影响顾客和股东之外人群的重大决定中,拥有正式的治理位置。
最初的说明将日常商业管理留给董事会和高管团队,把信托的关注点放在更长期的问题上,包括推动管理层评估未来模型的灾难性风险,以及维持较强安全保障。Anthropic 将其描述为一项公司治理实验,并设计了调整机制。这次任命延续的是既有结构,未同时宣布成立新的运营团队或改变 Claude 的产品能力。
Stubbs 现任哈佛大学 Samuel C. Moncher 物理学与天文学教授,研究涉及宇宙学、粒子物理和引力,曾参与发现宇宙加速膨胀的科研团队。他于 2003 年加入哈佛,2007 至 2010 年担任物理系主任,2018 至 2024 年担任文理学院科学事务院长。他也参与了 Rubin 天文台项目,并且是 JASON 科学咨询组织成员。
他对 AI 的参与还延伸至教育。哈佛在 2024 年 3 月报道,他与 Logan McCarty 共同教授一门本科通识课程,讨论生成式 AI 的技术、伦理、法律和哲学影响。课程不要求计算机科学背景,将实际使用工具与考察其局限、影响结合起来。这项较早开展的工作,把如何负责任地使用 AI 的问题放进了大学更广泛的教育项目。
信托任命之前,Anthropic 曾于 10 月 18 日另行公布公共利益资金计划。公司提议,在获得股东批准后,将 5% 股份投入一家全资持有的基金实体,并可能按照估值里程碑及董事会决定增加投入。拟设实体能够采用不同捐助方式,包括支持非营利工作和应对劳动力市场变化。它承担的财务角色,与长期利益信托的治理权力分开。
在任命公告中,Anthropic 也提到 Stubbs 关于 AI 辅助科学研究可复现性的工作:模型可能在不同运行中,对同一个问题给出不同答案。公司将此次选择与他领导学术界、政府和国家实验室复杂合作项目的经历联系起来。在信托内,这一科学视角将与已有的国家安全、经济政策和公共利益机构经验共同参与治理讨论。