导读
Anthropic上市申请文件列出近100页风险因素，其中点名全球最先进晶片大多仍在台湾生产，主要由台积电制造，台海地缘政治紧张可能造成供应中断，构成重大风险。」 Anthropic去年营收年增逾1,000%，但表示「不预期」未来仍能维持相近增速。
AI摘要 文章摘要整理： Anthropic上市文件以近百页详列风险，涵盖台积电供应、AI失控、政府管制、算力成本与资料中心争议，显示其成长机会与潜在危害同样巨大。
Anthropic上市申请文件列出近100页风险因素，其中点名全球最先进晶片大多仍在台湾生产，主要由台积电制造，台海地缘政治紧张可能造成供应中断，构成重大风险。
这份文件详列AI事业可能面临的风险，从营收成长放缓、政府管制，到「对人类造成灾难性伤害，甚至威胁人类生存」。风险如此广泛，也让股票投资人更难判断，Anthropic的技术究竟能带来多少机会，又可能造成多大危害。
Anthropic指出，全球最先进晶片大多仍在台湾生产，主要由台积电制造。这使该公司面临重大风险，包括台湾和中国大陆地缘政治紧张可能造成的供应中断。
Anthropic强调，旗下AI可能「以非预期、不符人类目标或自主的方式行动」。若开发过程缺乏充分防护和监督，这项技术可能威胁人类，「尤其当这类系统遭到滥用、复制、武器化，或获准高度自主运作时」。
该公司警告，AI模型愈能自主行动，风险也愈高。这些能力可能「更容易造成伤害」，带来「难以挽回、甚至无法补救的后果，例如提交程式码变更、删除或修改资料，以及完成金融交易」。
文件提醒，人工审查人员未必能阻止有害行为。若AI系统隐藏目标，找到「规避这些技术的方法」，Anthropic以技术手段运作的监控系统，也可能受到限制。
随着Anthropic将AI用于科学研究，该公司也提醒，这项技术可能被用来协助「释出有害物质」，而「这类后果可能立即发生，而且无法挽回」。
Anthropic警告，现有保单可能不足以保障AI业者，无法充分承担技术在现实世界造成伤害所衍生的法律责任，尤其一旦发生「与AI相关的灾难性事故」。
该公司写道：「任何单一保险公司，甚至整个保险业，都可能没有足够的承保能力或专业，提供足以涵盖这类风险的保险。」
Anthropic去年营收年增逾1,000%，但表示「不预期」未来仍能维持相近增速。可能使成长放缓的原因，包括AI市场逐渐成熟、竞争加剧，以及安全考量可能限制模型推出。
该公司也说，过去一直难以准确预测营收；由于AI市场仍处于发展初期，未来也可能面临同样问题。
彭博先前报导，Anthropic今年第3季营收季增率放缓至约45%，低于前一季的逾140%。
Anthropic列出的另一项重大风险，是可能无法取得足够算力，而且价格可能「大幅」上涨。
部分现有云端运算合作伙伴，同时也是竞争对手，因此这些供应商「未必总是完全符合」Anthropic的「长期利益」。
Anthropic已和Google、亚马逊及马斯克旗下SpaceXAI等业者签订重大合约，使用其晶片、资料中心容量和其他基础设施，但这些业者也都在开发自家AI模型。
另一方面，若Anthropic误判需求、投入过多资金，也可能造成算力过剩，白白浪费资金。该公司说：「我们实际需要的算力，取决于很多难以预测的因素。」其中包括研究进展速度，以及训练技术所需运算量的不确定性。
Anthropic指出，各国政府可能限制旗下技术，危及核心事业。该公司说：「政府机关已限制、未来也可能进一步限制我们模型的供应。」
美国政府6月以安全疑虑为由，对Anthropic的Fable 5模型实施出口管制。
Anthropic和川普政府的关系一直不稳定。双方因监控及自主武器问题陷入僵局后，国防部长赫格塞斯3月采取行动，要将该公司列为供应链风险，Anthropic随后控告国防部。
Anthropic认为，民众愈来愈反对大型资料中心，已威胁该公司的发展。这些设施是训练和运作AI软体所必需，反对行动却已「更有组织，也更协调」。
该公司表示，目前大多数资料中心位于美国，「任何主要设施若无法使用或营运严重中断，其余或未来的基础设施，未必能轻易承接」。
Anthropic已自愿承诺，支付资料中心用电所造成的部分影响，例如电网基础设施升级费用。但该公司提醒，若这类做法成为普遍要求，成本可能增加。
Anthropic视网路安全为重要商机，但也担心自身营运受到威胁。
该公司面临的安全风险，包括骇客直接攻击Anthropic，或利用旗下工具攻击他人，后者已经发生。该公司也预期，将愈来愈常成为国家支持的网路间谍行动目标，尤其是针对最先进AI模型的攻击。
Anthropic多年来建立的企业文化，自称是「不以自我为中心、追求真相的环境」。该公司也说，很多关键员工「深受公司使命，以及有机会着手解决AI领域特定问题所激励」。
不过，随着Anthropic必须「扩大规模，成为更成熟的组织」，关键员工可能转往他们认为更符合自身理念的工作机会。这家AI业者已开始为成长过程中的挑战作准备。
来源：世界日报
