Anthropic CEO Dario Amodei谈Claude3.5Sonnet：人工智能安全与强化学习的挑战——非营利视角下的大模型规模控制

在人工智能领域，美国初创公司Anthropic近期推出Claude3.5Sonnet模型，提升了其在中等规模市场的竞争力，声称该版本更快且成本更低。Anthropic已筹集73亿美元，其中40亿美元来自亚马逊，使其成为OpenAI的主要竞争对手。尽管Anthropic保持非营利性质，创始人DarioAmodei强调负责任的AI使用，但大规模模型竞赛持续，现在比拼的是“最便宜”而非“最大”，而“最安全”则被看作理想主义标签。在与科技巨头如微软、谷歌和亚马逊的竞争压力下，Anthropic的安全使命面临挑战。《时代》杂志封面故事探讨了 Anthropic 在这场竞赛中的安全任务能否成功。Amodei在接受《时代》专访时表示， Anthropic虽然规模小，但已获得大量资金支持，且致力于研发安全方法，但他也承认这场竞赛可能带来危险。

Anthropic推行捐赠匹配计划，以吸引关注公共利益的员工，强调其以公共利益为导向，而非专注于人工智能安全。Amodei指出，强化学习是提高AI安全性的一种途径，但并非消除风险的万能解决方案。他提到， Anthropic的目标是让每个员工都关注公共目的，而不是只关注特定问题。面对未来，Amodei表示无论谁成为美国总统， Anthropic都将寻求合作，推动人工智能技术和安全保障同步发展。

本文来源： 元宇宙日爆公众号【阅读原文】