标签：AI safety

Claude3，新一代AI大模型，由 Anthropic 公司推出，以其在多个领域的卓越性能超越了GPT-4。该模型分为三档，最高级的 Claude3Opus 在数学、编程、多语种理解和视觉任务上树立新标准，其知识相当于人类本科生水平。值得注意的是，Claude3在安全性上的独特优势，采用“宪法 AI”训练技术，遵循多元化的道德准则，以减少有害言论的产生。 Anthropic，由前OpenAI员工创立，专注于AI安全，其公益企业身份允许他们在追求利润的同时履行社会责任。公司得到了有效利他主义者的支持，包括富有的科技高管投资。尽管对安全的重视可能导致...