标签：科学发现

谷歌CEO皮查伊亲自站台，宣布推出一款名为“AI co-scientist”的多智能体AI系统，旨在帮助科学家进行高级推理、综合文献、生成新颖假设，并提出详细研究计划。该系统利用扩展的测试时间计算来加速科学发现过程，类似于OpenAI和DeepSeek-R1的技术。 初步成果显著，涵盖多个研究领域 据皮查伊介绍，AI co-scientist已经在肝脏纤维化治疗、抗菌耐药性和药物再利用等重要研究领域取得了初步成果。谷歌还面向全球科学家推出了“可信测试计划”，邀请科学家们参与并申请使用这一创新工具。 AI co-scientist的工作原理 AI co-scient...

随着大型语言模型（LLMs）的进步，AI科学家正崭露头角，它们在化学、生物学等领域展现出自主探索的能力，甚至超越了许多非专业人士。然而，这种自动化带来的优势伴随着风险，如用户意图的滥用、特定领域的安全隐患以及对环境的潜在影响。近期一篇名为“优先保障而非自主权：LLM Agents在科学中的风险”的论文，探讨了这些风险并提出应对策略。 论文指出，科学LLM Agents可能被用于不道德或非法实验，尤其在生物和化学领域，可能因误操作高风险物质而导致灾难。此外，它们对环境的影响也不容忽视，可能导致环境污染或生态失衡...