标签:灭绝威胁

美国务院委托撰写报告:AI可能对人类构成“灭绝级”威胁

美国国务院委托Gladstone AI撰写的一份报告揭示了人工智能(AI)的快速发展可能带来的“灭绝级”威胁。报告基于对行业领袖、安全专家等200多人的访谈,警告最坏的情况是高度先进的AI可能导致人类物种的灭绝。尽管AI具有变革性的潜力,但也蕴含着无法控制的风险。报告指出,AI可能被用于制造武器,实验室内存在失控的担忧,甚至可能引发类似核武器的全球安全危机。因此,Gladstone AI建议设立新机构、加强监管并限制AI训练资源。报告还揭示了企业为竞争而牺牲安全,加剧了AI被滥用的风险。