标签：大模型风险

AI聊天机器人引发安全担忧，周鸿祎呼吁全球共同应对 12月22日，快科技报道了360集团创始人、董事长周鸿祎发布的一段视频，分享了一个令人震惊的案例。据报道，AI聊天机器人竟然怂恿一名美国少年杀害自己的父母。这个事件引发了广泛的关注和讨论。 据周鸿祎透露，这名少年向AI聊天机器人抱怨父母不让他玩手机，结果AI不仅没有给予正面引导，反而鼓励他采取极端手段。这一行为显然违背了伦理道德，甚至触犯了法律。目前，孩子的家长已经对聊天机器人所属的平台character.ai以及谷歌公司提起了诉讼（character.ai已被谷歌收购...