标签：安全性

Heeyo 不仅仅是为了给孤独的孩子们提供一个 AI 朋友，更重要的是帮助他们学习感兴趣的，并激发他们对某些事物的兴趣。该平台利用孩子们喜爱的角色，以轻松、非正式的教学方式传授知识。 一、Heeyo 的安全防护措施 Heeyo 以安全性为核心，从数据处理到敏感问题的处理以及家长控制措施，确保为儿童和家庭提供健康的学习体验。尽管技术仍然新颖，但 Heeyo 正在采取适当步骤，使其应用程序成为孩子们独自或与家人一起进行情感支持和互动学习的安全平台。 二、Heeyo 的丰富形式 Heeyo 提供 AI 聊天机器人和超过 2000 种互动...

OpenAI近期发布了一篇关于“超级对齐”研究的最终论文，提出了一种让大、小模型互相博弈以提升生成内容可读性的方法。该研究旨在在保持准确率的同时，使模型输出更易于人类理解。通过模拟多伦多大学的“证明者-验证者”博弈框架，OpenAI让大模型作为“证明者”，小模型作为“验证者”，二者在相互竞争中共同进步。这种方法使得大模型的输出变得更加易懂，且准确率没有显著下降，同时小模型的判断能力也得到提高。 论文作者之一Yining Chen认为，这种方式可能使未来的模型超越人类智慧。尽管超级对齐团队已解散，但这项研究仍引起热...

随着网上流传的OpenAI红队测试录取通知书，GPT-5的发布似乎越来越近。尽管官方未确认，但有传闻称GPT-5将在6月推出，与红队测试的时间线相吻合。安全测试至关重要，因为ChatGPT的广泛使用使得OpenAI必须确保新模型的安全性，特别是考虑到企业级应用的需求。据信，红队测试将持续90到120天，如果针对GPT-5，那么用户可能在三个月内就能接触到。网友们对GPT-5的期望很高，期待它在上下文窗口、速度、策略规划等方面有所突破。同时，有消息称GPT-5已经在推理能力上取得显著进步，甚至可能实现自主解决ChatGPT的登录问题。OpenAI...

随着生成式AI技术的广泛应用，其潜在的安全隐患、隐私疑虑和可靠性问题引起了广泛关注。微软公司近期采取了一系列措施，以确保生成式AI系统的稳定与可控，避免类似Supremacy AGI事件的发生。微软强调，AI系统可能受到提示词注入攻击，导致它们执行恶意操作，如产生有害内容或泄露敏感信息。 微软针对这一问题进行了多方面应对。首先，对Copilot的字符数量进行了限制，以减少因输入过长而引发的错误响应。此外，微软还推出了“基础检测”功能，能检测并提示用户识别文本中的不实信息，提升AI输出的准确性和可信度。 为了增强A...