谷歌暂停AI图像生成功能：承认存在技术缺陷

中国站长网(ChinaZ.com) 2月24日报道：谷歌官方证实，其AI系统Gemini在创造历史人物图片时出现偏差，尤其在种族表现上出现问题。日前，有媒体注意到Gemini在生成像纳粹分子或美国建国先驱这类人物时，出现了种族差异。比如，当请求创建一位“19世纪美国参议员”的图像时，Gemini却返回了一位黑人男性的图像。

谷歌的高级副总裁普拉巴卡尔·拉加万在博客中指出，这一问题源于当初为了提升图像多样性的设计调整。这些调整在某些场景下可能“矫枉过正”，比如将历史上的负面角色描绘成黑人。同时，拉加万也提到，Gemini随着时间推移变得过于谨慎，甚至回避了如“黑人”或“白人”这样的直接提示。

因此，谷歌已经在2月22日停止了Gemini的人物图像生成功能。拉加万承诺，他们将持续测试并努力显著提升Gemini的性能，再重新开放使用。他强调，谷歌的目标是让Gemini服务所有用户，能够呈现不同种族和文化背景的人物图像。然而，他也指出，当用户有特定需求，如“黑人教师在教室”这样的场景，模型应准确响应用户期望。

拉加万承认，AI生成图像仍面临幻觉问题，有时会导致模型误判。谷歌将持续致力于改进AI技术，以解决这些难题。

本文来源： 站长之家【阅读原文】