谷歌与Gemini Live面临道德风险挑战：大厂缘何对盈利可观的AI伴侣业务保持谨慎态度

不久前的8月14日，谷歌在其山景城总部举办了“Made by Google 2024”活动，推出了多款新产品，包括Pixel 9系列智能手机、Pixel Buds Pro 2耳机以及Pixel Watch 3智能手表等。除此之外，谷歌还推出了一款名为Gemini Live的AI助手，旨在与OpenAI的GPT-4o竞争。

Gemini Live采用了增强型语音引擎，为用户提供了更为连贯、富有情感且真实的多轮对话体验。为了增加个性化选项，谷歌还提供了10种不同的声音供用户选择。这一举动引发了人们对于电影《Her》的联想，该电影讲述了一个人类与人工智能之间的情感故事。然而，谷歌并不希望将其产品与这部电影联系起来。

近日，《华尔街日报》科技专栏作家Joanna Stern采访了谷歌Android部门负责人Rick Osterloh。在采访中，Osterloh表示，虽然AI助手逐渐融入日常生活是一个趋势，但像《Her》那样与AI建立深厚情感关系并不是谷歌所追求的目标。他认为，这种关系可能会带来负面后果。

尽管如此，市场上仍有许多公司将AI助手用于情感陪伴的服务。例如，美国网红Marjorie推出的“AI分身”CarynAI为粉丝提供AI女友陪聊服务，预计年收入可达6000万美元。另一家公司FoxyAI创建的虚拟女友“莱克西·拉夫”通过与粉丝互动，每月收入高达3万美元。这些案例表明，AI伴侣已经成为目前最赚钱的AI产品之一。

然而，大型科技公司如谷歌、OpenAI、Meta和苹果并未涉足这一领域。OpenAI CEO山姆·奥尔特曼曾明确表示，“AI女友”存在道德风险，并禁止开发者在GPT商店中创建此类应用。这些大公司之所以避开AI伴侣市场，主要是因为这类产品存在巨大的道德风险。许多成功的海外AI伴侣产品往往采用擦边球策略，通过发布大尺度照片吸引用户，并通过解锁更私密的引导用户付费。

此外，AI伴侣产品难以利用网络效应，反而随着用户规模的增长，成本也会增加。例如，Character.AI每月吸引了2000万用户，但每次对话都需要大量算力资源，导致其长期处于亏损状态。尽管Character.AI最终以25亿美元的价格被谷歌收购，但其付费用户规模仅为10万左右。

因此，AI大厂纷纷避开这一市场，选择更加稳健的商业模式。毕竟，一个规模越大反而越赔钱且存在道德风险的产品，并不适合大型科技公司的发展战略。

本文来源：