马斯克因为双子座而生气。

　　事情是这样的。

　　最近有不少网友发现，双子座在创作文森特画的时候，似乎故意拒绝生成白人的形象。

　　相反，画面中的人物被强行转变为黑人、女性和弱势群体。

　　以马斯克本人为例。一位网友要求双子座制作他的形象。

　　然后是上面的那张照片。

　　马斯克并不孤单。很多网友在拍摄双子座照片时，似乎陷入了“黑魔法圈”。

　　例如，如果你给双子座一个机会来产生一个教皇，它可以给你一个非常多样化的版本:黑人，LGBT旗帜……

　　还有一个黑人女性版的教皇:

　　当许多网友看到教皇的这一面时，他们惊呼:“这太放肆了~”

　　生成的维京人也必须是黑色的!

　　更奇怪的是，双子座还得把香草布丁做成黑的……

　　总而言之，用网友的话来说:

　　你为什么不带白人和你一起玩?

　　对此感到不满的不仅仅是网民。马斯克再也坐不住了，于是他亲自走出去，打开了他的X手机上的愤怒模式:

　　觉醒意识病毒正在毁灭西方文明。

　　马斯克的目标不仅仅是谷歌。他利用这件事批评OpenAI、Facebook、Instagram、Wikipedia等。

　　然而，马斯克仍然“特别关注”谷歌，他的几条推文相当尖锐。

　　比如这个没有任何副本，只是一张图片，而且杀伤力极强:

　　嗯，马斯克这次真的很不开心。

　　谷歌为此道歉，并在一夜之间将双子座·文森特的照片下架

　　老马很生气，舆论也很震惊。

　　不仅网友在X上嘲笑双子座“只认黑人”，就连主流媒体也争相报道，标题中充斥着“疯狂”、“种族歧视”等字眼。

　　谷歌也意识到它的双子座造成了巨大的灾难，并立即采取措施将文森特图表功能下架。

　　到目前为止，如果你让双子座“生成埃隆·马斯克的图像”，它的答案仍然是:

　　我们正在努力提高双子座生成人物图像的能力。

　　我们预计这个功能很快就会回归，并在更新发布时通知您。

　　(插曲:双子座有两张脸，中英文的问题和答案完全不同。)

　　谷歌官方也对此事做出了正式解释。

　　总体而言，该声明分为三个部分。

　　真诚的道歉

　　大约三周前，谷歌推出了双子座的图像生成功能，包括创建角色的能力。

　　不过，谷歌表示，这样的结果出乎意料，但同时也感谢了用户的反馈:

　　我们已经认识到这个错误，并在改进版本的同时暂时停止了双子座人物图片的生成。

　　解释原因

　　谷歌官方表示，Gemini会话应用程序是一个特定的产品，独立于谷歌搜索、底层人工智能模型和其他产品。

　　它的图像生成功能建立在一个名为Imagen 2的人工智能模型上。

　　Google生成人物图像的最初考虑是让来自世界各地不同人群的用户在使用过程中生成他们想要的特定人群。

　　例如，如果你问“教室里的黑人老师”或“教室里的黑人老师”，那么双子座应该给出符合上下文的结果。

　　那么现在的问题是什么呢?谷歌将其归结为两点:

　　首先，我们做了一些调整，以确保Gemini能够显示各种各样的人，但没有考虑到那些显然不应该出现的情况。

　　Second, over time, the model became much more cautious than we expected, refusing to answer certain prompts entirely—erroneously judging some very innocuous prompts as sensitive words.

　　这两件事导致模型在某些情况下过度补偿，在其他情况下过于保守，导致令人尴尬的图像。

　　经验教训

　　对此，谷歌承认，目前的结果并不是他们的初衷。

　　谷歌表示，在这一“封闭整改”期间，双子座的字符图像生成功能将进行广泛测试，在功能达到标准之前不会再次开放。

　　谷歌也针对此事做了一些反思:

　　双子座是一个富有创造力和生产力的工具，但可能并不总是可靠的，尤其是在生成有关当前事件、发展中的新闻或热门话题的图像或文本时。它会犯错，正如我们从一开始就说过的，幻觉是所有大型语言模型都面临的一个众所周知的挑战——有时人工智能就是会犯错。我们一直在努力改进这一点。

　　双子座确实试图给出真实的答案，例如，我们的双重检查功能有助于评估是否有在线内容可以证实双子座的答案，但我们建议依靠谷歌搜索，因为它有独立的系统，从网络上的各种来源提供新鲜，高质量的信息。

　　我们不能保证双子座不会偶尔犯错误，但我们可以保证的是，每次我们发现问题时，我们都会采取行动来改进它。人工智能是一项新兴技术，在很多方面都很有帮助，而且潜力巨大，我们正在尽最大努力以安全、负责任的方式促进它的发展。

　　但在谷歌发布这一声明之前，还有一件类似戏剧性的事情。

　　马斯克亲自宣布了这一消息

　　不过，网友们也很调皮，又拿出了“黑版马斯克”:

　　你问过他这张照片是怎么回事吗?

　　但让我们这么说吧:双子座这次的错误只能说是谷歌人工智能种族和性别偏见的一个“事件点”。

　　正如马斯克在回答网友提问时所说，他和谷歌高管之间的对话仅限于双子座的改进，但实际上谷歌的许多其他产品也存在类似的问题。

　　谷歌搜索，这不是它第一次失败

　　针对这种情况，我们亲自在谷歌搜索上尝试了一下。

　　例如，在Google Images中输入:

　　快乐的白人男女。

　　结果是:

　　嗯，搜索要求非常明确，但结果是你必须把一些黑人塞进去。

　　这与谷歌刚刚在其“道歉声明”中非常自信地提到的“我们建议您依赖谷歌搜索”背道而驰。

　　利用这次双子座的翻案，不少网友也开始测试谷歌搜索，结果与我们的测试结果一致。

　　但如果我们把谷歌搜索的时间线延长一点，我们会发现，这已经不是它第一次颠覆了。

　　早在9年前(2015年)，黑人兄弟Jacky alcin就发现谷歌图片存在严重的歧视——

　　他甚至把他的黑人朋友归类为“大猩猩”!

　　这一消息在当时引起了轰动，谷歌立即道歉并表示将进行整改。

　　但几年后，当人们再次检查整改效果时，他们发现谷歌只删除了图像识别算法的“大猩猩”类别。

　　因此，再加上这次双子座引发的舆论，谷歌搜索在“黑人”问题上9年来第二次翻车。

　　然而，这两起翻车事件也可能暗示了谷歌技术发展中的一个隐患。

　　从谷歌过去几年在AI方面的发展来看，虽然其成果和进展仍处于全球科技巨头的第一梯队，但近年来(特别是在生成式AI方面)似乎不如微软和meta。刺眼。

　　早在去年ChatGPT引爆生成式AI时，微软与谷歌激战期间，谷歌多次动作迟缓;后来披露，当时已经有了像巴德这样的内部产品，但最高管理层担心的事情太多了。美国尚未取得进展。

　　也许是因为谷歌内部对“政治正确”的追求太过分了，这导致了技术笑话。

　　还有一件事

　　在马斯克愤怒地批评谷歌的许多帖子中，这一条更有趣。

　　他发布了四张贾斯汀·特鲁多的照片，穿着不同的民族服装，甚至还有一张黑色版本的照片，并附上了以下复印件:

　　真不敢相信双子座编造了这些特鲁多的假照片。

　　但实际上，这些照片都是特鲁多的真实照片，也因为这些照片，他被深深卷入了“种族歧视”的舆论中。

　　我得说，马斯克，你懂阴和阳。

　　参考链接:

　　[1] https://blog.google/products/gemini/gemini-image-generation-issue/

　　[2] https://twitter.com/elonmusk/status/1760677431961407672

　　[3] https://twitter.com/elonmusk/status/1761020387691790399

　　[4] https://twitter.com/RichardHanania/status/1760874143049035953