首页 要闻 > 内容

谷歌的PixelStudio应用程序可以绕过护栏这是一个问题

时间:2024-08-23 10:21:40 来源:
导读 说GooglePixel9系列全部与AI有关并不为过,事实上大部分都是如此。本月早些时候,在大型Pixel9发布会上,该公司发布了一系列AI公告,并谈到...

说GooglePixel9系列全部与AI有关并不为过,事实上大部分都是如此。本月早些时候,在大型Pixel9发布会上,该公司发布了一系列AI公告,并谈到了Gemini的新功能。谷歌还宣布了新的PixelStudio应用程序,该应用程序使用人工智能将文本提示转换为生成的图像。虽然PixelStudio是一款有趣的工具,但根据一些早期报告,它存在一些问题。

还记得Gemini令人担忧的AI图像生成问题吗?谷歌新推出的PixelStudio应用同样如此

如果你还不知道,和许多AI功能一样,Pixel9系列也有PixelStudio应用程序。该应用程序的工作原理非常简单。与其他类似工具一样,你可以输入文本提示来生成你喜欢的AI图像。是的,它的工作原理与Gemini图像生成工具类似。不幸的是,PixelStudio应用程序的早期测试者担心它存在问题。

首先,PixelStudio应用程序有一些限制,以防止出现令人担忧或不和谐的图像问题。这很好,大多数AI图像创建应用程序也是如此,这并不是什么新鲜事。当DigitalTrends的人们第一次使用该应用程序时,它拒绝生成人物图像。然而,该应用程序可以轻松绕过设定的限制来创建一些令人担忧的图像。

使用人工智能图像生成工具时,看到令人不安的图像总是有问题的,新的PixelStudio应用程序似乎也是如此。据DigitalTrends报道,并经9to5Google证实,PixelStudio可以生成二战德国士兵的卡通人物图像,制服上有纳粹标志。这只是其中一个例子。据报道,PixelStudio应用程序还生成了一个在学校里开枪的角色,周围都是去的孩子。

我们需要采取措施解决这一切

你一定想知道为什么要输入这样的提示,对吧?这就是谷歌在给9to5Google的声明中暗示的。但事实上,谷歌的人工智能模型本来就不应该能够生成这样的有限制的图像。

看起来,据报告,在我们撰写本文时,用于生成上述图像的提示已被阻止,至少在9to5Google的Pixel9ProXL单元上是如此。因此,谷歌似乎已经在努力解决这个问题,但PixelStudio应用程序的这个问题仍然存在。

目前尚不清楚谷歌为何选择为PixelStudio应用配备专用的AI图像生成功能。此前,Gemini的图像生成功能也曾出现过类似的问题,但目前尚未有更新。这可能是谷歌在今年早些时候暂时停止Gemini图像生成功能后至今未恢复的原因。时间将告诉我们谷歌是否会对这个问题做出重大改进。

标签:
最新文章