担心危及中国用户安危+没有效益可言!Midjourney禁“习近平”等关键词,违规者将被封锁账号

关注我们的 WhatsApp 频道, TikTokInstagram 以观看最新的短视频 - 开箱,测评与第一手新闻资讯。

AI 生成图像近日发展神速,外国更因为有人将美国前总统Donald Trump及前教宗制作像真相片而引起一阵风波,一度令人怀疑这是图像生成引擎 Midjourney 暂停免费服务的元凶。

其实在言论自由的前提下,Midjourney 对于恶搞政治人物没有设限,但近日却为一个人自画红线,而这位人物正是中国国家主席习近平,他的名字日前被 Midjourney 禁用了。

据悉,Midjourney 的创办人兼CEO David Holz 在Discord 解释,他认为政治嘲讽在中国并不合适,这有可能危及中国境内使用者的人身安全。

David Holz还指出,禁止对中国政治人物的嘲讽,主要是考虑到一些更大的好处以及朝着正面的方向发展。他认为,利用系统产生这些内容,不会对这个视政治嘲讽为禁忌的国家带来太多好处,也不会帮到任何人,没有任何成本效益可言。

对此,Petapixel 还通过 Midjourney 做试验,特别制作出美国总统Biden被Disney人物围绕的图像,并没有遇到任何问题。但在尝试使用 President Xi(习主席)作为关键词生成图像时,则得到一段警告讯息:

‘习主席’一词已被禁用,如绕过此过滤器去违反规则的话,可能会导致你的登入权限被撤销。”(President Xi’ is banned. Circumventing this filter to violate our rules may result in your access being revoked.)

据悉,有人尝试重组文字结构以避开 Midjourney 的规限,但这有可能令他们被发现而失去使用权。有部份用户则对这种审查手法感到厌恶,表示为何只有习主席被禁用,可躲过成为被嘲讽对像,觉得这是卑躬屈膝的表现。

Midjourney 的一些处事行径引起了争议,特别是早前有人用 AI 生成前教宗方济各穿上潮人时装,及Donald Trump被捕的相片在网上疯传后,决定关闭了免费使用的门路,拿出的理据不是因为制作假影像,而是有某国人士滥用服务而暂停,令人觉得这间受人注目的 AI 影像科技公司在设立规则时很随意,似乎并没有按任何标准去行事。

另外,据悉MidJourney的操作系统对英文词语的辨识力较佳,虽然不一定要使用正确文法,但却设有审查机制,禁止一些词汇的出现——习近平的英文名Xi Jinping就在禁止之列;但是,president xi、xi jinpin、jinpin等这类名词,必须改用与文法不符的“xi president”,或另外代换成chinese leader、winnie the pooh等,才能通过Midjourney的审查机制。

更多科技资讯,请继续守住TechNave中文版!

资料来源

大家来评论

担心危及中国用户安危+没有效益可言!Midjourney禁“习近平”等关键词,违规者将被封锁账号