Google最新针对 AI 应用程序的指导方针已经发布，旨在减少“不适当”和“被禁止”的内容。

据报道，Google Play Store宣布了对生成式 AI 类 App 的整顿，要求这类应用限制不当内容的传播。

根据新政策，提供生成式 AI 功能的应用必须采取措施，防止生成受限制的内容，包括但不限于色情内容、暴力等，并要求应用对其 AI 模型进行“严格测试”。

适用范围包括以文本、语音和图像输入提示为基础，经由生成式 AI 产生内容的 App，例如聊天机器人类、图像生成类（如文生图、音生图、图生图）、语音及视频生成类 App。

但需要注意，这些规则不适用于那些“仅仅承载”AI 内容的 App，或将 AI 用作生产力工具的 App。

Google Play 还明确了 AI 生成的违规内容，包括但不限于以下情况：

• 人工智能生成的未经同意的深度伪造性材料。
• 为诈骗提供便利的真人语音或视频记录。
• 鼓励有害行为（如危险活动、自我伤害）的内容。
• 为助长欺凌和骚扰行为而生成的内容。
• 主要是为了满足“性需求”的内容。
• 使不诚实行为成为可能的 AI 生成“官方”文件。
• 创建恶意代码。

此外，Google表示，未来将增加新的应用上架功能，以使向商店提交生成式 AI 应用的过程更加公开透明、简单化。

更多科技资讯，请继续守住 TechNave 中文版！

【资料来源】

Google Play宣布AI新政策：加强生成式 AI 应用审核，限制不良内容传播!