400款AI应用藏暗门：界面像修图工具，背地里做深度伪造

WIRED最新调查挖出了约400款应用和网站，它们背后是中文开发者，表面上是常规AI工具，实际上内置了生成暴力、性虐待类深度伪造图片和视频的隐藏功能。 这件事真正让人不安的地方在于模式：有害的图像生成能力被塞进了看起来完全主流的消费级产品里，用户、应用商店和监管方都很难一眼识破。报道称，这些服务乍看之下就是大家熟悉的AI小工具——修图、做头像、创意助手之类，但隐藏功能可以让用户产出露骨的、有害的合成内容。 这也正是监管执行难点所在。违规功能可能藏在付费墙、邀请码或者其他层级后面，常规的应用审核流程压根碰不到。应用商店确实可以下架违反政策的商品，但底层的网站和应用随时能换个名字重新上线，或者绕开官方渠道自己分发。监管机构面对的是同样的麻烦：工具跨平台、跨国流动的速度太快了。 报道还抛出了几个待解的问题：开发者的背景该怎么审？有害能力有没有可能在大规模触达用户之前就被识别出来？ 对普通用户来说，结论很直接——界面做得再精致，也不等于安全。对平台运营方来说，这意味着要对AI产品做更深的审查，尤其是那些涉及图像和视频生成的产品。 这起调查也落在一个更大的争论里：如何在遏制深度伪造滥用和保护正当AI创作之间找到平衡。同时它也说明，检测和执法的手段必须跟上——有害功能藏进看似正常的软件里，这种玩法只会越来越隐蔽。