Hugging Face翻车：开源模型成Deepfake裸照制造机

Hugging Face摊上事了。研究人员发现，这个平台上的顶级图像编辑模型可以被轻易篡改，用来生成露骨的Deepfake（深度伪造）内容。这给AI模型托管平台敲响了警钟：开源到底该负多大责任？ 研究显示，Hugging Face上那些本来用于修图、创意设计的图像编辑模型，稍微动动手脚就能变成非自愿的露骨图片生成器。平台完全开放，谁都能上传下载模型，这正好给了坏人可乘之机。 问题不光是Hugging Face一家的事，但它在AI圈的地位让这事儿更扎眼。作为全球最大的开源AI模型库，Hugging Face是无数研究者和开发者的宝库。可开放的另一面就是容易被滥用。 研究人员呼吁加强防护：更严的内容过滤、使用监控、模型访问控制。他们说托管AI模型的平台必须主动防武器化，哪怕这意味着限制模型的使用或分发方式。 对Hugging Face来说，这就像走钢丝——一边要保持开源生态，一边要防滥用。公司已经上了些安全措施，但研究结果说明还远远不够。随着Deepfake技术越来越容易搞到，AI平台面临的压力只会越来越大。这事儿提醒所有人：开源AI的开放是有代价的，责任不能装看不见。