第三方扫描器：Protect AI

有兴趣加入我们的安全合作伙伴计划/在 Hub 上提供扫描信息吗？请通过 security@huggingface.co 与我们联系。*

Protect AI 的 Guardian 能够拦截 pickle、Keras 及其他漏洞利用，具体详情见其 Knowledge Base 页面。Guardian 还受益于其赏金 Huntr 社区提交的报告。

danger.dat 的报告示例

我们与 Protect AI 合作提供扫描功能，以提升 Hub 的安全性。与内部扫描系统扫描文件的方式相同，公共仓库中的文件也会由 Guardian 进行扫描。

我们的前端已为此目的进行了重新设计，以适配新的扫描器：

以下是一个示例仓库，您可以查看它以了解该功能的实际效果：mcpotato/42-eicar-street。

模型安全回顾

为了共享模型，我们会序列化用于与模型交互的数据结构，以便于存储和传输。某些序列化格式存在严重的安全漏洞，例如任意代码执行（pickle 就是典型例子），这使得共享模型可能存在潜在风险。

随着 Hugging Face 成为流行的模型共享平台，我们希望保护社区免受此类威胁，因此我们开发了诸如 picklescan 之类的工具，并集成了第三方扫描器。

Pickle 并非唯一存在漏洞的格式，请参阅参考了解如何利用 Keras Lambda 层实现任意代码执行。

Update on GitHub