SkillSpector 是一款用于检测 AI 代理技能安全性的开源安全扫描器,旨在在安装前发现漏洞、恶意模式和潜在的安全风险。
来源:官方 README 与文档入口 查看 GitHub 仓库 →SkillSpector 受关注的原因包括其针对 AI 技能安全性的关注,填补了 AI 安全检测领域的空白。它提供了多格式输入支持、丰富的漏洞模式检测和可选的 LLM 语义分析,这些特性使其在 AI 安全领域具有独特的技术优势。
来源:官方 README 与文档入口支持扫描 Git 仓库、URL、zip 文件、目录或单个文件,提供灵活的扫描方式。
来源:官方 README 与文档入口包含 64 种漏洞模式,涵盖 16 个类别,如提示注入、数据泄露、权限提升等,全面检测潜在的安全风险。
来源:官方 README 与文档入口结合快速静态分析和可选的 LLM 语义评估,提供更全面的技能安全性评估。
来源:官方 README 与文档入口SkillSpector 采用模块化设计,代码结构清晰。主要模块包括输入处理、分析器、LLM 分析器和输出处理。数据流转从输入处理开始,经过分析器处理,最终生成输出报告。关键的技术决策包括使用 Python 作为主要编程语言,以及采用丰富的第三方库来支持功能实现。
来源:官方仓库目录与依赖文件typerrichhttpxpyyamlpydanticopenailanggraphlangchain-anthropiclangchain-corelangsmithyara-python1. AI 技能开发者:在发布 AI 技能前进行安全检测,确保技能的安全性。 2. 安全团队:评估 AI 技能的安全性,发现潜在的安全风险。 3. 企业 IT 部门:确保企业内部使用的 AI 技能符合安全标准。 4. 开源社区:为开源 AI 技能项目提供安全检测工具。
来源:官方 README 与文档入口信息不足,待补充
来源:官方 ReleasesSkillSpector 是一款值得关注的开源 AI 安全检测工具,尤其适合 AI 技能开发者、安全团队和企业 IT 部门使用。它能够帮助用户在发布或使用 AI 技能前发现潜在的安全风险,提高 AI 技能的安全性。
来源:官方仓库