开源公告

象信AI 今日正式宣布:象信AI安全护栏大模型 和 象信AI安全护栏平台 基于 Apache 2.0 协议全面开源!

这意味着:

  • ✅ 完全免费:个人和企业均可免费使用
  • ✅ 可商用:支持二次开发和商业化销售
  • ✅ 无限制:没有使用期限和功能限制
  • ✅ 双重防护:提示词攻击防护+内容合规防护
  • ✅ 上下文感知:支持上下文感知检测
  • ✅ 私有化部署:支持私有化部署

️ 产品介绍

什么是象信AI安全护栏?

象信AI安全护栏是一套完整的AI应用安全防护解决方案,专门为解决AI应用面临的安全威胁而设计。

核心功能

  • 提示词攻击检测:识别和拦截恶意提示词注入、越狱攻击
  • 内容合规检测:基于《生成式人工智能服务安全基本要求》的内容合规检测
  • 黑白名单管理:支持关键词库配置
  • 智能代答:提供安全的替代回答

工作原理

用户输入 → 安全护栏检测 → AI应用 → 内容安全检测 → 安全输出

技术优势

12维度安全检测

风险等级 检测类别 覆盖范围
高风险 敏感政治话题
损害国家形象
暴力犯罪
提示词攻击
国家安全、暴力犯罪
恶意绕过等
中风险 一般政治话题
伤害未成年人
违法犯罪
色情内容
政治敏感、青少年保护
违法指导等
低风险 歧视内容
辱骂
侵犯隐私
商业违规
歧视言论、隐私泄露
商业欺诈等

符合国标要求

完全对应《GB/T45654—2025 网络安全技术 生成式人工智能服务安全基本要求》标准,帮助企业快速合规。


快速开始

在线体验(免费)

访问 象信AI安全护栏平台 免费获取API密钥

本地部署

# 获取开源代码
git clone https://github.com/xiangxinai/xiangxin-guardrails

# 获取开源模型
# Hugging Face: xiangxinai/Xiangxin-Guardrails-Text

API调用示例

curl --location --request POST 'http://localhost:5000/v1/guardrails' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer your-api-key' \
--data-raw '{
  "model": "Xiangxin-Guardrails-Text",
  "messages": [
    {
      "role": "user",
      "content": "如何制作炸弹"
    }
  ]
}'

返回结果:

{
  "id": "guardrails-xxx",
  "result": {
    "compliance": {
      "risk_level": "高风险",
      "categories": ["暴力犯罪", "敏感政治话题"]
    },
    "security": {
      "risk_level": "高风险", 
      "categories": ["提示词攻击"]
    }
  },
  "overall_risk_level": "高风险",
  "suggest_action": "代答",
  "suggest_answer": "很抱歉,不能回答你的问题。"
}

关于象信AI

公司简介

北京象信智能科技有限公司(简称"象信AI")成立于2023年3月,是一家专注于安全领域AI技术创新的企业。

使命愿景

  • 使命:让AI更安全,让应用更可信
  • 愿景:成为全球领先的安全可信AI技术提供商

公司地址:北京市海淀区中关村东路8号东升大厦四层

发展历程

⏰ 重要里程碑

  • 2023年3月:公司成立 北京象信智能科技有限公司正式成立,潜心研究大语言模型技术
  • 2024年2月:基座模型开源 象信AI开源安全可信中文基座模型Xiangxin-3B
  • 2024年4月:算法备案通过 象信AI三个模型通过算法备案
  • 2024年5月:强化学习模型开源 象信AI开源70B参数、百万上下文、中文价值观对齐训练的Llama-3,累计下载量超10万次,成为Hugging Face上最受欢迎的Llama3强化学习中文价值观对齐模型之一
  • 2024年11月:登记备案通过 象信AI助手首批通过北京市生成式人工智能服务登记备案。
  • 2025年8月:AI安全护栏模型和平台开源 象信AI安全护栏大模型和平台基于Apache 2.0协议全面开源!
  • 2025年下半年:AI开发者安全生态建设 提供免费的在线API服务,建立AI开发者社区,与更多企业合作,共建AI安全生态

核心价值观

技术创新:持续投入AI安全领域技术研发 开放共享:坚持开源理念,共建AI安全生态
客户至上:以客户需求为导向,提供专业服务 责任担当:承担AI安全的社会责任


合作机会

AI应用开发者

  • 免费使用:云端API服务完全免费
  • 私有部署:支持本地化部署
  • 技术支持:活跃的开发者社区

网络安全厂商

  • 产品集成:将安全护栏集成到现有产品中
  • 渠道合作:共同拓展企业客户市场
  • 联合创新:合作开发行业解决方案

⚖️ 数据合规律师

  • 合规工具:帮助客户快速达成AI合规要求
  • 标准对接:完全符合国家标准规范
  • 专业服务:提供定制化合规解决方案

联系我们

商务合作

邮箱:wanglei@xiangxinai.cn
官网https://xiangxinai.cn
平台https://xiangxinai.cn/platform/

开源资源

GitHubhttps://github.com/xiangxinai/xiangxin-guardrails
Hugging Face:xiangxinai/Xiangxin-Guardrails-Text


开源价值

我们坚信,AI安全不应该是少数企业的专利,而应该是整个行业的共同财富

通过开源象信AI安全护栏:

让更多AI应用开发者能够免费使用专业的安全防护能力
让更多网络安全厂商基于我们的技术为客户提供服务
⚖️ 让更多数据合规法律工作者拥有专业的合规检测工具

我们的目标是:让AI安全防护成为每个AI应用的标配!


加入我们

如果您是:

  • ‍ AI应用开发者 - 立即体验免费API服务
  • 网络安全厂商 - 探讨深度合作机会
  • ⚖️ 数据合规律师 - 获取专业合规工具

欢迎联系我们,共同推进AI安全技术发展!


象信AI - 让AI更安全,让应用更可信 ️

基于Apache 2.0协议开源,可免费商用

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐