PG电子平台官网 - 中国大陆电子有限公司

网宿安全推出大模型安全评估服务筑牢AI防线

  

网宿安全推出大模型安全评估服务筑牢AI安全防线

  央广网北京5月22日消息 近年来,大模型在带来服务、营销、产品等领域的全面革新的同时,也伴生出模型漏洞、对抗攻击、数据泄露等风险。诸如DeepSeek遭受大规模恶意攻击、ChatGPT用户聊天数据泄露等事件,一再凸显大模型安全问题的严峻性。

  为了应对大模型安全挑战,网宿科技旗下网宿安全正式推出业内首个基于专家深度测试的大模型安全评估服务。该服务通过模拟攻击测试、安全审计与合规审查,提供覆盖模型开发、部署和应用全周期的安全检测与加固方案,可以系统性提升模型与模型应用的安全性、稳健性及合规能力。

  日前,来自中美英德等 8 个国家的AI 安全领域学者联合发布的一篇系统性技术综述论文指出,大模型安全领域面临的主要挑战之一便是当前评估方法存在显著不足。

  具体来看,该服务通过模拟攻击测试,可以增强模型的鲁棒PG电子官方平台入口性和安全性,提升模型对外部攻击的防御能力;通过数据隐私评估,能够确保数据安全与合规,防止敏感信息泄露;通过伦理与合规性检查,能够确保模型输出内容符合伦理、法规标准;并且,通过模型的可解释性与透明度评估,确保模型在实际应用中可被监控和审计,提升PG电子官方平台入口模型决策的可解释性,避免黑箱操作风险。

  根据世界经济论坛(WEF)与埃森哲最新发布的一项报告,65%的组织在至少一个职能中使用了生成式AI。电信、金融服务和消费品行业在AI采用方面走在前列,而医疗保健、金融服务和媒体娱乐、体育等行业在生成式AI支出方面领先。