AI安全

  • 蚂蚁集团开源两款AI安全模型,涵盖智能体与多模态安全领域

    正文: 在7月13日,蚂蚁AI安全实验室宣布开源其智能体安全防护模型SingGuard-NSFA,并同时发布了多模态安全防护模型SingGuard的详细信息。这两款模型分别针对“自主执行的智能体”和“多模态交互的大模型”两个前沿场景,进一步彰显了蚂蚁在AI安全领域的系统化布局。 随着AI技术从内容生成逐步转向自主执行,安全问题的范畴也从模型输出扩展到行为控制…

    2026年7月13日
  • CertiK推出技能扫描器,为AI智能体应用建立标准化安全审查框架

    正文: 随着AI智能体在金融系统、企业工作流程以及日常数字交互中的应用越来越广泛,其所带来的安全隐患也逐渐显露。全球领先的Web3安全公司CertiK于5月27日正式发布了“CertiK Skill Scanner”,这是一款专为AI智能体生态系统设计的技能安全扫描工具,被业内誉为“AI时代的杀毒软件”。 该产品主要面向AI技能市场、企业及独立开发者,目标是…

    2026年5月29日
  • 深入探讨 Anthropic 封号风波背后的原因:安全信仰、AI 争斗与中美脱钩中的 Claude 困境

    正文: 2026年4月,美国一家名为农业科技公司的团队在日常工作中,准备使用 Claude Code 进行编程、数据处理和供应链分析时,惊讶地发现110个员工的账户毫无预警地被全部封禁。公司网络管理员的邮箱收到了来自 Anthropic 的通知邮件,称检测到违反使用政策的行为,账户已被暂停。 尽管账户被禁用,后台 API 仍然正常运作并继续扣费,甚至网络管理…

    2026年5月21日
  • Vitalik最新长文:在AI时代,如何提升代码的安全性?

    正文: 原文标题:A shallow dive into formal verification 原文编译:Peggy,BlockBeats 编者按:随着AI编程能力的迅速提升,软件安全面临着新的挑战:AI不仅能更高效地生成代码,还能更快速地发现潜在漏洞。对加密行业而言,这个问题尤为重要。智能合约、ZK证明、共识算法以及链上资产系统的缺陷,可能导致的后果远比…

    2026年5月19日
商务咨询