PRISM Eval 和 CEA-List 赢得 AI 安全挑战
面对军事领域中 AI 攻击的风险，网络防御指挥部 (COMCYBER) 和国防创新局 (AID) 发起了一个 AI 安全挑战，PRISM Eval 和 CEA-List 提出了显著的解决方案。PRISM...
16/05/2025
Lire la suite →
安全
4 articles dans cette thématique
当人工智能成为盾牌：大型语言模型在网络安全中带来的具体改变
大型语言模型（LLMs）在网络安全中的应用日益增多，能够更快速地检测漏洞和攻击。然而，尽管这些模型有效，但它们需要结合人类的混合方法，以控制其一致性并避免...
15/05/2025
Lire la suite →
CISA警告Langflow中被积极利用的关键漏洞
一个关键漏洞已在Langflow中被发现，这是一种开源的AI代理创建平台，允许无需身份验证的远程代码执行。该漏洞现已在1.3.0版本中修复，并被CISA添加到其已知被利...
14/05/2025
Lire la suite →
Claude 3.7 Sonnet 系统提示的完整泄露
一项泄露事件揭示了 Anthropic 的 Claude 3.7 Sonnet AI 模型的完整系统提示，暴露了准确的技术和行为细节。这引发了关于保护模型内部指令的安全机制的稳健性，...
13/05/2025
Lire la suite →