Posts
是时候考虑多 Agent 安全了
DeepMind 1000 万美元建"多 Agent 安全"学科,Shah 说这块地图在他们出手之前是白的——AGI 可能来自蜂巢而非单体模型,护栏是为对话设计的,代理是行动。
继续阅读Posts
AI安全的两难:政策逼着证明安全,技术却拿不出证据
政策要求高风险AI提供可量化安全证明,但既无度量衡也无标准。Internal Safety Collapse让95%以上的安全测试失效,SafeRedirect通过"有尊严地失败"将失效率压至8%。技术改善与监管证明之间,横亘着一条尚未被跨越的鸿沟。
继续阅读Posts
量子计算威胁与后量子密码备战
量子破解倒计时已从「十年后」逼近至2029-2030年,Cloudflare超65%流量启用抗量子加密,但真正的缺口在于认证层——这个迁移周期比密钥交换长得多。
继续阅读Posts
LLM攻防的系统性升级
当AI同时成为攻击面和武器:context window让LLM应用从外部被劫持,LLM的语义理解能力让匿名识别成为可能,AI驱动的供应链攻击变得更精密,而过度依赖AI加速开发正在积累新型技术债务。
继续阅读