搜索："EU AI Act"

AI新政落地，未来何去何从？

欧盟《人工智能法案》于2024年8月1日生效，成为全球首部全面AI法规，采用风险分级管理，禁止不可接受风险AI，对高风险系统施加严格义务。中国以“包容审慎”和“分级分类”原则治理，侧重内容安全。美国则依赖行政令和州立法，缺乏联邦统一法规。全球监管趋同于透明度和可解释性，但合规成本增加，企业需应对多区域要求。

本文聚焦AI安全从被动防御到主动免疫的转变。面对对抗性攻击、提示注入等威胁，行业正推动红队演练、鲁棒性测试、内生安全架构（如对抗性训练、可验证鲁棒性）、差分隐私与联邦学习等技术。全球监管加速，欧盟AI法案、美国安全承诺、中国治理框架相继落地。目标是从“打补丁”转向“生而安全”，实现AI系统主动免疫。

生成式AI：创意革命的引擎

2025年初，生成式AI呈现五大趋势：多模态从简单拼接走向原生融合，实现视频音频联合推理；推理模型引入隐式思维链，逻辑任务准确率提升超40%；AI Agent从工具转变为自主协作者，长程任务成功率近70%；开源模型性能逼近闭源，推理成本仅为1/10；安全对齐从修补转向全流程嵌入，但面临“对齐税”与监管合规挑战。