安全对齐

AI智能体安全对齐问题的现实紧迫性 大语言模型从单轮问答走向多步智能体（Agent）执行后，安全边界发生了质变。传统对齐手段如RLHF、DPO针对的是模型输出层面的价值对齐，而智能…

AI模型安全对齐与红队测试的背景 AI模型安全对齐（Safety Alignment）的核心目标是确保模型行为符合人类预期，在能力增强的同时不突破安全边界。OpenAI在Astra…