微软的人工智能红队在任何主要的Copilot、Phi模型或Azure OpenAI能力发布之前，首先会对其进行测试。该团队的任务是模拟真实用户和对手的行为，以决定是否可以发布、需要重新设计或应被阻止。安全性成为部署过程中的一个重要门槛，而不是简单的幻灯片展示。团队成员的组成也十分独特，包括机器学习工程师、神经科学家、退伍军人、社会科学家以及有监狱经历的人，他们各自模拟不同的行为、偏见和挑战，以确保...