日前，美国人工智能(AI)研究公司OpenAI方面宣布将组建“红队网络”(Red Teaming Network)，并邀请各领域专家加入其中，以帮助其提高大模型的安全性和可靠性。
据悉，“红队”这一概念来自于军事模拟，与之对应的是“蓝队”，两者分别代表攻击和防御。其中“红队”是模拟黑客或者其他的潜在危险人物发动攻击的团队，在AI大模型领域中，其任务是找到大模型的漏洞，以测试系统的安全性。目前“红队”在识别AI系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，并已成为AI大模型开发过程中的关键一步。
据OpenAI方面表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可帮助该公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。加入该网络的成员将根据其专业知识在模型和产品开发生命周期的各个阶段提供帮助，但并非每个成员都必须参与每个新模型或产品，并且所有成员都均可自行决定参与时间长短，“(即使)一年内可能只有5-10小时”。
对此OpenAI方面强调，“评估AI系统需要了解广泛的领域、不同的观点和生活经验”，以及“(你)不需要有AI系统或语言模型的经验……我们最看重的是你是否愿意参与并将你的观点带到我们如何评估AI系统的影响中”。目前，OpenAI方面已面向包括但不限于语言学、生物识别、金融和医疗保健等不同领域的专家发出邀请。
据悉，OpenAI“红队网络”的申请通道将会在今年12月1日前保持开放，该公司则将滚动审核申请。据OpenAI方面透露，加入“红队网络”的专家将获得一定的报酬，但并未透露具体金额。同时该公司还强调，“你应该考虑到，任何参与红队和其他项目的行为通常都要遵守保密协议或无限期保密”。
【本文图片来自网络】
