部署OpenAI的红队网络来开发其模型

OpenAI一直相当活跃，并且对未来有着雄心勃勃的计划。牢记这一精神，他们现在推出了OpenAI红队网络。它将有助于使人工智能成为更强大、更高效的工具。ChatGPT的制造商OpenAI最近指定了OpenAI红队网络。该网络由一组专家组成，他们的职责是帮助评估、发现和减轻OpenAI人工智能模型中发现的风险。

在人工智能领域，红队并不是一个新概念。随着人工智能成为更加主流的工具，它已成为人工智能发展不可或缺的一部分和关键步骤。在红队的帮助下，制造商可以找出他们的人工智能模型中的偏差。例如，OpenAI产品DALL-E2被发现会放大有关种族和性别的刻板印象。红队甚至可以帮助找出使ChatGPT和GPT-4忽略其安全过滤器的提示。

GPT-3

谈到这一点，OpenAI承认它早前也与外部专家联手测试和批准其模型。过去，该公司曾举办过错误赏金计划和研究人员访问计划。

通过OpenAI红队网络，该公司计划加强其努力，并强调希望朝着“深化”和“拓宽”OpenAI与科学家、研究机构和民间社会开展的工作的方向前进组织。