新华社旧金山5月28日电(记者 吴晓凌)美国开放人工智能研究中心(OpenAI)28日表示,该公司新成立一个安全委员会,并已开始训练新人工智能模型,以取代其ChatGPT聊天机器人目前所依赖的GPT-4系统。
OpenAI在当天发布的一份声明中说,该安全委员会将就其项目和运营的“关键安全决策”向董事会提供建议。委员会成员包括OpenAI首席执行官萨姆·奥尔特曼和董事会主席布雷特·泰勒,以及其他几位技术和决策专家。
据美媒报道,OpenAI成立安全委员会,正值该公司的人工智能安全问题引起争议。有辞职员工批评OpenAI只顾推出酷炫产品,而使安全“退居次要地位”。OpenAI联合创始人兼首席科学家伊利亚·苏茨克韦尔也于近期辞职。该公司还解散了聚焦人工智能风险的“超级联盟”团队。
OpenAI在声明中表示,公司已开始训练下一代“前沿模型”,该模型有望将人工智能技术能力提升到一个新层级。