top of page
  • hoeyeen

OpenAI 宣布成立新安全委员会 全是自己人 外界质疑球员兼裁判

OpenAI 董事会宣布成立新的安全委员会(Safety and Security Committee),负责就公司项目和运营的安全决策向董事会提出建议。该委员会由 OpenAI 董事长 Bret Taylor担任主席、其他主要领导层人员包括 OpenAI CEO Sam Altman、以及另外两名董事AdamD'Angelo 和 Nicole Seligman。(意思就是全是自己人)



该委员会目前首要任务是在接下来的 90 天内评估并进一步制定 OpenAI 的安全流程和保障措施,并向全体董事会提呈,完成审核后再向大众发布。


委员会的其他成员皆为 OpenAI 技术和政策专家,其中包括了 Aleksander Madry(准备工作主管)、Lilian Weng(安全系统主管)、John Schulman(对齐科学主管)、Matt Knight(安全主管)和 Jakub Pachocki(首席科学长)。另外,OpenAI也表示会聘请和咨询外部的安全和技术专家来支援,包括曾为 OpenAI 提供安全建议的前网络安全官员 Rob Joyce 和 John Carlin。


此前 OpenAI曾早前员工指责对安全重视不足,原本共同担任超级对齐团队负责人的OpenAI共同创办人Ilya Sutskever与OpenAI研究人员Jan Leike也因此先后离职。因此对于OpenAI这波操作表示,外界纷纷质疑由 Altman来主导安全委员会有球员兼裁判之嫌。




另外曾参与罢免 Altman 的前董事 Helen Toner 在播客节目《The Ted AI Show》上也透露,当初 Altman之所以会被罢免是因为他向董事会隐瞒许多事情,其中包括没有完全公开OpenAI的安全流程,而且当初董事会更是经由 X(原名为 Twitter)才知道OpenAI发表了ChatGPT。

0 comments

Comments


bottom of page