ChatGPT背后的科技公司OpenAI宣布已成立“安全与保障委员会”，旨在使公司对人工智能的态度在安全方面更加负责任和一致。
OpenAI和将加入委员会的首席执行官SamAltman希望成为第一个实现AGI(通用人工智能)的人，这已经不是什么秘密了。AGI被广泛认为是实现与人类智能相似且可以自学的人工智能。OpenAI最近向公众推出了GPT-4o，并已开始训练下一代GPT模型，预计该模型将更接近AGI。
GPT-4o于5月13日首次向公众推出，它是一种新一代多模态(能够以多种“模式”进行处理)生成式AI模型，能够处理输入并以音频、文本和图像进行响应。它受到了普遍的好评，但此后围绕这项创新的讨论越来越多，涉及其实际能力、影响以及类似技术的道德问题。
就在一周前，OpenAI向Wired证实，其之前负责监督其AI模型安全性的团队已被解散并被其他现有团队吸收。此前，OpenAI联合创始人兼首席科学家IlyaSutskever和AI安全“超级对齐”团队联合负责人JanLeike等公司关键人物相继离职。据报道，他们的离职是因为他们担心OpenAI，尤其是Altman，没有尽职尽责地开发其技术，并且放弃了尽职调查。
这似乎让OpenAI有很多需要反思的地方，并为此成立了监督委员会。在关于成立委员会的公告帖子中，OpenAI还表示，它欢迎“在这个重要时刻进行激烈的辩论”。该委员会的首要任务是“评估并进一步开发OpenAI的流程和保障措施”，并在未来90天内与公司董事会分享建议。
该委员会的成员包括董事长BretTaylor、QuoraCEOAdamD'Angelo、索尼娱乐前高管NicoleSeligman，以及包括前文提到的SamAltman和OpenAI研究员兼联合创始人JohnSchulman在内的六名OpenAI员工。据彭博社报道，OpenAI表示还将在此过程中咨询外部专家。