导读 OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 正在创办一家专注于安全的新 AI 公司。在周三的一篇文章中，Sutskever 透露了 Sa...
OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 正在创办一家专注于安全的新 AI 公司。在周三的一篇文章中，Sutskever 透露了 Safe Superintelligence Inc. (SSI)，这是一家“只有一个目标和一个产品”的初创公司：创建一个安全而强大的 AI 系统。
公告将 SSI 描述为一家“兼顾安全性和能力”的初创公司，让公司在优先考虑安全性的同时快速推进其 AI 系统。公告还指出，OpenAI、谷歌和微软等公司的 AI 团队经常面临外部压力，称公司的“单一专注”使其能够避免“管理费用或产品周期的干扰”。
公告中写道：“我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响。这样，我们就可以安心地扩大规模。”除了 Sutskever，SSI 的联合创始人还有苹果前 AI 主管 Daniel Gross 和曾在 OpenAI 担任技术人员的 Daniel Levy。
去年，苏茨克弗带头推动了OpenAI 首席执行官山姆·奥特曼的下台。苏茨克弗于 5 月离开 OpenAI，并暗示将启动一个新项目。苏茨克弗离职后不久，人工智能研究员简·莱克宣布从 OpenAI 辞职，理由是安全流程“让位于闪亮的产品”。OpenAI 政策研究员格雷琴·克鲁格在宣布离职时也提到了安全问题。
随着 OpenAI 推进与苹果和微软的合作，我们可能不会看到 SSI 很快这样做。在接受彭博社采访时，Sutskever 表示，SSI 的首款产品将是安全超级智能，在此之前该公司“不会做任何其他事情”。