@科技新知 原创
作者丨石榴 编辑丨月见
2023年之前，恐怕谁也没想到，AI有一天能用如此速度，席卷全球。
距离ChatGPT点燃全网讨论热度不到半年，GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等众多巨头级 AI 大模型及应用已经纷纷落地。
这些前沿科技成果在为大众带来震撼的同时，也难免让人产生担忧。一场“降临派”与“拯救派”的较量在默默展开。
近日，生命未来研究所（Future of Life）公开发布一封名为《暂停大型人工智能研究》的公开信，将这场较量放在了明面之上。公开信中呼吁，所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统的训练，为期至少6个月。
该机构在信中提到：“只有当我们确信其影响将是积极的，并且其风险是可控时，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。”
“人工智能实验室和独立专家应该利用这次暂停，共同制定和实施一套共享的安全协议，用于先进的人工智能设计和开发，这些协议由独立的外部专家进行严格的审计和监督，并应确保它们是安全的。”
特斯拉和推特的首席执行官马斯克、苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak、蒙特利尔学习算法研究所所长约书亚·本吉奥（Yoshua Bengio）等众多科技领域从业者和AI专家都在这封公开信上留下签名。截至发稿前，总人数已经达到1794名，并仍在持续增加。
01
2015年，马斯克和阿尔特曼一起担任联合主席，当时，OpenAI的目标是“以最有可能造福整个人类的方式推进数字智能，不受产生财务回报需求的约束”。
但他在2018年离开了OpenAI的董事会，并撤销了一大笔赞助款。杂志《财富》报道称，马斯克虽然支持人工智能，但特斯拉智能驾驶技术与OpenAI之间有“潜在利益冲突”。
当时特斯拉正在为自动驾驶开发自己的人工智能，并在与OpenAI竞争人才。2022年离职的特斯拉自动驾驶主管Andrej Kapathy就是其中之一。他是 OpenAI最优秀的人才之一，且是AI界著名网红，在推特和Medium上非常活跃。
但在OpenAI，大多数员工对这个故事并不买账。《Semafor》采访了八位熟悉内情的人士后发现，马斯克在2018年离开的原因是夺权失败。他认为该公司已经严重落后于Google，于是，马斯克提出了一个可能的解决方案——他来掌控OpenAI并亲自运营。然而，阿尔特曼和其他创始人拒绝了马斯克的提议。
在这场权力之争失败后，马斯克选择离开公司，并取消了一笔大规模的捐赠计划。这使得OpenAI无法支付在超级计算机上训练人工智能模型所需的巨额费用。6个月后，OpenAI从微软那里获得了10亿美元的投资，不仅是资金，还有微软提供的基础设施的专业知识。
这或许也就不难理解，为何在离开OpenAI后，马斯克就一直在批评后者，甚至矛头直指其最大的支持者微软。3月16日，马斯克还在Twitter上表示，“我最早向OpenAI捐赠了1亿美元，当时它还是非营利的机构，没有所有权，也不受任何人控制。”他还抨击微软“将OpenAI占为己有”。
在越来越不可调和的矛盾面前，阿尔特曼也终于没忍住爆了粗口。在最近与科技记者卡拉·斯威舍（Kara Swisher）的播客中，阿尔特曼用“混蛋”（jerk）来形容马斯克。
有意思的是，此前阿尔特曼的名字也曾出现在公开信上。后续，经证明，此签名为虚假签名，很快被移除。
对于公开信，阿尔特曼也并未做出直接回应。但在30日早晨，他在Twitter发表了一些关于通用人工智能的观点，OpenAI的另一位创始人格雷格·布罗克曼（Greg Brockman）也转发了阿尔特曼的推文，并再次强调OpenAI的使命是“确保AGI惠及全人类”。
02
在这封信的组织者之一、生命未来研究所所长马克斯·泰格马克（Max Tegmark）看来，“把这说成是一场军备竞赛是不幸的，这更像是一场自杀竞赛。谁先到达那里并不重要，它意味着人类作为一个整体可能会失去对自己命运的控制。”
更加具有争议性的一点是，在这项新技术以光速发展的同时，大型科技公司却一直在致力于裁减评估部署AI相关伦理问题的团队员工。今年1月，微软在万人级别大裁员行动中，解散了所有的伦理道德与社会团队。随后，meta、谷歌、亚马逊和推特等公司都裁减了其“负责任的人工智能团队”（Responsible AI）的成员，这些团队负责为使用AI的消费产品提供安全建议。
颇为讽刺的是，推特的“道德人工智能（Ethical AI）”团队，也在裁员中全军覆没，彼时距离马斯克接手推特只不过刚刚两个月。
在AI发展堪称光速的当下，这么多相关员工被解雇让众多业内人士感到震惊和不解。Alphabet 旗下 DeepMind 的前伦理和政策研究员安德鲁·斯科特（Andrew Strait） 表示，“在比以往任何时候都需要这样的团队的时候，有这么多相关员工被解雇。”
图灵三巨头之一杨立昆（LeCun）认为，所谓“暂停研发”，不过就是“秘密研发”罢了，这与一些签名者所希望的恰恰完全相反。
值得一提的是，此前由于竞争立场关系，杨立昆一直对ChatGPT甚至聊天机器人持反对态度，他曾直言，“ChatGPT满嘴胡诌，你们却对它如此宽容，但我家的Galactica才出来三天，就被你们骂到下线了。”
这次因为这份公开信，展露出了与OpenAI冰释前嫌的信号，也是令人啼笑皆非。
与此同时，马库斯认为，公开信中提到的“如果不暂停，应由政府强制暂停”的可能性也很小，因为立法者在监管AI方面做得很少。
昨日，美国科技伦理组织人工智能与数字政策中心（CAIDP）要求美国联邦贸易委员会（FTC）禁止 OpenAI 发布新的商业版 GPT-4，目前后者对此尚未做出回应。
加州共和党众议员杰伊·奥伯诺尔特（Jay oberolte）表示，美国政界对这项技术了解不多，“你会惊讶于我花了多少时间向我的同事解释人工智能的主要危险不会来自邪恶的机器人，它们的眼睛里会射出红色激光。”
2021年，欧盟政策制定者倒是提出了一项法律，旨在规范可能造成伤害的AI技术，包括面部识别系统。该措施预计最早将于今年通过，它要求公司对AI技术进行风险评估，以确定它们的应用将是否影响健康、安全和个人权利。
但前谷歌大脑成员、在线教育平台Coursera的创始人吴恩达在政府介入方面，表示了强烈的反对。他认为，让政府暂停他们不了解的新兴技术是反竞争的，这会树立一个可怕先例，是糟糕的创新政策。
“在推进技术发展的同时，让我们也对安全进行更多的投资，而不是扼杀进步。”吴恩达如是呼吁。
参考资料：
《The secret history of Elon Musk, Sam Altman, and OpenAI》-《Semafor》
《马斯克们的担忧并非空穴来风？大型科技公司裁减了AI伦理团队》-华尔街见闻
《Elon Musk, Other AI Experts Call for Pause in Technology’s Development》-《华尔街日报》
《AI Leaders Urge Labs to Halt Training Models More Powerful Than ChatGPT-4》-《纽约时报》
/ THE END /
Author
Follow Us
原标题：《马斯克“宫斗”GPT-5》