据新京报贝壳财经消息,北京时间12月14日,旧金山首席法医办公室称,曾在OpenAI工作近四年的前员工Suchir Balaji最近被发现死在他位于旧金山的公寓中。
今年10月,这位26岁的人工智能研究员曾在接受媒体采访时表示对OpenAI违反版权法感到担忧,并认为“这项技术对社会弊大于利”,因此他也被称为针对OpenAI的“吹哨人”。
相关报道:
今年6月,数十位OpenAI前员工通过一封公开信再次警告,像OpenAI这样的人工智能公司缺乏法律监管和内部批评机制,尤其是对“吹哨人”的保护远远不够。该公开信由十三名 OpenAI 前员工签名,并得到了包括“人工智能教父”Geoffrey Hinton 在内的三名外部人员署名支持。
与此前音乐行业、电影演员行业的公开警告类似,公开信强调了AI双刃剑的属性:他们相信人工智能技术可以造福人类,但也看到了风险,比如加剧社会不平等,操纵和捏造信息。在生成式AI风靡的这两年,人们已经见到了侵犯版权、深度造假影响政治选举、AI生成色情图片等冲突势不可挡地蔓延至现实生活。
公开信由此指出一个关键问题:在缺乏硬性监管的情况下,不能指望公司自愿披露AI系统的真实性能、局限和风险。员工有责任要求公司对AI安全风险负责,但员工正受制于公司的保密协议。
“整个行业发生过类似事件,我们中的一些人有理由担心各种形式的报复。我们并不是第一个遇到或谈论这些问题的人。”公开信暗指的半个月前,OpenAI解散了负责安全问题的“超级对齐”团队。