聚链财经,更全更新信息实报!
聚链财经 > 动态 > 正文

OpenAI“超级对齐”团队解散后更多内幕被爆料,有关算力与AGI安全

来源:xiaohua 发布时间:2024-05-20 08:10 标签: OpenAI AI
浏览:2249

据金融界报道,此前,美东时间5月14日,OpenAI首席科学家伊利亚·苏茨克沃(Ilya Sutskever)官宣离职。同日,OpenAI超级对齐团队负责人之一的简·雷克(Jan Leike)也宣布离职。本周五,OpenAI也证实,由苏茨克沃和简·雷克共同领导的“超级智能对齐团队”已经解散。5月18日凌晨,简·雷克在社交平台X上连发13条推文,爆料离职的真正原因及更多内幕。总结来看,一是算力资源不够用,二是OpenAI对安全不够重视。 简·雷克表示,应该将更多资源和精力投入到为新一代AI模型做准备的工作中,但目前的发展路径无法顺利达成目标。他的团队在过去几个月面临巨大挑战,有时难以获取足够的计算资源。简·雷克还强调,创造超越人类智能的机器充满风险,OpenAI正在承担这一责任,但安全文化和流程在追求产品开发过程中被边缘化。OpenAI必须转型为一家将安全放在首位的AGI公司。 针对简·雷克的爆料信息,5月18日奥尔特曼也紧急发文回应:“我非常感激简·雷克对OpenAI在AI超级对齐研究和安全文化方面的贡献,对他离开公司感到非常遗憾。他指出了我们还有很多工作需要完成,我们对此表示认同,并致力于推进这些工作。在接下来的几天里,我会撰写一篇更详细的文章来讨论这个问题。”特斯拉首席执行官马斯克针对“超级对齐”团队解散这一消息评论称:“这显示安全并不是OpenAI的首要任务。”

此外,美国TechCrunch科技博客网站18日称,OpenAI放弃安全研究,转而推出像GPT-4o这样的新产品,最终导致“超级对齐”团队的两位负责人辞职。目前尚不清楚科技行业何时或是否会实现必要的突破,以创造出能够完成人类所能完成的任何任务的人工智能。但“超级对齐”团队的解散似乎证实了一件事:OpenAI的领导层——尤其是奥特曼——选择优先考虑产品而不是安全措施。在过去一年时间里,OpenAI让其聊天机器人商店充斥着垃圾邮件,并违反平台的服务条款从YouTube抓取数据……安全似乎在该公司处于次要地位——越来越多的安全研究人员得出这种结论,选择另谋高就。

5月19日,OpenAI首席执行官山姆·奥特曼(Sam Altman)在社交平台X上就此前“封嘴”离职条款传闻进行回应:公司从未追回过任何人的既得股权,即使有人没签署离职协议(或不同意非贬低协议),也不会采取上述做法。

标签: OpenAI AI

热门文章

  • 0xscope:孙宇晨从币安取出3亿枚BUSD并转入Paxos
    0xscope:孙宇晨从币安取出3亿枚BUSD并转入Paxos

    0xscope:孙宇晨从币安取出3亿枚BUSD并转入Paxos

    Web3知识图谱协议0xscope发推表示,孙宇晨相关地址从币安取出3亿枚BUSD并转入Paxos。

  • 币安CSO:公司预计将支付罚款以解决美国的调查
    币安CSO:公司预计将支付罚款以解决美国的调查

    币安CSO:公司预计将支付罚款以解决美国的调查

    据华尔街日报报道,币安首席战略官Patrick Hillmann在接受采访时表示,该公司预计将支付罚款,以解决美国监管和执法部门对其业务的现有调查。Patrick Hillmann表示,币安发展迅速,最初是一家由软件工程师推动的企业,他们不熟悉为解决贿赂和腐败、洗钱和经济制裁风险而制定的法律和规则,该公司一直在努力填补早期合规工作中的空白,但仍预计监管机构将对过去的行为处以罚款。

  • 数据:Fantom基金会将价值约400万美元的FTM转入币安
    数据:Fantom基金会将价值约400万美元的FTM转入币安

    数据:Fantom基金会将价值约400万美元的FTM转入币安

    据Lookonchain监测,Fantom基金会于今日13:49将750万枚FTM(约400万美元)转入币安。据统计,上次,Fantom基金会将FTM转入币安是在2022年5月LUNA/UST崩盘期间。

  • 阿里云将于4月在日本为游戏开发者开设区块链实验室
    阿里云将于4月在日本为游戏开发者开设区块链实验室

    阿里云将于4月在日本为游戏开发者开设区块链实验室

    据官方消息,阿里云将于今年4月在涩谷启动区块链实验室,该实验室将与游戏和VR内容开发公司Skeleton Crew Studio合作开设。开发人员可直接访问数字资产托管解决方案Safeheron,区块链基础设施NodeReal,扩展解决方案COCOS-BCX等阿里云的Web3合作伙伴。阿里云还将定期举办活动,包括名为“HAPaton 2023”的Web3全球黑客马拉松活动和区块链游戏黑客马拉松。

  • 比特币矿企CleanSpark将以3230万美元的折扣价购买2万台比特大陆S19jPro+矿机
    比特币矿企CleanSpark将以3230万美元的折扣价购买2万台比特大陆S19jPro+矿机

    比特币矿企CleanSpark将以3230万美元的折扣价购买2万台比特大陆S19jPro+矿机

    据CoinDesk报道,比特币矿企 CleanSpark 以低于市场价购买 2 万台比特大陆矿机。CleanSpark 表示,通过折扣券,矿机价格降低 25%,预计将以 3230 万美元购买 2 万台新的比特大陆 Antminer S19j Pro+ 矿机,相当于 13.25 美元 /TH,低于 15.09 美元 /TH 的市场价。安装后,CleanSpark 的比特币挖矿能力将从 6.6 EH/s 增加 2.44 EH/s 至 9.04 EH/s,增幅达 37%,预计 5 月底将从制造商处分批交付。CleanSpark 计划到 2023 年底达到 16 EH/s 的算力水平。

  • NFT市场MagicEden已上线OrdinalsAPI 
    NFT市场MagicEden已上线OrdinalsAPI 

    NFT市场MagicEden已上线OrdinalsAPI 

    据官方推特,NFT市场Magic Eden宣布Ordinals应用程序接口(API)现已上线,可供比特币建设者在此基础上构建。

人物

更多 >

专题

更多 >