您现在的位置是:如之奈何网 > 知识
2万多建设者奋战9年!云南迪庆州即将结束不通铁路历史 苏茨克维承认并强调这些风险
如之奈何网2024-05-10 11:32:27【知识】4人已围观
简介每经AI快讯,11月26日,滇藏铁路丽江至香格里拉段将正式通车运营,虽然线路全长只有139公里,最快1小时18分就可到达,但由于地处高原,地质条件复杂,2万多名建设者足足奋战了9年。丽江至香格里拉铁路 新时时彩和值【Aurl:www.8233066.com】送888元
每经记者 文巧 每经编辑 兰素英
11月20日,决裂微软宣布,创始场关OpenAI创始人山姆·阿尔特曼(Sam Altman)和格雷格·布罗克曼(Greg Brockman)将加入微软,决裂新时时彩和值【Aurl:www.8233066.com】送888元领导新的创始场关高级AI研究团队 。
另一边,决裂OpenAI联合创始人伊利亚·苏茨克维(Ilya Sutskever)宣布,创始场关亚马逊旗下视频流媒体网站Twitch的决裂联合创始人埃米特·希尔 (Emmett Shear) 将接任该公司的临时首席执行官 。短短一个周末,创始场关OpenAI的决裂管理层几经更迭,如今这场惊爆全球的创始场关“内斗”似乎尘埃落定了。
据此前报道,决裂苏茨克维是创始场关此次巨变的灵魂人物 ,阿尔特曼被罢免 ,决裂正是创始场关由于其与在苏茨克维在AI安全、技术发展速度以及公司商业化问题上存在分歧 。决裂
《每日经济新闻》记者发现 ,早在今年6月 ,阿尔特曼和苏茨克维在特拉维夫大学同台对谈时,面临AI风险的提问 ,两人的新时时彩和值【Aurl:www.8233066.com】送888元回答就有着微妙的不同。苏茨克维承认并强调这些风险,并表示自己对于风险的不确定性 。尽管阿尔特曼也同意AI失控的风险且需要不同的社会经济契约来制衡 ,但他却更倾向描述AI的乐观一面。
外媒分析认为,两人的冲突不能简单理解为“AI加速论者”和“AI末日论者”之间的争论,他们分歧的根源在于如何理解自己正在创造的东西 ,以及如何达成AGI(通用AI)的方式。而这种冲突在此刻爆发,这很可能是当前的AI水平已经到达一个临界点。
图片来源 :视觉中国-VCG111424718601
苏茨克维的世界观为OpenAI“巨震”埋下种子
据彭博社此前报道,OpenAI的联合创始人和首席科学家苏茨克维是此次巨变的灵魂人物 ,阿尔特曼被罢免,正是由于其与在苏茨克维在AI安全 、技术发展速度以及公司商业化问题上存在分歧。
其中,AI安全是最重要的关键词。苏茨克维不止一次提及AI安全的议题,他非常担心AI对社会造成的负面影响 ,也非常看重“AI对齐”(用人类的反馈来训练模型 ,让其遵守人类的价值观)的重要性 。
这种观念,或许在苏茨克维早期的学术生涯中就已埋下种子。
1985年,苏茨克维出生在俄罗斯西北部的诺夫哥罗德 。从5岁到16岁 ,他一直居住在以色列耶路撒冷 。2002年,苏茨克维全家移民至加拿大多伦多。
苏茨克维师从闻名世界的AI科学家杰弗里·辛顿,后者是图灵奖三大巨头之一,被业界称作“AI教父”。2012年 ,苏茨克维参与发明了辛顿的AlexNet神经网络,这是大模型的重要骨髓,彻底打开了全球深度学习的热潮 。
2013年,28岁的苏茨克维与杰弗里·辛顿一同加入谷歌的AI部门 ,两人被谷歌评价为“不可多得之人”。他也是Google AlphaGo论文的作者之一 ,用自己的力量团结到早期骨干,一直负责最前沿的开发 。
在OpenAI还是非营利组织的阶段 ,马斯克与苏茨克维较阿尔特曼甚至更为密切。2015年,马斯克与阿尔特曼等人合作,建立了AI实验室,并从谷歌挖来了苏茨克维 。马斯克将招来苏茨克维描述为OpenAI成功的关键。
值得注意的是,辛顿发表的“超级AI”将毁灭人类的观点在前几个月曾掀起轩然大波,他之后也因此从谷歌辞职;而马斯克也一直认为AI可能会对人类本身产生威胁,他一直坚持开源AI代码。早在2018年,马斯克就因为对AI安全的担忧和在商业化上的不一致,与OpenAI分道扬镳 。
可以说,在苏茨克维的学术和职业生涯中,与其有紧密联系的人都保持着对超级AI的警惕态度,辛顿和马斯克的观念很可能在某种程度上感染了苏茨克维对于AI的认知 。
分歧的端倪可追溯至5个月前
11月7日,在OpenAI的首次开发者大会上,阿尔特曼宣布推出的简易定制GPT工具(GPTs) ,被解读为其欲打造像苹果那样宏伟的商业生态。阿尔特曼被罢免与这一重大发布相隔如此之近 ,GPTs的发布也被广泛解读为人事巨震的导火索 。
对于阿尔特曼对AI的态度,在接受纽约时报采访时,他认为自己在AI辩论中属于中间派。他说,“我相信这将是人类有史以来发明的最重要、最有益的技术。我也相信,如果我们不小心对待它,它可能会带来灾难性的后果,因此我们必须小心驾驭它 。”
尽管阿尔特曼一直呼吁监管,从OpenAI自去年11月推出ChatGPT的一系列积极动作来看, 他坚持的是推动商业生态 ,让GPT的能力快速扩散 。
但苏茨克维的立场似乎有些不同,他更看重的是研究如何阻止AGI的失控。今年7月 ,苏茨克维与OpenAI研究员Jan Leike组建了一支新团队 ,致力于研究防止AI系统异常的技术解决方案 ,还表示将投入五分之一的计算资源来解决AGI的威胁。
《每日经济新闻》记者注意到,今年6月,阿尔特曼和苏茨克维在特拉维夫大学同台对谈,当主持人提到AI存在的三个风险 :工作岗位受到影响、黑客获得超级智能和系统失控时,两人的回答有着微妙的不同。
图片来源 :Youtube
苏茨克维承认这些风险 ,并表示,“尽管(AI)会创造新的就业机会,但经济的不确定性将持续很长时间 。我不确定是否会出现这种情况 。这项技术可以用于惊人的应用 ,可以用来治愈疾病,但也可能创造出比之前任何东西更糟糕的疾病。我们需要适当的结构来控制这项技术的使用。”
尽管阿尔特曼也同意AI失控的风险且需要不同的社会经济契约来制衡,但他更倾向描述AI的乐观一面:“在经济方面,我发现很难预测未来的发展……短期来看 ,情况看起来不错 ,我们将看到生产力显著增长;长远来看 ,我认为这些系统将处理越来越复杂的任务和工作类别。”
AI能力的分界点来临了?
近几个月来,有关AI风险的激烈争论屡见不鲜,图灵三巨头辛顿 、Yoshua Bengio和Yann LeCun在社交平台上已展开多轮对决,媒体将这称为“AI加速论者”和“AI毁灭论者”之间的争论。
不过,另一种分析认为,阿尔特曼和苏茨克维的冲突不能简单理解为“AI加速论者”和“AI末日论者”之间的争论 。外媒The Algorithmic Bridge称,两人并不像末日论者和加速论者那样对立,相反,他们实际上非常相似——都相信未来AGI给人类带来的好处,这也是他们一同创立OpenAI的基础。
报道认为 ,分歧根源在于如何理解自己正在创造的东西,以及如何达成AGI的方式 。譬如 ,阿尔特曼认为通过迭代部署产品、筹集资金和建造更强大的计算机可以更好地实现AGI;但苏茨克维认为通过对“AI对齐”等方面进行更深入的研发,并投入更少的资源来制造面向消费者的AI产品,可以更好地实现AGI。
从苏茨克维的角度来看,他想要OpenAI与创立公司初期的使命——创造为人类谋福祉的AGI——保持一致 ,这无可厚非。
为何这种分歧现在发生,而不是在他们训练 GPT-3 或 GPT-4 时发生呢?并非差异不存在 ,而是因为AI能力水平的影响不足以采取行动。报道分析称,这很可能是当前的AI水平已经到达一个临界点。
11月16日 ,在APEC峰会上 ,阿尔特曼说道,他在OpenAI的工作经历中目睹了知识界限四次被推进 ,其中最近一次发生在几周前。在今年10月,苏茨维尔在接受《麻省理工科技评论》采访时认为,ChatGPT可能是有意识的。
The Algorithmic Bridge认为,这背后的隐藏含义是——OpenAI董事会认为已接近达成AGI,这是冲突爆发的根源。
阿尔特曼在近期承认 ,OpenAI正在开发GPT-5 ,终极目标是相当于人脑的超级AI。目前关于GPT5并未有最新消息,但外界猜测,GPT5可能会自我修改程序和数据 ,但“不爱人类”。纽约大学AI教授Gary Marcus就表示,“他们一定看到了山姆所做的事情的危险性。”
图片来源:X平台
纽约时报称,阿尔特曼的离开大概率会助长AI行业的文化战争,也就是 ,认为应允许AI更快发展的阵营和认为应放慢发展速度以防止潜在灾难性伤害的阵营之间的战争。到底谁是对的 ?或许只有时间才能证明。
封面图片来源 :视觉中国-VCG111424718601
很赞哦!(52675)
站长推荐
友情链接
- 市民电车高架上抛锚 辅警徒手推车解围疏堵
- 外媒:乌国防部官员采购炮弹时涉嫌贪污约4000万美元,被逮捕
- 曹德旺:在退休时整理资产,创办大学没有任何的盈利动机
- 市纪委监委“点题整治”小区收支这本账 让居民更明白
- 五粮液:稳中求进,推动高质量发展(广发证券研报)
- 蛇口印象摄影摄像大赛颁奖 摄影界大咖探讨《AI时代下的新影像》
- 激发有潜能的消费 加快培育外贸新动能
- 英媒:希腊愿提供珍贵文物轮流展览,想“换回”神庙石雕
- 江西抚州化问题清单为成效清单
- 以媒:以色列极右翼势力被爆要暗杀以军高官
- 同安区“两会”胜利闭幕 周桂良当选同安区人民政府区长
- 公募基金年末大派“红包” 全年分红超2200亿元
- @职场女性,工会为你提供专属维权保障
- 世界在期待中迎接2024
- 音乐会脱口秀魔术表演走进影院 厦门影城积极转型多元社交空间