文|太平洋科技
今天,OpenAI联合创始人兼前首席科学家Ilya创立了属于自己的AI公司,并且命名为SafeSuperintelligence(安全的超级智能)。作为在硅谷享有声望的技术伦理家,大家都在猜测他究竟在OpenAI看到了什么,而llya面对AI安全问题给出了自己的答案。
然而关于AI安全问题的争论却迟迟没有结果,各家观点的冲突加剧。就在前几天刚刚从热搜560亿薪酬退下来的马斯克(ElonMusk),和人类,谁统治谁?因为看不惯科技公司放任AI过速发展,转发了人工智能开山祖师杰弗里·辛顿(GeoffreyHinton)的采访,从而又引起了一轮骂战。
这次跟他对线的并不是普通人,正是图灵奖获得者,Meta首席人工智能工程师杨立昆(YannLeCun)。二者的冲突源远其实流长,而本次的争执点简单来说就是关于AI会不会在未来统治人类的问题。
在马斯克转发的采访中,Hinton表达了对于人工智能可能会“取代”人类的担忧,并且他生动地将AI与人类的关系比作妈妈和孩子,“孩子总会长大,智力上会超越母亲,从而取代母亲”。
要知道马斯克在AI安全问题上一直属于“保守派”,而Hinton的观点也正中了马斯克的下怀。这次转发,就是想要用开山鼻祖的话来肯定自己的观点,并且呼吁人们要谨慎对待AI。这一举动也引起了杨立昆的注意,并针锋相对地给出了他的解释。
LeCun的观点一句话概括就是,智力水平与统治能力并不一定需要划等号,就像爱因斯坦也不一定要当总统。
至此,两者的辩论就到此为止了。但是在此之前,马斯克与杨立昆以及整个AI界中关于AI是否应该得到自由发展的问题有过不小的争论。
其中最热门的一场战役当属上一次这两位大佬之间的对骂。
在马斯克公开招募xAI的工作人员时,杨立昆“掐准时机”泼上冷水。
xAI是马斯克旗下的生成式人工智能公司,然而马斯克本人对于人工智能行业却一直留有疑心,认为过度发展的AI会对人类的未来产生威胁。
杨立昆则是将马斯克视为是“阴谋论”主义者,并且在推特上嘲讽道,加入他的xAI要忍受马斯克的AI洗脑学,并且要永世背负“杀死人类”的骂名。
这段嘲讽直接引爆了马斯克,两人开始针对对方的职业、成就和方方面面开始“互损”,数千条评论,直接把当日的X使用率提升了一个档次。
一场延续了九年的争论
其实两位大佬争论的本质,还是在AI安全/威胁问题上的观念不合。而这场“不合”不仅仅是横亘在马斯克和杨立昆之间,甚至最早可以追溯到2015年的硅谷格局。
当年,在马斯克的44岁生日派对上,这场“不合”成了马斯克与他的10年老友,也是时任谷歌CEO的拉里·佩奇(LarryPage)决裂的主要原因,同时也为现在全球AI格局的分布埋下了伏笔。
在这次讨论中,佩奇兴致勃勃地描述着关于“数字乌托邦”的愿景。在他的设想中,人类会与AI或者机器相融合。并且AI超过人类也很正常,这是机器进化的下一阶段。
而马斯克无法忍受,“这样我们就完了,机器将毁灭人类!”
佩奇依然保持着他对于数字乌托邦的追求,他讽刺马斯克是“物种主义者”,只想保留作为哺乳动物形态的人类,而不去理解数字形式的人类新形态。
“这句侮辱是压死骆驼的最后一根稻草”,马斯克在回忆中表示。
在此次争吵之后,佩奇和马斯克不再往来,在各自选择的道路上高歌猛进。
马斯克投资了许多AI公司,包括DeepMind、OpenAI等,他期盼着通过投资的办法将AI技术控制在自己手里,并且让他们承诺保护世界免受佩奇那种愿景的影响。
而佩奇领导着谷歌掌控了DeepMind,将马斯克踢出战局,他们创造出来的AlphaGo机器人击败了世界上最好的围棋手之一,比研究人员预计的时间早了10年。谷歌一时间成为AI界的领头羊。
两派对抗,AI安全是不是伪命题?
在九年之后,关于AI安全/威胁的争吵依然存在,甚至拓展到了更大范围。
硅谷里的AI公司创始人、生成式AI用户、学者、立法者和监管者等等,都加入了这场争论。每个人都十分关心这项可能颠覆人类社会的技术到底是否应该被严加控制,还是为时尚早,先自由发展?
以马斯克为首的控制发展派认为应该严格控制AI,以免在过度发展之后造成不可挽回的局面。
马斯克一直视AI为人类的最大威胁,他认为AI是“人类召唤出的恶魔”。他运用各种投资手段,试图把AI技术牢牢地控制在自己可以控制的范围内。
在去年三月份,他联合3万多名科学家和AI企业家签署了暂停人工智能发展6个月的公开信。
除此之外,前OpenAI超级对齐团队中的伊利亚·苏茨克韦尔(IlyaSutskever)和简·雷克(JanLeike)都在离职时表示了对于OpenAI过度商业化并忽视AI安全的不满。公司放任AI过速发展让他们感到不安,从而离职,并且各自创建或是加入了新的AI科技公司。
在这家掌握AI核心技术的明星公司里,不止这两位科学家感到不安。上周,13位OpenAI和谷歌Gemini的员工签署联名信,表达了对AI潜在风险的担忧,并且呼吁AI有关公司要用更透明和更负责任的行为准则来应对这些风险。
而硅谷的另一派却认为这些人是在“杞人忧天”。
以杨立昆为首的自由发展派将AI技术看成是“未出世的婴孩”,应该用更开放自由的态度去看待它。而过度的担心反而会阻碍AI的安全落地,因为技术的安全是靠发展的迭代,而不是一味地限制。
杨立昆还认为,AI其实还在发展的初期,反对派的发声大多数只是为了寻求关注,对真实的AI发展状况一无所知。在反对派签署联合声明时,他签署了一封致美国总统拜登的公开信,呼吁人们拥抱开源AI,并宣称AI“不应该被少数几家实体企业控制”。
除了杨立昆,英伟达首席执行官黄仁勋也是自由发展派的一员。他则是深耕AI的供应链,立下了宏伟的目标“让算力提升1000倍”。英伟达研发AI芯片成为AI公司必争的资源之一。
面对采访时,黄仁勋自信地表达“所有的企业都应该拥抱并利用AI技术,不然就会落后于技术发展的步伐。”并且在他的“拥抱AI”战略指导下,英伟达成功地冲上了世界公司市值排行榜的榜首(数据截止到发稿前),成为了睥睨众生的AI届霸主。
曲终人未散
在第一本科幻小说《弗兰肯斯坦》中,热衷于生命起源的生物学家弗兰肯斯坦创造出“弗兰肯斯坦的怪物”,然而在真正赋予其生命和智能之后,这个怪物却难以控制,最终变成杀人狂魔。
从GPT-3.5到GPT-4o;从苹果和OpenAI的合作……AI从实验室里的大模型到每个人手机上可随时调用的功能,AI离我们每一个人越来越近,其发展的速度超乎了所有人的想象。
不少人也在担心,AI会不会人类亲手创造的“弗兰肯斯坦的怪物”呢?
到底是杞人忧天还是未雨绸缪,各位怎么看呢?