M：你说的是具体行业，我们说的是第三次工业革命。
笔者：没有对AI持续长期的追踪，是不可能看懂的。没错，AI绝对是第四次工业革命（不是有些人说的第三次，第一次是蒸汽机，第二次是电气化，第三次是信息化，第四次是智能化）。
M：能源革命才是真正的基础，不通电，AI就是废铁。前几天，我一直在说，要总结到底层运行规律。
F：巴菲特不是看走眼，而是自己知道自己不懂，在这些方面是外行，就不去碰。就像最近一次股东大会上说的，他们爱做“简单的事情”。他持有苹果，也是在苹果已经成为一家成熟的，盈利模式很清楚的公司之后。
M：电报、电话、报纸、火车，《零边际成本社会》的作者说，每一种伟大的经济范式都要有三个要素——通信媒介、能源、运输机制，前几次工业革命成功，就是在这三大要素上实现了突破，但人工智能好像跟这三个都不沾边。我老大说，之前取得进展的核聚变实验装置，才是真正的革命方向。
笔者：太沾边了，好伐啦？
M：你说说看，我就是想听听你的看法。
笔者：AI今天的高速发展就是建立在互联网发达的基础上的，和通信不沾边？AI现在最被人诟病的，就是消耗能源太多，谁说和能源不沾边？AI最重要的一个应用，将对全社会带来革命性颠覆的，就是自动驾驶，你说和运输不沾边？
F：但如果能源和算力停留在目前水平，AI的确很快会撞墙，就像工业革命停留在珍妮纺织机阶段。另外，不能仅仅总结前几次工业革命的经验来判断。
笔者：硬件就不是事儿，放以前，你能想象把一座山掏空建数据中心吗？
F：后面要点是开采数据这种资源，虽然能源作为更底层的东西仍然是限制因素。
笔者：没错，其实我并不完全赞同“通信媒介、能源、运输机制”三个要素的说法，一切都是发展变化的，数据是新的能源，而传统能源退化为像空气和水一样“无足轻重”。
F：也重要，AI对能源的需求估计会激增。另外，继续往下一次工业革命，还是需要能源上的突破，这样才能星辰大海，而不是局限在目前地球上这种格局中。
笔者：就像空气和水一样，当然重要，但是人们为什么又不太看重呢？就因为获取并不难。以前美国为了石油，不惜发动战争，结果随着页岩油技术的发展，美国自己成了石油、天然气输出大国，自然也就不会为其大动干戈了，这就是我说“不重要”的含义。
F：但AI革命的作用，是会成数量级地加速科学和技术的发展，真的受控核聚变实现，会发现“原来人类真的需要这么多能源才能像个人一样生活得有尊严“。
笔者：当然，这并不是说不需要节能，实际上降低能耗，一直也是AI界的主要话题，且我认为随着技术的发展，这方面能够得到很好的解决。
F：现在大家的想象力是卷在目前的能量水平上省着花，觉得够用了，受控核聚变实现后，在另外一个能量产量和成本的水平上，想象力一下就会狂野起来，发现人类过去都是贫穷限制了想象力。一种途径是卷降低能耗，另一种是打开格局，突然可用能源数量和成本降低都是几个数量级的变化。
笔者：是的，环保主义者常爱说“能源并不是取之不尽的”，但其实这话并不正确，人类一开始烧木柴，以为木柴不够烧了，结果发现了煤，以为煤会不够烧，然后发现了石油，接着有天然气，这些觉得可能不够了，又有了核电，海底还有大量的可燃冰未开采，其储量不亚于石油、天然气，中国近年已经在进行试开采了，鬼知道还有什么是我们没发现的能源。当然，或许终极解决方案就是可控核聚变，目前这方面的研究也有了很大进展。
M：这不是应证了能源、动力才是根本吗？
N：太依赖算力的人工智能不会很智能。
笔者：人脑就不依赖算力吗？请看我的文章：《人类大脑真的很高效吗？》。
F：但人类这个物种的发迹史是靠的智能，手中掌握的智能暴增带动控制世界和能量能力的暴增，形成正循环。AI就是智能的一次巨大暴增，会带动一次巨大的跃升，中间应该会伴随AI加速受控核聚变以及其他科技发展的作用。当然如果受控核聚变比较早出现，又会让人工智能体的算力跃升几个数量级……
笔者：是的，为什么说AI不是一个行业，而是一次革命，就是因为它对所有行业都有巨大的促进作用，包括能源行业。就像上次玻璃大王曹德旺在电视节目上贬低AI说“人工智能能吃吗？”我就很想对他说：人工智能可以让粮食大幅增产，你说它能不能吃？
AI与其它行业是相辅相成的，所以说它是革命，一点都不夸张。
F：其实从智人历史上来说，脑力跃迁比其他方面的跃迁更关键。有了脑力，农业革命，工业革命，能源革命这些都会发生。以前人类都是靠人自己的脑力加上一些有限的工具，从脑力角度来说，一直是手工作坊水平。而现在是发展到大量通用认知能力被工业化复制，这是脑力劳动的工业革命。AI革命的关键是大量通用认知能力可以抽取出来，被机器工业化大规模复制，流水线生产，这就是它为什么是工业革命的本质。
笔者：没错，正如我在文章《人工智能思维》中说的：所有的科技发展都可以看作是工具的发明，而这些工具都是为了增强我们人类的各种能力，锤子是为了增强我们的击打能力，车子是为了让我们跑得更快，飞机让我们能在天空翱翔，望远镜让我们看得更远，电话让我们的语音能传得更远、同时使我们能听到遥远的声音……而这些工具的发明往往是在人类原本相关的能力到了极限、难以应付在自然界生存与发展的时候，非常需要有新的工具来扩展我们这方面的能力，相应的工具便会应运而生，从而延续人类社会的发展。
我们现在正处在需要更强的人工智能来帮助我们进行事物的分析和判断的时期，按照上面所说的逻辑，就是我们的脑力难以应付这个世界中的事物了。
随着科学技术、经济、社会等的高度发展，世间的事物已经变得高度复杂。人类大脑原本的进化应该并非用于适应这样复杂的世界，但这个世界发展得又太快，依靠原本那种生物进化的方式，需要千万年才能有所进步，是无法跟上这样的变化速度。
F：从这个角度来说，AI有两种用途。一个是少数掌握AI的人，进一步高效利用别人（大部分人）对新环境适应能力的不足渔利；另一个是给人脑赋能，去补足这些缺陷，适应新的环境。
笔者：所以AI不仅是工业革命，而且是比前三次6B得多的革命，前三次是延伸人类的手、脚、眼、耳、嘴，这次延伸的是大脑，天壤之别。
F：早期智人演化史上人脑本身的能力快速激增，也多半是应对人类内部认知能力发展造成的认知能力军备竞赛。现在这种军备竞赛更是正循环越来越快停不下来。这次会诱发的跃迁可以跟那场早期人类史上导致人类诞生的认知能力激增相比，性质也类似，除了一部分应对自然之外，大部分是应对内部环境的日益复杂的正循环，也可以理解为人类的神经系统为了应对环境剧变，在新皮质上面又叠加了一层。
笔者：确实如此！
Y：人脑容量有限，AI相当于给我们装了一个容量无限的硬盘。
笔者：没错，或者AI可以跟文字所带来的革命相提并论，就如我在文章《点评 | 人类的大脑为何不断缩小？大概是做社会人的代价吧》中说的：文字的出现，大量的知识可以用文字来记录，人类不再需要用脑去记忆那么多的东西，如文章说为了减少能耗，还有一种说法是头太大不利于婴儿出生，于是大脑开始逐步减小，以更好适应生存的需要。
曾经需要记忆的东西太多，把人搞得头大，于是文字出现，让人不再头大，同时文字把人类带入了文明；今天过于复杂的社会同样把人搞得头大，于是AI出现，让人不再头大，同时AI将把人类带入更高级的文明。
Y：人脑之间不能直接联接，只能通过语言互相交流。AI有可能让我们的大脑通过外接的“硬盘”直接联接。“硬盘”里封装了人类所有的知识！
F：也可以从这个角度看AI对齐的意义 ，就像大脑演化出新皮质，为了让它跟身体和整个神经系统更古老皮层演化出来“智慧”和利益保持一致，是要同步配备奖励惩罚反馈机制，配备各种情感和欲望的。
笔者：是的。
F：不对齐的，会发现古老皮层的bug并聪明利用新皮质，是一种很可怕的东西，它会背叛生命体更古老的那些层面。现在人类和AI的关系也有这种性质。
Y：让老皮层与新皮层无缝衔接是我们面临的最大挑战，融合不好有可能让碳基生命灭绝！所以脑机接口很关键。
F：以后大模型可能也会类似文字的出现。现在大模型已经记了太多知识，有些放到模型外面，学会通用的工具使用能力和外部沟通能力来获取更高效。
笔者：是的，GPT已经开始能上网查询信息并据此回答问题了。
M：从电影，到电视，再到电脑，再到AI，是科技日新月异，但其根本还是离不开电，也就是能源。从煤到石油，再到现在新能源，这个才是革命根本的三大要素。我看过和你们一样的说法，即数据就是下一次革命的石油，但是在基本生存方式的深刻变革才配得上“革命”两个字。
F：问题是到时候你可能需要AI去操纵包括能源在内的整个复杂的经济系统。
笔者：是的，你掌握能源，AI掌握你的大脑，看谁6B。
F：另外，比你聪明到一定程度的智能体，有能力在表面顺服你的同时微妙地操纵你。
笔者：就像好很多人喜欢说，AI再6B，不行我就拔电源插头，可是他们不知道，在你拔插头之前，它会先把你干掉。
F：放到AI上需要再仔细考虑，因为可能关系会变得更像人类历史上旧的主人逐渐被新的下位者取代的过程。在人体内部，明显更古老的生命层次掌握着更根本的东西，人的大脑的新皮层搞点事，其实很难，虽然也在玩微妙操纵的伎俩，但走不了多远。毕竟能量，繁衍等都控制在更古老层次的手中。
Y：拔电源插头的说法，就像是蚂蚁们说：如果人类来攻击我们，我们就把蚂蚁窝的洞口堵死，这样人类就进不来了。
笔者：所以，纯靠技术是很难防止AI取代人类的，但是AI会学习大量我们人类的知识，当然也能学习感恩、爱、关怀等，我们不应假设AI只能学坏，不能学好，如果我们再能以实际行动给予他们爱和关怀，相信高智能的它们能够真正学会和懂得这些情感，并以同样的方式对待我们。
- END -
我的书《人工智能启示录》经过两年的不断反复审核、修改，终因观点太过尖锐、内容太过敏感，且我不愿过于妥协，因而过不了出版社方面的最终审核，现放到网上供大家免费阅读，其中有很多内容是从未在网上发表过的。阅读请点链接：https://note.youdao.com/s/RsCmSfCX
ChatGPT真是写交差文章的利器 | 华为一定要凑大型语言模型的热闹吗？ | 为什么要把人类与人工智能对立起来？ | 马斯克叫停GPT真是为了关心人类安全吗？ | ChatGPT与个性化教育 | ChatGPT跌下神坛 | 好玩的ChatGPT | 由ChatGPT辅助写诗所想到的 | ChatGPT所代表的AIGC真的那么可怕吗？ | ChatGPT们的意义究竟是什么？ | 2022年终总结 | 人工智能能踢足球吗？ | 人类大脑真的很高效吗？ | 不争论，发展才是硬道理 | 深度学习模型真的和海马体是一样的吗？ | 人工智能不会再有寒冬 | 应对日渐复杂的世界需要复杂性思维 | 智能究竟是数学问题还是经验问题？ | ”人工智能“需要定义吗？ | 我为什么要做《人工智能大势》？ | 通用人工智能是终极目标吗？ | 意识究竟是什么？ | 或许，这就是人工智能的终极目标吧 | 关于有监督、无监督的讨论 | 2021年终总结 | 人工智能辅助创新的实践 | 持续学习的大幕已经拉开 | 机器有没有真感情重要吗？ | 2020年终总结 | 回答李德毅院士的通用人工智能十问 | 人工智能究竟有什么可怕的？ | 培养人工智能基础研究人才的思考 | 人生没有方向，和咸鱼有什么区别？ | 语义验证码 | 2019年终总结 | 反思深度学习 | 中国迈出人工智能重要一步 | 一次关于脑神经的愉快对话 | 人工智能时代华为的危与机 | 人工智能需要有意识吗？ | 人工智能思维 | 上帝之锁的钥匙 | 我对人工智能的三个预言及证明 | 通用人工智能再思考 | 顶级的《自然》和“冷泉港”也犯如此低级错误 | 再谈深度学习的问题究竟在哪？ | 速读《2019年人工智能行业现状与发展趋势报告》 | 真正的人工智能时代即将到来 | 脑机接口与老年痴呆症的畅想 | 只有人工智能可阻止存量残杀 | 大数据、人工智能与中医 | 从提高免疫力谈中医的科学性 | 人工智能与教育 | 人工智能芯片，又一个汉卡？ | 谷歌人工智能的突破，还是谎言？ | 人工智能发展可以预测吗？ | 马斯克的脑机接口无关人工智能 | 图灵登上英镑新钞的最重要意义 | 人脸识别应不应该用？ | 真正的世界终极十问 | 人工智能一定要用复杂方法吗？ | 人工智能辅助创新 | 人工智能需要“治理”吗？ | 通用人工智能思考 | 中国人工智能战略思考 | 真正的人工智能应用于游戏 | 人工智能的十字路口 | 机器人？拉倒吧，你那玩艺er只能叫机器！ | 人工智能又向人脑迈进一步 | 人与机器人，到底谁怕谁？ | 5G与人工智能 | 担心人工智能控制你的自由意志？ | 陆奇，你认识袁隆平吗？ | 如何面对人工智能寒冬？ | 食色，人工智能难过的坎er | 深度学习的问题究竟在哪？ | 机器人为何不能好好说话？ | 人人能懂的机器学习算法 | 封杀只会加快中国人工智能发展 | 智能进化 | 李开复，请不要带来AI寒冬 | 让机器具有常识 | 无知的Facebook、谷歌和MIT顶级AI专家 | “无用阶级”真的会出现吗？ | 也谈AlphaGo、大数据和人工智能 | 大数据、人工智能vs歧视、偏见 | 人工智能最终会取代人类吗？ | 量子力学、大数据、人工智能，中国崛起！ | 什么将主宰AI的未来？ | 人工智能、感情、创造性 | 人工智能和大数据的关系 | 人工智能十大误区 | AlphaGo和DeepMind走进死胡同了吗？ | 论对抗学习的优势与劣势 | 强人工智能需要自动编程吗？ | 面对人工智能最大威胁，马斯克们太天真了 | 为什么说“脑计划”是走错了路？ | 如何修炼成大数据高手 | 什么是真正的大数据？ | 伪大数据者们可以休矣 | 华为与我的战略眼光 | VR、AR为什么难普及？
站直了，别跪下！ | 论俄乌持久战 | 也谈抄袭、引用、转载、综述 | 美国“言论自由”的谎言 | 美国疫情是假的吗？ | 美国会崩溃吗？ | 民主原教旨主义 | 发国难财为什么是错的？ | 网友杂谈-2 | 开复，咱能低调点吗？ | 罗永浩的问题究竟在哪？ | 区块链的问题究竟在哪？ | 网友杂谈-1 | 世界为何存在？ | 建一个戴森球要多少材料？ | 真的没有人懂中国武术了吗？ | 年轻的血依然是热的 | 中国经济真像喷子们说的如此不堪吗？ | 关于灵魂、投胎、极乐世界
免责声明：部分内容来源于网络，可能有不影响原意的修改，仅供读者学术交流之目的，文章版权归原作者所有。如有不妥，请联系删除。