在更强大的数字基底上重建自然智能并与之融合,宇宙从第四时代迈入第五时代
AI 是碳基与硅基智慧之间的过渡;碳基智慧是随机的、硅基是理性计算型的;碳基更高级复杂,碳基创造硅基=嫁接关系
《奇点更近》· 精读归档
同意 / 反对
19 条判断收成六条
| 主线 | 一句话判断 | 支撑页码 |
|---|---|---|
| 基质论 | 碳基创造硅基是嫁接不是平权;可复制的是结构快照,不可复制的是动态过程 | 223 / 340 |
| 算力≠智能 | 10¹⁴ 是三个粗参数相乘的估算,不是测量;把“每秒操作数”当“智能总量”是偷换,算力超越不推出智能超越 | 640 / 753 / 824 |
| 复制≠进化 | 进化=复制+变异+选择;没有淘汰机制的复制是信息守恒的复印机,描述带是外部给的 | 660 |
| AI 无心,但是放大器 | AI 无意识,被谁用取决于人;个体有情感、整体可能没有——AI 放大的是集体非理性,不是它自己的意志 | 747 / 382 |
| 分配决定论 | 信息与资源的问题最后都是分配问题;AI 不解决分配,只替掌握分配权的一方加倍 | 341 / 350 |
| 方向可控论 | 主从关系未定、斗争进行中;不预测终点,只控制方向——定义权才是那一票 | 264 |
按阅读顺序
原文摘录 · 读者批注 · 页码
本节逐条收录编号 9–42 共 34 条;编号 1–8(引言与第 1 章)未含在笔记归档文件中
在更强大的数字基底上重建自然智能并与之融合,宇宙从第四时代迈入第五时代
AI 是碳基与硅基智慧之间的过渡;碳基智慧是随机的、硅基是理性计算型的;碳基更高级复杂,碳基创造硅基=嫁接关系
如果评判员在一段时间后仍不能区分(图灵测试)
但如果裁判员智慧和水平不一样,没有统一标准吧
神经网络训练中调整突触强度是关键设计决策
这是系统性问题:资源要足够多,类似大脑结构,突触节点反应要够快
即使训练试验答案不全是正确的,神经网络训练也有效
悖论:谁来决定正确与否?有些东西无法计算,例如情感和体验
脑中负责特定动作的机制会延续到改进种群胜过它
物竞天择,适者生存
摩尔定律:晶体管数约每两年翻一番
现在这速度已经提高了
零样本学习是类比思维和智能的核心
概念来自玉米地还是高粱地,结果就不一样;你给它什么它得出什么,它知不知道什么是正确的——这是问题
计算量对提供智能答案极为关键
机器的终极计算量是什么
自我增强编程技能的 AI 在正反馈循环中愈发强大
过于乐观:事物有两面性,能强大也必虚弱;强大与虚弱并存——矛盾论
逐步把大脑信息迁移到非生物介质,主观体验被保留
物理上可保留,但生化过程无法复制(随机+动态);复制的是前一秒的你,和下一秒的你什么关系?
与超智能 AI 融合是极有价值的成就,但仅是手段
认为最终会达到一种共和关系
人脑的大小决定了其总处理能力的上限,即每秒 10¹⁴ 次操作
怎么推断出的?人脑不光是计算能力问题,计算也许只是其所有能力中的一种;还有情感和想象,这些无法用计算来认识
纳米机器人按指示自我复制、迭代创建级联副本,很快造出数万亿个装配机
无限循环的复制与创新的关系如何——若只有复制、没有迭代创新,AI 始终迈不上进化的台阶
衰老像发动机磨损:细胞代谢+细胞复制累积损坏,堆积速度超过修复速度
比喻牵强——若只是“臃肿”,换一批新零件就清爽了?一定另有“配码的基因”在发挥作用,不能简单归结为细胞复制出错
到 2053 年,1000 美元算力可执行 700 万倍于未增强人脑的计算量
这仍只是物理/化学层面对人体的改造,不能根本解决;若造出生物计算机/蛋白质人工智能,效果可能远好于纳米机器人
AI 技术本质具有双重用途:同一架无人机既可送药也可投弹
这正证明AI 作为客观存在的物没有意识,被谁用取决于使用者;其用途前提是被固化的、是物质的不是精神的
通用人工智能将由人类创造,以解决真正的人类问题
我们用 AI 解决的是脑力计算问题;它不是生物,是物质的非生物存在——不可能有自我反思的意识
AI 是至关重要的技术,使我们能应对疾病、贫困、环境退化等紧迫挑战
AI 是算力革命,如同解放双手;力气再大的机器也替代不了人——可摧毁人,但没法对整个人类强干预。破坏人类体系的:外部来自人类本身,内部来自人类结构体系里暗藏的密码
(附录)计算能力与生存能力之别
我们片面夸大了计算能力与生存能力的区别;AI 总体算力超过人类 ≠ 比人类聪明——只是人类造出了一个算力超越总体的物质
加速回报定律在信息技术领域体现得非常明显
技术迭代速度再次证明人类推进文明越来越快,且能借助更高级的工具再加速——AI 的出现就是来帮助人类推进自身文明的
引发强烈情绪反应的威胁性信息是获取关注的最佳方式
因为痛苦和不舒服本身就是推动人类进步的方式之一
技术创新创造有利条件,帮助更多人发挥潜力,反过来催生更多创新
为解决困难、克服不适而去创新,变舒服后又出现新的不适——这就是迭代进步(优胜劣汰、自然净化)
改变生活方式、饮食、补充剂可降低风险,这是延长寿命的“第一座桥梁”
生活方式真是细胞运转的底层逻辑,还是人获取能量的方法?说健康取决于生活方式和饮食,我觉得比较牵强
第四座桥梁:以数字化方式备份我们的思维文件
这种备份和印刷术有什么区别?只是换了个载体——印出来的数字能产生新东西吗?不要太乐观:有备份不等于有进步
贫困人口持续减少
贫困减少是进步,但战争又在制造新的贫困人口——一边减少一边制造。这是 AI 能解决的吗?我看不是,还得人自己解决
互联网上可免费获得大量信息和服务,今天穷人的生活条件好得多
这些信息是某些人想让我们知道的;隔离源于分配——稀缺资源一旦落到 AI 上,就成为人与人区隔的关键环节。最后解决问题的还是人,不是 AI
它利用人类天生的同理心,把道德关怀扩展到整个人类
个体之间有共鸣与情感协调,落到群体上就变味——个体有情感,整体可能没有,甚至陷入把个体推倒的境地;借助 AI 会更危险
知识与技术的传递助推民主的扩散
什么是最好的民主?AI 能给出答案吗?最好的民主是最合适的,是共同体选择出来的结果,不是 AI 计算出来的
更充分地实现民主和个人权利的理想
这是乐观态度,实际不一定做得到——群体方向一致与人的自私基因相悖
21 世纪 30 年代跨越到纳米技术,可在原子精度上创建物体
某种程度上只是降低了成本、降低了计算成本,并没有提高人类进步的阶梯和进度
城市的出现就是为了让我们能够一起工作和娱乐
城市的出现是因为需要交换和资源分配;没这种需要就不需要城市——人越聚越多,因为这里获取和交换资源的成本最低、也最安全
2032 年仅利用太阳能就能满足所有能源需求
迈向极点最关键的要素就是太阳能——太阳是人类存在的本质;石油、氢能、化学能归根到底都是太阳能
去中心化技术将在许多领域定义 21 世纪 20 年代(太阳能、垂直农业、3D 打印)
去中心化只是信息时代的必然,不是人类活动的必然——人类活动一定是集中的
2030 年左右,最勤奋最有见识的人将达到“长寿逃逸速度”
这只是一个理想时间段,有很多不可控因素——文明无法穷举,AI 也没有办法
原书机制 · 六条
443 字 · 六段
库兹韦尔把 2045 年写成一道算术题:人脑每秒一百万亿次操作,超算已经十万亿次——只要算力够,智能就到了。读完整本书,我最不能同意的地方就在这里。算力是尺子,不是答案。
他漏掉两件事。第一,计算也许只是大脑能力里的一种。情感和想象是正在发生的过程,不是可以拷走的数据——你能复制一张瀑布的照片,复制不了瀑布在流。第二,进化不是复制。冯·诺伊曼的自复制机复印一万亿次,描述带还是那条描述带,长不出新台阶。真正让物种上台阶的,是复制之后的变异与淘汰,也就是斗争。
于是分歧清楚了:他写的是和平的融合,我看到的是斗争中的共和。
碳基创造了硅基,这是嫁接,不是平权。AI 自己不知道自己要什么,也没有方向——同一架无人机,雨季可以送药,也可以投弹,错的从来不是无人机。所以人和机器的问题,说到底还是人和人的问题:谁定义、谁分配、谁拿那杆秤。信息从不免费,只是有人想让你知道。
我不预测主从关系哪年定局,也不去假设。但我能控制方向。
这大概就是我们这一代工程师的位置:不算命,只造路。让别人去预测 2045 年,我去定义广州的 2027 年——把一个矿坑做成深水试验场,把一套监测做成行业标准,把散落各处的判断攒成资产。共和还没到,斗争已经开始;方向是一寸一寸争出来的。
| 段落 | 用到的判断 | 出处 |
|---|---|---|
| 第 1 段 | 算力≠智能:10¹⁴ 是估算,操作数不是智能总量 | p640 / p753 |
| 第 2 段 | 快照≠过程(瀑布比喻)+复制≠进化(自复制机信息守恒) | p223 / p660 |
| 第 3 段 | 共和斗争论:斗争即选择,选择才进化 | p264 |
| 第 4 段 | 嫁接论+AI 无心(无人机双重用途)+分配决定论 | p747 / p350 |
| 第 5-6 段 | 方向可控论:不预测终点,只控制方向 | p264 / p485 |
引文与判断分离