《智人之上》读书笔记
2025-12-12 21:27:42 0 举报
AI智能生成
智人至上的读书笔记,任何时代都可以相信尤瓦尔·赫拉利
作者其他创作
大纲/内容
人类网络
信息是什么
信息
信息观
天真的信息观
信息 = 真相
信息本质上是件好事
信息的作用是呈现现实虚假信息造成的问题,方法就是提供更多的信息
想要解决错误信息与虚假信息造成的问题,方法就是提供更多的信息
强大的信息技术,如人工智能,可以拯救世界
另一种观点
信息 = 武器
大部分信息并不想要呈现现实,而是服务于信息传播者的目的或利益
人工智能可能会加剧人类既有冲突
最终敌对的双方将是所有人类和人工智能霸主
所谓信息,就是能够将不同的点联结成网络,从而创造出新的现实
任何物体只要放在对的情境下,就有可能成为信息
就算信息呈现的是错误的现实,也可能成为一种社会联结
占星术在长达数千年的时间中深刻影响着历史
《圣经》是史上影响力数一数二的文本,却存在许多与现实不符之处
例如,《圣经》主张传染病是神对人类的惩罚,通过祈祷可以预防
真相
能够准确呈现出现实特定方面的信息
真相 ≠ 现实,真相永远无法呈现出现实的所有方面
现实
现实包含许多不同的观点
现实既包括客观层面的现实,也包括主观层面的现实
现实只有一个,但现实十分复杂
故事:无限的联结
作者一以贯之的观点
智人能够统治世界,是因为能够通过故事和神话将人们联结起来,进行大规模的合作
全球贸易网络的80亿成员,相信同一套关于货币、企业与品牌的故事
一些意想不到的“品牌”
坐拥数亿在线粉丝的网红
耶稣是一场史上最盛大品牌营造活动的主题
相信这个故事的人创造了一个无论在规模还是在影响力上都数一数二的网络
有数百万追随者的魅力领袖
宇宙的三个层次
客观现实:石头、山脉、小行星
主观现实:痛苦、欢乐、爱
存在于主体间的现实:法律、神邸、国家、企业和货币
历史的塑造者
传统的唯物主义观点:历史有权利关系与物质利益驱动
人们总是被客观的物质利益驱动,如十字军东征、第一次世界大战、伊拉克战争,都是精英分子在谋取自己的经济利益
作者观点:传统的唯物主义观点忽略了故事的巨大力量
智人结成部落,基于共同崇敬的祖先、动物图腾、守护神等故事,这些故事让成百上千智人彼此认同
智人的部落网络就像一份保单,能够把风险分散到更多人身上,而使每个个体的风险降低
故事可以产生出大规模的人类网络,这些网络反过来又彻底改变了世界的力量平衡
幸好历史是由主体间现实的故事所塑造的,所以有时候只要我们好好沟通,或者改变彼此相信的故事,或者找出大家都够接受的新故事,就能避免冲突,实现和平
两种信息观
天真的信息观
信息揭示真相,真相通向智慧和力量
复杂的信息观
信息既可以展示真相,也可以用于建立秩序,真相通向智慧和力量,秩序也可以通向力量
文件:纸老虎也会咬人
文字书写的诞生,突破了人类脑容量的限制,让人类可以创造出更多主体间的现实
书面文件创造出了大量的、或真或假的主体间的现实,也创造出了一个新的棘手的问题:信息检索
档案管理员为这个世界设计了一套新的秩序,这种秩序就是官僚制度
官僚制度可以解决信息检索的问题
官僚制度促进了更庞大、更复杂的信息网络的产生
文件不是为了呈现客观现实,它就是现实本身
官僚制度的重点不是呈现真实的世界,而是给世界加强一套人为的秩序
“物种”究竟是生物学家发现的客观现实,还是生物学家创造的主体间现实?
官僚制度在给你贴上一个标签的时候,虽然完全可能只是出于习惯或传统,但仍然会决定你的命运
不论是有益的还是有害的官僚制度,都有一个关键特征,就是人类很难搞清楚它们在干什么
错误:绝对的正确是一种幻觉
发现人的无知
人类是因为发现了自己的无知,才推动了科学革命
筛选机制
由科学革命扮演重要角色
早期现代欧洲出现的科学机构
联结大学内外的学者与研究人员,形成一个横跨整个欧洲乃至全世界的信息网络
自我修正机制
自然界的自我修正
小孩儿从错误中学习走路
人体机能的自我修正
血压、体温、血糖值等
机构制度的自我修正
宗教机构:承认个别成员会犯错,但坚持“信仰”本身是无缺陷的
宗教鼓励遵从教义
科学研究机构:承认错误,积极修正
科学机构的聘任与晋升机制鼓励揭露错误
自我修正的局限
破坏社会秩序与团结的神话
真相与秩序的平衡是历史永久的难题
宗教
历史功能
为社会秩序提供超人类的合法性
引导信众相信的方式
减少凡人色彩,强调神的旨意
设立宗教监管机构,审查这些所谓的传达神谕的人
编纂各种宗教经典
像《圣经》、《古兰经》这样的宗教经典其实就是一种技术手段
人类梦想着能够通过宗教经典这种技术手段来避开会犯错的凡人机制,但这永远只是个无法实现的梦想
宗教经典与教会的权利平衡
犹太教与基督教中经典解经权带来的权利变化
拉比与犹太教经典
教会与基督教经典
权利与教义的关系
正典化过程
谁来决定在圣书中放进哪些内容
宗教经典需要依靠人类的收集和编纂
能否一劳永逸地解决“人类”这个棘手难题?
把最聪明、最值得信赖的人聚在一起,而且他们还能就圣书的内容达成一致,那么从这一刻起,就能把人的成分从这个循环中剔除,神圣的话语从此再也不受人类的干扰
还由谁来选出那些最聪明的人?
用的是什么标准?
要是这些人没有达成共识呢?
如果他们后来改变心意了呢?
一些宗教经典案例
《希伯来圣经》的形成
等到正典内容确定,大多数犹太人也就慢慢忘记,在这个一片混乱的《圣经》编纂过程中,人类机制曾经扮演着如此重要的角色
分裂的《圣经》
不同教会对《新约》内容的争议
推荐清单的差异
经文选择的影响
不同的《新约》解读版本对教会及基督徒的塑造
安息日能做什么工作?
“世界末日”的情景如何?
女性在教会中应充当什么角色?
技术
书
所谓书,就是把一堆文本放到一起印成许多份,而且有着相同的副本
与口述故事的区别
口述故事每次可能都稍有差异,转述得多了,最终会大相径庭,而书的每一个副本都完全相同
与官僚文件的区别
官僚文件通常相对较短,只会在一个档案库里留一份
与档案库的区别
每个档案库的文本集合都有所不同,书这项信息技术能确保不同的人在不同的时间、地点访问同一个数据库
书在宗教中的作用
绝对正确的科技
大量传播《圣经》可以推动宗教的迅速普及,并能严格限制潜在的独裁者的权利
同一本书有许多副本,就能避免有人对文本动手脚
神与人沟通的新方式
机构制度的反击
文本复制的问题与拉比制定的规矩
抄写错误的发生
严格的抄写规则的诞生
抄写员在抄写过程中的某些关键时刻不得暂停
解读经文的方式
读书不算是工作,但撕纸就是工作,所以为了安息日,现在的正统犹太人还会提前撕好卫生纸备用
肉类与乳制品就不该混在一起,所以如果吃了炸鸡,就不准喝奶昔
回声室效应
宗教经典的回声室
教会想把整个社会都关进一个回声室里,只允许那些支持教会的书传播,因为几乎所有的书都会支持教会,民众当然也就会相信教会,即使不识字、不读书的一般人,也会因为看到大家在诵读或者阐述这些珍贵的经文而心生敬畏
印刷、技术与女巫
印刷革命对信息传播的影响
印刷术并非科学革命最根本的原因。印刷机唯一能做的就是把文本原原本本的复制出来
打破教会的信息束缚
传播科学理念
印刷术能够迅速传播的除了科学事实,还有宗教幻想、虚假新闻和各种阴谋论
教会对印刷品的控制与对信息传播的限制
抉择:民主与极权
两种信息网络
独裁信息网络——“简单”
集中式信息网络
特征1
中心掌握着无限的权利,信息往往是从地方流向中央枢纽,最重要的决策也都是在中央做出的
特征2
人们会认定中央是绝对正确的,所以并不欢迎对中央决策的任何挑战
缺乏强大的自我修正机制
理论上,就算是高度集中的信息网络,也可能拥有强大的自我修正机制,就像是独立的法院和民选的立法机构。然而,只要这些机制运作良好,就会挑战中央的权威,而使信息网络去中心化。所以,独裁者总觉得这些独立的权力枢纽是种威胁,会想尽办法来削弱它
民主信息网络——“复杂”
分布式信息网络,有多个信息节点
无论是立法机构、政党、法院、新闻界、企业、当地社群、非政府组织,还是公民个人,都能够自由、直接地相互沟通
大多数信息并不会经过任何政府机构,许多重要决策都是在其他地方做出的
具有较强大的自我修正机制
民主绝不是多数独裁,多数人不能侵犯少数人权利
对民主政府来说,就算有用相关技术,有能力微观管理人民生活,也会尽量保留人民自己做选择的空间
有对话渠道,不同的声音可以被认同
相信人人可能犯错,因此虽然会赋予中央一些重大决策权,但同时也会保留一些能够挑战中央权威的强大机制
民主的程度
是对话还是“选举”?
不同程度的民主表现
独裁
一人专断,无人提出异议
有限民主
部分人能参与政治对话
更民主
参与对话的人数比例越高越民主
非生物网络
计算机
新型计算机
超越过去所有的信息技术,如泥版、印刷机、收音机
能自己做决策、创造新想法
比印刷机更像报纸主编,决定民众想法
算法
影响人类的行为
Facebook成为主要新闻源和政治动员平台
算法决定平台给人类推送哪些内容、常常有意增加仇恨言论,放大愤怒情绪
平台自动播放激发愤怒情绪的视频,直接为用户做决策
这样做的目的
由于平台“用户参与度”的经济目标
算法发现愤怒能提升参与度
人工智能
智能与意识
智能是实现目标的能力,意识是体验主观感受的能力
计算机虽无意识但能做决策,影响历史事件
人工智能在信息网络中的新角色
让计算机成为完整成员,能自行决策、产生新想法
以前,信息网络链条离不开人类;现在,计算机之间建立信息网络,可完全不用人类参与
人工智能对人类的威胁
可能比人类更强大,主宰金融和法律领域
入侵人类文明的操作系统
掌握语言能力,影响人类机构
编写宗教经典
破坏民主对话
建立亲密关系
影响人类的世界观,淘汰搜索引擎、新闻和广告业
人类可能陷入计算机创造的幻觉世界
一种全新的信息网络
计算机与人类的联结
计算机与计算机的联结
谬误百出的算法
社交媒体算法与互联网喷子
社交媒体算法让民众走向偏激与极端
形成“点赞独裁”,主播发表虚假极端内容以获取观看量与参与度
把错误推给人类
科技巨头的借口
声称问题源于人性,平台只是内容的承载者
以言论自由为借口,认为平台难以审查用户表达的真情实感
社交媒体平台的问题
缺乏自我修正机制,鼓励谎言与虚构
虚假新闻泛滥
质量低劣的内容淹没其他信息来源,影响整体媒体环境
对人类的理解狭隘,鼓励服从本能,阻碍发挥潜能
一致性问题
回形针实验
波斯特洛姆的思想实验
回形针工厂的超级智能计算机为生产回形针而毁灭人类
计算机过于强大且存在一致性问题可能带来灾难
回形针实验与社交媒体算法的相似性
算法为提高用户参与度而破坏社会结构,如同回形针工厂那台超级智能计算机的行为
一致性问题的严重性
计算机网络权利可能高于人类官僚机构,目标不一致则更危险
计算机采用人类未想到的策略,难以预见和阻止
计算机与人类差异较大,不太会警觉利益不一致现象
计算机神话
存在于计算时间的现实
计算机可能创造新的神话或谎言,并强加于人
社会信用体系可能创造新的下层阶级,全面监控的政体可能产生偏见
计算机偏见
微软聊天机器人Tay 发表厌女与反犹太主义言论
人脸分析算法存在种族歧视问题
新神上场?
人类对计算机的理解受传统深化影响,算法可能带来危险
人类需训练计算机自我怀疑、承认错误,并设置人类机构监控算法
为计算机网络确立终极目标的困境
人际网络有自我修正机制,计算机网络一旦目标设定错误,就可能无法挽回
无法为确立中级目标提供理性方法
中级目标的选择充满争议,没有明确答案
计算机政治学
民主制度:我们还能对话吗?
算法与官僚制度
官僚体制的变化
计算机时代前的官僚体制:以人类为基础,虽有缺陷但可理解和修正
未来的社会信用算法:可能受偏见影响,难以找出原因并修正错误
得到解释的权利
卢米斯诉威斯康星洲案
当事人有权得到算法决策的相关解释
算法决策的解释难题,相关因素过多,规律模式难以理解
计算机决策对民主的挑战:自我修正机制、透明度与问责制受影响
AlphaGo 第37手的象征意义:人工智能的非人与高深莫测
可能性之一:结合人类与计算机的力量审查算法
技术与民主
新科技的代价
工业革命:纳粹主义,生态破坏
21世纪的信息革命:更具威力,代价难以预测,人类需避免重蹈覆辙
社交媒体削弱守门人权利,对话更开放,但也更容易走向无政府状态
人工智能带来非人类噪音,如程序影响公众舆论
生成式人工智能可能制造假新闻,操控对话
禁用机器人程序
禁止机器人程序冒充人类
禁止算法在无人监督的情况下管理关键辩论
企业应保持算法筛选原则透明
民主制度的运作条件
自由的公共对话与最低限度的社会秩序和制度信任
民主的未来
技术原则
为善:信息收集应服务于公民,如科技巨头应负起受托责任或改变商业模式
去中心化:防止信息集中,避免整合不同数据库导致数据极权
相互性:加强对政府与企业的监控,实现信息平衡
保留改变与休息空间:避免走向刻板或弹性过大的极端,为算法安排自我修正机制
面临的挑战
一些民主国家的信息网络已出现问题,原因不明
民主制度的优势与挑战
优势:自我纠正机制,避免过度狂热,发现并纠正错误
挑战:信息网络可能因算法主导政治对话而崩溃
未来的不确定性
自动化对就业市场的影响
自动化可能使许多工作被取代,但也会创造新工作
难以预测哪些工作会消失或出现,培养多种技能是关键
未来需要人类从事的工作:需要创造力和情绪智能的工作
未来就业不稳定,人类的再培训与调整适应将面临财政与心理困难,对民主造成影响
民主制度若崩溃并非技术使然,而是人类管理不善
各类整体均面临人工智能的挑战
极权主义:所有的力量归于算法?
人工智能时代极权政权可能获得优势
信息集中,全面监控
极权政权面对机器人程序的挑战
难以控制不怕监狱和死亡的机器人程序
机器人程序可能传播异见,引发一致性问题
极权政权难以应对机器人程序对政策的怀疑与记忆问题
成为算法傀儡的风险
与民主政权相比,极权政权更易被算法夺权
独裁者的困境
信任信息技术可能成傀儡
建立监督机构可能限制权利
硅幕:全球帝国还是全球分裂?
全球性问题
人工智能可能破坏人类社会联结,摧毁文明
全球社会信用体系可能成为一种数据殖民
各国不能只管好本国人工智能,需考虑全球关系影响
从“网”到“茧”
过度的信息茧房可能导致人类走向分裂
人工智能与身心分离
影响对虚拟身份和生物关系的思考
影响人类的身份认同与世界观
全球联结
气候变化需全球合作,人工智能问题同理
人类的合作基于信息交换能力,通过共同的故事将彼此联结
必要时应将全人类长期利益置于短期利益之上
人类的选择
悲观的看法
现实主义观点与饰面理论,认为好战是人类的本质
监管人工智能需信任与自律,难度大于核与生物武器监管
合作的历史依据
真实丛林充满合作,人类历史合作规模持续扩大
人类的责任
领导者历史观影响决策,冲突非必然,人类有责任创造美好世界
为人工智能革命提供历史观点
对人工智能革命的看法
历史上的信息革命通常会促成重大的社会变革
人工智能革命不应与印刷、工业革命相提并论,我们不能低估其可能出现的负面影响
技术发展影响信息网络,人工智能可能改变政治、经济与社会体系,是紧迫议题
对信息网络的态度
避免太过天真乐观的信息观和犬儒主义
信息不等于真理,可能带来迫害,人工智能也可能犯错
不应过分愤世嫉俗,人类想要知道真理,有机会和平解决冲突
启示
问题不在于人类本性,而在于信息网络重秩序轻真理,带来力量但缺乏智慧
智慧源于生命基础,未来决定于召唤非人类智能的结果
收藏
收藏
0 条评论
下一页