中国，请警惕“科技灾难”

如今，中国的科技互联网领域正处于蓬勃发展的时代。这样的盛况自然与中国所开发出的一系列新科技新产品密不可分，但我认为，更重要的推动力还在于行业中的人。当从业人员斗志高昂、信心满满时，整个行业都变得富有活力。

打个也许不算恰当的比方，如今的北京很像1990~2000年间的科技乌托邦——硅谷。虽然两地的发展方式不尽相同，但他们的世界观却异曲同工：在这个世界上，没有什么问题是不能用创新、计算力、外加一个开放自由的互联网来解决的。

这一信念本身并没有错。毕竟，从硅谷发端的一系列新科技创新确实让这个世界在很多方面都在变得越来越好。

但问题在于，这一信念所做出的判断是片面的。美国的科技乐观主义者们已经被科技的巨大潜能迷住了双眼，而他们所没有看到的是，同样的技术也可能会落到世界上某些“不完美的个体”或“不完美的社会”手中，再以一种“不完美的方式”将这些技术的正面力量消弭殆尽。

如今，当我们看着越来越多的工作岗位被自动化所取代，财富越来越快的向极少数人群手中集中时；当我们眼睁睁地看着社交媒体撕裂阶层，甚至开始动摇美国的立国理念时，我们就会意识到，对于那些存在于人性深处根深蒂固的弱点与错误，科技根本无能为力。相反，作为一种强大的工具，它只会放大那些弱点和错误。或者更确切的说，科技的力量在于它放大了人性，不管是它好的一面，还是坏的一面。

欧洲：警惕科技

当中国干下一杯杯科技乌托邦式的茅台酒时，当美国人刚从科技乌托邦的宿醉中悠悠苏醒时，欧洲人却在小心翼翼的品鉴着桌上的盛宴——今天的他们对数据革命态度谨慎。他们还记得那个“被忘却的权利”，甚至为了保护它，他们最近还专门出台了一系列法规；而其中的一个条款是：只要用户提出了要求，互联网公司就必须删除该用户的个人数据。

5月25日，欧盟的《通用数据保护法》（General Data Protection Regulation）正式生效，它将有效遏制政府和企业使用用户的隐私数据。它给予每位个体用户更多的权利，同时限制科技公司用大数据牟利。说起来，受这部法规影响最大的可能就是人工智能技术了。要知道，对于AI研究而言，大数据就是它最重要的“燃料”。

欧洲有理由用这样的眼光来看待技术，他们比这个世界上的其他任何地区都更明白科技的双刃剑属性——因为他们自己就是第一批生产出工业怪兽的人群。

1818年，当英国的工业革命正在如火如荼的进行时，这个国家的一位女小说家，玛丽·雪莱（Mary Shelley）发表了她的作品——《弗兰肯斯坦》（Frankenstein）。

这部小说可以说是现代版的普罗米修斯。故事的大意是，一位极度自信，甚至可以说有些傲慢的科学家，维克多·弗兰肯斯坦（Victor Frankenstein），怀揣着对科技的乐观主义精神，在实验室里成功造出了一个巨人。不过当弗兰肯斯坦唤醒这个巨人后，他才发现眼前的这个“作品”并非如他所期许的那样完美。确切的说，这个“人”更像是一个面目可憎的怪兽。而这位科学家显然无法接受这样的事实，他选择了逃离，任由怪兽摧毁城镇，欺凌居民……小说后面的内容主要是弗兰肯斯坦本人的内省，他想知道，这个自己一手创造的“杰作”会为何会失去控制，成为了一个彻头彻尾的灾难。

长久以来，雪莱的这部经典小说一直被视为科幻文学的开山作品之一，它所提出的问题也成为科幻文学的经典母题：人类是否会毁于自己所创造的科技？

但这毕竟是后话了。彼时的雪莱自己可能也想不到，这部小说之于欧洲文明的前瞻性意义。毕竟那可是“伟大的欧洲世纪”，她所在的大英帝国正在用科技产品和工业实力武装着自己的军事装备，开拓着“日不落帝国”的商业版图。

在19世纪，科技就是殖民主义意识形态的核心。对于欧洲殖民者来说，科技进步正是他们能在世界范围内获得民族的、文化的、甚至是种族层面优越感的强有力证据。他们有机器，其他地方的人没有，因此他们理应是其他文明的管理者，不是吗？

“你想要进步？很简单，只要成为我们的仆从就可以了。”

你看，就是这套理论，给那些殖民者们在世界范围内实施的各种暴行提供了意识形态依据。

[当地时间2013年10月19日，德国达姆施塔特，民众打扮成科学怪人等怪物模样，在弗兰肯斯坦城堡举行庆祝万圣节年度活动。©视觉中国]

但殖民者们并不满足于此，很快，他们又将科技与军国主义、民族主义融为一体，建立了一套更为完整的理论框架。靠着这套体系，欧洲豪强们迅速集聚财富，几乎垄断了全球的话语权。

然而此时，豪强中的一个“小兄弟”不干了。这个位于欧洲大陆中心位置的国度一直有着活跃的科研氛围，诞生了诸多科技成果，其工业基础也获得了长足进步；但唯一遗憾的是，这里的大片地区却并没有整合为一个国家——直到19世纪后半叶，德国统一。

然而当德意志终于完成统一大业之时，他所见到的世界却似乎并不友好，那些先于他们完成集权工作的邻国早已建立了各自的殖民帝国。更讽刺的是，邻国们所采用的不少技术还是从德国这里进口的。德国人发现，在这场以殖民主义为主题的盛大宴会上，他们来得太晚了，留给他们的果实已然不多。

紧接着，当时间列车驶过19世纪，来到奔腾的20世纪，欧洲的局势又有了新的变化，民族国家的理念大行其道。各国几乎都在强调民族振兴，而民族振兴的标志则是科技发展、工业繁荣、军力强盛。此时，在所有欧洲国家中，没有一个国家的发展速度比德国更快。后者的威权政治体制不断给民众灌输民族危机感，告诉他们，只有在工业、科技和军事上飞速发展才能实现德意志民族的振兴。但这还不够，德国统治者还强调了历史传统与宗教观念，他们告诉民众，自己的文化是最优秀的，其他族群的文化根本无法与之相提并论。

带着日耳曼民族的自信，德国开启了他们的全球殖民之旅。但这条路却走得举步维艰。如前文所言，绝大多数殖民地都已被列强瓜分殆尽，德国人哪怕只想找一个海外扩张的立足点都无比困难。更糟的是，一个强势崛起的德国已经引起了英、法等豪强国家的警觉。渐渐地，欧洲国家开始了外交结盟，并且把工业重心和研发重点都指向了军事领域。早已被民族主义裹挟的欧洲各国此时已经全副武装，随时准备兵戎相见。

这时我们就要讲到一个男人的故事了，确切的说，不是男人，而是个男孩。这位19岁的塞尔维亚民族主义者名叫加弗利洛·普林西普（Gavrilo Princip）。

他年轻、不自信、充满焦虑。简单说来，他和其他同龄人并没什么区别。他出生在贫苦之家，少时就遭遇疾病袭扰，身体一直不好。在他十几岁的时候，他就决定背井离乡，报名参军。但遗憾的是，军队拒绝了他。而原因就是他那孱弱的身体。随后，他被塞尔维亚民族主义社团黑手社（Black Hand）所吸引，他决心与塞尔维亚族的统治者——奥匈帝国抗争到底。

我能想象他为何选择这条路。一定是因为民族主义给予了他的身体无法给予他的力量感；一定是因为民族主义给予了军队无法给予他的归属感；一定是因为民族主义满足了一个19岁的青年对使命感的强烈渴望。

1914年6月28日，当奥匈帝国王储弗兰茨·斐迪南大公（Archduke Franz Ferdinand）携妻索菲亚（Sophie）造访萨拉热窝时，普林西普走近了他们的马车，他掏出手枪，打出了两发子弹：一颗击毙了斐迪南大公，另一颗则结果了后者的妻子。

这次刺杀事件直接导致奥匈帝国对塞尔维亚宣战，而宣战又造成了连锁反应，最终促成了第一次世界大战的爆发。在这场战争中，欧洲各国动用了他们最先进的科学技术和工业成果，其结果就是人类历史上最大规模的悲剧之一——至少2100万人死于战火之中。

一个男孩，一把手枪，两发子弹，2100万条生命。

当这场大战于1918年11月结束时，德国遭到了毁灭性的失败。这不仅仅是在说这个国家的伤亡人数和经济损失，更重要的是，那个有关日耳曼民族优越性的说法彻底破产了，但这个信念却是德国人团结一心的基石。

衰败感、耻辱感、渴望获得活着的意义，这便是当时的德国人普遍的心态。可能也唯有在那时，德国人才能真正理解那个塞尔维亚青年的痛苦：一个孱弱的孩子之所以选择极端行径，仅仅是因为他渴望一个能给予他自豪感、使命感与归属感的信念和组织。

所以，我完全能够理解，那个战败国的人民为何会被一个看上去魅力四射的男人所吸引：他在酒吧里洋洋洒洒的演讲，告诉他们战争的失败并不是他们的错，而是“其他人”的错；错在那些外国人、那些信天主教的家伙，错在那些共产主义者和犹太人；日耳曼民族是纯粹的，日耳曼民族是优秀的，日耳曼民族就是一切美好的化身；正因为此，那些相信、支持日耳曼民族的伟大的人也是好人；而那些不支持、不相信日耳曼民族的人则是邪恶的。

[电影《帝国的毁灭》中希特勒剧照（2004）]

于是德国人打起精神，又回到了工作岗位，这一次他们甚至比之前更努力，他们沉迷于科学、技术、军事等方方面面的研究……我完全能够想象得出那时的德国人的心情：他们确信自己的民族是伟大的，他们知道自己的工作有着神圣的使命——让德意志民族再次崛起。

这样的理念一旦开花结果就立即不可收拾。很快，意大利和日本也接受了这套理论。虽然具体的言辞有所不同，但核心思想却是一样的：我们是好人，他们是坏人；我们要发展科技，造出各种强大的武器，让它们去成就我们的伟大目标。

而这带来的结果是什么呢？是科学和技术以类似工厂流水线般的速度屠杀人民；是仅仅一个炸弹就能让整座城市夷为平地。保守估计，第二次世界大战的伤亡人数为3000万人；但还有另外一种说法：这场大战带走了8000万生灵。

今天的欧洲人已经明白，导致那些灾难与毁灭的元凶并非那些“坏人”，而是他们的父辈和祖辈在追求科技进步与工业成就的同时，忽略了人性自身的底色。我们总是会以为，当我们的技术实力飞跃发展时，人类自己也在进步。但事实却是，这个判断从未真正成为现实，我们还是同样的动物，身上既有光彩照人的一面也有血腥黑暗的一面。唯一的区别是，当我们拥有了科技，我们能做的事情比之前更多了。

从这个角度看，欧洲确实是最早见识到，“好人”是如何创造出恐怖的“弗兰肯斯坦怪兽”的。

 

 “美式怪兽”

坦白讲，就接触“弗兰肯斯坦”的时间而言，美国并不比欧洲晚；但若比起国家的阅历，美国就乏善可陈了。而且在两次世界大战中，美国都是牺牲较少但获益巨大的一方。

美国确实很幸运。自立国以来，大型战争的战火从未烧到过美国本土；我们的主要城市也从未在战争中遭到炸弹的“问候”。但也正是这样的事实，催生出了一套美国人之于世界大战的叙事想象：我们之所以没有经历这些苦难，是因为美国是英雄主义的国度。

紧接着，这种近乎于错位的自我正义感又催生出了一种民族主义和例外主义情结。具体说就是：

“我们之所以比其他国家好，是因为我们有着伟大的民族性格。”

很显然，走到这里，这套“理论”已经越来越离谱了。它明显忽略了运气、历史机遇、地缘政治优势等诸多现实因素，而这些才是历史现象背后的内在原因。

在美国，很少有人会向你解释，上述“怪兽”是如何诞生的；很少有人愿意去探讨人性的弱点。我们总是容易被诸如“我们伟大，他们平庸”等观点所吸引，却从不愿意去提醒自己，类似观点是多么经不起推敲。

当然，我们也不是时时刻刻都觉得自己伟大；可是就算觉察到了一些变化，我们中的绝大多数人又是怎么做的呢？他们会去历史的故纸堆找答案，翻出那些书写着“我们很伟大”的战争故事，津津有味的阅读；更直接些的人们干脆就奔向一个语调自信的演讲家，听他告诉我们，他将如何让美国“再次伟大”。

如果说欧式的弗兰肯斯坦经历了从科技民族主义到种族优越论的“升级”；那么美式的弗兰肯斯坦则根植于一种对本国制度的非理性自信。

坦率的讲，这套制度确实有好的一面，它能让多元文化背景的人群能聚集在一起，和平共处，共同奋斗。但遗憾的是，它的优越性也就仅限于此了。

当然我知道，会有不少人不认同我的看法，我甚至能猜到他们驳斥我的言论，那八成是硅谷曾经鼓吹过的陈词滥调：“一个开放、去中心化的网络只可能带来积极效果；负责运营这种网络的科技公司是良善的堡垒，他们绝不会被其他公司所引诱，绝不会被其他任何形式的力量所侵蚀。”

硅谷的人们一直相信，诸如“自由”“民主”等概念就是“良善”一词最纯粹的注解。但他们拒绝去思考的一个事实是，这两个语焉不详的词其实从来都没有清晰的定义。

没错，对民主和自由的坚持可能确实是美国的优点；但如果这种坚持变成了一种无可置疑的教义，那么“优点”也会立即暴露其自身的局限。

2011年“阿拉伯之春”时，数万抗议民众使用硅谷的科技巨头们提供的社交网络平台，间接助推了游行规模，最终使阿拉伯世界的多个国家出现了政权更迭。这样的结果让科技公司无比激动，他们当时宣称，是他们给予了那里的民众前所未有的自由；是他们帮助人们摆脱了被压迫的命运。

好吧，这个判断也许有其正确性；但我必须强调，该说法本身是片面的。而以偏概全的视觉盲区只能是世界的苦难。当硅谷将他们的所见所闻称之为“自由（freedom）”时，其他人看到的却是“混乱（chaos）”。是啊，对于一群远在万里之外的人而言，去为某个“革命”摇旗呐喊是多么轻松的事情！反正这么做又不会影响到自己的生活。但对于身处“革命”之中的人来说呢？他们的世界是颠沛流离，是无家可归，是自己的孩子每天只能在饥饿中入睡；他们获得了“自由”，但代价却是稳定的生活。

那么在这种情境下，所谓的“自由”，真的能形容他们的处境吗？

真相是，很多时候，“混乱”比暴君更恐怖。

当然了，他国居民的遭遇毕竟无法让美国人动容，所以唯有当同一个社交网络平台把“刀”插向了国人自己，我们才能真正意识到，原来“美式弗兰肯斯坦”早已苏醒。

和欧式的“同款怪兽”一样，美国的弗兰肯斯坦也是最伟大的发明家们最杰出的作品。它是硅谷的自由、开发的网络，是华尔街的股票市场，是麦迪逊大街上的广告牌，是美国宪法赋予的言论自由的精神和公开辩论的传统。

这其中最典型的代表要算是Facebook了。这个号称要连通世界的社交网络拥有数十亿忠实拥趸，但当他们决定释放公司的商业潜能时，用户的隐私数据却成了他们的摇钱树。他们根据用户喜好，精准的为其推送定制化的广告和内容。

[当地时间2018年5月22日，比利时布鲁塞尔，Facebook首席执行官马克·扎克伯格正式接受欧盟资深政界人士关于剑桥分析数据泄露事件的质询。©视觉中国]

没错，这个招数是有效的，它让这家公司一举成为全世界盈利能力最强的企业之一。但与此同时，这一手段又为公司的未来埋下了祸根。广告驱动式的定制系统所建立的是一个支离破碎的世界，在那里，信息变得不再可靠，人们被愤怒和偏见所挟，最终又带来了更大的偏见和更多的愤怒。

可是这有什么办法呢？谁让愤怒的人在网上总是比冷静的人更投入呢？看看这个我们曾经无比信任的平台，我们信任它是因为他们曾宣称：“开放和自由是网络的终极良善。”但如今，这个曾代表绝对良善的平台却利用我们的信任，将我们最私密的数据用于探索我们内心深处的软弱，再利用它来为自己牟取利润。

所以到目前为止，我们真的学会如何掌控硅谷的弗兰肯斯坦了吗？还是说，这位弗兰肯斯坦其实早已苏醒？ 

中国人眼中的科技：屈辱与荣光

中国的科技发展历程与欧美迥然不同。当你走进天安门附近的国家博物馆，你会发现科技发展是这个国家贯穿始终的重要主题；你会真切地认识到，这个国家之所以被称为伟大的文明古国，其部分原因正是其历朝历代贯穿始终的科技创新。

不过在我看来，中国历史上诞生的最伟大作品并非那些器物层面的科技，而是中国的行政官僚制度。因为它令国家机器在中古时代拥有了其他文明无可比拟的数据处理能力。

[2002年9月，北京第五届中关村电脑节开幕。©视觉中国]

然而，当欧洲列强将近代的科学和工业成果以殖民主义的方式席卷全球时，中国和世界上绝大多数国家一样，也遭遇了被剥削、被压迫的耻辱和苦痛。而在这一过程中，近代科技所扮演的角色却似乎并不光彩，它让这个古老的国家陷入了一种内部挣扎，她必须要弥合本国根深蒂固的自有话语体系和强势入侵的外来科技成果之间尖锐的矛盾。很明显，这种内心挣扎已经困扰了这个国家数百年，而如果我们能诚实的面对现实，我们就还要承认，这一苦恼直到今天仍未纾解。

于是在这样的背景下，中国开启了他们的科技发展之路，而一旦他们激发出了自我潜能，这个国家就开始了高速前进。如你所见，近几十年来，科技确实在相当程度上为中国带来了福祉；这个时代的绝大多数中国成年人都曾经历过那次人类历史上史无前例的经济发展大跨越和科技大飞跃。也正因为此，很多中国人相信：科技所带来的一切，都是好事。

回望科学技术在中国历史上刻下的足迹，你会发现，科技之于中国，既是外来压迫的帮凶，又是内在发展的引擎。但不管是帮凶还是引擎，在这个国家的科技历史语境里，似乎从未出现过弗兰肯斯坦的身影。

埃隆·马斯克的忧虑：会出现人工智能版弗兰肯斯坦吗？

现在我们还无法确定，下一个弗兰肯斯坦将在何地、以何种形式出现，但我们能确认的是，新一代的弗兰肯斯坦必然与前代大不相同，它甚至可能都不是我们现在所见的那些机器，而是某种智慧，一种早已在我们的数据体系中业已存在的智能形式。

包括埃隆·马斯克（Elon Musk）、史蒂芬·霍金（Stephen Hawking）在内的很多科学家与未来学家曾多次提醒我们人工智能的危险；他们指出，随着人们对人工智能的研究走向深入，这项技术的应用场景也越来越多样。要将其完全纳入一个可预测的、不违反科学伦理的算法体系将会难上加难。所以，未来的研发毋需谨慎，因为一着棋错，换来的就很可能是不可估量的危险。

[埃隆·马斯克。©视觉中国]

不过让我惊讶的是，当我和不少中国朋友聊到这个话题时，我很少能找到认同马斯克的观点的人。多数人依然保持着坚定的信心与十足的乐观。我的很多中国朋友将科技的发展视为一种骄傲，他们将科技视为一条能通往民族振兴的捷径，一剂能治愈社会沉疴的良药，甚或是一颗能欺骗死神的不老仙丹。

但类似的言论已不再新鲜了。一二百年前，欧洲人曾宣称，先进的科技赐予了他们统驭其他族群的无上权力；德国人则确信，他们的科研成果就是其“优等种族”身份的最好注解；而硅谷也不遑多让，他们表示，自己的科技产品将让世界摆脱压迫。

虽然说法各有不同，但上述三例都在表达他们对科技的坚定信念。他们相信，科技可以帮助人类突破自身局限，进化成更高级的物种。

遗憾的是，历史却在不断证明，这样的信念不过是黄粱一梦。不管科技如何进步，我们都不得不认清一个残酷的现实：从基因上看，我们和数万年前的人类先祖们并无二致。我们用最先进的文明成果打造了一个又一个弗兰肯斯坦，看着他觉醒、破坏，最后又体验着其给我们带来的无尽苦难……

为什么人类总要在原地打转？为什么人类总喜欢自食其果？

答案很简单，只因那个让我们无比骄傲的科技，在创造金碧辉煌的新世界的同时，也在激励着加弗利洛·普林西普们。最终的最终，我们不得不承认，我们对自尊的渴望，对归属感的追求，对权力的欲望和对意义的追寻……所有这些复杂的思绪和非理性的情感赋予了人类鲜活的存在。而当傲慢让我们忘却人性的局限的时候，我们也就只能堕入由我们自己的弱点编织而成的陷阱。

如今，看着中国对科技的乐观态度，我确实深受鼓舞，但我还是想说，欧洲今天的审慎态度值得借鉴。毕竟，尽管中国是一个古老的文明，但他们的科技产业仍然年轻，他们对于科技的态度也正如他们的老话所言，是“初生牛犊不怕虎”。所以在这样的世界，这样的时代，谨慎的迈步，乐观的前行，或许才是真正的上善之策。

本文首发虎嗅，由虎嗅编译。