我们为什么要畏惧奇点？
这里有十个最常见的理由，看看你是不是也这么想过。
灭绝
人类灭绝是目前为止奇点可能造成的最令人恐惧的结果。
对于奇点带来的世界末日，已经有各种各样的猜想，其中最典型的是要么是机器人哪根神经搭错了，变身超级智能终结者AI追杀人类；要么是恐怖分子利用大规模杀伤性智能武器大开杀戒；要么是人类在基因改造实验中一不小心使僵尸病毒流出实验室，导致全球人类都变成行尸走肉；要么是大型强子对撞机发生故障，造出一个黑洞，吞噬了地球……
简言之，这种恐惧可以浓缩成计算机天才比尔·乔伊的一句话：未来不需要我们。
奴役
第二个最常见的对奇点的恐惧便是机器人对全人类的奴役和征服。这很好理解：一旦超智慧AI诞生，人类就不再是地球上最聪明的存在。也就是说，我们创造了神，但自身仍然只是人。因此，如果出于某种原因机器决定不消灭人类，那么，由于它们远远强于我们，就会奴役我们。方法可能是直接的，即人类知道自己是机器人的奴隶；也可能是间接的，人类自己意识不到，就像《黑客帝国》里演的那样。
第三次世界大战
对奇点最常见的第三类恐惧非第三次世界大战莫属。一场规模、精密和效率均史无前例的千兆战争将招致无法想象的死亡与毁灭。这场战争可能在人类和AI之间爆发，也可能像“人工大脑之父”雨果·德·加里斯预言的那样，在不同阵营的人类中间爆发。无论起因为何，都很有可能以上百亿人的死亡和人类文明的湮灭而告终。
经济崩溃
有人提出，即使我们能侥幸避免上述三种情景的出现，也很有可能会经历一次完全的经济崩溃。
社会的机器人化会造成商品和服务过剩。然而由于大多数人都被机器人抢走了饭碗，全球失业率将飙升至历史新高，对这些机器人创造的商品及服务的需求也将大大降低。涌现出的九十亿甚至上百亿失业人口没有经济来源，也无力购买任何东西，全球经济崩溃也就到来了。
AI老大哥
这是较奴役和征服稍好一些的情况，但我们仍将被无所不知的AI牢牢掌握在手心里。和前述情况最主要的区别在于AI老大哥不会利用我们为它做事，而是为我们着想。AI老大哥是仁慈的、无所不能的绝对统治者，保护我们不受伤害，庇佑人类社会繁荣昌盛。唯一的弊端在于人类会在意识形态上被AI洗脑，敬AI为神。不过比起前面几种情况，这种已经是可以接受的了。
异化与人性的沦丧
既然无力与机器抗衡，那么在奇点来临时存活下来的方法之一就是与机器融为一体。这种做法通常被称为超人类主义。通过生物技术、纳米分子技术与人工智能将人类与机器相融合，将增强我们的认知能力、体力、情绪稳定力、整体健康与寿命。
而恐惧自然是因为害怕因此而失去人之为人的根基——人类的天性、灵魂与身份。从群体层面来说，失去人性还意味着族群将不复存在，后人类个体将难以彼此维系。因此，即使活了下来，屈服于机器的人类实际也已不复存在。
环境灾害
纵观人类历史，环境破坏与科技发展恰成正比。一旦我们生活在万物都是由机器人大批量生产的社会中，我们的制造业文明将压榨尽自然界的最后一点资源，我们也将失去对地球母亲的最后一丝敬畏。
如果我们能造出更“好”更“智能”的热带雨林，何必再去保护现有的热带雨林？如果我们可以随心所欲复活或创造出任何物种，谁还会去在乎生物多样性、物种灭绝和环境退化？
一旦成了上帝，谁还会在乎什么？！
数字黑暗时代
伴随持续加速的数码化衍生出的是数据的丧失甚至毁灭。这里的数据包括历史、文化传统、语言或重要的科学信息。例如，NASA曾承认无法恢复阿波罗计划及登月行动中的大部分计算机数据。因此，某些重要的知识和历史、文化传统将永远销声匿迹。
我们似乎生活在一个无论放大还是缩小都有无限分辨率的模拟宇宙中。数字化过程只能捕捉其一部分。就像mp3文件只能捕捉到实际音乐演出的一部分，这一过程创造出的符号只是实际物体的数字化化身。最终，我们可能会忘了数字世界只是符号的世界，是真实世界的倒影，而迷失在柏拉图的数字幻象洞穴中。
超级大脑
随着时间推移，宇宙中的智能体从无到有，从少到多。因此，只要时间足够长，我们的星球，乃至整个宇宙中都会出现越来越多的智能物质。这一过程会持续下去，直到摩尔定律崩溃，达到平衡状态。
俄罗斯套娃脑（超级大脑）是一种假设的拥有巨大计算能力的巨型结构。这是一种基于戴森球、得名于俄罗斯套娃的概念，是一种体积相当于一颗行星的太阳能计算机的范例，拥有整颗恒星的能量输出。要想造出套娃脑，就需要把太阳系的所有行星拆解，创造出内含虚拟大脑的巨大计算设备。其先进和复杂程度高到不可思议，人类完全无法同日而语。
最终，不管通过什么方式，宇宙中的所有物质都会变得富有智慧，都会成为超级大脑的一部分……
畏惧改变
对改变和未知的恐惧深深根植于人类的心中。我们都贪图舒适，而未知是件让人非常不舒服的事。知道即将到来的改变将会是前所未有而不可预测的，无疑更令人忐忑。
没人喜欢为生存担惊受怕的感觉。因此，不论出于自身还是群体的安全考量，人类都想要至少看清未来的轮廓。
奇点是一场根本性的变革，人类对其全然无知，更遑论预言了。所以，奇点会激起人们心中深深的不安和恐惧也就不足为奇。
列举完恐惧，让我们换个角度来看看。
奇点来临，会为人类带来哪些好处？
这里有十个理由，相信你看完会不再畏惧奇点，而是伸出双臂拥抱这场深刻而伟大的变革。
永生
从人类出现起，对永生的追求就从未停止。
在基因、机器人、纳米科技、人工智能及合成生物学等诸多研究领域内，呈指数增长的各种突破不仅让我们看到了科学的发展，也给了我们希望：未来的某一天，我们将有能力逆转生死，将科幻小说中的内容变为现实，实现永生。
自由
想象一个拥有绝对自由的世界，在这里一切皆有可能。一个所有界限都被打破的世界。只有想不到，没有实现不了的。我们不仅可以自己选择自己的性别、人种、肤色、年龄和五官，甚至可以选择保留真实的身体还是摒弃身体，直接以上传的数字大脑的形式存在。
乌托邦
自从1516年托马斯·莫尔爵士在他的著作《乌托邦》中第一次提出这个名词，乌托邦已经成了理想社会的代名词。
如果在奇点来临后，我们拥有了取之不尽用之不竭的物质资源和智能，那么，为什么不能构筑一个技术乌托邦呢？
那时，将没有什么能阻止人类在地球上建起一座科技的天堂。
富饶、和平与繁荣
即使百分之百的乌托邦不能实现，许多人也相信人类会在奇点后进入一个富饶、健康、和平与繁荣的世界。
弗诺·文奇，发明了技术奇点这个词的人，说那时的世界将比我们最狂野的梦更不可思议。
雷·库兹韦尔相信，奇点已临近，总有一天他会让他死去的父亲重生。
奥布雷·德·格雷认为，战胜时间，将死神甩在身后，实现永生会比我们想象得更快实现。
人类的大冒险才刚刚开始。
环境的可持续性
我们的宇宙至大至美。然而，人类发展到今天，已经牺牲了无数个人间天堂来满足人类的私欲。今天，人类或许还不明白，发展并非必须以自然为代价来换取，科技并非与自然是对立的，节能环保也不意味着折损利益。
但在奇点过后，这一切都将变得明朗。
没有物种是非灭绝不可的。全球变暖问题将得到解决。能得到重生的或许不仅是库兹韦尔的父亲，更有许多昔日曾驰骋在这个星球上的物种。
资本主义的终结
经济制度和人一样，也有生老病死。资本主义也不例外。没有道理资本主义会长盛不衰。
资本主义很大程度上建立在稀缺性上。如果物理资源的稀缺会大大减轻甚至永远消失，我们将迎来一种全新的经济形式，社会结构也会改变。
很难说把一生花在烤汉堡和擦地这样消磨人灵魂的工作上能给我们的社会带来什么长远的好处。悲哀的是，绝大多数人一辈子为了养家糊口，都在从事着自己痛恨的工作。
在奇点到来后，由于不再存在资源稀缺，资本主义随之消亡，每人都可以做自己真正想做的事，不再是为了吃饱肚子，而是为了滋养心灵。
时间旅行
人们常说，如果有钱有闲，就会多出门旅游。
在奇点来临后，我们拥有了永恒不变的健康，同时因为物质需要得到了满足，也无需像仓鼠一样辛苦跑在滚轮上。那时，你难道不想踏上探索宇宙的旅途吗？
如果这还不足以让你激动起来，时间旅行如何？在持续增长的超人智能的帮助下，时间旅行成为了现实。你可以在银河系中搭便车四处漫游，甚至亲眼目睹一个宇宙的诞生。酷不酷？
保存历史
正如灭绝的物种可以复生，历史上的事件与人物也无需淹没在历史的长河中，被我们忘在脑后。
那时，我们将可以记住一切，而且是永远记住。
不断增加的存储能力甚至可以打败摩尔定律。你的一生的每一个点滴都将被永久记录下来，等同于创造了一个平行的数字宇宙。这样一来，就算时间旅行无法实现，至少我们留住了从现在起的每一刻。
超级大脑
随着时间推移，宇宙中的智能体从无到有，从少到多。因此，只要时间足够长，我们的星球，乃至整个宇宙中都会出现越来越多的智能物质。这一过程会持续下去，直到摩尔定律崩溃，达到平衡状态。
俄罗斯套娃脑（超级大脑）是一种假设的拥有巨大计算能力的巨型结构。这是一种基于戴森球、得名于俄罗斯套娃的概念，是一种体积相当于一颗行星的太阳能计算机的范例，拥有整颗恒星的能量输出。要想造出套娃脑，就需要把太阳系的所有行星拆解，创造出内含虚拟大脑的巨大计算设备。其先进和复杂程度高到不可思议，人类完全无法同日而语。
最终，不管通过什么方式，宇宙中的所有物质都会变得富有智慧，都会成为超级大脑的一部分……
拥抱改变
古希腊哲学家赫拉克利特说：万物流转。一切皆在流动，一切都处于变化之中。那我们又为何不能欢迎学习与变革，或是接受不确定性呢？
若改变已是大势所趋，为什么不去拥抱改变呢！
不仅限于改变，我们还要拥抱陌生。
确实，人类都是愚蠢的，但我们可以变得更好。而且我们正在变得更好。
我们已经知道了如何在机器人暴动中生存下来。
我们已经看清了我们在科技面前没有胜算——我们自己就是科技。
那么，奇点还有什么可怕的？！
正如飞翔一样，我们所惧怕的并非事件本身。我们应该惧怕的是无知与准备不足。飞行中，正是这两个因素常常将飞行至于险地。
忧虑是合情合理的，但畏惧并不是走向未来的最好姿态。
居里夫人曾说过：“生活中没有可怕的东西，只有尚未被理解的东西。现在，是时候去了解得更多，这样才能畏惧得更少！”
奇点也是如此。我们不应当畏惧它，而是应当去理解它，并且梦想着掌控它。
那么，问题来了：你心中的奇点是什么样的？奇点临近，你会怎么做？
文章来源：Singularity Weblog 文章作者：Nikola Danaylov 编译：未来论坛 商白
未来科学大奖，是中国大陆第一个由科学家、企业家群体共同发起的民间科学奖项，重在奖励为大中华区科学发展做出突出贡献的科学家（不限国籍、性别、年龄）。未来科学大奖以创新模式带动更多民间资金推动中国基础科学的研究，促进科学事业发展，以创新的科学精神影响中国、影响世界、影响下一代。