生命3。0听书笔记

　　《生命3.0》的作者迈克斯.泰格马克。
　　生命1.0：硬件和软件都靠且只是能靠进化获得的生命体，除了人，其他生物基本属于生命1.0
　　生命2.0：硬件靠进化，软件可以自行设计的生命体属2.0。如人类身体是进化来的，像学习力、意志力、情商则可以靠训练和自我设计。
　　生命3.0：硬件和软件都可自行设计的生命体属3.0。人类如果能随意改造设计自己身体，就是生命3.0，彻底摆脱了进化的束缚，成为自己命运的主人。
　　【3.0如何来】现在考虑的不是生命3.0会在哪一年到来，而是要思考它会以什么样的姿势出现？人工智能的发展存在一个临界点，即机器开始具备自我进化的能力。在这个临界点之前，机器必须由人来改进。
　　在此之后，机器可以自行改进，自我设计，那就没人类什么事了。只要过了这个临界点，人工智能就完成了一次升维，成为与人类不同维度且更高级的智能体，它和人类的竞争都是降维打击，人类将永无翻盘的机会。生命3.0不是缓缓而来，而是破门而入。
　　类似宇宙暴胀理论，每隔一段时间，技术能力就会翻倍，每次翻倍后还会引发下一次的翻倍。发生一次智能爆炸需要多长时间？取决于人工智能需要硬件更新还是软件更新，硬件可能需要几个月、几年、几十年，软件可能只需几小时、几分钟甚至几秒钟。
　　【安全思考】如果超级智能出现后，人类不可能再战胜它，那在它出现之前(在设计阶段)，就要想好如何驯化它。
　　要下什么指令和目标，才能让人工智能为人类所用而不会导致失控。人工智能的目标很难控制，它们会自动把确定的大目标分解成各级小目标，执行过程中，小目标可能会反超大目标，因小失大。
　　例，如果输入一个指令,生产尽可能多的钉子，那机器人会找到一切原料来制造钉子，当地球上金属用完后，它会瞄准人类身体内部，因为人体中很多元素可以做成钉子，最后的结局是全宇宙只有钉子，而世界毁灭。难道要给人工智能载入人类的伦理和价值观？让人工智能观察人类行为，然后自行揣摩人类价值观，这叫逆向增强学习。
　　不过问题又来了，通过大量事实和案例说服人工智能，这个行动必须尽快完成，因为它们的智力在不断提高，一旦机器人比人类更聪明，将很难再被说服了。
　　另一方面，人类的道德就一定完美吗？人工智能完全沿袭人类的道德体系就一定是好事吗？这些都需要好好思考。
　　【伦理道德思考】以往人类的进步靠试错，但随着技术的进步，试错成本越来越高，例如核技术、基因编辑技术，根本不允许犯错，一旦错误，杀伤力极其惊人。
　　人工智能技术的演进是不存在试错的，必须重新配比资源，把安全性提到第一位，当它进入人类社会时，确保它不会犯错。
　　假如无人驾驶汽车遇到著名电车问题：车子失控(车上装满了人)，前面是分岔路，左边路上一个行人，右边路上四个行人，是往哪边拐才能将伤害降到最低呢？这无法避免会涉及到对生命价值的判断，左边是总统，右边是老人和孩子。
　　人们无法接受让机器决定生死，同样也无法接受机器用人数原则来做判断，难道还要加上与时代相适应的道德观进行综合判断…
　　人工智能未来的身份基本上是三种：士兵、伴侣、奴隶。每种身份都会引发伦理思考。1.士兵。机器人三定律第一条，机器人不能伤害人类，但在战争中机器人只是不伤害自己方的人类，但敌方的人类则见一个杀一个。机器人不但要为杀伤敌人、还可能要为平民的伤亡承担责任，这将是个非常复杂而又沉重的问题。
　　2.伴侣。未来机器人可能被设计得与人类一模一样，从皮肤、体温到抚慰孤独，甚至可能做得比人类更好，那人类可以和机器人结婚吗？被机器人无比宠爱后的人类还能爱上正常人类吗？这也许是人类爱情与婚姻中的巨大隐患。
　　3.奴隶。将机器人当成廉价又免费的劳动力，为了达到更高水平，让机器人具备了人类的共情能力，那作为奴隶的机器人会产生痛苦和怀疑的感觉吗？我们可以一年到头奴役电脑和手机，但未必能接受一个和我们一模一样的人形机器人成为奴仆。
　　即使人类接受了机器奴隶，重新接受了奴隶制度，如果不满人形机器人，会不会考虑重新将部分人类当成奴隶？人工智能进化成更高级的生命体后，不甘心被人类奴役，反过来奴役人类呢？
　　就如同现在一样，我们不是手机的主人，手机才是人类的主人，给我充电、给我回信息、给我工作、给我刷朋友圈，给我点赞、给我消费更多，而这些改变是悄无声息的，自然而然的…
　　人工智能像一面镜子，在它不断演化的进程中，人类需要更加深刻地审视自己。
　　希望分享对你有帮助！(内容参阅自豆瓣和得到)