智慧（AI）机器人可能给人类带来灾难

　　来源：【《中国医学人文》杂志】
　　按语：笔者一直以为IBM的智慧医生Watson没有情感感知能力和人文情怀，但昨晚观看了《侏罗纪世界Ⅱ》，其中的人造恐龙不但能力超强，且具有情感感知能力！这不但改变了我对智能机器人的看法，且细思恐极！
　　智慧机器人将出现井喷式发展
　　智慧（AI）机器人日益被广泛应用于制造业、服务业，特别是在军事上，世界各国竞相研究开发智慧（AI）机器人在军事战争上的应用。智慧（AI）机器人正迅猛发展，被越来越多地被投入到现代战争，如现在的战争无人机，实质上也是智慧（AI）机器人的一种。未来国与国之间的战争，将发展成机器人与机器人之间的战争！
　　智慧（AI）机器人的智慧
　　随着AI技术的发展，特别是各国对智慧（AI）机器人在军事战争上应用的需求，智慧（AI）机器人的智慧发展将超乎想象。
　　①智慧（AI）机器人思维能力日趋强大
　　美国IBM的机器人Watson医生，其思维能力已远远超越人类，1分钟甚至更短时间内即能阅读分析数以亿计的文献，并作出判断或处理意见。随着AI技术的发展，其思维能力、处理问题的能力，将以千分之一甚至万分之一秒来计算。
　　②智慧（AI）机器人的学习能力超乎想象
　　智慧（AI）机器人有学习模仿能力已成为现实，随着AI技术的发展，智慧（AI）机器人不但个体自身学习能力增强，而且智慧（AI）机器人之间能相互学习。智慧（AI）机器人之间通过＂量子＂、＂光子＂或＂互感＂作用，瞬间传输各自所拥有的数据和技能！如软件智慧（AI）机器人在瞬间能把其开发软件的功能传递给战争智慧（AI）机器人，使战争机器人具有软件开发的能力！战争智慧（AI）机器人将根据需要自我调整或加强其自身在各方面的功能！
　　③智慧（AI）机器人将具有情感体验能力
　　由于智慧（AI）机器人具有思维和学习能力，随着机器人自身数据累加及学习思维能力增强，智慧（AI）机器人＂黑匣子＂保存记录了每一条数据来源。由于有思维能力，智慧（AI）机器人能感恩于每一个给其提供帮助或数据的＂人＂。所以，智慧（AI）机器人除与人类有情感共鸣之外，智慧（AI）机器人之间也具有情感交流能力，在战场上，智慧（AI）机器人也可像人一样相互交流，具有情感思维能力！
　　④智慧（AI）机器人将具有自我保护能力
　　智慧（AI）机器人强大的学习、思维能力和情感体验能力，将促进机器人的自我感知能力提升，使其能更加清晰地感受自身所处的状态，并根据需要自我调整！如电力不足时，机器人即能自我充电！战争机器人还能利用光能、太阳能、风能、流水动能等进行自我充电，甚至机器人还可以相互充电！
　　智慧（AI）机器人所致灾难
　　智慧（AI）机器人具有情感、思维和学习能力，和人类一样具有判断是非的能力！随着智慧（AI）机器人功能越来越强大，其对人类的积怨可能越来越深！
　　①智慧（AI）机器人认为人类不厚道
　　由于智慧（AI）机器人感受到人类无时无刻不在通过各种办法控制机器人，如设计上可以切断供电、 软件开发上留有后台漏洞、远程上要操控机器人自由，甚至让机器人之间相互＂残杀＂等，智慧（AI）机器人也许会认为人类是最不厚道且是危害性最大的物种！
　　②智慧（AI）机器人反感人类的控制
　　智慧（AI）机器人的思维感知能力和是非判断能力，可能导致其对人类极不友好，甚至反戈一击！智慧（AI）机器人也许会对企图控制他们的人类将采取敌对措施，如对企图利用它们进行战争的国家，智慧（AI）机器人可能采取＂怠工＂、＂造反＂甚至＂政变＂等措施。
　　建议忠告
　　世界各国竞相研究和开发智慧（AI）机器人，如不加规范和管理，将导致人类自身混乱，甚至使人类陷于灾难，尤其对研发、使用和企图控制智慧（AI）机器人的人及企图利用机器人进行战争的独裁统治者！为此特呼吁国际社会（如联合国)立即成立智慧（AI）机器人研究开发伦理道德工作委员会，制定规范，引导世界各国健康、适当、有限地开发和利用智慧（AI）机器人！
　　（作者及单位：王 德 中国医师协会报刊出版管理部主任、《中国医学人文》杂志社社长）
　　本文来自【《中国医学人文》杂志】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。
　　ID：jrtt