人工智能终将奴役我们

　　来源 | 新金融洛书
　　作者 | 雷慢
　　几天前，欧盟的《人工智能法案 (AIA)》正在讨论限制通用开源 AI (GPAI) 的使用、共享和分发。说白了，就是不让AI技术开源，其他企业不能随意使用已有的AI技术。它将大大降低AI技术的迭代速度和传播广度。这一拟出台的法案条文引起了正反两派极大的争论。
　　欧洲的社会科学界一直是对现代文明反省最猛的，那种批评之猛烈就像英剧《黑镜》中的首相X猪。
　　2018年，欧盟最最早在数据法规中开始防止现代技术的过度侵犯人权。这一年，欧盟颁布了一道了不起的法规——《一般数据保护条例》（GDPR）》。这则法令最重要的原则在于：最大限度地保护个人隐私，严格限定企业、政府对个人信息数据的使用条件，影响涉及27个欧盟国家。
　　雷慢当时称这个数据法的原则为：牺牲技术创新的速度与效率，以保护个人权利。
　　去年开始，欧盟又开始限制人工智能发展。
　　2021年，欧盟发布《关于＂欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法＂的提案》。提案拟对人工智能的使用进行限制，如限制警方在公共场合使用人脸识别软件、禁止诸如自动驾驶汽车、招聘决策、银行贷款、大学生招生决策和考试评分等类别的人工智能系统。
　　一年后的2022年10月底，欧盟人工智能法案 (AIA) 拟限制通用开源 AI (GPAI) 的使用、共享和分发。
　　根据欧盟的＂人工智能法案＂草案，新规将给通用人工智能系统研发制定了法律责任。即便是开源开发者也必须遵守风险管理、数据治理、技术文档和透明度、以及准确性和网络安全标准等方面的指导方针。
　　这些拟立法的规定并不是纯粹的反对人工智能的一切，而是在某些方面的应用，比如人脸识别在强化统治驯化人民上的应用，在隐私窃取方面的强化。
　　这些都涉及了一个问题，技术对既有社会规范和道德伦理的侵犯。
　　广告业和信息业是技术奴役人的两个典型行业。
　　我们称互联网时代为喂养时代，这是由于人们信息获取的方式变了。500多年前机器印刷发明后引发的书本读物兴起，改变了课堂上口语交流的形式，书写、文字表达逐渐成为主流，今天，用电脑书写、表达、思考首先在职场人群和大学生群体中代替了书写，中国只有中小学生还保留了传统书写的方式。
　　可是，电脑学习的方式比书写、口语交流更注重个人学习、独立解决问题，它改变了众人思想碰撞、思辨的沟通方式。所以，技术创新的提供者，如今用算法逻辑，给每个人推荐自己爱看的，无论谣言、暴力、煽动言论。它带来的一种负面影响是，容易让每个人更狭隘、自负、排他。从口耳相传言传身教到书写学习再到互联网的信息泛滥，信息获取从主动学习变成了被动喂养。
　　美国学者尼克·波斯曼《技术垄断：文化向技术投降》里说，比如互联网时代，个人信息更容易被盗取，个人踪迹被搜寻，个体更容易被控制，这是我们在从互联网上获取便利而付出的代价。他说，技术垄断只追求效率、利益和经济进步，它没有道德感，却追求无极限的增长，无责任的权力和无代价的技术。
　　另一个典型的例子，是我们称广告刺激的消费欲望为物欲时代。
　　广告、信息和机器驱使，这些可以用康德哲学的一个词来概括：他律。
　　在康德哲学中，道德是非常复杂的，包含自律行为、他律行为，和意图、义务等等因子构成的辩证关系。
　　康德认为，假如一个人是经验性存在，那么他是不自由的，即他的每个行为都由＂他律＂驱动，每一次意志的运用，都受到某些目的或利益的制约。现代人的经验性行为，每次都受指令或算法程序的制约，欲望的刺激或机器的驱使。
　　广告驱使人消费，首先建立在工作伦理上，工业革命后，资本主义建立了一套工作伦理，即人要工作，不工作会被周遭人排斥、摒弃，然后是消费美学的驯化，人要消费，不消费或没有消费能力的人也会被排斥与嫌弃，这是工作与消费的＂闭环＂驯化，是资本主义秩序之一。这中间起巨大作用的就是＂技术＂。
　　我们习以为常的技术形态如互联网、电信、手机和电脑等，都是技术嵌套的工具，它们是维持当代社会驯化的工具。
　　海德格尔曾说过，不是我们在支配技术，而是技术在支配我们。到今天我们如果还认为技术是中性的，就有些执迷不悟了。
　　技术支配人的最鲜明的例子是，越到当代，＂自然＂越是不再是为人所用的资源，而是人成为了被技术榨取的资源，一系列社会规则下建立的运行体系，所诞生的资本制度，将人称为＂人力资源＂，人本身成为技术进步所需要榨取的资源。
　　还有一个重要的例子是，按马克思的理论，劳动是人的本质。实际上，是劳动的过程，诞生了人，区别了人和其他动物。但今天技术突飞猛进，人往往只得到结果，而没有参与劳动过程。今天许多孩子已经不再知道生产的过程。这一变化的结果，造成了＂感知的贫瘠＂。一旦这种贫瘠加重，人就会越来越像今天所说的＂元宇宙＂中的角色——只知其然，不知其所以然。
　　这一观点和歌德的＂他律＂相似。即认为人的所做的决定是欲望、规则和社会风俗等因素的产物，与之对应的就是＂自律＂，从自我义务、道德的角度出发的行为。
　　生产参与的丧失，享受结果的强化，也就是康德哲学中＂自律＂的退化，和＂他律＂的强化。
　　物质社会越是发达，这种＂他律＂越是强烈，基于技术铺天盖地的＂暗示＂构成了庞大的欲望链和枷锁链，这些都可以视为哲学家居伊·德波的＂景观社会＂的景观（符号）之种种。
　　最后问题是，机器会不会通过技术而支配人？机器执行命令，成为生产的参与者，而人只是结果的享受者，逐渐退化成＂猪＂一样的角色？
　　还记得动画片《机器人总动员》里的人类吗，它们整天躺在躺椅上，吃、喝享受，打游戏，肥胖而迟钝，生活在元宇宙里。而机器成为了一切生产、劳动行为的主角，尽管人还是机器的＂主宰＂，但这样的主宰还算是主角吗？
　　End.