和全球爆火的AI聊了聊，我可能离下岗不远了？

　　动动手指，获取新知
　　本文首发于公众号：小多少年时，由小多少年时原创
　　有没有发现，这届AI的新闻真是一个比一个惊人。
　　比如几个月前，谷歌工程师称一款名为LaMDA的聊天机器人已经具备独立人格，并晒出了他们之间的对话 （SAN值狂掉！谷歌研究员称AI已具备人格，这是他与AI的聊天全记录（中译文最完整版）） 人们震惊于LaMDA不亚于人类的语言表达能力，以及对哲学、文学、宗教、人类感受与情绪的独到＂看法＂；
　　然而，就在人们还没从震惊中缓过神来时，OpenAI发布的聊天机器人ChatGPT在全球爆火，仅仅5天左右就有超过100万人参与测评，连Elon Mask都在自己的社交平台 （你懂是哪个社交平台） 上感慨：
　　＂ChatGPT好到吓人！我们离强大到危险的人工智能不远了。＂
　　离强大到危险还有多远咱不知道，但是看了一圈感觉咱打工人离下岗是不远了。
　　干啥啥像样
　　堪称AI届劳模
　　在过去相当长的一段时间里，AI聊天机器人的表现都不尽如人意，比如你手机上的Siri、小冰，通常你需要问它们很多问题，并且在众多问题中不断筛选掉那些生硬的、所答非所问的篇幅，才能使剩下的对话看起来有点意思。
　　一些人工智能被反复训练一些比较明确的功能，比如当做赛事监督，或者和人下棋，一旦超出它们的＂舒适圈＂，AI就会出现失控的现象；但是ChatGPT不同，它看起来更加聪明、灵活，更能适应多种语言的应用以及不同使用场景的切换。
　　作为一款聊天机器人，ChatGPT不仅能回答各种问题，还可以写小说。比如，以＂克隆人＂为主题，要求它写一篇800字以内的短篇小说，不到5分钟它就写完了。你能看到小说中对于＂孤独＂、＂生命价值＂等问题的探讨：
　　以《孤勇者》为题目创作歌词：
　　写网页代码，再也不用担心熬夜到秃头了：
　　甚至能帮孩子解答初中的物理题，连解题步骤也写下来了，堪比一个小型的家庭教师：
　　而当你去问它一些涉及道德和法律的问题时，它会劝你不要有这么危险的想法：
　　连加入虚拟的犯罪组织也不行：
　　比起从前的Siri，以及谷歌、百度这些常常＂所问非所答＂的聊天机器人和搜索引擎，ChatGPT 似乎更加聪明，更有＂道德＂。
　　而且，它不像一般的AI一样，把用户的每一次交流当做全新的指令；ChatGPT能够记得几分钟前用户说过的话、训练过的指令 （除非你和它说：忘记我刚刚说过的话） 。这不就是老板心目中的全能打工人、模范员工吗？那我是不是就离下岗不远了？
　　但是，别被它＂一本正经＂的样子给欺骗了。相比起前面那些＂不怎么聪明＂的程序， 看似可靠的ChatGPT实际上就是个大忽悠 ，因为它给出的答案经常出现一些＂常识性＂的错误，但是说出错误答案的时候语气又是那么坚定、那样的信誓旦旦。
　　比如你问它中美洲最大的国家是哪里，它的回答是巴拿马，但是实际上中美洲最大的国家是尼加拉瓜：
　　王维和张飞都是沈从文笔下的人物，这也只有赛博脑的AI才敢想吧：
　　它不太擅长数学，却又能把解题步骤写得天花乱坠，好像多写一个字就能多点步骤分一样：
　　以至于人们感叹到： ChatGPT是一个功能强大的聊天机器人，它可以出色地回答你的任何问题，但它说的话你最好一个字也别相信。
　　AI为啥会犯错？
　　想要弄清楚这个问题，我们得先了解 ChatGPT是如何工作的。
　　五年前，谷歌和 OpenAI 等实验室的研究人员开始设计神经网络，分析大量的数字文本，包括书籍、维基百科文章、新闻故事和在线聊天日志。科学家称其为 ＂大型语言模型＂ 。这些系统识别了人们连接单词、数字和符号的数十亿种不同模式，学会了自己生成文本，也就形成了我们看到的ChatGPT。
　　想象一下，很有可能你留在某些社交平台上的一些＂痕迹＂，成为了这些AI的学习对象。
　　＂今天被一个地狱笑话戳中笑点，功德锐减10086，一会去敲电子木鱼……＂
　　＂今天又看了一个减肥视频，看了就等于瘦了……＂
　　＂我知道你很急，但是你先别急……＂
　　……
　　好了，想想人类在网络上留下的文字如此＂不靠谱＂，似乎学习人类语言的AI偶尔闹些笑话也变得容易接受起来了。
　　基于网络上海量真实的文本进行训练，ChatGPT能够尽量模仿人类的方式去说话，但是它可能并没有真的＂走心＂地理解这些句子究竟是什么含义，因为它不具备人类一样的逻辑思维方式。
　　比如，当我们和一个人说：嗨，你知道《红楼梦》这部小说表达了哪些主旨吗？
　　对方可能会先去充分理解我要问的究竟是什么，动用他的个人积累、真实阅读《红楼梦》的一些思考感受、以及综合网络上看到过的信息，来对这个问题进行回答，这个回答是有创造性的，而非对信息的选择与组合。
　　而ChatGPT这样的聊天机器人则是用海量的数据+经过训练的语言表达形成一个深度的模型，在模型参数的作用下生成的数据。 本质上来说，它是概率最大化而不断生成的数据，而非人类头脑中逻辑推理的结果——这也就是它之所以频频出错的原因。
　　对此，OpenAI称他们还在不断完善这项技术，比如这次的100万人测评就是一个帮助ChatGPT去强化学习的过程。通过在测评页面设置＂这些回答是否令你信服？＂＂回答是否准确＂等用户评级系统，更加精准地定义ChatGPT会说什么、不会说什么。
　　对于早前已经出现的一些＂错误回答＂，OpenAI公司警告人们：ChatGPT偶尔会产生一些不正确的信息、产生有害的指导或是有偏见的信息，它还只是一个在研发中的项目。
　　真正危险的是……
　　尽管ChatGPT闹了不少＂笑话＂，但是它也让我们看到AI革命对人类生活、学习和知识传播的重大改变。这些改变，我们已经可以看到细节了：
　　我们用ChatGPT去替代Google、百度这样的搜索引擎；
　　用AI去替代初级的家庭教师，帮助孩子学习和完成作业；
　　进行基础的写作，比如新闻稿、活动通稿的撰写；
　　根据关键词创作AI绘画；
　　……
　　这也许意味着，随着AI技术更加完善，将有大量现有的人类工作被人工智能替代，失业即将到来。
　　但更可怕的是，当你去搜集资料、准备写一篇论文的时候，面对海量的数字信息， 你如何判断它们是来自真实的、人类的研究，还是AI基于概率生成的一个＂看似一本正经、实则满篇错误＂的回答？
　　今天，仅仅还在测试阶段的ChatGPT＂偶尔＂出现的错误回答，被人们大量传播到网络上，当做＂段子＂和＂乐子＂来看待；等假以时日，技术真的成熟起来， 我们将如何分辨网络上的信息真伪，如何对知识追本溯源呢？
　　专家警告称，这种基于网络真实数字文本形成的AI聊天机器人的技术，如今已经在市场上广泛复制和应用。无论是谷歌还是OpenAI都无法控制这项技术的发展走向，他们也无法阻止人们利用这些系统传播错误的信息。也许我们需要建立起一项对应的监管政策，来避免对AI技术的滥用。
　　互动留言：您对未来AI的发展怎么看？AI是否会威胁到人类？
　　推荐阅读
　　智能不是关于什么是可能的，而是关于什么是有用的和有价值的
　　参考文章：
　　https://www.nytimes.com/2022/12/10/technology/ai-chat-bot-chatgpt.html?searchResultPosition=4
　　https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html?searchResultPosition=1
　　如果喜欢我们的文章，欢迎点赞、分享、评论！