ChatGPT有多危险？别怪我没提醒你

　　文 | 王庆峰 张宇驰
　　#ChatGPT让苹果急了#
　　#马斯克称ChatGPT好得吓人#
　　#美国89%的大学生都是用ChatGPT做作业#
　　ChatGPT太火了。
　　在去年11月30日发布后的5天时间里，收获了100万用户；推出仅仅2个月，月活跃用户就成功过亿，成为历史上增长最快的消费者应用程序。
　　很多人从不以为意到尝鲜之后，变得大惊失色：ChatGPT完全打破了人们对于 AIGC＂答非所问＂的固有印象。它逻辑清晰，能文能武，让我们怀疑对方真的是一个＂人＂。
　　不少和ChatGPT＂聊过天＂的网友纷纷感叹，＂只有你想不到，没有ChatGPT办不成的＂。
　　AI代替人类的这一天，难道已经悄然来临了吗？
　　＂一句顶一万句＂
　　说到底，ChatGPT的老本行还是Chat（陪聊），唠得好不好，懂的多不多，是我们这些吃瓜群众最为关注的。
　　看到各路大神与ChatGPT的对话，不禁让人想起刘震云的小说《一句顶一万句》：＂两人不交心，说一万句不顶一句，不如不说。＂
　　找到一个能说心里话的人，在忙碌的现代社会中往往不那么容易。
　　但把ChatGPT培养成这样的＂人＂，似乎很有希望。
　　它支持上下文记忆互动，有着自己的话语风格，很会安慰人，甚至在你的问题触碰到道德伦理底线时，它寸步不让的姿态也显得憨憨的。
　　＂有了ChatGPT，陪伴我们多年的Siri似乎不香了，（微软）云希男神的合成音听起来也生硬了不少。＂网友对它的评价超乎寻常。
　　人与AI之间的距离，往往是由交流所定义的。
　　网友热衷于＂戏弄＂ChatGPT，正是因为它的语言不是简单的重复，而是兼具了能动性和反思性，甚至会随着千百万次对话而不断进步。
　　同时，它很可能成为人们生活中的好帮手。
　　在介绍页面中，ChatGPT自称＂帮助人类整合信息，解答困惑＂。它可以广泛整合全球数据库，给出的建议大多精准有力，避免了人们通过搜索软件筛选信息的烦恼。
　　这也就不难理解为何谷歌、微软、百度纷纷入局，毕竟，这关乎的可是各大搜索引擎的饭碗。
　　若是ChatGPT继续更新迭代，是否能发展出面向个人的＂语料库＂，成为我们的好助手，好管家，好朋友？不禁更加令人期待。
　　我的工作保得住吗？
　　ChatGPT不仅是聊天达人，还是数一数二的写作高手。
　　写小说、剧本、歌曲，写策划案、请假条、演讲稿，网友几乎尝试了个遍，但没有什么能难倒它。
　　还有更恐怖的，ChatGPT的文字工作可能要优于大众水平。
　　比如，有用户让它模仿杜甫的风格写一首诗，它张口就来。
　　末了还补一句：＂如果你想要深刻的社会认识，可以寻求真正的诗人或者作家的作品＂。
　　还有人丢给他一个＂卖鱼贩＂的关键词，让他创作一篇小说。
　　故事即刻生成：一个卖鱼贩被执法队欺负后决定当警察，最终侦破了全市最大的贪腐案件。
　　这种令人耳目一新的创作水平，难怪会让人们担忧，ChatGPT可能要取代你我的工作。
　　必须要承认，随着类似于ChatGPT的产品不断升级，一些简单的文字搜集、内容聚合等工作必然会被淘汰。
　　但也不必过分夸大ChatGPT的威胁。从目前的情况来看，它仍然是通过访问数据库、通过算法生成文本的方式进行写作。
　　这是完全迥异于人类的思考方式。
　　人类一向以＂思想的芦苇＂为骄傲。特别是在写作这件事情上，它往往体现了人类的洞察力、思考力、创造力等，在这些人类智慧的核心部分上面，人工智能暂时还无法匹敌。
　　因此，ChatGPT更多是一种生产力工具。
　　不过，也不能掉以轻心。它提醒我们必须保持清醒，不断提升自己的核心竞争力，努力保住自己的饭碗吧！
　　人工智能会反噬人类吗？
　　在《流浪地球2》里，有一个情节令人印象深刻。
　　人工智能机器人MOSS在不断的迭代进化过程中，生成了自我意识，成为真实存在的＂数字生命＂，甚至试图反过来操纵一部分人类命运的进程。
　　它冷静地讲出＂550w与小苔藓＂的笑话，并报以恐怖的哈哈笑；
　　它承认人类面临的所有危机都是由自己一手策划，对人类的最好救赎就是毁灭。
　　不要以为这是遥远的科幻故事，实际上，这一切正在快速发生在我们眼前。
　　就在上世纪70年代，计算机科学家唐纳德·克努斯（Donald Knuth）这样说，＂在那些人类和其他动物不需要思考就能完成的事情上，人工智能还差得很远＂。
　　但现在，人工智能已经发展到拥有一定的理解、处理、生成自然语言的能力。它正在试图理解人类，理解我们的行为。
　　这难免让人有超人工智能的担忧，可能在某个奇点，它们＂在几乎所有领域都比最聪明的人类大脑还聪明很多，包括科学创新、通识和社交技能＂。
　　它们会让我们分不清彼此，它们也有可能走向＂失控＂。
　　新技术往往会给现有社会伦理规范带来冲击，人工智能技术屡屡给人们带来担忧和焦虑，提醒我们必须加强人工智能治理能力，提供伦理指引，促进人工智能发展。
　　目前，国家科技伦理委员会人工智能分委会表示，正在研究起草人工智能伦理高风险清单，以更好地推动人工智能科研活动的伦理监管工作。
　　从ChatGPT出发，应该进一步唤起我们对伦理问题的重视。
　　【作者】 王庆峰；张宇驰
　　南方评论