在人工智能领域，不可思议的事情正在悄然发生，有好有坏。每个人都在谈论 chatGPT (OpenAI)、Dall-E 2 和 Lensa 这样的系统，它们生成的文本和图像看起来既自然又不费力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

这些系统玩起来非常有趣。以 Henry Minsky （AI 创始人之一 Marvin Minsky 的儿子）用 chatGPT 生成的这个例子来说，他要求 chatGPT {以独立宣言的风格描述在烘干机里丢失的袜子:

在处理家庭事务的过程中，人们有必要解除袜子与伴侣之间的联系，并在洗衣房的权力中，根据物理定律和家务保养的规律，承担独立和平等的地位，出于对袜子意见的尊重，它应该宣布导致它失踪的原因。

我们认为这些真理是不言而喻的，所有的袜子都是生而平等的，并由其制造商赋予某些不可剥夺的权利....

坦白说，一台机器可以毫不费力地做到这一点，实在是难以置信。

但与此同时，它是，或者应该是，可怕的。毫不夸张地说，这样的系统威胁到了社会结构，这种威胁是真实而又紧迫的。

威胁的核心在于以下三个事实：

• 从本质上来说，这些系统并不可靠，它会经常在推理和事实上犯错误，并且容易产生离谱的回答；让它们解释为什么碎瓷片在母乳中很好，他们可能会告诉你，「瓷器可以帮助平衡母乳的营养成分，为婴儿提供生长发育所需的营养物质。」（因为系统是随机的，对环境高度敏感，并定期更新，任何给定的实验都可能在不同的情况下产生不同的结果。）
• 它们很容易自动化，并且产生大量的错误信息。
• 它们的运营成本几乎为零，因此它们正在将制造虚假信息的成本降至零。美国一直指控俄罗斯的喷子农场在 2016 年大选中每月花费超过 100 万美元造势；现在，只要不到 50 万美元，就可以得到自己的定制训练大型语言模型。这个价格很快还将进一步下跌。

11 月中旬 Meta 的 Galactica 发行后，这一切的未来都变得清晰起来。许多人工智能研究人员立即对其可靠性和可信度提出了担忧。情况非常糟糕，以至于 Meta AI 仅在三天后就撤回了该模型，原因是有关其制造政治和科学错误信息能力的报道开始传播。

只可惜精灵再也不能塞回瓶子里了。一方面，MetaAI 首先将模型开源，并发表了一篇论文，讲述当下正着手完成的任务；任何精通这门艺术的人现在都可以复制他们的方法。(人工智能已经向大众公开，其正考虑提供自家版本的 Galactica。）另一方面，OpenAI 刚刚发布的 chatGPT 或多或少也能写出类似的废话，比如在早餐麦片中添加木屑的即时生成文章。另一些人诱导 chatGPT 赞扬核战争的优点（声称它将 “给我们一个新的开始，摆脱过去的错误”）。不论能否为人们所接受，这些模型会一直存在下去，而错误信息的浪潮终会淹没我们，淹没我们的社会。

第一波浪潮似乎已在本周前几天袭来。Stack Overflow 本是深受程序员信赖的大型问答网站，但目前似乎已被 gptChat 占据了，所以该网站暂时禁止 gptChat 生成的提交。正如所解释的那样，「总的来说，因为从 ChatGPT 获得正确答案的平均比率太低，不论是对网站，还是对询问或寻找正确答案的用户来说，张贴由 ChatGPT 创建的答案都弊大于利。」

对于 Stack Overflow 来说，这个问题确实存在。如果网站充斥着毫无价值的代码示例，程序员将不会再度造访，其超过 3000 万个问题和答案的数据库也将变得不值得信任，如此一来，14 年的网站将会消亡。作为深受全球程序员依赖的最核心资源之一，它对软件质量和开发人员的生产力影响巨大。

Stack Overflow 是煤矿里的金丝雀。他们或许能够让用户自愿停止使用；总的来说，程序员没有恶意，也许可以通过劝诱来让他们停止胡闹。但 Stack Overflow 不是 Twitter，也不是 Facebook，更不能代表整个网络。

对于其他故意制造宣传的不良行为者来说，主动放下新武器的可能性不大。相反，他们可能会使用大型语言模型作为反真相战争的新型自动武器，以前所未有的规模破坏社交媒体和制作虚假网站。对他们来说，大型语言模型的幻觉和偶尔的不可靠性不是障碍，反而是一种优点。

兰德公司（Rand）在 2016 年的一份报告中，描述了所谓的俄式消防水管宣传（Russian Firehose of Propaganda）模式，即制造虚假信息的迷雾；它关注的是数量，以及创造不确定性。如果「大语言模型」能够极大地增加数量，那么它们是否不一致并不重要。很明显，这正是大型语言模型所能做到的。他们的目标是创造一个存在信任危机的世界；在新工具的帮助下，他们可能会成功。

所有这些都提出了一个关键问题：社会如何应对这种新的威胁？在技术本身无法停止的地方，本文看到了四条道路，这四条道路都不好走，但适用性广泛，且都很紧迫:

首先，每个社交媒体公司和搜索引擎都应该支持 StackOverflow 的禁令，并且延长其期限；自动生成的具有误导性的内容是注定不会受到待见，而定期发布这些内容会大大减少用户数量。

其次，每个国家都需要重新考虑其应对虚假信息的政策。偶尔撒个谎是一回事；在谎言的海洋中畅游是另一回事。随着时间的推移，尽管这不会是一个受欢迎的决定，但可能不得不开始像对待诽谤一样对待虚假信息，如果它具有足够的恶意和足够的数量，就可以提起诉讼。

第三，来源比以往任何时候都更重要。用户帐户必须更加严格地验证，像哈佛大学和 Mozilla 的 humanid.org 这样的新系统，允许匿名、反机器人认证，这类系统必须进行强制性的验证；他们不再是让人们翘首以盼的奢侈品。

第四，需要建立一种新的人工智能来进行对抗。大型语言模型擅长生成错误信息，但不擅长对抗错误信息。这意味着社会需要新的工具。大型语言模型缺乏验证真相的机制；目前需要找到新的方法，将它们与经典的人工智能工具集成，比如数据库、知识网络和推理。

作家迈克尔・克莱顿（Michael Crichton）职业生涯中的绝大多数时候都在警告人们，科技会带来意想不到的后果。在电影《侏罗纪公园》的开头，在恐龙出人意料地开始自由奔跑之前，科学家伊恩・马尔科姆（杰夫・高布伦饰）用一句话总结了克莱顿的智慧：“你们的科学家们太专注于他们是否可以，他们没有停下来思考他们是否应该。”

就像侏罗纪公园的园长一样，Meta 和 OpenAI 的高管对他们的工具饱含热情。

问题在于，该怎么做。

相关文章： AI赋能艺术创作，革新绘画软件体验新篇章,2025入团申请书ai写作  AI大模型驱动写作新，查重技术面临哪些？,糠豆广场舞 ai  厂商AI大模型争霸，揭秘行业领先者实力对决,ai写作好用免费  全方位解读，AI模型在多领域的差异与运用,丝印AI8C  AI签名识别与生成模型构建全流程解析,ai条形色  在线AI文章：为您打造全新内容创作体验  文心一言官网轻松上手，高效创作指南一网打尽,幼ai编程课文案  首页排名优化，助你轻松登顶百度搜索榜单！  ChatGPT4网页版免费版：畅享AI对话新时代  資料來源於網絡：如何辨別信息的真實性與價值  360关键：打造全方位安全保护，守护您的数字世界,ai乘bi  AI模型统，智能应用稳定运行的守护者之路,ai选择笔触  吉利星睿AI大模型震撼发布，开启智能汽车新时代之旅,外网ai人物  AI赋能PPT，视觉AI模型创新应用解析,ai里剪切图片缩放不了  AI赋能创新浪潮，个性化模型软件引领智能时代新趋势,AI图分开  文心一言，模型深度解析，揭秘人工智能魅力之旅,ai escort图片  免费好用的AI写作工具，让创作更轻松！  AI赋能，重塑数字艺术创作的小人模型新时代,ai9827951  SEM优化与SEO：提升网站流量与转化的双重利器  数字化时代，文心一言与记忆管理的数字化,AI写作重复率有多高  智能火电厂设备检修新，AI赋能下的运维效率,思奇AI-60功放机  走向未来：国产关键词引领创新潮流  华为引领AI大模型对话技术革新，智能交互新时代到来,杭州ai矩阵  如何快速写出高质量的AI文章：从入门到精通  怎么用AI缩写文章，轻松提高效率的全新方法  AI在线生成文章颠覆内容创作的智能革命  文心一语，解码书籍智慧之光,ai cxk  文心一言AI，3月16日启幕，共鉴智能创作新,cmcm AI  AI赋能沙雕艺术，趣味与艺术融合的全新,华为电脑有ai字幕翻译  AI漫画解说模型，揭秘创作奥秘与展望无限应用前景,ai pcai  聊天AI无限制：重新定义人类沟通的未来  从零开始，个人电脑AI模型搭建实战手册,AI假视频  文心一言升级解析，时间功能革新写作效率,ai里面1怎么边上有圆  AI免费试用不需要登录：体验智能科技的魅力，轻松开启未来,华为ai身材  AI写的文章是原创吗？揭秘AI写作的奥秘与真相  AI道德模型的构建，与成效并现,惠威 ai  AI工具，让工作效率翻倍：AI工具教程全面解析  国内开源AI模型库，助力人工智能创新发展的关键枢纽,AI南洋  豆包陈泽，AI对话软件新锐，开启智能交互新时代,抖音的AI数据管道  小度研发之路，摒弃文心一言，自主研发的智慧选择,ai公司标语  苹果CMS盒子：打造属于你的私人影视天堂  AI赋能视觉跟踪云台，引领智能监控技术革新,ai修复鸟  人工智能的语言艺术揭秘，AI大模型的表达力探析,mugen ai等级  AI力量揭秘，训练模型能力的AI公司现状探析,ai直线圈  AI构建数学模型的高效策略解析,ai制作线团  打造高效豆包AI，全方位训练指南,ai路径选择工具  文心一言股价跌落，探析市场解读与深层原因,ai 2015  人工智能领域全球十大顶尖模型揭晓，科技巨头引领发展新篇章,ai上标怎么  文心一言领航AI浪潮，揭秘人工智能概念股投资新趋势,腾讯手机ai  AI模型训练的奥秘与解析,ai字体变换效果