人们常常忘记一件事————他们对未来无法预测。因而总是想象某种特定的归宿，或者是永久和平的怅惘，或者是科技不断进步的螺旋，或者是世界周期崩塌的必然，我们面对同一个世界，但对此多有分歧。毫无疑问，对于AI来说也是如此，因而整理一下。
AI的今天
目前对于AI的态度，大多分为以下几个方向
- AI正在取代世界上绝大多数的工作，在可见的未来，人类将不必进行工作
- AI并没有带来其他工业级别的提升，优势区间集中在：文本撰写、代码生成、影像生成。
- AI正在产生人类历史以来最大的泡沫，其盈利水平远低于其表面的价值，标志性事件可能是OPEN-AI的资金链断裂
- AI正在将「塔」不断叠高，正在产生大量的无人理解但能用的代码山，到山崩塌之时，我们需要程序员
- AI正在埋葬初级工程师，大公司正在减少对初级软件工程师的雇佣，或许未来会出现人才断层
- AI生成影响会产生大量的信任危机，AI生成的内容会冲击真人内容的成本收益，例如YOUTUBE平台
- AI正在降低艺术创作的门槛，随着越发逼真，每个人都能创作自己的小说/图像/电影/IP
- AI正在污染互联网空间，产生大量无标注的「AI-slop」，一些人声称「互联网死亡论」
- AI正在重构教育模式，学校的价值愈发下降，互联网使得人们自由得获取信息，而AI使得人们自由的理解信息。
- AI会解决老龄化与少子化的严重问题，以「机器人」的途径
一、AI与工程上的麻烦
1 | ————「实用主义」的悲剧在于其不够「实用」 |
未来的初级工程师
对于我们来说，这个问题尤其棘手，因为其涉及到个人工作，因而也特别值得关注，我们的饭碗怎么办，如果没有相关的工作，那又为什么学这些东西？
一个鲜明的例子在于程序的学习，随着AI的发展，程序的学习愈发困难，一个简单的原因则是：「缺乏动力」
在过去，如果要实现某个目标。那么，学习代码并明确如何实现是必不可少的一个步骤，而如今，这个情况在发生变化，你不用学习代码就能得到程序实现的喜悦，一个简陋的游戏变得没什么价值，因为只要你想，AI可以直接生成一万个，仅仅是一句话的事情。
在这种情况下，学习依靠「信念」：即我未来会成为高级工程师，到那种时候，就必须需要利用我现在的代码知识了，而初级工程师到高级工程师的路径也被切断，或者更温和来说，得到一定的阻碍。
根据斯坦福大学数字经济实验室的报告，自 2022 年底至 2025 年年中，「初级软件工程师」（Entry-level SWE）的就业率下降了近 20%，因而这已经是正在发生的事实情况，当然，AI也创造了不少的岗位，但这似乎并不属于初级工程师。
如果这种情况加深，可能会出现人才断层的现象，类似于核工业的情况，不过目前情况实际上可控。
自动化的悖论
在刘慈欣科幻小说《赡养上帝》中，「上帝」是一群科技水平相当高的存在，上帝文明在极度发达的阶段，实现了全盘高度自动化与智能化。所有技术细节、社会运转以及生活需求，全部由一台极其庞大、近乎万能的超级计算机「大知」全权托管。
上帝文明的个体不再需要学习科学、工程或数学，甚至不需要理解任何机器的工作原理。日常生活中的一切要求，只需向系统表达指令即可实现。
数十亿年过去后，上帝文明的每一个成员都成为了单纯的技术使用者与享用者。当最后一代懂得机器底层运行逻辑与维修技术的工程师相继离世后，整个上帝文明陷入了的断层危机。(描述由AI辅助生成，作者对内容负责)
因而，我们说，如果技术的终极目标只是为了取消一切人的劳动与思考，那么技术本身就会成为危险的存在，至于会不会因此影响创造力，这取决于我们的「教育」与全社会的引导。
或许未来，人们的工作能由兴趣所决定，因为是兴趣，所以能做到极致并超越AI；因为是兴趣，所以能不在乎输赢义无反顾向前；因为是兴趣，所以有天然基于好奇而形成的过程式奖励。
从数学目前的发展，我们就能看到未来的科研变化会是什么样子。当然，不是每一个问题都是以百万美元计算来处理研究的，但这也说明了其有实现的可能与超越人类智慧的高度，当然，人类创造出来AI本身，也是人类智慧的某种体现。
「塔」在不断叠高
来自：Armin Ronacher ’The Tower Keeps Rising’
我感觉到一些通过“氛围编程”生成的软件变化有些随机且出人意料。这让我想到了勃鲁盖尔的《巴别塔》，这幅画描绘了巴别塔已然相当混乱的景象。这个故事通常被讲述为关于骄傲与野心，以及最终为何人们不再说同一种语言的故事。但这也是一个关于团结——那种使技术进步得以实现的团结——的故事。
故事从一项技术升级开始：
他们彼此商量说：“来吧，我们要做砖，把砖烧透。”于是他们就用砖代替石头，用石漆代替灰泥。
他们用它来推进一个文明工程：
我们要建造一座城和一座塔，塔顶通天。
但当上帝审视局势时，让他忧虑的并非砖块：
（他说：）“这百姓成为一样的人民，都说一样的言语，……如今既做起这事来，以后他们所要做的事就没有不成就的了。”
他们力量的源泉在于协作。他们共享同一种语言，通过这种共同的语言，他们可以将各自的工作结合起来，建成任何个体都无法独自完成的东西。上帝没有拿走他们的砖块，也没有夺走他们制砖的知识。他剥夺的是他们彼此理解的能力，于是工程便停止了。
有一种颇具吸引力的观点认为，人工智能辅助编程意味着更好的工具，能让我们构建更雄心勃勃的软件。在个体层面上这当然没错，毫无疑问，拥有一个 AI 智能体的程序员修改代码库的能力将大幅提升。但大型软件项目的瓶颈从来都不是个体编写代码的速度。它们受限于人们协调彼此对所要修改系统之理解的能力。
一个软件项目的共同语言并非英语或 Python，而是对其概念含义、边界所在、哪些不变性至关重要、谁负责什么，以及系统为何呈现当前形态的共识。这种语言很少被完整地记录在一处。它部分存在于文档和代码中，但也存在于代码审查、对话、争论，以及向他人解释某项变更的亲身体验之中。
在 AI 智能体出现之前，这种共享理解部分是通过“摩擦”来维持的。如果我想修改你的存储层，我通常需要阅读你的代码，向你提问，或许还要与另一个依赖该服务的团队协调。这个过程很慢，其中大部分缓慢是浪费，但并非全部。其中一部分正是你的理解变为我的理解的过程，也是我们双方借此发现是否仍然对系统运作方式持有共识的过程。这种摩擦使人们保持同步。
AI 智能体消除了这种摩擦的大部分。我可以让智能体添加 OAuth，你可以让智能体添加缓存，其他人可以让智能体从头开始重建数据库，并把用户界面改成粉色。每个变更单独看来都可能是合理的。代码可以编译通过，测试可以跑通，解释说明也可以按需生成。我们之中任何一个人都不一定要与他人沟通，甚至不必去获取那个——在没有智能体时、变更本会迫使我们学习的——共享模型中的那部分知识。
正如我多次说过的：智能体不会感到痛苦，只有人类会。智能体现在让我们能够在系统的某些部分进行操作，而在以前，这些部分需要我们依赖其他人，或者是在那些相关人员会强烈反对的代码库中操作。
当我观察一些通过“氛围编程”扩展的项目时，代码库变成了巴别塔，并非因为无人能够沟通，而是因为无人需要沟通。每个开发者都有一个不知疲倦的翻译，可以解释塔的某个角落，并按其要求进行任何局部修改。变更不断被提交，即使能让人类共同推理系统架构的那个语言已然消失。
但这并非那个圣经故事。在巴别塔，共同语言的缺失阻止了建造；而在人工智能辅助的工程中，在共享理解已经崩溃之后，建造仍能继续。这种即时失败的缺失，正是其耐人寻味且略令人困惑之处。塔并没有倒塌，因此我们并未注意到失去了什么。它只是不断加高。
二、AI使用的伦理与限制
1 | 勃勃生机万物竞发的背后是野蛮、竞争、无所不用其极 |
标注
为什么要对AI生成内容进行标注？一些人认为这种操作是无意义的，尤其是对于一些AI创作者，这更是对他们的某种限制，因而当然对其不满意。不过，这种不满意正是限制的原因。梳理核心的要点，有以下几条。
- 比起AI文章，人们一般来说更喜欢真人文章，因而读者有权知道文章是否由AI辅助生成
- 批量生产的「AI-slop」正在影响人们的正常观感，因而需要加以控制，这些人工智能泔水正在形成这样一个等式「AI=垃圾」。
- 未经标注的AI数据有反过来影响AI训练的可能性，尽管商业上为了实现效果会选择质量更高的内容
- 存在大量利用AI内容实施诈骗的灰色地带，不进行标注存在安全隐患
不过问题在于：你怎么保证人家会配合你标注？另外，全AI生成与部分AI生成的待遇应该相同吗？更何况AI生成本身并不是低质量的代名词。
版权
有关于AI生成内容的版权问题一直存在争议，实际上这是一个相当严肃的法律问题，问题在于：
- 人工生成的东西是否算作品？
- 如果算是作品，那么版权归谁？
- 生成特定人物（例如明星）、形象（例如米老鼠）、风格（例如某个画家/导演），在何种程度构成侵权？
安全
安全问题在人工智能领域错综复杂，但总的来说可以分为几个层面：
- 数据层
AI的数据是由人进行标注和判断的，对数据的选择或许会存在偏见，因而导致数据集本身存在偏见而输出会因数据产生另外的倾向。所说的数据投毒有一部分则是基于这样的考虑 - 用户层
用户对AI的使用可能会成为主动违纪违法犯罪的手段，例如：通过AI获取相关危险信息（精细作案手段）；也可能通过AI来进行伪造欺诈行为（例如考试作弊、网络上的电子捞女、面部与声音识别欺诈、为造谣提供「证据」），或者更轻一些的通过AI来进行大范围无标注地输出文字/影像，欺骗读者，或者大范围进行炒作/输出垃圾。 - 公司层
对于提供服务的公司，也会面临相应的安全风险，例如：AI引导鼓励用户实施自杀行为。再例如：使用AI技术因幻觉问题可能会造成严重的安全事故，这时候提供AI识别服务的公司或许会惹上麻烦。人工智能辅助驾驶的例子会展现相当的麻烦。
三、AI使用的方式
1 | 最开始，我们惊呼天神下凡，因为我们未曾给他过高的期待 |
人类的预期
我记得我最开始利用其进行竞赛，当时是一个数学建模的校赛，在最开始的时候，我惊叹于其能力，能把这些需求做到位。随着后来的要求越来越多，技术的深入愈发深入，则需要我更多的进行反馈，例如：代码图片中的中文是乱码啊、报错无法运行啊、图片输出的格式太丑了看不清等等。当然，我根本不知道代码该怎么写，所以无论如何，这使得我门槛降低了许多，但同时也少了一个学习代码结构的机会，简单的原因则是：我无需学习就能得到结果。
随着项目持续进行，斥责AI来实现代码也依旧花了很长时间，甚至在某些事情上不如去从互联网上搜寻现成的代码。
这个问题放到写作上更加鲜明，我过去尝试使用AI来进行辅助写作，然而，我需要花费甚至比写作本身更多的时间去消除文章中的「AI味」，因为我实在不喜欢这个味道，总给我一种平庸的感觉。渐渐地，我发现不适用AI辅助的效率反倒更高，因为我只用对内容进行修改，而无需去思考那些潜在的模糊感觉。
我其实已经为忘记了最初使用的感觉了，也没有什么震惊与感受，似乎对我来说，在当时真的只是一个工具，远远没有现在今天的热度与社会关注度。不过，我仍然要说，人们对一个工具的评价往往取决于他的预期，我最开始使用AGENT工具来对本地的一些问题进行操作和修复，我的确是感受到强大和震惊，就不知道过几年用其进行开发是是否还会这么想。
作为用户
我也是一个AI产品的深度使用用户了，在某方面来说，其替代了搜索引擎的作用，当然，也不是完全替代，因为其思考也需要几秒钟，有的时候就是无法接受那几秒钟，于是可能还是选择直接谷歌一下。AI现如今的进步是实实在在的，仅仅是去年，其幻觉还非常严重，但到今天，除了输出内容更加中肯之外，幻觉也越来越少。当然，换言之，幻觉也也隐藏的越来越深，引发的问题或许也会更严重，似乎他说的就是真理，大部分人也懒得去核查信源。
对于我个人来说，我进行写作工作需要搜集大量的资料，运用大量的知识，当然，最简单的方式当然是直接搜索，甚至于直接截图AI交互界面给出的markdown格式的输出或者表格。我们在评论的区的论战中经常发现这种现象：拿「豆包」的输出作为论据。一个负责人的文字输出者不会这样做，如果使用AI辅助内容，也应对其进行标注，很多关于想象力的东西的确需要AI进行启发和辅助，而很多情况下也的确是AI输出的内容更加易懂，那种层层诱导、步步递进，的确，大部分人类作者写作的内容会更枯燥，优秀引导词写出来的内容超越人类是一件相当轻松的事情。
不过，人类从来不需要在任何方面都超越AI，正如举重不用超过叉车，跑步不用跑过汽车，和大模型比较文本生成能力有何意义？
或许，作为人类，在这里是作为用户，应当成为一个更好的使用者，当然，我这里不是陈词滥调。简答重复着「AI时代淘汰的不是人类，而是不会使用AI的人类」，这当然有道理，但似乎毫无价值？具体而言，以我个人的经验，有以下的事情需要作为提示词告知于AI
- 结果应当客观（事实上，这是REHF的默认设定）
- 结果应当准确有信源（负责任的人类用户会检查信源信息）
- 如果发布在公共平台，在使用其中做好标注，如果你的AI生成篇幅超过30%，请在发布平台做好标注
赠送的小技巧~~
有些人无法识别AI生成的内容，在公众号「焯水小葱」中有一篇AI生成的内容「如何辨别 AI 生成内容」，以下是提示词：
提示词为：写一篇文章：题目为《如何辨别 AI 生成内容》
一、论述 ai 生成内容有何特点及其原因涉及到的论据：1. 英译汉导致的“稳稳接住你”等笑话2.RLHE 的原理与因其被训练过程中使得回答中性与过于结构化，导致固定的特征被提取并泛化。例如：“不是而是句式”3.statistical averaging 统计平庸导致的特定风格
二、论述具体的 ai 识别方法涉及到的方法有：1.肉眼识别1.1 通过标点来判断：频繁的破折号、诡异的双引号、以及表并列的顿号1.2 通过修辞来判断：夸张的表达，莫名其妙的比喻，细腻到诡异的描写，不属于正常表达习惯的emoji 表情。1.3通过句式与行文结构来判断：最常见的“不是而是”句式，整齐划一的各个段落的结构，中立与克制的行文风格。
2.ai识别ai推荐网站，腾讯朱雀ai检测平台。https://matrix.tencent.com/ai-detect/介绍其原理
三、论述ai使用规范与必要性涉及到的观点：锻炼人的怀疑能力和精神同时降低了造谣和辟谣的难度ai文章是垃圾进垃圾出，目前的质量还不高ai文章应该标注
另外，现在的朱雀AI检测越来越松了，上次一个纯AI的文字给他，仅仅识别除了30%的疑似，这是不合格的.在实际情况下可以搜寻水印平台，各个公司的文本生成都是存在水印的,有的是隐藏的水印，有的是直接的水印。
四、我们真的做好迎接AI的准备了吗？
近些天，一些AI公司的代表人物声称「AI减速论」，这并不是说他们身体上符合他们嘴上说的（事实上他们还在加大马力研究自身的模型），更不是说那些危言耸听说「AI将要毁灭人类」的说法是正确的。从某种角度而言，这些公司的心思是想提高监管，而使得自身成为遥遥领先的垄断者，或者是自己是盈利水平已经无力支撑这种AI竞赛的强度，又不甘于独自退出。
但这问题却是值得思考的，我们真的做好迎接AI的准备了，面对着「嘟嘟嘟~」向前的AI科技，可能带来什么变化，又该做好什么样的心理准备。
赛博朋克2077
1 | 或许，我们会成为历史，或者说，我们肯定会成为历史。 |
在赛博朋克2077中，有一些很有脑洞的设定，大公司掌控高科技，而底层人的生活并没有因科技的发展而得到进步，科技使得贫富分化进一步加深，而并非「共产主义」者所说的走向美丽新世界，到彼时，「平等」的观念被天然消除，因为有些人在生理上的确就更「高级」，至于具体会如何，这谁能知道？
但是，我们能争取的则是更多的让步，通过「罢工」「游行」等群体性事件来使得上层决策者与中下层进行让利，当然，让利的这个过程并非是必然的一个路径，我们当然有可能选择更加温和的方式或者直接走向毁灭，不过到那种时候就和AI没什么关系了，所谓：有AI会死，没AI也会死。当然至于死不死，可能与AI无关，也并非如今需要非常纠结的事情。
教育的毁灭
或许，AI的出现能让始终固定的教育领域获得一些松动，毕竟，「他们除了提供一张证书之外，一无所有」。不管是大学教育还是中学/小学教育，在当今的时代都显得如此畸形，者使得其产生了大量的反对者，或者说：「受害者」。「衡水」式的教育终将得到清算，只是目前不知道什么形式。
但很多情况下，这也不是谁有理谁持上风，更多情况下取决于力量的对比，还好我们的科技没到那一步，还不能让人长生不老，不然可就真的麻烦了。「清算者」能做的无非是提供科学事实，提高原来传统教育体系的荒谬程度，事实也是某种影响力和力量来源。
热爱与亲密关系
很多人对于AI带来的变化持有相当乐观的态度，嘴上说着什么「共产主义」或者是什么「消灭货币」的论调，这当然是更好，不过更多可能不以我们所期望的形式出现。例如：每人分一个虚拟伴侣，是不是你所想象的美好社会呢。再比如，每天发食物给你，但是要接受「完人领导」的控制，是否愿意呢。
再比如，个人的精力放到兴趣爱好中，或许是因为传统的方式无法进行谋生了，因为被「AI大人」给取代了，当然，现在还不是普遍的事实，失业与AI的因果关系还需要进一步的研究阐明。当然，目的地可能的确是好的，新一代的孩子们可能真的完全按照自身的兴趣来选择投入时间的方向，但是，老人呢，中年人呢，他们的失业似乎没什么办法，是所谓的「时代的阵痛」或者是「必要的代价」。当然，具体的现实情况我并不是很明确，只是在考虑这样的一种可能。
人们声称通过AI、机器人的发展来处理老龄化少子化的问题，但是，「钱从哪里」，机器人似乎不是凭空出现的，年轻人造机器人，老年人用机器人。这样？？似乎有些诡异。整体而言，我对其解决人口问题的前景感到悲观。
回到最开始的判断。
人们常常忘记一件事————他们对未来无法预测。