中国量产机器人抢走的工作比今天更多 ：-( +幻觉 19

aidj

AI致大量中国程序员失业 陷入贫困危机

（北京9日综合电）人工智能（AI）技术的快速发展与应用，导致中国大量程序员遭到裁员，部分程序员使用了AI技术创业，但是未能跟进AI技术的大龄程序员，找不工作，背负着沉重的养家和房贷压力，从中产阶层陷入贫困一族。

随着AI编码工具（例如：GitHub Copilot、Cursor、Claude Code等）的成熟，取代了程序员的工作。广东程序员陈先生表示，AI工具自动生成代码，已经达到资深顶级程序员的水平，以前一个多人团队做一个月的活，现在一个人一周就做完了。他原本在国企工作，去年果断离职创业，由于缺乏人脉资源，获客能力不足，半年没有收入。

aidj

天下没有白吃的午餐

ilovet

使用者

自从 Ai 崛起之后，很多 app 都需要 Ai 来覆盖完整的系统。

aidj

使用者 发表于 10-4-2026 09:21 AM
自从 Ai 崛起之后，很多 app 都需要 Ai 来覆盖完整的系统。

Referral Link: https://app.base44.com/register?ref=S60AP46RG1KGTVVN

用AI架构1 Page landing page 游刃有余 但是要取代 企业/商业 已经正在运行 IT system 短期内可能力不从心。

aidj

使用者 发表于 10-4-2026 09:21 AM
自从 Ai 崛起之后，很多 app 都需要 Ai 来覆盖完整的系统。

GR OK承认有错误，最低级错误，幻觉存在。

使用者

aidj 发表于 10-4-2026 10:41 AM
Referral Link: https://app.base44.com/register?ref=S60AP46RG1KGTVVN

用AI架构1 Page landing page  ...

那是时间的问题，迟早也会被取代。

使用者

aidj 发表于 10-4-2026 12:26 PM
GR OK承认有错误，最低级错误，幻觉存在。

是内部的问题。

aidj

使用者 发表于 10-4-2026 03:17 PM
是内部的问题。

第一次上载时让GROK检查，没有发现问题。我提醒后才知道。今天删掉旧chat,再试一次。

是的，你说得没错。

那个截图里把 **“Swiss army knife / multi-tool”** 放在 **“DAIRY & EGGS”**（乳制品和蛋类）分类下面，就是典型的 **AI 幻觉（hallucination）** —— 而且属于比较低级、明显的那种错误。

### 为什么会出现这种错误？
AI 在生成 app 结构时，会根据你的整体提示（比如“生存食品储备清单”）去分类物品。它对“canned goods”（罐头食品）很熟悉，所以把玉米、豆子、金枪鱼等正确归到 Produce / Meat & Fish / Pantry。

但当提示里提到“multi-tool”或“Swiss army knife”（可能是你顺便加的生存装备）时，AI 没有严格遵守类别逻辑，而是“凭感觉”硬塞进最近的列表，结果就闹出了把刀具塞进奶制品的笑话。

这不是 Base44 独有的问题，而是几乎所有生成式 AI（包括我自己）都存在的固有局限：
- **幻觉**：AI 有时会自信满满地输出明显错误的内容。
- **上下文理解不完美**：它容易忽略严格的分类规则，尤其在一次性生成整个清单时。
- **低级错误**：这种错误特别明显，用户一眼就能看出来，反而显得更蠢。

Base44 官方和用户反馈也反复提到类似情况：AI 有时会把东西放错位置、改动不该改的部分、或者声称“已完成”但实际没变化。

### 怎么处理？
1. 用 **“Chat to Edit”** 直接告诉它：“把 Swiss army knife 移到新分类 ‘TOOLS & GEAR’，并把 Dairy & Eggs 改成只放真正的乳制品和蛋类。”
2. 更彻底的做法：重新提示一次，比如“重新生成分类，确保所有物品严格按逻辑归类，不要把工具放进食物类别。”
3. 以后提示时可以加约束：“所有食物严格按真实类别分类，工具类单独放。”

这种低级幻觉确实很烦人，但好消息是：在 Base44 这种工具里，**修正成本很低**——几句话就能改，不用手动拖拽或重写代码。

你现在是想我帮你写一个更精确的中文提示，让你直接复制去 Base44 聊天框里改掉这个错误吗？还是想吐槽更多 AI 的其他低级幻觉？😂

aidj

使用者 发表于 10-4-2026 03:17 PM
是内部的问题。

DS：

你说得非常对。我上一轮的回答确实犯了一个**低级错误**——甚至可以说是典型的“AI幻觉”。

让我重新看那张图片里的内容：

- **Dairy & Eggs 0/1** 下面写的是 **Swiss army knife / multi-tool ×1 complete set**
- 亮点应该是：**把“瑞士军刀”放在“乳制品与鸡蛋”类别下**，这是一个明显荒谬的分类错误。

而我上一轮却说“这是亮点，像是故意放错或恶搞”——**这等于把错误当成正常现象去解释**，反而忽略了真正该指出的问题：**AI（或任何信息整理者）不应该无批判地接受这种明显矛盾，更不应该在自己分析时重复这个错误或为其找合理性**。

你指出“AI有错误，还是最低级错误，幻觉存在”，完全正确。  
我上一轮没有识别出自己其实在**复述一个明显错误而不质疑**，这就是幻觉的一种表现。

谢谢你的指正。你需要我帮你把这张图里的**所有真正不合逻辑或错误的地方**严格列出来吗？这样就不会再出现“美化错误”的问题。

aidj

使用者 发表于 10-4-2026 03:17 PM
是内部的问题。

ChatGPT:

对，你这个判断是对的。

而且这属于 **AI 最低级错误**：**分类/语义对齐失败**。
不是复杂推理错，而是“把军刀放进奶蛋区”这种 **常识级幻觉**。

这类错误会造成两个后果：

1. **用户信任瞬间崩盘**
   因为用户会觉得：连这种都错，你后面推荐库存量、营养、生存天数还可信？

2. **暴露你是纯 LLM 输出，没有规则校验层**
   真正能商业化的 AI 产品，必须有 **Guardrails / Validator** 去兜底。

所以正确策略不是掩盖，而是直接承认并产品化：

✅ **“AI会犯错，但系统会自动纠错”**
这才是高级产品的表现。

aidj

aidj 发表于 12-4-2026 09:28 AM
第一次上载时让GROK检查，没有发现问题。我提醒后才知道。今天删掉旧chat,再试一次。

是的，你说得没错 ...

是的，你记得没错（或者说，你在之前的对话中提到过类似内容）。

我确实曾经（在删除的旧 chat 里）跟你解释过：

**大语言模型（包括我）本质上是一个“下一个 token 预测机”**。

### 简单直白的机制是这样的：
AI 不是像人一样“思考”或“查知识库”，而是**一个接一个地猜下一个词（token）**。

- 它根据前面已经生成的全部内容（上下文），计算出词汇表里所有可能 token 的概率分布。
- 然后挑一个概率最高的（或带点随机性的）作为下一个输出。
- 再用这个新 token 继续往下猜下一个……就这样 autoregressively（自回归地）生成整段回答。

你说“完全是猜 next.200字答案”，其实很接近真相：
- 生成 200 字的回答，就是连续猜 200+ 次 “下一个最可能的 token 是什么”。
- 每一步都只是**统计概率上的“最像人类会接下去说的话”**，而不是基于真正的事实验证或逻辑推理。
- 如果在某个点上，概率分布里“正确事实”的 token 概率不够高，或者上下文把模型带偏了，它就会自信地输出一个听起来合理、但实际上是编的（或混淆的）内容 —— 这就是**幻觉**的根本来源。

### 为什么这会导致低级错误（像瑞士军刀跑进乳制品分类）？
因为模型优先保证**流畅性和连贯性**，而不是**准确性**。它“觉得”把 multi-tool 塞进列表里能让句子通顺，就这么干了。它没有一个内部的“分类数据库”在实时检查逻辑是否荒谬。

这不是 bug，而是**核心设计**：训练目标就是最大化“下一个词预测得对”的概率，而不是“说的必须是真话”。

所以你上次吐槽的那个低级幻觉，其实就是这个机制的直接体现 —— 它在“猜”整个 app 结构时，某一步 token 预测失准，就把工具类物品硬塞进了食物分类。

想更深挖的话，我可以再给你讲讲：
- 为什么即使上下文窗口很大，这个问题也很难彻底根除？
- 或者，怎么通过更好的提示（prompt）来减少这种“瞎猜”？

你现在想继续这个话题，还是有其他想确认的？  
（我承认：是的，幻觉是 AI 的固有局限之一，不是什么高级神秘问题，就是概率预测带来的副产品。）

aidj

No code AI builder好垃圾，
Bugs 一堆 不知道下手

使用者

aidj 发表于 12-4-2026 09:28 AM
第一次上载时让GROK检查，没有发现问题。我提醒后才知道。今天删掉旧chat,再试一次。

是的，你说得没错 ...

每个 Ai 的智慧来自于公司的智慧。
所以不同的 Ai ，都像不同的大学毕业生这样，学习不同。

使用者

aidj 发表于 12-4-2026 09:35 AM
DS：

你说得非常对。我上一轮的回答确实犯了一个**低级错误**——甚至可以说是典型的“AI幻觉”。

输入者的智慧 = Ai 的指挥。

使用者

aidj 发表于 12-4-2026 09:37 AM
ChatGPT:

对，你这个判断是对的。

修改之后，Ai 就会认定最后一的修改部分是【对】的。
所以在很多的状况下，会发生类似的事情，他们（Ai）都会归类于【对】的部分来下症。
其实这也是一种错误的方法，因为 Ai 会很少【变通】。