66读书

深度学习：从“机器学东西”到“ai能干活”的底层逻辑（第5页）

而且它需要的“数据量”往往大得惊人：比如训练ChatGPT，用了几十TB的数据（1TB等于1000GB，相当于几十万部电影的容量）；训练一个自动驾驶模型，需要模拟几千万公里的路况数据。

更麻烦的是，有些领域的“数据很难拿”：比如航天领域，想让机器学“识别卫星拍摄的太空垃圾”，但太空垃圾的真实数据很少，只能靠模拟生成；比如隐私领域，医疗数据、金融数据涉及个人隐私，不能随便用，这也限制了深度学习的应用。

这个缺点就像“一个很会做饭的厨师，但必须用特定的食材，没有食材，再厉害的厨艺也没用”。

2. 缺点二：“不知道自己为什么对、为什么错”——它是“凭感觉判断”，没有“逻辑”

咱们人判断一件事，会说“因为A所以B”，比如“我觉得这是苹果，因为它是红的、圆的、咬着脆甜”——但深度学习不会，它的判断是“黑箱”，你不知道它是“看了哪个特征”才做出的判断，也不知道它为什么会错。

比如有个笑话：科学家想让机器学“识别坦克”，给它喂了“坦克在沙漠里的图片”和“没有坦克的沙漠图片”，机器最后学会的不是“识别坦克”，而是“识别沙漠”——只要图片里有沙漠，它就判断“有坦克”，因为它误把“沙漠”当成了“坦克的特征”。但你问机器“你为什么觉得这张图片有坦克”，它答不上来，因为它不知道自己学错了特征。

再比如医疗领域，机器判断“这个患者有肺癌”，但医生不知道它是“看了CT影像里的哪个细节”才得出的结论——这就导致在一些需要“逻辑解释”的领域（比如医疗、法律），深度学习的应用会受到限制，因为人不敢“完全相信一个说不出理由的机器”。

这个缺点就像“一个学生考试考了100分，但问他这道题为什么这么做，他说‘我就是感觉这么做对’”——你虽然佩服他的成绩，但不敢让他当老师，因为他教不会别人。

3. 缺点三：“容易被‘骗’”——遇到“奇怪的数据”，就会犯低级错误

咱们人认东西，就算遇到“奇怪的情况”，也能靠常识判断——比如你看到一个“长着猫脸、但有四条狗腿的动物”，你会觉得“这是合成的，不是真的”；但深度学习没有“常识”，只要数据里的“特征符合它学的规律”，它就会判断错。

比如科学家做过一个实验：给机器看一张“上面贴了几个小贴纸的猫图片”，机器就判断“这是狗”——因为那些小贴纸的特征，刚好符合它学的“狗的特征”，它就被“骗”了。

再比如自动驾驶的“陷阱”：有人在马路上画了几个特殊的条纹，自动驾驶的深度学习模型就会把“斑马线认成停车线”，或者把“限速牌上的数字认成别的”——这就是“对抗性攻击”，用微小的、人眼看不到的改动，就能让深度学习犯低级错误。

这个缺点就像“一个很会做题的学生，但遇到‘题目里有陷阱’的题，就会做错”——因为他只看题目表面的特征，没有“这道题可能有陷阱”的常识。

六、深度学习的未来：不是“取代人”，而是“帮人干活”，让生活更轻松

很多人担心“深度学习发展下去，会取代人的工作，甚至超越人”，其实这种担心有点多余——至少在未来几十年里，深度学习的定位还是“人的工具”，它能帮人干“重复、枯燥、复杂”的活，但代替不了人的“创造力、情感、常识”。

本小章还未完，请点击下一页继续阅读后面精彩内容！

咱们聊聊深度学习未来的几个发展方向，你就知道它不是“要取代人”，而是“要帮人过得更好”：

1. 方向一：“小数据也能学”——解决“没数据活不了”的问题

现在科学家正在研究“小样本学习”“零样本学习”，比如让机器“只看10张猫的图片，就能认猫”，或者“没看过老虎的图片，但知道‘老虎是像猫一样的哺乳动物，有条纹’，就能认老虎”。

要是这个技术突破了，深度学习的应用范围会大大扩大——比如偏远地区的医院，没有足够的罕见病数据，也能靠AI辅助诊断；比如小公司想做AI产品，不用花几百万买数据，也能开发出来。