跳转到帖子
在手机APP中查看

一个更好的浏览方法。了解更多

AIGC实战 - 只有干货的 AI 社区

主屏幕上的全屏APP,带有推送通知、徽章等。

在iOS和iPadOS上安装此APP
  1. 在Safari中轻敲分享图标
  2. 滚动菜单并轻敲添加到主屏幕
  3. 轻敲右上角的添加按钮。
在安卓上安装此APP
  1. 轻敲浏览器右上角的三个点菜单 (⋮) 。
  2. 轻敲添加到主屏幕安装APP
  3. 轻敲安装进行确认。

1.3 算力即石油:显卡、芯片与大厂的战争

(0篇评论)

课程标题:【认知 1.3】算力即石油:显卡、芯片与大厂的战争

(建议配图:一张金条堆成的金字塔,或者一张英伟达(NVIDIA)显卡被放在皇冠上的图片)

大家好。

如果你最近关注财经新闻,你一定会被一个名字刷屏:英伟达 (NVIDIA)。这家公司的市值经常暴涨,甚至一度超过了微软和苹果。

为什么?因为它们卖铲子。

在 AI 这场“淘金热”中,全世界所有的科技公司——谷歌、微软、Meta、特斯拉,甚至你的老板——都在排队给英伟达送钱,只为了买那一块名叫 GPU(图形处理器/显卡) 的黑铁块。

这块铁块到底有什么魔力?为什么 AI 的智商全靠它?

今天,我们用三个关键词,带你读懂这场“算力战争”。


一、 关键词一:GPU(显卡)—— 为什么 CPU 不行?

很多同学问:“我电脑里不是有 CPU 吗?为什么跑 AI 非要用 GPU?”

我们可以把电脑处理器比作

  • CPU(中央处理器) = 一个老教授

    • 特点: 他非常聪明,能处理极其复杂的逻辑,比如操作系统调度、复杂的数学证明。但他只有一个人(或者几个分身/核心)。

    • 弱点: 如果你让他做“把 10000 块砖头从 A 搬到 B”这种简单但量大的体力活,他会累死。

  • GPU(图形处理器) = 一万个小学生

    • 特点: 单个小学生肯定没教授聪明,但这帮孩子人多势众(几千个核心)。

    • 强项: 他们最擅长做简单、重复、并发的工作。比如处理图像上的每一个像素点,或者计算 AI 里的每一个简单概率。

AI 的训练过程,恰恰就是搬砖。 它不需要复杂的逻辑推理,它需要的是进行几千亿次简单的加减乘除运算。

  • 让 CPU(教授)做,由于只能一个一个来,可能要算 100 年。

  • 让 GPU(一万个小学生)做,大家一起动手,几天就干完了。

这就是为什么 GPU 成了 AI 时代的“神”。


二、 关键词二:参数量 (Parameters) —— AI 的“脑容量”

我们在新闻里经常听到:“GPT-4 有 1.8 万亿 参数”、“Llama 3 有 700 亿 参数”。 这个“参数”到底是啥?

你可以把它理解为大脑里的 “神经元连接”

  • 婴儿的大脑: 神经连接少,只能处理简单的吃喝拉撒。

  • 爱因斯坦的大脑: 神经连接极其复杂、丰富,能处理相对论。

参数量,决定了 AI 的“智商上限”和“知识储备”。

  • 参数量越小: 它是“轻量级”选手。跑得快,占内存小(甚至能在你手机上跑),但不够聪明,稍微复杂的问题就答不上来。

  • 参数量越大: 它是“重量级”选手。博学多才,逻辑缜密,但它是个大胖子

这就引出了下一个问题: 养一个拥有万亿参数的“大胖子”,需要吃多少饭?


三、 关键词三:算力 (Compute) —— 喂养 AI 的“石油”

既然大模型是个拥有万亿神经元的大胖子,每一次让它思考(推理),或者教它学习(训练),都需要消耗巨大的能量。

这个能量,就叫 “算力”

  • 训练阶段(上学): 要让一个空白的大脑学会全人类的知识,需要几万张顶级 GPU 日夜不停地全负荷运转几个月。这烧掉的电费和硬件损耗,是以亿美元为单位计算的。

  • 推理阶段(工作): 当你问 ChatGPT 一个问题,它每吐出一个字,后台都有昂贵的 GPU 在疯狂计算。

“算力即石油”: 在工业时代,国家为了争夺石油打仗,因为没有石油机器转不动。 在 AI 时代,大厂为了争夺 GPU 打仗,因为没有算力,AI 就是个植物人。


四、 这一切跟你有什么关系?

了解这些“硬核”知识,对我们普通用户有什么用?

  1. 理解“慢”与“贵”: 为什么 GPT-4 比 GPT-3.5 慢?为什么高级版要收费? 因为 GPT-4 的参数量大得多,每次回答你问题,后台消耗的算力(显卡资源/电费)是 3.5 的几十倍。聪明,是有代价的。

  2. 选择工具的智慧:

    • 如果你只是想写个简单的请假条,用免费的、参数量小的模型(如 GPT-3.5 或 手机端 AI)就够了,杀鸡焉用牛刀

    • 如果你要写复杂的商业策划书,必须用付费的、参数量大的模型(如 GPT-4, Claude 3 Opus),因为只有它的脑容量够用

  3. 未来的趋势: 现在的 AI 都在云端(因为你买不起几万块的显卡)。 未来,随着芯片技术的进步(算力成本下降),我们每个人手机里都会住着一个高智商 AI。那是真正的“个人助理”时代的开始。


五、 课后小作业

请大家去查一下: 目前市面上最强的一块 AI 显卡(比如 NVIDIA H100)大概多少钱? 把这个价格发在评论区。你会瞬间明白为什么只有巨头才玩得起大模型!


给站长的发布建议:

  • 高亮重点: 请务必把 CPU=教授,GPU=小学生 这个比喻用粗体或者引用框标出来。这是这一课最精彩的记忆点,学员哪怕忘了什么是“参数”,也会记住这个比喻。

  • SEO 优化: 在页面的 <meta keywords> 里加上 英伟达, GPU, 算力, AI芯片, 参数量,这些都是目前的高频搜索词。

  • 链接引导: 文末可以加一句:“知道了硬件的昂贵,下一节课我们来讲讲,如何不花一分钱,利用好这些昂贵的算力——【1.4 人机关系心法:它是副驾驶,你是老司机】。”

用户反馈

Background Picker
Customize Layout

我的帐户

导航

搜索

搜索

配置浏览器推送通知

Chrome (安卓)
  1. 轻敲地址栏旁的锁形图标。
  2. 轻敲权限 → 通知。
  3. 调整你的偏好。
Chrome (台式电脑)
  1. 点击地址栏中的挂锁图标。
  2. 选择网站设置。
  3. 找到通知选项,并调整你的偏好。