万生优配是虚拟盘吗 到背面下野创建Fungible
雨天周末， 不念念念书不念念学习， 就念念扯淡.
先吐个槽， 最近看到某DPU厂商80亿估值然后因为各式原因玩不下去了的公众号著作， 然后还有一个会还在接洽DPU如何如何的....我还谨记三四年前和某个机构沿途基本上把这些厂家皆调研过， 其时就握住的diss这群东谈主没念念领会， 但似乎几年曩昔已经没念念领会.
不外最相似乎念念领会了少量为啥叫DPU了， 从Pradeep在互联网泡沫时期创建的Juniper， 到背面下野创建Fungible， 其实DPU的真理是从会聚需要处理数据的视角界说的， 关联词到自后迟缓演进的经由中， 老黄把DPU的观点默契光大后， 发现这词已经有问题， 这不又SmartNIC和DPU皆无法界说， 又启动造出了一个SuperNIC了么?
倒是Tesla东谈主间泄漏的一个DumbNIC讲的很了了， 通衢至简趁机还把HBM-Disaggragation搞了...
回到正题， 在算力通缩情况下， 老黄如何保管或者进一步冲高到五万亿市值是一个很真理的话题，是以今天从经济学的角度扯个淡...渣B也没矜重的读过经济学的书， 另一方面关于建模的量化数据因为合规原因， 没罕见据也没特意愿去了解数据， 因此也不作念过多的分析了， 仅仅单纯的扯个淡良友.
1. 什么是算力通缩上周一篇《把GPU当成一个金融产物如何加杠杆?》谈到了算力通缩(computility deflation，以下简称CD)， 当先咱们来给CD一个界说:
算力通缩(computility deflation，CD):在经济学中， 通货紧缩是指商品和职业总体价钱水平的下跌. 从算力的角度来看， 咱们也不错界说平均1GFLOPS的价钱手脚GPU和算力职业的总体价钱水平.
就算力职业价钱(以租用H100等GPU)的价钱来看， 总体价钱是不才降的. 举例H100的房钱价钱从4好意思元一小时如今降到2好意思元一小时一下. 而从GPU自己的商品价钱来看， 国内一些H100的整机价钱也从早期的300多万降到了220万.
2. 经济学的悖论一般来说， 咱们浅近的以经济学中的IS-LM模子来看， 也就是说供给加多或者需求下跌或者两者同期发生引起的. 浅近来说就是供给过量(过量坐蓐)，需求低迷(消费减少)， 或者是信贷紧缩等带来的货币供应减少而产生的.
天然有另一种不雅点是， 通缩和经济中的时期越过关连， 跟着全身分坐蓐率的提升， 商品资本会下跌. 也就是老黄期待的需要一年一代新卡来捏造算力架构.
有一个悖论的方位是H100售价3万好意思金，而物料资本大略唯有3000好意思金， HBM资本占了2000. 在算力通缩布景下， 如何能够捏续性的保管高Margin， 同期还能通过握住的迭代加多营收来冲高市值?
归根结底已经要回复一个问题: 万生优配是虚拟盘吗钱从哪儿来， 钱欲望的收益率弧线是什么?
从货币供应的角度来看， 针对AI的投资并莫得减缓， OAI这一轮的融资还算闲居， 然后H100/H200的需求还在捏续， 国内各地的“智算中心”形式也还在捏续的开导中. 然后宇宙来看Blackwell也供不应求.
关联词反过来看有一个很真理的不雅点， 到底是谁在为这些投资买单? 钱从哪儿来的?投资陈诉率如何臆测? 杠杆率是若干?止境是从算力提供方来看， 算力自身由于时期迭代产生贬值特殊快(算力职业价钱和算力商品价钱皆在加速下滑)， 既然算力通缩布景下， 为什么不延长消费， 再等等新卡? 另一方面关于基础枢纽干预的杠杆加在什么方位? 使得智算中心开导的ROI如何谋略?
利好优配最近还有一种不雅点是在互联网泡沫时期的基础枢纽为自后互联网繁茂发展奠定了基础，止境是多量的海底光纤的资本在后期是完成收转头了的. 关联词关于智算中心的资本， 随隐秘在几年后收回从投资陈诉率的角度是很难， 对此我一直捏比拟负面的作风， 唯有少数几家范围大有可能收回一部分， 关于它们来看， 算力投资的风险并不是太大.
azure， 微软通过OAI投资和更表层的copilot业务收入不错填补， 同期也在布局我方的推理芯片Meta，多量的H100通过Llama的生态以及里面的推选系统不错摊薄资本， 同期也有我方的推理芯片AWS Trainium/Google Trillium(TPU)的供应量具体数值不了了， 关联词至少Google自家的搜索等业务已经有多量的算力奢靡的.Tesla的自动驾驶， 字节等企业的搜广推以及视频生成等业务上， 多量的H100的奢靡试验上也不会带来很大的耗费.至于各地开导的各式智算中心， 是不是过两年要启动不良钞票处置了呢? 不良的界说和订价还分两种情况
1. 不良算力(空格) 钞票处置
2. 算力(空格)不良钞票处置
即不良算力自己的评估: 先还不要说那些各式以DSA卡开导的算力集群了...浅近的以NV H系列卡为例， 初期许多东谈主以为买点机器转头插上电给个管制口IP地址就不错卖了， 然后发现会聚开导也需要跟上， 还有就是踏实性和故障运维， 紧接着发现如若要寻推一体， 又要搭一个存储集群，信钰私募 然后还有互联网带宽...
去年完成900亿元境内外债务重组，赢得3年喘息时间后，融创董事会主席孙宏斌兑现了自己“争取2023年回归良性、健康发展轨道”的诺言，守住了融创的江山。
另一个问题是: 算力通缩和不良算力以及算力不良自己是否有很大的关系， 需要验证一下?
3.算力的杠杆杠杆的产生通常是在时间维度上带来的， 举例在期货阛阓上通过保证金来对远期交割物实现一个公约， 另一方面就是关于大型基础枢纽开导通过融资租借的形式. 试验上已经要在近期创造出一个巨大的需求， 然后通过远期相对驯顺的现款流来完成.
而试验上惩处通缩的措施大略就是: 加多货币供给， 以及扩大总需求.
3.1 Scaling-Law: 需求的创设
最浅近彰着的需求创设就是老黄经济学中的“The More You Buy， The More You Save”.
从pre-train scaling-law构造了一个弘大叙事: 从千卡的A100到万卡的H100再到10万卡的熟练， 但很显然的是OAI在GPT-5的熟练上遭受了蛮大的勤劳. 但在所有这个词杠杆赌局里， 莫得一方会那么容易的平仓认输， 甚至于Inference Scaling-law的出现.
另一方面这样的杠杆也在吞并着阛阓里的玩家， 花一个亿预熟练的模子成了贬值最快的商品， 更大的模子有几家跟? 国内所谓6小虎的情况以及前几天刚爆出ST的裁人..
3.2 供应端的流动性紧缩
关于供给过量的问题， 当先来谈一谈存量阛阓. 其实H100的存量阛阓会清洗出一多数玩家， 关于H100的估值可能还存在争议， 那么咱们以现阶段对一些A100/A800算力中心的不良钞票估值该如何作念? 这些需要辩论算力的时间价值和资金的时间价值. 咱们单独放一章来谈.
那么咱们来谈另一个话题， 为什么新卡的供应上， 微软等几个巨头要疯抢GB200? 一方面是后一节讲的算力的时间价值， 新卡出来的前几个月的需求狠恶常鼎沸的， 同期带来的流动性溢价会产生更好的短期现款流. 这对算力商品提供方(NV)和算力职业提供方(Azure等)皆是故意的， 关联词前提是要构造出饱和的需求来支付这样的短期现款流，那么也就只可进一步的找一个算力奢靡方， 然后通过更远的现款流预期在惩处期限错配的问题.
4.算力的时间价值既然上了杠杆， 那么资金的资本和对应的算力通缩下算力的时间价值就是一个咱们值得探讨的问题.试验上许多机构对大范围投资的短期陈诉迟缓产生质疑和丧失耐烦了， 毕竟ChatGPT也出来快满两年了， 关联词多量的投资似乎还暂时看不到陈诉.
另一方面跟着时间的荏苒， 当年抢购的H100迟缓出现商品价钱和职业价钱的快速下滑， 这也让一些算力投资方迟缓感受到了风险， 接下来跟着Blackwell的出现， H100的贬值速率还会进一步加速， 所有这个词H系列的资本摊销周期似乎和两年前斟酌的周期也在镌汰.
也就是说试验上算力价钱的TimeDecay速率远非常了当初投资的现款流模子， 这种期限错配产生的不良钞票处置， 是一个特殊真理的话题， 关联词就点到限度吧.
5. 谈谈货币投放受限下的算力通缩其实写了这样多并不是说在反对Scaling-Law或者说是看空AIGC， 其实任何新时期的出现皆是丑陋且反直观的， 关联词算力的问题除了基础枢纽迭代外，更多的已经需要算法去惩处. 渣B以前的量化算法复杂度从刚启动连络的时候亦然因为谋略复杂度基本上一次全量谋略需要30天驾御， 因此从阿谁时候启动就在折腾一些并行谋略的框架， 关联词自后已经算法上的优化惩处的问题.
而关于这一次AIGC来看， 从根蒂上我捏有一个怀疑作风是新的数学器具并莫得期骗于模子之上， 这个径直决定了现时生成式大模子的天花板， 天然现时的天花板饱和高饱和容纳许多念念象空间. 但老是以为那处鉴识， 举个例子吧， 举例为了会聚范围和深度选拔LayerNorm等带来的窥察内存压力，是否有更好的算法来惩处?
另一方面是基础枢纽上， 是否有不需要NVLink， 不需要CoWoS， 不需要HBM的基础枢纽， 哪怕是熟练不可， 先撸一下对算力需求相对较低一些的推理场景? 举例苏妈出一个多带少量PCIe接口的多带一些GDDR的家用级显卡， 况兼放开GDR， 让一些买不起H100又要作念大模子连络的中小范围团队先用起来，放低一下姿态的确是生态不可， 不谈rocm， 光拿来给NV作念内存池的二奶皆行? 在NV带来的流动性紧缺上绕开CoWoS和HBM， 从而掀开一个轻佻口， 即就是数据中心卖的不好， 撸掉NV家用卡RTX的阛阓亦然功德?
大略就瞎扯这样多吧， 其实蛮但愿若干年后， 咱们能对这一场杠杆局作念一些总结和追思， 止境是监管层的视角.历史天然不会浅近的叠加， 关联词每次皆会押韵.
本文起原：zartbot，原文标题：《算力通缩下的“老黄经济学”》。
风险教唆及免责要求 阛阓有风险，投资需严慎。本文不组成个东谈主投资冷落，也未辩论到个别用户特殊的投资议论、财务景况或需要。用户应试虑本文中的任何意见、不雅点或论断是否稳健其特定景况。据此投资，攀扯自夸。