今日新鲜事

首页 > 今日 > 今日新鲜事

拆机芯片回收(拆芯片的机器)

时间: 2024-11-02 11:37:36 阅读: 245


今年以来,大模型和AI 2.0既是最火热的创富梦,也越来越成为一个昂贵的“权力的游戏”。在技术、资本、人才等构建出的种种门槛中,还有一张重要的入场门票——你有没有“门路”能搞到足够的英伟达高端显卡。

王非是华东地区一家服务器定制企业的销售部经理,他向「市界」描述了最近英伟达显卡的紧俏程度:“需求太火爆,有些人从机房里把芯片禁运政策生效前购买的A100 80GB拆出来倒卖。”这些旧芯片不只没有保修,相比于去年8月前后8万多元的单价,价格还涨到了10万多元。

即便已经旧货拆卖、物尽其用,显卡的供应还是严重不足。“需要拿现款去,对方才愿意卖给你。”而相对显存较小、训练效率低的A100 40GB即便有全新的,也乏人问津。“询价的多,成交的少。”

具体而言,这批抢手的显卡指的是英伟达旗下的“Tesla”系列产品。在训练AI大模型时,比传统CPU更高效的GPU(图形处理器,又称显示芯片),尤其是高端GPU一芯难求。

2020年和2022年,英伟达先后推出了A100芯片、H100芯片,其中A100显卡又提供80GB、40GB两个显存版本,H100则提供80GB显存。显存越大,所能运行的神经网络也就越大。

2022年9月开始,美国禁止英伟达等向中国出口高端GPU芯片。为应对禁运政策,英伟达又在2022年和2023年分别推出了特供中国版的显卡A800和H800。

不过如今,在政策允许范围内的A800芯片,在市场上也出现了供货周期拉长、价格上浮的现象。王非透露:“在大模型火爆之前,A800大概两周即可到货。但现在我跟客户保守估计要在8周内,即便是最乐观的情况,也需要4-6周。”

供职于北京一家显卡分销企业的郭丽婕对「市界」表示:现在公司的A800单卡报价为8.75万元,已经超出了A800在2022年11月时8万-8.5万元的价格区间。而且,8.75万元只是实时报价,显卡还有继续涨价的趋势。“我告诉客户确定要了再找我聊,现在的库存也不多。”

另一家位于深圳的显卡供应商,则给A800开出了8.95万元的报价——更高的溢价意味着等待时间较短,需要大约两周的货期。

作为算力基础设施,竞购英伟达高端显卡芯片已经成了一种“抢跑游戏”。而决定AI创业公司成败的要素之一,“就是你到底有没有能力调动最起码100张以上的英伟达显卡。”一家AI创业公司负责人对「市界」讲到。

他透露:“在去年8月之前,通过国内正规渠道,还能买到A100显卡,也可以采购海外版A100。在此之后,国内A100被切断了货源,从海外采购海关也不会放行。”

不过那些允许被特供中国的A800和H800芯片对于紧缺算力的AI中小公司而言,同样是遥不可及。

王非透露:“一般来说英伟达的货先到国内总代,再被我们这类厂家分走,销售给做AIGC项目的客户。目前H800虽然已经发售,预计单卡售价会在20万起,也没有进入我们这一级市场。现在能拿到H800的,应该只有阿里云、腾讯云这种有资格从英伟达原厂直接采购的大厂商。”

在市场紧俏的背景下,H800等高端芯片已经提前被大厂包揽。目前,国内仅有腾讯云官宣“用上”了H800。4月14日,腾讯云发布了基于H800的大规模算力集群,并将其定义为H800的“全国首发”。

据《晚点 LatePost》了解,字节今年向英伟达订购了超过 10 亿美元的 GPU,仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用 GPU 总和。大公司的合作方式主要是和英伟达原厂直接谈采购,能否抢到卡,更多是看商业关系,比如以往是不是英伟达的大客户。

而在庞大的需求面前,据传英伟达甚至开始学起了爱马仕,在购买抢手的 GPU 时,也需购买其它产品作为取得优先供应权的“配货”。

在这场大模型研发竞速赛中,相比超级大厂,更多小玩家只能先把名字写进等待名单。而无论哪一方历经荡涤、最终胜出,作为算力供应者的英伟达都能稳拿订单,笑到最后。

02、黄仁勋的运气有多好?

一位曾在科技赛道投资的专业人士对「市界」分享了他的回忆:在几年前AI行业的资本寒冬中,他亲眼见证了投资人和企业在面对泡沫破灭时的困境。那时,许多企业发现算法创业的成本极高,亏损连连,反而上游企业却赚得盆满钵满。

而在AI这个近年来备受瞩目的科技领域,英伟达凭借其前瞻性的眼光和战略布局,成为了首批站在上游、得以幸运腾飞的公司之一。

在今年五月英伟达的业绩电话会议上,英伟达创始人、总裁兼CEO黄仁勋明确表示,自今年年初以来,新产品需求呈现出惊人的增长趋势,公司订单量也达到了难以置信的水平。

不仅市场中对英伟达产品的需求异常激烈,资本也对英伟达展现出了慷慨的态度。就在5月30日,英伟达的市值成功突破万亿美元,成为全球领先的芯片设计商。

在面对记者的提问时,黄仁勋被问及英伟达此次的丰厚回报是运气使然,还是深谋远虑的结果。黄仁勋并未回避运气成分的存在,他表示:“我们只是相信总有一天会有新的东西发生,其余的需要一些偶然性。”

仅仅一年之前,英伟达还曾因营收不及预期、股价下滑而陷入困境。如果没有AIGC的助力,英伟达可能会成为商业领域的一个遗憾故事。随着ChatGPT的横空出世,英伟达成功扭转了颓势,成为了全球瞩目的焦点。

过去几年间,英伟达的高端显卡主要被用于PC游戏和虚拟货币挖矿。在疫情背景下,受益于消费电子需求的激增,英伟达股价也水涨船高。随着疫情逐渐退去,游戏市场的冷却以及虚拟货币市场的波动,英伟达的营收在2023财年的前三个季度连续下滑。随着AI的崛起,英伟达再次焕发生机。

在英伟达崛起的人们开始探讨这是否是决策者深谋远虑的结果。而黄仁勋对此的定义是:“这不是先见之明。先见之明是加速计算。”因为在某种程度上,英伟达开启了用GPU训练AI模型的历史。

早在十年前,英伟达首席科学家Bill Dally与全球AI领域的权威学者吴恩达的一次会面中,吴恩达遇到了AI研究中的算力瓶颈问题。为了解决这个问题,Bill Dally建议他使用英伟达的GPU替代CPU进行AI训练。由于GPU的并行计算架构优势,吴恩达团队仅使用48块GPU就解决了难题。此后,越来越多的研究团队开始使用英伟达芯片进行AI训练。

黄仁勋看到了AI市场的巨大潜力,从2012年开始将AI列为重要的发展方向。在某种程度上,十年前在AI落地应用尚未清晰时便在深度学习领域布局确实体现了他的远见卓识。

硅谷某AI芯片独角兽公司的Lee对「市界」表示,对于芯片企业来说,在2012年投入深度学习的计算是一个难得的选择。他认为:“当时做深度学习可以说是坐冷板凳。但英伟达围绕深度学习的主题全方位,包括完善语言设计、开发者工具等周边软件工具。”

国产GPU企业也在奋力追赶英伟达的先进技术。对于英伟达的成功秘诀,黄仁勋总结道:“我们很早地认识到了AI的价值和潜力并全方位改变了公司。”这不仅展示了英伟达的远见卓识和战略布局的重要性也凸显了其在AI领域的领导地位和创新精神。从英伟达深耕AI领域到AI行业多样化的竞争态势的文章概述如下:

英伟达自2016年开始,针对AI训练任务对加速计算GPU产品线进行了设计,推出了P100芯片,并配套研发了高速互联技术NVLink,大幅提升了运算效率。英伟达围绕AI领域打造的软硬件产品生态也使其受到了资本的热捧。

英伟达的营收得益于中国市场的大力支持。由于政策限制,英伟达的高端芯片无法在中国市场销售,对其营收造成了巨大影响。对此,英伟达创始人黄仁勋表达了担忧,并抱怨了美国对半导体技术的出口限制。

面对英伟达的困境,许多中国客户开始转向其他选择。市场中存在不少英伟达的竞争者,如天数智芯、摩尔线程等国产GPU厂商已经开始在大模型训练领域落地产品。"AI芯片第一股"寒武纪以及阿里巴巴旗下芯片企业"平头哥"的产品同样可用于运行AI相关任务。国产CPU龙芯中科也已完成了通用GPU相关IP设计,预计将在未来推出兼具显卡和计算加速卡功能的通用GPU芯片。服务器厂商代表也表示在AIGC等大模型应用领域中国产产品已能满足部分客户需求。他们甚至提出,即使采用国产产品运算时间较长,但至少可以实现自主供给。市场也传出一些知名资管机构与大股东对英伟达的减持计划,显示出其对于国内算力领域多样化和市场竞争加剧的考量。而黄仁勋自身也可能感受到这一变化所带来的危机感。以上说明英伟达的竞争态势愈发激烈,虽然其在AI领域仍具有优势地位,但面临着来自各方的挑战和竞争压力。同时英伟达的竞争对手正在不断追赶和创新,市场上存在的各种不确定性也对英伟达未来的发展带来影响。总体来看随着科技的发展AI行业将迎来多样化的发展竞争态势将持续加剧未来发展值得我们继续关注与分析研究讨论以上只是大概情况建议您参考官网发布的内容了解详情


历史上的今天(www.todayonhistory.com) - 免费实用生活学习查询网站
back_img
功能直达