关于正在为自少见据中心甄选AI处事器芯片的企业而言，比较英伟达，亚马逊领有一大中枢上风：价钱。
爱尔兰筹办机构CoDriverLabs专注为企业提供AI基础步调落地筹办处事，该机构分析师卡罗尔・皮亚泰克示意：在同等算力负载下，使用亚马逊第二代Inferentia推理芯片与Trainium检修芯片部署现存AI模子开展推理业务，算力老本可比英伟达H100芯片裁减80%。
如今越来越多自建数据中心的企业，王人在寻找性价比更高、供货更自如的替代芯片决策。近几个月，亚马逊向这类客户鼎力推介自研两款AI专用芯片：用于大模子检修的Trainium、用于业务推理的Inferentia，越来越多企业运行招供这套决策。
皮亚泰克的一位保障行业客户，出于合规监管条目，必须在自少见据中心为客户运行AI业务，无法使用公有云处事。该企业此前一直采购英伟达芯片，如今正在寻找替代决策；过程前期测试，亚马逊芯片凭借价钱上风与自如的算力承载智商，测试放肆推崇亮眼。
基于可以的测试成果，这家保障公司迅速向亚马逊云科技（AWS）客户司理筹办，能否在AWSOutposts腹地部署一体机中搭载Inferentia推理芯片。但亚马逊方面回复，当今该芯片暂未洞开Outposts场景测试。
皮亚泰克称：“惟有能在企业腹地机房部署Inferentia芯片，这家保障公司就会坐窝落地。即便腹地部署的老本是云表租用价钱的两倍，企业也依然会遴荐在自有机房部署AWS提供的这款芯片。”
他示意，诚然企业腹地机房部署芯片的老本省略率高于获胜租用AWS云处事器，开运中国官方网站但相较英伟达芯片，合座算力开支依旧会大幅裁减。
英伟达官方发言东谈主援用公司近期一篇博客著作的不雅点修起：单纯对比芯片采购单价意念念有限，中枢要看芯片的试验算力产出。若是廉价芯片在疏通期长内可承载的AI算力任务远少于高价芯片，那么从单元算力老原来看，高价芯片反而更合算。
英伟达在博文中写谈：“咱们的芯片能够结束行业最低的模元（Token）单元老本与最高的模元处理隐约量。”
信息期间筹办公司高知特（Cognizant）云与基础步调处事负责东谈主斯里拉姆・库马雷桑示意，现时公共算力供给弥留，不少客户正在评估、试点亚马逊自研芯片，其中就包含企业腹地数据中心的落地场景。
库马雷桑在书面声明中提到：“咱们不雅察到，客户的AI业务算力需求还是超出现时可用算力供给，U体育(中国)官方网站这也让企业不再单一依赖英伟达GPU，运行积极寻找多元化算力决策。如今AWS的Trainium与Inferentia芯片还是成为业内靠谱的量产级备选决策，不再仅仅GPU缺货时的救急遴荐。”
不外亚马逊芯片并非所有坦途。云架构筹办企业RhythmicTechnologies首席实践官克里斯・达尼卢克示意，诚然不少客户在探讨芯片替代决策，但当今王人仅处于早期调研阶段，企业宽敞担忧适配这类自研芯片需要全新软件体系，存在期间落地风险。
在去年12月AWS年度期间大会re：Invent上，亚马逊顾惜推出全新处事，营救客户在AWS公有云以外部署亚马逊自研AI芯片，同期发布AWSAIFactories（亚马逊AI算力工场）搞定决策，企业可在自少见据中心混搭部署亚马逊Trainium芯片与英伟达芯片。
始终以来，AWS通过Outposts腹地一体机处事，让自建机房的企业可以在腹地部署亚马逊全套软硬件、存储与网罗资源。据知情东谈主士露馅，近几个月，AWS销售团队还是和好意思国电话电报公司（AT&T）等企业张开前期洽谈，探讨通过Outposts处事租出亚马逊自研AI芯片。
明陞M88体育中国官网另有知情东谈主士示意，亚马逊还在洽谈获胜向政企客户售卖自研AI芯片。本年4月，亚马逊首席实践官安迪・贾西在年度推动信中说起，公司探求对外获胜出售自研AI芯片，自此企业客户的配合意愿权贵擢升。
贾西曾测算：若是亚马逊不再仅通过云处事出租芯片，而是获胜对外销卖，芯片业务年化营收有望达到500亿好意思元。当今，包含通用处理器Graviton、云表部署的Trainium芯片在内，亚马逊芯片业务当旧年化营收为200亿好意思元。
《信息》杂志分析数据自大：尽管英伟达濒临诸多芯片竞品冲击、五行八作加快布局AI替代算力决策，但英伟达在AI推理算力商场的份额仍在握续走高。
AWS正在效仿谷歌的发展旅途。谷歌自研TPU张量处理单元AI芯片，去年就运行筹办Anthropic等企业，推动客户在自少见据中心部署该芯片；上个月，谷歌还与黑石集团开采合股公司U体育(中国)官方网站，打造TPU专属云业务，对标当下无数向AI厂商出租英伟达算力的专科云处事商。
备案号: