短篇伦理小说 AI芯片，需求如何？
（原标题：AI芯片短篇伦理小说，需求如何？）
淌若您但愿不错不时碰面，接待标星储藏哦~
开首：内容编译自nextplatform，谢谢。
2023 年，迈克·亨利 (Mike Henry) 担任AI 推理公司 Groq 的临时首席产物官，这一职位使他与很多数据中心握住员和司理保握密切揣测。在这六个月中，他细密无比到络续变化的花式发生了变化，而主导云干事提供商的鸿沟一直是亚马逊会聚干事(AWS)、微软 Azure 和谷歌云平台。
固然这些超大范畴企业陆续占据东说念主工智能鸿沟的大都空间，但亨利看到越来越多的 GPU 云提供商涌入阛阓，竖立了配备数千个Nvidia 芯片的数据中心，这些芯片正在推进推理和其他东说念主工智能使命负载所需的诡计。
“我建壮到，咫尺大多数东说念主工智能基础才能都是在三大传统云提供商除外构建的，”亨利告诉The Next Platform。“我生涯在一个超等推广者老是得手的天下里，我看到了这一巨大的变化和巨大的机遇。”
Heny 和自动驾驶汽车公司 Swift Navigation 的勾通独创东说念主兼首席实践官 Tim Harris 于 2023 年底诈欺这个契机创立了 Parasail。Parasail 本周凭借 1000 万好意思元的种子资金和旨在将企业与推理使命负载与可用 GPU 诡计能力连气儿起来的会聚脱颖而出。该公司的手脚有点像一家电力公司，将需要电力的东说念主与领有电力的东说念主揣测起来。
Parasail 首席实践官亨利示意：“客户但愿大范畴部署 AI 模子，何况但愿保握罕见浅显。他们简直跟不上新的开源模子发布，更不必说沟通他们使用哪一家 GPU 云提供商了。‘我在什么硬件上运行它？我该如何成立它？’诸如斯类。他们思要浅显和范畴。……咱们有点唤起了原始内容录用会聚的思法，说‘我有这个东西，我思在众人范围内运行，我不思沟通它。’你思把它放在一个盒子里，让它运行。”
东说念主工智能和自动化布景
亨利和哈里斯（Parasail 董事会成员）都有创办和创建公司的训戒。亨利于 2012 年创立了东说念主工智能平台公司 Mythic，该公司筹集了 1.65 亿好意思元并斥地东说念主工智能加快硬件，包括模拟矩阵处理器和用于节能推理的 Key Cards。他于 2023 年跳槽到 Groq，在哪里待了六个月，然后与他东说念主共同创办了 Parasail。哈里斯于 2013 年与他东说念主共同创办了 Swift，该公司为自动驾驶汽车斥地精准导航软件。
Parasail 正在诈欺 AI 推理提供商、提供按需 GPU 走访的云公司的增长，其中包括上个月上市的CoreWeave和Lambda Labs等有名公司。Parasail 与这些推理供应商竖立了相助伙伴关系，亚洲综合网创建了一个团聚的、无公约的 GPU 容量，Harris 宣称其容量高出了 Oracle 云基础才能。这家总部位于旧金山的公司使用其 AI 部署会聚将企业与 GPU 提供商和编排引擎连气儿起来，以确保使命负载好像取得所需的诡计能力。
老本裁减是 Parasail 的一个主要上风，该公司宣称从 OpenAI 或 Anthropic 诊治过来的公司不错勤俭 15 到 30 倍的老本，与其他开源提供商比拟，老本上风是 2 到 5 倍。GPU 的成立只需几个小时即可完成，几分钟内即可进行推理。咫尺，Parasail 提供 Nvidia H200、H100 和 A100 GPU 以及 RTX4090 显卡，价钱从每小时 65 好意思分到 3.25 好意思元不等。
构建部署会聚短篇伦理小说
ai 裸舞Henry 示意，组建一个部署会聚来作念到这小数绝非易事。每个 GPU 云的构建花式都不同，包括处理诡计、存储判辨聚的花式，何况配置、计费和成立不错是自动、半自动或手动的。Kubernetes和容器不错处罚其中很多挑战，但有些 GPU 云有 Kubernetes，而有些莫得，而且有 Kubernetes 的 GPU 云在成立和质料上也有所不同。
关键的挑战是 Kubernetes 本体上不越过集群、区域、数据中心或提供商。
“咱们必须处罚这个问题才能完满咱们的战术，”亨利诠释说念。“咱们不错构建跨多个提供商的 Kubernetes 集群，基本上不错遮盖众人。戒指平面不错在某个高度可靠的方位运行，然后众人扫数的 GPU 云都成为使命节点。这罕见具有挑战性，因为它需要远大而复杂的开源软件生态系统，并让它作念一些它正本不策画作念的事情。”
通过这么作念，Parasail 在众人范围内完满了编排和容器化，超越了畴前的作念法。
“思象一下通盘供应商都倒闭了，”亨利说。“关于一个运行细密的 Kubernetes 戒指平面来说，这仅仅一些需要更换的使命节点倒闭了。这也绕过了不同成立的扫数挑战。GPU 供应商运行的是什么并不要紧；咱们基本上绕过了它。淌若咱们将它与自动购买结合起来，你不错思象一个罕见有弹性、可扩展且高效的即时 GPU 集群。”
编排是一项挑战
匹配和优化使命负载是哈里斯所说的“陈列问题”。亨利说，东说念主工智能稀有千种模子、数百种变压器架构和数十种 GPU。再加上新的东说念主工智能 ASIC、数十种组合 GPU 来处理更大负载的要领、三种流行的推理堆栈以及无数的成立和性能优化，挑战就更大了。
“咱们的谜底是将模子、东说念主工智能和东说念主类结合起来，”亨利说。“建模遥远不会齐全，以至不会擅长，因为这既是一个巨大的维度迟滞问题，亦然因为事物在马上发展。东说念主工智能不错介入并通过捕捉极度、监控日记和快速构建极度处理来提供很大匡助。但这老是需要东说念主类参与，因为极度真是是太多了。有了这个，咱们好像用一个相对精简的工程团队完满大范畴。”
该公司于 1 月份启动进行阻滞式巧妙测试，需求络续增长，Parasail 的年度经常性收入 (ARR) 已高出七位数。那时候现已渊博可用，客户包括东说念主工智能芯片制造商 SambaNova、东说念主工智能坐褥平台制造商 Oumi、对话式东说念主工智能公司 Rasa 和 Elicit，后者的东说念主工智能助手可自动实践参谋任务。
瞻望畴昔，这家初创公司计算马上推论其 12 名职工的名单，尤其是工程岗亭。亨利和哈里斯在提供 GPU 方面也保留了给与余步。咫尺，Nvidia GPU 占据主导地位，但哈里斯以为阛阓会发生变化。他们从打造 Parasail 中取得的细察力也突显了阛阓中存在的“奇怪悖论”。
“硬件似乎很稀缺，”哈里斯诠释说念。“东说念主们买不到填塞的 GPU，但它们都有大都的可用容量。数据中心有大都的 GPU 可用容量，但他们买不到填塞的。这怎么可能是真的？这本质上归结为这么一个事实：它莫得得到很好的优化和诈欺，也莫得很好地与客户揣测在一王人，是以他们只可部署他们的模子。”
他补充说念：“需求是存在的。咫尺对下一代东说念主工智能应用的需求简直是无尽的，它们将取代互联网 1.0 和 2.0 应用。但关键在于如何让这些应用大范畴运行并进步诈欺率。这便是咱们所作念的。咱们的推理平台让客户好像罕见大意地大范畴部署东说念主工智能，然后会聚部分便是咱们如何优化并充分进展其性能。”
https://www.nextplatform.com/2025/04/03/parasail-brokers-between-ai-compute-demand-and-supply/
半导体极品公众号推选
专注半导体鸿沟更多原创内容
眷注众人半导体产业动向与趋势
*免责声明：本文由作家原创。著作内容系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或援助，淌若有任何异议，接待揣测半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第4085期内容，接待眷注。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID：icbank
可爱咱们的内容就点“在看”共享给小伙伴哦短篇伦理小说