边缘计算社区

硅谷高管:边缘计算将是下一个10年的巨大机遇

边缘,一个相对远离“中心”的概念。边缘计算往往是部署在数据中心之外,接近于现场应用端提供的计算,面对的市场更为分散。工业、零售、智慧城市都是边缘计算中典型的场景。很多数据来不及或者不能够集中上传到云端,就需要在边缘终端侧完成计算和推理。 

在英特尔(INTC.US)发布Q2财报的前一天,2023英特尔网络与边缘产业高层论坛上探讨了未来边缘计算的机遇。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti提到,2030年全球边缘市场将达到4450亿美元的规模,企业需求的推动将会转化为经济发展的动能,因此,他认为边缘的发展将成为下一个 10 年的巨大发展机遇,“边缘已经是现在人工智能最大的部署所在”。

Sachin Katti

这半年围绕人工智能最热的话题是大模型,在本次会议上也不例外,大家的共识是大模型的落地要和行业结合起来,并且针对性地去解决行业问题。  

大模型的应用有着不同的实施方法:可以在云端完成训练,再在云端完成推理返回结果到前端的边缘侧,但这就意味着可能通信的时间较长;也可以在云端完成训练,然后在边缘侧完成微调后再推理并给出结果。  

“在我们的经验当中看到人工智能部署超过一半都是失败的。”Sachin Katti认为这主要有几个原因,基础设施的问题过于陈旧,难以把人工智能的大型模型部署到陈旧的设备上;第二个是数据,要去学会如何抓取孤立的数据,利用这些数据进行部署,他直言“这都是非常大的挑战,很多人都因为这些挑战而止步不前”。

“对于客户来说,仅仅靠自己通过硬件去获得边缘价值是非常困难的。所以我们在交付给客户硬件的时候,相应地也会给客户交付所需的软件。我们的目的是希望通过这样一套基础设施,可以让客户更加容易部署我们的硬件,并管理好硬件。” Sachin Katti说。  

他提到,英特尔为了抓住边缘计算的机会继续在三个方向上发力:在硬件上,英特尔在中国刚刚发布了专门面向大模型训练的加速器Gaudi 2,还有其他的通用CPU处理器以及专用的独立显卡加速器;在软件上,通过OpenVINO可以对在云端训练之后的大模型进行优化和压缩,在最新的OpenVINO的版本中,已经增加了对大模型Stable Diffusion的支持;此外,就是继续发展生态合作伙伴。 

“把人工智能部署到工厂产线的时间成本和人力成本还是偏高。如果在大模型上有更创新的想法,我们会和技术团队、产品团队共同配合,共同琢磨提炼,我们希望更快速把英特尔的技术方案带进去。”英特尔市场营销集团副总裁兼中国区总经理王稚聪认为,业务的合作伙伴要捕捉中国经济在恢复过程中出现的新动能,新的产业崛起以及把技术代入到下一个发展阶段。 

然而,通向机遇的道路并非坦途。  

2023年英特尔Q2财报显示,第二季度营收为129.48亿美元,与去年同期的153.21亿美元相比下降15%;但实现了扭亏为盈,净利润为14.73亿美元,去年同期的净亏损为4.54亿美元。从细分领域来看,尽管在过去一年里,网络和边缘业务曾是一直稳定保持着同比增长,但这块业务今年连续两个季度下滑,本季度收入为14亿美元,同比下降了38%,是分列的几项中同比下降最快的。  

“不光是对英特尔,你可以看一下整个半导体行业过去两年大家的利润都有20%-30%左右的下调。但是在近一段时间,我们看到经济正在逐渐复苏,而且也有大量的需求,无论是云端还是随着AI技术进一步的部署和使用,尤其是AI的需求,它不仅是对GPU和网络的需求,包括对CPU的需求都是在不断增加的在边缘也会有一些需求。对英特尔来说,我们所做的就是要适应市场的情况和变化。” Sachin Katti表示。

发表评论

邮箱地址不会被公开。 必填项已用*标注

青ICP备20000204号-2