一,什么是边缘算力?
随着数字经济纵深发展,计算任务越发复杂,对于边缘计算需求有望逐步提升。“边”是相对于“中心”而言,指将计算移到用户那一端,即贴近数据的源头,从而避免或减少数据在网络中从数据产生的地方到数据中心的传输。
如果说GH200架构是把几百个将军串联了起来,那么边缘侧的算力,就是无穷无尽,数以亿计的士兵阵列!
边缘算力,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的算力,边缘算力相较于云端算力,拥有低成本、低时延、高隐私三大特性。
1)低成本:当前主流的边缘算力平台主要采用高通主导下的ARM架构,相比于英伟达的复杂架构,ARM架构在小算力时拥有极低的单位成本,是降低开发与用户成本的必然选择。
2)低时延:边缘算力一般搭载在本地,无需将数据发送至云端并等待回传的时间,可以满足如自动驾驶,快速对话等对时延要求高的场景。
3)高隐私:边缘算力依靠设备本身搭载的算力或在用户自有服务器上的算力进行推理,可以实现数据不出用户管辖范围,对隐私的保护更好。
随着AI催化下算力需求加速走向多样化,单一的云端算力无法满足所有需求,算力正在走向泛化,走向“云边端”梯度分布的格局。
边缘计算减少了需要传输到云端的数据量,并允许实时数据处理。因此,它可以降低对带宽的需求,同时提高设备性能,大量生成式AI模型可以直接在终端设备上运行。
从数量上看,边缘侧如同毛细血管,随着 AI应用的增多,将大大提升算力的多样性;从功能上看,此前市场理解的物联网或者高通芯片模组多以通信功能为主,而计算能力局限于车载等场景,随着边缘计算爆发,其应用场景将大幅拓展;从成本侧看,高性价比的算力是AI发展的基石,边缘侧算力不可或缺。
未来,物联网模组将承载大量边缘算力,为全世界开发者带来易用,高性价比的终端计算能力,赋能万物AI 互联!
二, NVIDIA 推出 Jetson AGX Orin 工业级模块助力边缘 AI
NVIDIA 在 COMPUTEX 2023 上发布了全新 Jetson AGX Orin 工业级模块,在恶劣环境下可以提供更高级别的计算能力。通过在极端的环境进行智能化和实时处理,嵌入式边缘 AI 正在改变工业环境。
农业、建筑、能源、航空航天、卫星、公共部门等领域越来越离不开边缘 AI。借助 NVIDIA Jetson 边缘 AI 和机器人平台,您可以在此类复杂的环境中部署 AI 和传感器融合算法。
英伟达边缘AI自下而上突破的具身智能路径已经打通,结合云计算可以在边缘AI从开发到部署的各个环节提供丰富技术支持。NVIDIA 选择微软Azure作为Omniverse Cloud的首家云服务商。微软 Azure 将能支持企业在享有 Azure 云服务的规模分析特性与安全性的同时,访问全套Omniverse软件应用及NVIDIA OVX™计算系统,为客户提供了一套可用于设计、开发、部署和管理工业元宇宙应用的全栈式云环境和平台功能,连接并使用NVIDIA合作伙伴生态系统的相关产品,如英伟达认证工作站、边缘计算模块等。
三,各大巨头大力进军边缘计算
想要完成AI平台类公司的愿景,边缘计算领域是必争之地,英伟达推出Jetson、Isaac AMR等平台占领边缘AI,借助 NVIDIA Jetson 边缘 AI 和机器人平台,农业、建筑、能源、航空航天、卫星、公共部门等领域都将发生巨大的变化,工业环境将被嵌入式边缘AI彻底改变!
于此同时,其他巨头也不甘落后,移动通信霸主高调发力边缘计算!
高通近日宣布正在由通信公司过渡到“智能边缘计算公司”,高通表示“随着连接设备数量和数据流量的加速增长,以及数据中心成本的攀升,将所有内容都发送到云端是不可能的。”
到2030年,预计地球上将有约231.4亿台物联网设备。此外,随着越来越多的物联网设备在全球范围内使用,预计在整个评估期间对物联网通信协议的需求将会增加。未来,物联网模组将承载高通的边缘算力,真正成就AIOT时代!
高通:云边一体的混合AI路径
高通提出云边一体的混合AI路径,深度开发边缘AI,云端AI选择与微软等公司合作。据高通混合AI白皮书,在混合AI场景中,边缘大模型是云端大模型的感知器官,例如用户对手机说话,自动语音识别(ASR)AI模型如Whisper在设备上转换语音为文本,发送到云端,云端运行大模型,回发文本答案。在进阶版本中,设备AI更进一步保护隐私,承担更多处理,提供更个性化的提示给云:通过设备学习和个人数据,设备创建用户个人形象,与调度程序协作,基于上下文提供更好的提示;例如,用户要求手机预约和朋友在最爱餐厅吃饭,对简单查询,较小的大模型可在设备上运行无需云交互,如果用户需要复杂信息,则本地将需求转化为提示发给云端大模型并返回详细答案。
据高通混合AI白皮书,混合AI主要有以下优点:
1)经济性:降低云端推理成本、高效利用边缘算力、降低AI应用开发门槛;
2)能耗低:边缘设备可以以较低能耗运行大模型,若考虑处理和数据传输等因素,能耗节约更加显著;
3)可靠性:边缘AI不受网络状况影响,运行更加稳定;
4)隐私性:数据完全在本地推理,大幅降低泄密风险;
5)个性化:边缘设备可以搜集用户真实生活中的行为、价值观、痛点、需求、关注问题等信息形成定制化服务。
四,边缘计算个股机会挖掘:
1.移远通信:
在边缘计算领域,移远联合客户打造了多款前沿的计算密集型和边缘智能解决方案。移远智能模组通过提供强大的边缘计算能力,使应用终端能够实时处理数据并做出更快的数据驱动决策,同时模组还具有低功耗、高速连接和先进的安全性等多重优势。在AIoT领域,公司提供不同算力规格的模组来支持各种应用,同时也会根据不同的应用提供差异化的产品和定制服务。在AI相关服务方面,移远可以帮助客户基于AI模型移植,用智能模组替代昂贵的开发平台,从而降低成本。
公司近期表示“移远5G模组+Jetson AGX Orin平台”组合方案可应用于高端机器人、无人地面车辆、低速自动驾驶、智慧交通等终端产品及场景,都是英伟达近期强推的应用方向。
2.天准科技:
天准科技的边缘计算产品和方案主要基于英伟达Jetson平台构建的GEAC系列产品,产品广泛应用于各种大交通场景,为无人配送车、智慧交通、轨道交通、智慧港口、智慧矿山等各种场景、设备和车辆,为其提供大算力计算平台和控制器产品及解决方案。
公司基于英伟达平台研发的控制器及边缘计算产品,正好也应用于英伟达最近强推无人物流车和移动机器人方向
3,南凌科技:
拥有全球骨干专网资源,并在全球部署接入边缘节点,可向企业提供优质的全球网络服务,自研SD-WAN 2.0以南凌科技骨干网为核心,提供从接入、边缘到骨干网深度融合的高可靠性网络服务。 其中凌云边缘计算提供稳定、高性能、功能丰富的边缘计算和网络服务,帮助客户将业务快速部署到边缘层,结合南凌科技的“SASE+骨干网络”能力,有效提升响应速度、降低网络时延和成本,以满足应用的时延、成本、安全、灵活可控等综合性能需求。经过二十多年的网络服务自主研发,构建了云内网络、跨地域网络、混合云网络的一站式云网服务,从核心、边缘、接入侧形成“云+网”的全覆盖。
4,润欣科技:
极度被低估的边缘AI芯片(机构持仓少),感存算一体+Chiplet核心标的(所处赛道好,产品即将落地),发展前景星辰大海(预期差极大)
润欣科技自研感存算一体芯片有望与阿里合作,将配套天猫精灵智能 AI 音箱,后续有望进入百度等其他客户,前瞻且深度布局AI 边缘侧应用,上市公司中最为领先,卡住身位;润欣科技感存算一体芯片与小米合作做智能开关,继续挖掘AIOT 方向机会;深度绑定国内Chiplet方案商龙头奇异摩尔。
铁粉号盘中随时更新,近期热点发掘文章:
光伏反转,高纯石英砂概念除了石英股份、欧晶科技还有谁(深度分析)
硬核逻辑:数字中国纳入考核KPI,新型工业化分支2小龙(低位逻辑)
钙钛矿赛道0~1加速开启,钙钛矿及HJT上游核心材料低位龙头(业绩反转)
我会在 公众号:海涵财经 每天更新最新的医疗新基建、一体化压铸、 汽车智能化,激光雷达,HUD,车规芯片,空气悬挂、L3级智能驾驶、PET铜箔,纳电池,800V高压,光伏HJT、TOPCON、钙钛矿、光伏XBC、BIPV、IGBT芯片、碳化硅SIC、CTP/CTC/CTB电池、4680电池、工业母机、海风柔直高压、新能源车高压快充、高镍三元、碳纤维、PET铝箔、PET铜箔、空气源热泵、新材料、中药创新药、中药配方颗粒、乡村振兴、锂矿、钒液流电池、钠离子电池、分布式储能、集中式储能、抗原检测等最新题材热点挖掘,未来属于高预期差的结构性市场,把握核心赛道以及个股的内在价值逻辑预期差才是根本所在。
— END —
先赞后看,养成习惯
免责声明:图片、数据来源于网络,转载仅用做交流学习,如有版权问题请联系作者删除
人工客服(haihancaijing009):