1. 都有云端训练显卡了,为什么还要边缘端AI芯片?
首先是云端训练芯片昂贵的问题,直接使用用户边端的设备中的NPU,GPU芯片推理,可以降低应用的成本;其次是国内也有在做云端推理NPU芯片,这也是降低云端部署成本的重要途径,举例来说就是阿里的含光800芯片,全志科技和阿里在NPU芯片方面合作密切。
2. 边缘端芯片现在在大模型中还没有大规模应用,吹这个没有逻辑?
炒产业炒的是未来,是跟随专家的视角为未来布局?那么请问,$寒武纪-U(SH688256)$ 芯片批量流片显卡大规模上计算中心了吗?同方股份真的已经利用知网硕博论文数据库打造论文写作方向大模型了吗?汤姆猫引入大模型之后你身边的朋友都下载了汤姆猫吗?
显然,这些都还没有发生,只是有这个预期,强预期弱现实,那就够了。
再说了,$全志科技(SZ300458)$ $瑞芯微(SH603893)$ 那些芯片已经在机器人上应用了,包括小米的cyberdog,石头扫地机器人等,只是你们不愿意探索而已。
3. 边缘端AI芯片最适配的场景在哪里?
边缘端最适配的场景就是我所说的万物互联,AI融入生活百态。
前两天炒作的【具声智能】,机器人运作环境,许多都是水底,矿山,战场等无法联网的环境,而且需要对当前环境执行目标检测,SLAM, 并做出实时反映,必须得用边缘端AI芯片进行推理,具体的应用举例是小米无人机用的是全志R16芯片。
还有【元宇宙】,比如大家熟悉的MR, VR设备,用户在交互操作的过程中,元宇宙相关硬件需要完成语义分割,目标检测,虹膜识别,姿态估计等深度学习任务,而且需要实时性,不然影响用户体验,这时候还得是边缘端AI芯片发挥作用。具体的应用举例,字节跳动的pico头显,用了全志的VR9芯片。
还有电视盒子,智能座舱……等应用案例,见雪球 爱者之贻bit 之前的文章:网页链接
4. 边缘端AI芯片不是算力很低吗,最终能实现大模型或者垂类行业大模型的本地推理吗?
这点我对计算机技术充满信心,计算机这边的技术是一般产业速度的5倍以上,只要有优秀的人才团队和充足的硬件设备,未来一定能够部署在边缘端设备上面。
我们可以按照深度学习应用非常广泛的应用目标检测来说,最开始的RCNN算法需要在GPU上推理50s左右,再到改进版Fast RCNN需要0.4s左右。现在呢,yolo系列轻量化的模型+模型部署量化,现在甚至只要0.01s。从最开始的50s到0.01s,推理时间减小了5000倍,技术发展带来的震撼超乎你的想象。另外一方面,最开始只能在GPU上部署,到后来例如腾讯的NCNN开源库的支持,在大部分边缘端设备上都能运行。所以可以看到,今天各种各样的设备,包括手机拍照,人脸打卡,体温测量等日常生活设备都上了目标检测。
除此之外,你翻翻许多大公司的大模型规划与发展,都在往边缘端部署上努力。【高通在手机上实现极速生成式 AI 制图,AI 和 5G 创新融合推动技术升级;Apple官方开源了本地化生成图片的Stable Diffusion程序:ml-stable-diffusion
github.com/apple/ml-stable-diffusion 只支持M系列芯片版本,内置了CoreML的框架,性能非常惊艳。】
个人认为,未来大模型的趋势,要么是上述通过模型轻量化技术(剪枝,蒸馏,量化)直接在本地运行;要么是动态云边协同方案,可以根据用户的问题动态调节使用云端推理还是边端推理,比如AI作图或者咨询简单问题,直接边缘推理,而生成长篇大作,使用云端推理。
5. 芯片行业会不会像大模型的中游算法,一天一个发布会,太卷了?
在逻辑芯片里面,如ASIC制造流程包括逻辑实现、布线处理和流片等多个步骤。一般逻辑芯片,如ASIC、DSP、SOC等,开发周期需要14-24个月,甚至更长。
对比半个月到一个月一个版本的大模型版本,或者选择难度较高的层面不穷的大模型下游应用。上游芯片行业格局就是稳定,选择难度也小,核心就那么几家。而且现在芯片行业也不是很容易,OPPO智库解散,全志科技主动抛出橄榄枝挖人,足见全志的魄力和经营安全性。
6. 边缘端AI芯片会不会制裁,会不会像华为芯片一样?
首先,我想说的是,芯片炒作的主要逻辑就是国产替代与自主可控,如果漂亮国不制裁我们,全球市场开放,国内芯片产业投资价值不大;其次,阿里达摩院,全志这些公司,正在RISC-V架构上面发力,RISC-V架构,可以对标操作系统中的Linux系统,没有制裁风险
铁粉号盘中随时更新,近期热点发掘文章:
光伏反转,高纯石英砂概念除了石英股份、欧晶科技还有谁(深度分析)
硬核逻辑:数字中国纳入考核KPI,新型工业化分支2小龙(低位逻辑)
钙钛矿赛道0~1加速开启,钙钛矿及HJT上游核心材料低位龙头(业绩反转)
我会在 公众号:海涵财经 每天更新最新的医疗新基建、一体化压铸、 汽车智能化,激光雷达,HUD,车规芯片,空气悬挂、L3级智能驾驶、PET铜箔,纳电池,800V高压,光伏HJT、TOPCON、钙钛矿、光伏XBC、BIPV、IGBT芯片、碳化硅SIC、CTP/CTC/CTB电池、4680电池、工业母机、海风柔直高压、新能源车高压快充、高镍三元、碳纤维、PET铝箔、PET铜箔、空气源热泵、新材料、中药创新药、中药配方颗粒、乡村振兴、锂矿、钒液流电池、钠离子电池、分布式储能、集中式储能、抗原检测等最新题材热点挖掘,未来属于高预期差的结构性市场,把握核心赛道以及个股的内在价值逻辑预期差才是根本所在。
— END —
先赞后看,养成习惯
免责声明:图片、数据来源于网络,转载仅用做交流学习,如有版权问题请联系作者删除
人工客服(haihancaijing009):