我是老温,一名热爱学习的嵌入式工程师0 K# }4 Q/ u& n( B4 R: }0 z
关注我,一起变得更加优秀!
9 Q$ W9 i5 L, i1 Z科技发展太快,新技术层出不穷,比如:人工智能,大模型,生成式AI,看得我眼花缭乱。
" k& I5 `& Z- L. ]8 T) O) F% \作为一名资深的嵌入式牛马工程师,我总觉得需要花点时间和精力,持续关注AIoT应用技术。
% H7 e# M1 _: y0 \& i' q为什么?因为,时代变了!
1 N$ s, f4 B0 A$ B f8 @- K2 v平时有关注芯片动态的嵌入式工程师老铁,相信都应该能观察到,很多常见的单片机厂商都开始推出带有模型推理能力的MCU。0 c5 D" u+ W& Y. v1 o, W+ S. B/ H
详见以下文章:9 o3 m/ l& t" ^& R! z
单片机的性能开始逆天开挂,集成NPU,可以进行模型推理!' L4 _+ z5 S3 h) N% N+ q2 M
国外一线MCU大厂率先展开布局,这是一个非常非常明显的信号,不知道国内的MCU厂家什么时候开始布局端侧AI单片机芯片?
- r8 a2 |- M+ t+ v; U! }6 Q, H- q国内现在基本上是通过MPU芯片内自带的神经网络处理器NPU,来对模型进行推理运算,比较出名的芯片厂商,有瑞芯微和全志科技。
2 V2 C7 B$ \9 D0 b, S比如,得益于端侧AI芯片的落地应用,瑞芯微2024年的财报数据,非常亮眼!* T/ y0 u+ {- Y
t5zovd101zf6409598617.png
* p: L/ v: Z: ~7 D8 `; b. C. f
DeepSeek总结出来的数据
3 Z6 h; `4 [/ W% |1 E我曾简单地学习过,如何在瑞芯微RK3588上部署AI大模型,并且在上面流畅地运行DeepSeek-R1 1.5B大模型。(点击以下链接)
. g: \0 S, m9 r8 K嵌入式AI入坑第一步,先把开发环境搭建起来!- M" P" p$ \/ ]
嵌入式AI入坑第二步,模型转换与部署!
5 ^' ~4 Z x% B! |5 `嵌入式AI入坑第三步,在开发板上部署DeepSeek-R1大模型
) L7 s5 p# D8 H( v6 d+ E3 ^嵌入式AI入坑第四步,设备运行大模型后的硬件性能数据。
4 o1 ^ ~6 Q* w+ a2 s( x9 S) G如果想了解更多嵌入式AIoT技术应用,推荐您关注:: E/ ^! n3 O- h0 @. ^& n
传统的嵌入式单片机工程师,与嵌入式AIoT工程师,两种岗位角色的技术栈方向,还是有一定区别的,对比如下:2 d* }! P7 H& Q3 f/ e4 j' \ G
htmhkssxkfj6409598717.png
4 `9 W5 ]! O4 S9 G* A
关键差异总结:
6 M% l6 [" F) L- m$ T1 ]- \! _( Q' ^+ B/ g: x8 l
硬件升级:AIoT工程师需掌握NPU加速器和多核处理器,传统工程师专注单一MCU或SoC 。
: w* g1 l" b' a8 n% M: q
$ F5 f( S# ~3 J& ]软件扩展:AIoT技术栈涵盖从边缘AI到云端协同,传统嵌入式以本地控制为核心 。. [3 e; Q$ @5 B$ J0 Z' k2 N/ R
( x" K5 a5 \& f% w: r
协议复杂化:AIoT需处理异构网络(如LoRa+WiFi 6混合组网),传统场景通信协议比较单一 。8 Z' u( m6 H) {0 R& ~/ j
' s" o. L0 t2 ^5 K) v
开发范式转变:嵌入式AIoT更接近全栈模式,需同时理解硬件限制和云原生架构。4 F' p% E' _' I& w
并不是说传统嵌入式工程师会被淘汰,但在时代的技术洪流里面,嵌入式工程师多学一点AIoT技术,无疑可以扩大自身的职场竞争优势。( r, \+ a Q8 |0 F# e# ~
技术无罪,但时代无情!9 @' @* b' T. z5 [! O( B
-END-
. Y! {( V3 C; F3 b7 t( Y( w往期推荐:点击图片即可跳转阅读
2 I A# K! [; B
zqe0s5rg4uj6409598817.jpg
' S& Y5 a- H' x: \9 D% O2 m明显感觉到一种趋势,嵌入式端侧AI的学习成本,在不断下降!, e' V% p1 X" [& `$ `* E
x43suupiknk6409598917.jpg
) ]5 }% w% y, Z在内卷中突围,开始学习嵌入式 AI 和多媒体应用技术!
) v0 ~( F( d4 @2 ]2 {
gu3saiojt3f6409599017.jpg
3 `* e3 \. H8 T; H
现在的嵌入式 ARM 芯片,性能越来越炸裂了!
' [% Y* M W; V: n! M+ d我是老温,一名热爱学习的嵌入式工程师
5 L8 B3 i6 f! u, X' G/ w7 P关注我,一起变得更加优秀! |