021-5747xxxx
是,輸得很慘,我現在一看到麵試者對Transformer一臉熱情過度的樣子都有點PTSD了 前麵波爾德已經講得很好了,Transformer衝擊SOTA有用,但工業界不可能去用SOTA。
既然是工業界,做什麼都得考慮個成本,Transformer一上,就意味著推理時間,訓練時間,調試時間成倍的增加。
推理時間翻倍,意味著硬件成本翻倍,也意味著同樣的硬件能同時跑的模型變少。
大部分硬件不支持意味著高效率硬件用不上,隻能使用少數廠商的硬件,這就意味…。