補了一點 openai 的發布會
有一點小感慨,在模型規模拼命做 enlarge,衝大模型的今天,算法工程師這個職位正在變得越來越尷尬。
ML/DL 工種專業化程度越來越高,MLops 不需要算法工程師,模型推理加速 & 部署不需要算法工程師,推理引擎、訓練框架和其他基礎設施的開發不需要算法工程師。
算法工程師只需要調用前面這些專業工種提供的 API 就可以了。大部分算法工程師也不背負科研任務,也只是調用少部分算法工程師包裝出來的 API。
誰能想到深度學習算法工程師在大模型時代反而成了深度學習的「大前端」。
確實,這種趨勢從 Transformer 一統 nlp 領域就開始了。隨後發現一個通用模型要勝過 domine specific 的模型,這種通用模型在 CV 和多模態也展示出遠比專用模型好的性能。而隨著大模型將模型的訓練成本提升到普通玩家難以企及的水平,市面上的產品也就變得愈發同質化,深度學習算法工程師在沒有 attach 到一個特殊應用領域之前,依靠自己能力發揮的機會很少,自然難以有自己獨特的競爭力。