| SwiftKV | Snowflake | LLM | 知識蒸餾

Snowflake開源可縮減LLM推論時間50%的SwiftKV模型

Snowflake在Hugging Face開源SwiftKV模型,透過模型重組與知識蒸餾,將輸入提示處理計算減半,提升大型語言模型推論效率至2倍,適用於高負載企業應用

2025-01-17

| 微軟 | NLU | 知識蒸餾

打造通用NLU模型,微軟靠知識蒸餾法改善多任務深度神經網路

微軟研究院透過知識蒸餾法,結合Google AI開源的雙向語言轉換模型BERT,來改善多任務深度神經網路,打造出更穩固且通用的NLU模型

2019-05-17