| eBay | 生成式AI | 蒸餾 | LLM | AI開發平臺
eBay升級AI開發平臺以支援自建3兆Token的LLM,下一步要蒸餾出多個小模型以降低應用成本
去年,eBay投資大量硬體算力並大幅提升硬體利用率及調度彈性,來支援大規模生成式AI開發和應用。今年,則要進一步強化自建模型,再利用蒸餾等技術打造專門用途的小模型,以在投入實際應用時能控管成本
2025-03-12
| google | LLM | 蒸餾 | 微調
Google開發逐步蒸餾技術,小資料小模型也能打敗LLM
Google開發逐步蒸餾(Distilling Step-by-Step)技術,以較少資料訓練專用小模型,效能即可優於少樣本提示語言模型,解決龐大模型的部署挑戰,同時也使小模型效能可超越大型語言模型
2023-09-23