| eBay | 生成式AI | 蒸餾 | LLM | AI開發平臺

eBay升級AI開發平臺以支援自建3兆Token的LLM,下一步要蒸餾出多個小模型以降低應用成本

去年,eBay投資大量硬體算力並大幅提升硬體利用率及調度彈性,來支援大規模生成式AI開發和應用。今年,則要進一步強化自建模型,再利用蒸餾等技術打造專門用途的小模型,以在投入實際應用時能控管成本

2025-03-12

| google | LLM | 蒸餾 | 微調

Google開發逐步蒸餾技術,小資料小模型也能打敗LLM

Google開發逐步蒸餾(Distilling Step-by-Step)技術,以較少資料訓練專用小模型,效能即可優於少樣本提示語言模型,解決龐大模型的部署挑戰,同時也使小模型效能可超越大型語言模型

2023-09-23