Anthropic Claude添加提示詞快取降低開發者API使用成本
Anthropic在其人工智慧模型API服務新增提示詞快取(Prompt Caching)功能,供開發者快取常用提示詞,減少重複資料傳輸,降低成本與延遲,提升模型服務效能
2024-08-20
Anthropic Claude添加提示詞快取降低開發者API使用成本
Anthropic在其人工智慧模型API服務新增提示詞快取(Prompt Caching)功能,供開發者快取常用提示詞,減少重複資料傳輸,降低成本與延遲,提升模型服務效能
2024-08-20