Anthropic釋出Claude 2.1，脈絡長度達20萬個Token

OpenAI的競爭對手Anthropic周二（11/21）釋出了Claude 2.1模型，包括API與聊天服務claude.ai 都開始採用新模型。Claude 2.1所支援的脈絡長度多達20萬個Token，改善了準確度，開始測試讓Claude整合其它工具，也推出了系統提示（System Prompt）功能。

脈絡長度指的是模型在生成答案時所參考的資料範圍，涵蓋使用者曾輸入的文字或模型曾產生的答案，以讓模型得以持續給出相關的答案，亦支援更大的資料輸入。Claude 2.1所支援的20萬個Token脈絡不僅是Claude 2.0的兩倍，也已凌駕OpenAI GPT-4 Turbo的12.8萬個Token，相當於15萬個文字或是500頁的文件。

Anthropic表示，自從Claude聊天服務在今年上線後，便有數百萬名使用者利用它來翻譯學術報告、起草商業計畫或是分析複雜的合約，許多使用者在處理龐大文件時，想要有更長的脈絡與更精確的輸出，使得Anthropic決定將脈絡長度擴大一倍。

透過新的Claude 2.1，使用者可以輸入大量的內容或資料，以執行摘錄、Q&A、趨勢分析，或是比較多個不同的文件等。

而在準確度上，Claude 2.1的虛假陳述只有Claude 2.0的一半，另也改善了對內容的理解與摘錄，特別是法律文件、財報與技術規格等需要高準確度的龐雜內容，出現錯誤答案的比例減少了30%，對於支持特定聲明的文件所產生的錯誤結論更減少了3~4倍。

Claude 2.1亦可整合特定的工具以彌補模型的不足，例如整合計算機，或是將自然語言請求換成結構性的API呼叫，也能要求模型透過資料庫或網路搜尋來回答問題，也能連結至產品資料集來提出購買建議。唯此一功能目前仍處於早期開發階段。

至於系統提示則是大型語言模型的常見功能，它可在使用者輸入提示前先設定模型的系統提示，例如告訴模型以特定角色或是一致的方式產生回應。

Claude 2.1亦支援免費AI聊天服務，而其付費版的價格是輸入每100萬個Token為8美元，輸出每100萬個Token為24美元，而GPT-4 Turbo的價格則分別是10美元與30美元。