金十數據8月2日訊， 8月2日，私募巨頭幻方量化官微宣佈，其探索AGI（通用人工智能）的新組織“深度求索（DeepSeek）”啟用上下文硬盤緩存技術，把預計未來會重複使用的內容，緩存在分佈式的硬盤陣列中。在大模型API的使用場景中，如果輸入存在重複，則重複的部分只需要從緩存讀取，無需計算。緩存命中的部分，DeepSeek費用為0.1元每百萬tokens。
20.01萬 熱度
9.74萬 熱度
9.53萬 熱度
3.44萬 熱度
11.45萬 熱度
幻方量化旗下大模型廠商DeepSeek啟用硬盤緩存技術
金十數據8月2日訊， 8月2日，私募巨頭幻方量化官微宣佈，其探索AGI（通用人工智能）的新組織“深度求索（DeepSeek）”啟用上下文硬盤緩存技術，把預計未來會重複使用的內容，緩存在分佈式的硬盤陣列中。在大模型API的使用場景中，如果輸入存在重複，則重複的部分只需要從緩存讀取，無需計算。緩存命中的部分，DeepSeek費用為0.1元每百萬tokens。