騰訊云正式發(fā)布面向大模型訓練的向量數(shù)據(jù)庫(Tencent Cloud VectorDB),預計8月正式登陸騰訊云官網。該數(shù)據(jù)庫能夠被廣泛應用于大模型的訓練、推理和知識庫補充等場景,是國內首個從接入層、計算層、到存儲層提供全生命周期AI化的向量數(shù)據(jù)庫。
據(jù)介紹,騰訊云向量數(shù)據(jù)庫最高支持10億級向量檢索規(guī)模,延遲控制在毫秒級,相比傳統(tǒng)單機插件式數(shù)據(jù)庫檢索規(guī)模提升10倍,同時具備百萬級每秒查詢(QPS)的峰值能力。
騰訊云數(shù)據(jù)庫副總經理羅云指出,向量數(shù)據(jù)庫已經在QQ瀏覽器、騰訊視頻、騰訊游戲、QQ 音樂、搜狗輸入法等30+業(yè)務場景中應用,并自研了分布式向量數(shù)據(jù)庫核心引擎Olama,原名ElasticFaiss。
此外,騰訊云在 6 月 19 日首次公布了其行業(yè)大模型研發(fā)進展,依托騰訊云 TI 平臺打造行業(yè)大模型精選商店,為客戶提供 MaaS(Model-as-a-Service)一站式服務。
今年 4 月,騰訊云發(fā)布了專為大模型訓練設計的新一代 HCC 高性能計算集群,采用最新一代的騰訊云星星海自研服務器,具備業(yè)界最高的 3.2Tbps 互聯(lián)帶寬,算力性能提升3倍。