简体
  • 简体中文
  • 繁体中文

热门资讯> 正文

腾讯云发布向量数据库产品,AI Native成关键词丨最前线

2023-07-05 22:17

来源:36氪

应用于大模型的训练、推理和知识库补充等场景。

应用于大模型的训练、推理和知识库补充等场景。

真梓

封面来源IC photo

各行各业布局大模型的劲头,牵动着底层IT链条一并发生变化,向量数据库就是其中一环。

36氪获悉,在7月4日举行的腾讯云发布会上,腾讯正式对外发布了向量数据库产品Tencent Cloud VectorDB。腾讯云表示,这一数据库是AI 原生(AI Native)的向量数据库,能广泛应用于大模型的训练、推理和知识库补充等场景。

从应用场景看,过去的向量数据库常和推荐、反欺诈等关系紧密。而如今随着更新模型数据、帮助模型推理等需求的出现,向量数据库正体现出新价值。

在模型训练环节,腾讯云数据库副总经理罗云介绍,向量数据库可以用于大模型预训练数据的分类、去重和清洗环节。从效果上,罗云表示,向量数据库相比传统的数据准备方式可以实现10倍效率的提升。另在推理环节,如果将腾讯云的向量数据库作为外部知识库使用,则能将成本降低2-4个数量级。

需求在前,不少新兴向量数据库的面孔也随之出现。对比同业,腾讯云强调,自身的向量数据库在腾讯业务内长期打磨,不仅性能稳定,还具备AI Native特点。

具体来说,Tencent Cloud VectorDB提供了接入层、计算层、存储层的AI化解决方案,使用户使用向量数据库的全过程都能应用到AI能力。罗云进一步介绍,Tencent Cloud VectorDB可以在接入层使用自然语言查询,在计算层的算法和存储层的索引上同样叠加AI能力,不仅让交互更自然,计算结果、效率、成本也能一并得到优化。

罗云对36氪等机构表示,不久后向量数据库的比拼会按阶段体现在三个维度上:

首先在第一阶段:厂商需要把产品打磨成一个真正的向量数据库,提供向量存储、检索、扩容等功能。这一能力腾讯早已具备。

在第二阶段:单QPS的成本成为指标。对此罗云表示,腾讯云的向量数据库基于腾讯集团每日处理千亿次检索的向量引擎(OLAMA),经腾讯内部腾讯视频、QQ浏览器、QQ音乐等多个业务“检验”,持续为各类业务需求调优性能,具备先发优势。

在第三阶段:数据库使用的便捷性成为关键点。罗云解释,当前客户使用向量数据库的流程较多,而腾讯可以通过AI的方式,整体打包这类能力,提升易用性。

罗云表示,第三阶段,也就是经AI加持的易用性能力是腾讯近期打磨的重点。从效果上,企业原先接入一个大模型需要花1个月左右时间,而现在使用叠加了AI能力的腾讯云向量数据库只需要3天。AI时代,向量数据库也可以受益于AI。他总结。

风险及免责提示:以上内容仅代表作者的个人立场和观点,不代表华盛的任何立场,华盛亦无法证实上述内容的真实性、准确性和原创性。投资者在做出任何投资决定前,应结合自身情况,考虑投资产品的风险。必要时,请咨询专业投资顾问的意见。华盛不提供任何投资建议,对此亦不做任何承诺和保证。