ISC 2023大会成功举办，向量数据库公司Zilliz成大模型论坛焦点

近日，第十一届互联网安全大会（ISC 2023）在北京盛大开幕。大会由 ISC 互联网安全大会组委会、中国互联网协会、中国网络空间安全协会、全国工商联大数据运维(网络安全)委员会、中国人工智能学会、中国软件行业协会、中国企业联合会、360 互联网安全中心主办；中国通信企业协会、中国中小企业协会协办；中国计算机学会计算机安全专业委员会、中国人工智能学会人工智能与安全专业委员会承办。

本次大会以“安全即服务，开启人工智能时代数字安全新范式”为主题，打造全球首场 AI 数字安全峰会，聚集全球安全先锋、专家智囊、行业领袖深度参与，擘画数字安全与 AI 技术融合发展新蓝图，Zilliz 作为行业头部公司受邀参与此次大会，与各方共同探讨关于大模型落地实践应用与挑战的话题。

Zilliz 合伙人兼产品总监郭人通在现场数据专家演讲环节进行了名为《大模型的记忆力》的主题分享。郭人通从大模型的 “AI 幻觉”讲起。他表示，当下“AI 幻觉”是大模型的主要痛点之一，构建知识库是应对此问题的有效方式，向量数据库可以作为知识库的扩展插件为大模型进行知识增强。这也为 LLMs 时代构建数据应用提供了一种新的范式——CVP Stack。其中 C 是以 ChatGPT 为代表的大模型；V 代表 Vector Database；P 代表 Prompt engineering。其中 C 作为运算单元，提供逻辑分析和自然语言对接的能力，V 作为存储单元，提供稳定准确、高容量的知识，P 在前两者的基础上，提供面向具体业务的适配能力。

在整个 CVP Stack 中，向量数据库扮演着重要角色，其中，Milvus 作为云原生的开源向量数据库，被全球超过 1000 家企业用户所信赖，下载和安装次数超过 400 万，在 GitHub 的 Star 数目超 2 万，在 SIGMOD 和 VLDB 等数据库顶会上发表了论文，奠定了向量数据库的基础。目前，Milvus 不仅具备百亿级向量的扩展能力，还集成 OpenAI、Langchain、Huggingface、Pytorch 等 AI 生态，是大语言模型落地应用的重要组成部分。

而为了给用户提供开箱即用的全托管向量检索服务，Zilliz 还推出了全托管 Milvus 的向量数据库 Zilliz Cloud，具备维护成本低、使用门槛低、丰富的企业级特性及安全放心的特点。 据郭人通透露，Zilliz Cloud 的合作伙伴包括 OpenAI、NVIDIA、Hugging Face、AWS、GCP、Azure、金山云、百度智能云、文心一言等。

在随后关于“行业大模型的创新机遇与挑战”的圆桌论坛中，郭人通亦贡献了精彩的发言：

Q1：从各自行业看，还有哪些没有被解决掉的问题？

郭人通：从我们的观察来看，主要还是大模型的成本问题。向量数据库目前的落地场景包括自动驾驶、搜广推、风控、AI 问答等，具备量大、高并发的特点，加上向量数据属于高维，引入后开发者会面临计算和存储成本会大大增加，甚至可能出现产业的落地收益低于成本的问题。据我们观察，目前多是头部厂商在尝试，整体受成本影响比较大。

Q2：针对上述问题，是否有可以讨论的解决方案？

郭人通：Zilliz 提供了多种解决方案，但目前来看，很难用一套通用方案解决用户的所有问题。举例来看 ，开源方面，我们面向超小的用户或中等大型用户都有对应的开源方案，大家可以自建；对于使用云服务的用户，我们提供不同的 SaaS、PaaS 版本，以池化的方案压低成本。尽管相较北美的部分厂商，我们的综合性价比更优，但用户还是会有成本的痛点存在。

Q3：从您的视角来看，行业还有哪些机会？

郭人通：在我们看来，机会很多。我主要列举两个方向，一个是 AI 能力落地所需的技术组件，例如GPTCache，它就是为大模型做的缓存层；另一个是面向智能体的基础服务，智能体所产生的数据庞大，针对它们的服务形态、基础组件及服务定位同样空间巨大。因此，我认为这两个方向仍有很大的探索价值。