Milvus 快速入门

在这里插入图片描述

引言

在本篇文章中,我们将介绍 Milvus 的基本概念,并通过一个简单的示例展示如何在 Milvus 中创建集合、插入向量和执行搜索。最后,我们将概览 Milvus 提供的 API。

一、基本概念

1.1 集合 (Collection)

在 Milvus 中,集合类似于关系数据库中的表,它是用来存储向量的容器。集合可以有多个字段,每个字段对应一个向量属性。

1.2 向量 (Vector)

向量是多维空间中的点,通常用于表示数据的特征。在 Milvus 中,向量是集合中的基本存储单元。

1.3 索引 (Index)

索引是用来加速向量搜索的数据结构。Milvus 支持多种索引类型,如 FLAT、IVF、HNSW 等,每种索引类型都有其特定的适用场景。

在这里插入图片描述

二、快速上手

2.1 安装 Milvus Python Client

首先,确保你已经安装了 Milvus 服务。接下来,安装 Milvus 的 Python 客户端:

pip install pymilvus

2.2 创建集合

from pymilvus import Collection, FieldSchema, DataType, Dim, MetricType定义集合的 schema
fields = [FieldSchema(name="embedding", dtype=DataType.FLOAT_VECTOR, dim=128),
]创建集合
collection_name = "my_collection"
collection = Collection(name=collection_name, schema=fields)

2.3 插入向量

 假设我们有一些向量数据
vectors = [[0.1, 0.2, ..., 0.9, 1.0],[1.1, 1.2, ..., 1.9, 2.0],...
]插入向量
insert_result = collection.insert([vectors])

2.4 创建索引

 创建索引以加速搜索
collection.create_index(index_type="IVF_FLAT", params={"nlist": 1024})

2.5 执行搜索

 假设我们有一个查询向量
query_vector = [0.1, 0.2, ..., 0.9, 1.0]执行搜索
search_params = {"nprobe": 10,"metric_type": MetricType.L2,
}
results = collection.search(data=[query_vector],anns_field=collection_name,param=search_params,limit=10,output_fields=[],
)

在这里插入图片描述

三、API 概览

Milvus 提供了多种编程语言的 API,包括 Python、Java 等。

3.1 Python API

Milvus 提供了 Python SDK,名为 PyMilvus,它允许开发者在 Python 环境中方便地与 Milvus 进行交互,执行各种数据库操作,如连接、数据插入、查询、搜索、删除等。通过 PyMilvus,你可以轻松地将 Milvus 强大的向量数据库功能集成到你的 Python 应用程序中。

以下是关于 Milvus Python API 的一些关键信息:

3.1.1 安装 PyMilvus

你可以通过 pip 安装 PyMilvus。对于 Python 3.8 及以上版本,可以使用以下命令安装:

$ pip3 install pymilvus

若需要 Milvus 模型功能,可以使用:

$ pip3 install pymilvus[model]

安装特定版本的 PyMilvus:

$ pip3 install pymilvus==版本号

升级 PyMilvus 到最新版本:

$ pip3 install --upgrade pymilvus

3.1.2 兼容性

不同版本的 Milvus 推荐使用相应版本的 PyMilvus,以确保最佳兼容性。例如:

  • Milvus 1.0.x 推荐使用 PyMilvus 1.0.1
  • Milvus 2.3.x 推荐使用 PyMilvus 2.3.7
  • Milvus 2.4.x 推荐使用 PyMilvus 2.4.0

3.1.3 基本使用

使用 PyMilvus 连接 Milvus 服务器并创建集合的示例代码:

from pymilvus import Collection, CollectionSchema, FieldSchema, DataType# 定义字段
fields = [FieldSchema(name="pk", dtype=DataType.VARCHAR, is_primary=True),FieldSchema(name="random", dtype=DataType.DOUBLE),FieldSchema(name="embeddings", dtype=DataType.FLOAT_VECTOR, dim=128)
]# 创建集合的 schema
schema = CollectionSchema(fields, description="示例集合")# 创建集合
hello_milvus = Collection(name="hello_milvus", schema=schema)

3.1.4 数据操作

插入数据、创建索引、执行查询和搜索是 Milvus 中常见的数据操作。以下是一些操作的示例代码:

  • 插入数据
# 假设 entities 是一个包含数据的列表
insert_result = hello_milvus.insert(entities)
hello_milvus.load()
  • 创建索引
index = {"index_type": "IVF_FLAT","metric_type": "L2","params": {"nlist": 128},
}
hello_milvus.create_index("embeddings", index)
  • 执行查询
result = hello_milvus.query(expr="random > 0.5", output_fields=["random", "embeddings"])
  • 执行搜索
search_params = {"nprobe": 10}
result = hello_milvus.search(vectors_to_search, "embeddings", search_params, limit=10)

3.1.5 调试和开发

PyMilvus 还提供了一些工具来帮助开发者进行调试和开发:

  • 获取子模块:
$ git submodule update --init
  • 从 milvus-proto 生成 Python 文件:
$ make gen_proto
  • 使用本地 PyMilvus 仓库为 Milvus 服务器:
$ make install
  • 检查代码风格:
make lint

3.1.6 文档和资源

Milvus 提供了详尽的在线文档,其中包含了关于 PyMilvus 的更多信息和高级用法:

  • PyMilvus 文档: PyMilvus Documentation

3.1.7 社区支持

如果在使用 PyMilvus 过程中有任何问题或建议,可以通过 Slack channel #py-milvus 与社区交流。

3.1.8 注意事项

  • 确保 Milvus 服务正在运行,并且 Python 环境已正确安装且配置无误。
  • 在执行数据插入操作后,调用 flush 方法确保数据已写入磁盘。
  • 在创建索引前,需要确保数据已经插入并且索引字段是正确的。

3.2 Java API

3.2.1 Java SDK 简介

Milvus Java SDK 是一个开源项目,其源代码托管在 GitHub 上。它允许 Java 开发者通过编写 Java 代码与 Milvus 进行交互,执行包括数据插入、查询、搜索、删除等操作。

3.2.2 兼容性

Milvus Java SDK 与 Milvus 服务器的特定版本兼容。开发者需要确保使用的 Java SDK 版本与 Milvus 服务器版本相匹配。

3.2.3 安装

Java SDK 可以通过 Apache Maven 或 Gradle 下载安装。开发者需要在项目的 pom.xmlbuild.gradle 文件中添加相应的依赖。

快速开始

在使用 Java SDK 之前,需要满足一些先决条件,如 Java 8 或更高版本。此外,开发者需要了解如何连接到 Milvus 服务器,以及如何使用 Java SDK 进行基本的数据操作。

3.2.4 示例代码

以下是使用 Milvus Java SDK 连接到 Milvus 服务器并执行简单操作的示例代码:

import io.milvus.client.*;public class MilvusClientExample {public static void main(String[] args) {// 初始化 Milvus 客户端ConnectParam connectParam = new ConnectParam.Builder().withHost("localhost").withPort(19530).build();MilvusClient client = new MilvusGrpcClient.Builder().build();try {client.connect(connectParam);// 创建集合示例String collectionName = "my_collection";String fieldName = "my_vector";int dimension = 128;String fieldSchema = String.format("{\"name\": \"%s\", \"type\": \"FLOAT_VECTOR\", \"params\": {\"dim\": %d}}", fieldName, dimension);String collectionSchema = String.format("{\"fields\": [%s], \"description\": \"my collection\"}", fieldSchema);client.createCollection(collectionSchema);// 其他操作...} catch (Exception e) {e.printStackTrace();} finally {// 关闭客户端连接if (client != null && client.isConnected()) {client.disconnect();}}}
}

3.2.5 社区支持

Milvus 拥有活跃的社区,开发者可以通过 GitHub 提交 issue,或者加入 Discord 社区与其他开发者交流。

3.2.6 文档和资源

Milvus 官方提供了详尽的 Java SDK 文档,包括 API 参考、快速入门指南和最佳实践。

  • Java SDK 文档: Java SDK Documentation

3.3 Go API

Milvus Go API 是 Milvus 提供的 Go 语言客户端库,它允许开发者在 Go 应用程序中与 Milvus 服务器进行交互,执行数据操作和向量搜索等任务。通过 Milvus Go API,Go 语言开发者可以轻松地将 Milvus 的强大功能集成到他们的应用程序中,以处理大规模的向量数据和执行高效的相似性搜索。

以下是关于 Milvus Go API 的一些关键信息:

3.3.1 安装

要安装 Milvus Go SDK,你需要有 Go 1.17 或更高版本。可以使用 go get 命令来安装:

go get -u github.com/milvus-io/milvus-sdk-go/v2

3.3.2 兼容性

Milvus Go SDK 与 Milvus 服务器的特定版本是兼容的。例如,Milvus 2.3.x 推荐使用 Go SDK 版本 2.3.1。主要版本之间可能不兼容,因此需要注意与 Milvus 服务器匹配的 SDK 版本。

3.3.3 快速开始

安装完 Go SDK 后,你可以在你的 Go 应用程序中导入并使用它:

import "github.com/milvus-io/milvus-sdk-go/v2/client"

3.3.4 示例代码

以下是使用 Milvus Go SDK 创建客户端连接和检查集合是否存在的示例代码:

client, err := client.NewClient(context.Background(), client.Config{Address: "localhost:19530",
})
if err != nil {// 处理错误
}
defer client.Close()// 检查集合是否存在
hasCollection := client.HasCollection(context.Background(), "YOUR_COLLECTION_NAME")

3.3.5 API 文档

Milvus Go SDK 的 API 文档可以在 Milvus 官方文档中找到,提供了关于如何使用 Go SDK 的详细信息和示例。

3.3.6 开源许可

Milvus Go SDK 是一个开源项目,遵循 Apache-2.0 许可协议,其源代码托管在 GitHub 上。

3.3.7 实际应用

Milvus Go SDK 可以用于构建多种 AI 应用,如图像搜索、聊天机器人、化学结构搜索等。

3.3.8 版本说明

Milvus Go SDK 有多个版本,每个版本对应不同版本的 Milvus 服务器。选择正确的版本对于确保兼容性至关重要。

3.3.9 安装指南

Milvus 官方文档提供了详细的 Go SDK 安装指南,包括系统要求和安装步骤。

3.4 RESTful API

Milvus 的 RESTful API 提供了一种通过 HTTP 请求与 Milvus 服务器交互的方式,允许用户在不同编程语言和环境中操作 Milvus 来管理集合和数据。通过 Milvus RESTful API,用户可以在多种编程环境中与 Milvus 进行交互,实现数据管理和搜索功能,这为构建基于 Milvus 的应用程序提供了灵活性和便利性。

以下是关于 Milvus RESTful API 的一些关键信息:

3.4.1 功能特点

  • 操作集合:允许用户创建、列出、描述、删除集合。
  • 数据管理:支持向集合中插入、查询、删除数据。
  • 搜索功能:能够执行向量搜索操作。
  • 动态字段:支持动态字段的创建和使用,增加了数据管理的灵活性。

3.4.2 使用前提

  • Milvus 服务运行:确保 Milvus 服务正在运行。
  • 端口开放:Milvus RESTful API 默认端口为 9091,确保该端口已开放。

3.4.3 认证信息

  • Token:如果 Milvus 实例启用了认证,需在请求头中提供 Token,格式为用户名和密码以冒号分隔,例如 root:Milvus

3.4.4 API 端点

  • 集合操作:例如 GET ${MILVUS_HOST}:${MILVUS_PORT}/v1/vector/collections 用于列出所有集合。

3.4.5 示例请求

curl --request GET \--url "http://${MILVUS_HOST}:${MILVUS_PORT}/v1/vector/collections" \--header "Authorization: Bearer ${TOKEN}" \--header "accept: application/json" \--header "content-type: application/json"

3.4.6 注意事项

  • RESTful API 支持的集合操作与 SDK 中的功能相似,但可能在某些特性上存在差异。
  • 某些操作可能需要特定的请求格式或参数。

3.4.7 文档和资源

  • 官方文档:Milvus 提供了详尽的 RESTful API 文档,包括如何开始使用、API 端点、认证方式和示例请求。
    • RESTful API v2.2.x 文档:Milvus RESTful API v2.2.x
    • RESTful API v2.3.x 文档:Milvus RESTful API v2.3.x

3.4.8 社区支持

  • 如果在使用 RESTful API 过程中遇到问题,可以通过 Milvus 社区获得帮助,例如 GitHub 仓库的 Issues 区域。
    • GitHub Issues:Milvus GitHub Issues

3.4.9 未来规划

  • Milvus 社区正在不断扩展 RESTful API 的功能,包括支持更多的数据源迁移和简化迁移命令等。
    • 未来规划讨论:Milvus Confluence

在这里插入图片描述

总结

Milvus 的快速入门包括了基本概念的理解、一个简单的示例操作以及 Milvus API 的概览。通过这些步骤,你可以开始使用 Milvus 进行向量数据的存储和搜索。Milvus 的设计旨在简化向量数据库的使用,使其成为机器学习和人工智能应用中的有力工具。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/702332.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何在华企盾DSC数据防泄密系统中自定义加密级别?

在华企盾DSC系统中,你可以通过密级权限功能来自定义加密文件的密级高低。每个终端下都有严格的受限范围,文件密级的高低将直接决定该终端是否拥有打开该加密文件的权利。如果不在权限范围内,则无法打开该加密文件。详细步骤如下: …

守护长者安全,平安养老险携手福海街道开展防灾减灾活动

在构建和谐社会、倡导人文关怀的当下,平安养老险以高度的社会责任感和深厚的人文情怀,持续关注老年人的健康与安全。在今年“5.12防灾减灾日”来临之际,平安养老险深圳分公司积极响应倡议,于5月10日携手福海街道举办了在福海街道举…

数据结构--AVL树

一、什么是AVL树 1、AVL树的概念 二叉搜索树虽可以缩短查找的效率,但如果数据有序或接近有序二叉搜索树将退化为单支树,查 找元素相当于在顺序表中搜索元素,效率低下。因此,两位俄罗斯的数学家G.M.Adelson-Velskii 和E.M.Landis在…

Python轻量级Web框架Flask(14)—— 自己做Flask项目总结

0、前言: 本文意在记录自己在做毕业Flask项目开发时遇到的一些问题,并将问题解决方案记录下来,可做日后查询本文也会记录自己做FLask项目时实现的一些功能,作为开发工作的进程记录注意:用Flask开发的前提是已经设计好…

【复试分数线】综合性985历年分数线汇总(第四弹)

国家线和34所自划线 可以看作是考研上岸最最最基础的门槛。真正决定你能不能进入复试的还要看院线(复试分数线)!今天我将分析考信号的除C9、工科类985的其他7所985近三年复试分数线(不包括2024),大家可以参…

使用C++实时读取串口数据(window使用已编译LibModbus库并用QT实现一个实时读取串口数据)

先看这篇文章,写得很详细: QT应用篇 四、window编译LibModbus库并用QT编写一个Modbus主机 手把手教学 编译好的LibModbus库可以在上面文章里下载, 1.以编译好的modbus链接如下:libmodbus-3.1.4-源码与已编译好的 文件目录如下: …

pycharm导入项目,创建虚拟环境,下载依赖

1、安装conda,此处省略 2、管理员身份打开CMD命令行,创建虚拟环境 conda create --name env_name python3.7 -y 其中,env_name替换为自己想要的环境名字,python3.7表示指定python版本为3.7,-y意味着遇到询问直接回复…

三菱FX3U-4AD模拟量电压输入采集实例

硬件:PLC模块 FX3GA-24MT ;A/D模块FX&#xff13…

数据结构--红黑树(RBTree)

一、红黑树概念 1.1 什么是红黑树 红黑树,是一种二叉搜索树,但在每个结点上增加一个存储位表示结点的颜色,可以是Red或 Black。 通过对任何一条从根到叶子的路径上各个结点着色方式的限制,红黑树确保没有一条路径会比其他路径长…

Facebook国内账户与 Facebook海外账户的区别

Facebook国内户的封户速度和频率有时可谓令人崩溃,为这种情况伤脑筋的朋友,不妨考虑一下Facebook海外户,既不限额,又更稳定..... Facebook,Google 开企业广告账户/游戏代投 +V:Ukvo77 TG:ukv…

【C++】 C++ 编写 鸡兔同笼程序

文章目录 “鸡兔同笼”问题是一个经典的数学问题,要求根据总头数和总腿数来计算鸡和兔的数量。假设鸡有 2 条腿,兔有 4 条腿。可以通过以下步骤求解这个问题: 1 .设鸡的数量为 x,兔的数量为 y。2.根据题意,我们有以下…

美国多IP服务器为企业的数据分析提供了强大的技术支持

美国多IP服务器为企业的数据分析提供了强大的技术支持 在当今数字化时代,数据分析已经成为企业决策和战略规划的核心。而美国多IP服务器则为企业提供了强大的技术支持,帮助它们有效地进行数据分析,从而更好地理解市场、优化运营,…