rust让你的python飞起来!

Note: 本文作为入门教程,抛砖引玉,帮你初步了解如何使用rust为python写扩展模块,涉及从头到尾的详细步骤,基于此,剩下的只有深入rust,才能做得更好。

众所周知,python性能比较差,尤其在计算密集型的任务当中,所以机器学习领域的算法开发,大多是将python做胶水来用,他们会在项目中写大量的C/C++代码然后编译为so动态文件供python加载使用。那么时至今日,对于不想学习c/c++的朋友们,rust可以是一个不错的替代品,它有着现代化语言的设计和并肩c/c++语言的运行效率。

本文简单介绍使用rust为python计算性质的代码做一个优化,使用pyo3库为python写一个扩展供其调用,咱们下面开始,来看看具体的过程和效率的提升。

我的台式机环境:

设备名称 DESKTOP 处理器 12th Gen Intel® Core™ i7-12700 2.10 GHz 机带 RAM 32.0 GB (31.8 GB 可用) 系统类型 64 位操作系统, 基于 x64 的处理器

1. python代码

首先给出python代码,这是一个求积分的公式:

import timedef integrate_f(a, b, N):s = 0dx = (b - a) / Nfor i in range(N):s += 2.71828182846 ** (-((a + i * dx) ** 2))return s * dxs = time.time()
print(integrate_f(1.0, 100.0, 200000000))
print("Elapsed: {} s".format(time.time() - s))

执行这段代码花费了: Elapsed: 32.59504199028015 s

2. rust

use std::time::Instant;fn main() {let now = Instant::now();let result = integrate_f(1.0, 100.0, 200000000);println!("{}", result);println!("Elapsed: {:.2} s", now.elapsed().as_secs_f32())
}fn integrate_f(a: f64, b: f64, n: i32) -> f64 {let mut s: f64 = 0.0;let dx: f64 = (b - a) / (n as f64);for i in 0..n {let mut _tmp: f64 = (a + i as f64 * dx).powf(2.0);s += (2.71828182846_f64).powf(-_tmp);}return s * dx;
}

执行这段代码花费了: Elapsed: 10.80 s

3. 通过pyo3写扩展

首先创建一个项目,并安装 maturin 库:

# (replace demo with the desired package name)
$ mkdir demo
$ cd demo
$ pip install maturin

然后初始化一个pyo3项目:

$ maturin init
✔ 🤷 What kind of bindings to use? · pyo3✨ Done! New project created demo

整体项目结构如下: Cargo.toml中的一些字段含义:doc.rust-lang.org/cargo/refer…

.
├── Cargo.toml	// rust包管理文件,会在[lib]中声明目标扩展包的名称
├── src			// rust源文件目录, 你的扩展文件就写在这里,这个目录是maturin初始化的时候自动创建
│   └── lib.rs	// 扩展文件
├── pyproject.toml	// python包管理文件,里面有python的包名字定义
├── .gitignore
├── Cargo.lock
└── demo	// 我们的目标模块名称,需手动创建├── main.py	// 用来测试的文件└── demo.cp312-win_amd64.pyd	// 编译生成的动态链接库文件,供import给python使用

src/lib.rs 下写入:

use pyo3::prelude::*;// Caculate the integrate. This function will be exposed to python.
#[pyfunction]
fn integrate_f(a: f64, b: f64, n: i32) -> f64 {let mut s: f64 = 0.0;let dx: f64 = (b - a) / (n as f64);for i in 0..n {let mut _tmp: f64 = (a + i as f64 * dx).powf(2.0);s += (2.71828182846_f64).powf(-_tmp);}return s * dx;
}// A Python module implemented in Rust. The name of this function must match
// the `lib.name` setting in the `Cargo.toml`, else Python will not be able to
// import the module.
#[pymodule]
fn demo(_py: Python<'_>, m: &PyModule) -> PyResult<()> {m.add_function(wrap_pyfunction!(integrate_f, m)?)?;Ok(())
}

然后我们通过两种途径来使用它:

3.1 将扩展安装为python包

$ maturin develop

这个命令会将rust代码转为python的包,并安装在当前python环境内。通过 pip list 就能看到。

3.2 编译成动态文件从python加载

$ maturin develop --skip-install

--skip-install 命令会产生一个 pyd 文件而不是将其安装为python的包 - demo.cp312-win_amd64.pyd 文件在当前目录下,然后python可以直接导入使用。

另外还有一个指令替换 --skip-install--release 会生成一个 xxxx.whl 文件,也就是Python pip安装的包源文件。

首先我们在rust项目下,与 Cargo.toml 同级目录下,创建一个 demo 目录,然后我们写一个python文件 demo/main.py,下面是扩展的执行效果:

import timeimport demos = time.time()
print(demo.integrate_f(1.0, 100.0, 200000000))
print("Elapsed: {} s".format(time.time() - s))

花费时间为:Elapsed: 10.908721685409546 s

可以看到python的执行时间是rust和rust扩展的3倍时长,单进程看着好像不太大是吧,下面还有并行版本。

4. 并行加速

4.1 python多进程效果

Python多进程很神奇,你写的不好的话,他比单进程下还要慢。

import math
import os
import time
from functools import partial
from multiprocessing import Pooldef sum_s(i: int, dx: float, a: int):return math.e ** (-((a + i * dx) ** 2))def integrate_f_parallel(a, b, N):s: float = 0.0dx = (b - a) / Nsum_s_patrial = partial(sum_s, dx=dx, a=a)with Pool(processes=os.cpu_count()) as pool:tasks = pool.map_async(sum_s_patrial, range(N), chunksize=20000)for t in tasks.get():s += treturn s * dxif __name__ == "__main__":s = time.time()print(integrate_f_parallel(1.0, 100.0, 200000000))print("Elapsed: {} s".format(time.time() - s))

花费时间: Elapsed: 18.86696743965149 s,比单进程下时间少了不到一半。

4.2 rust多线程加速给python使用

如果我们使用rust的并行库,将rust进一步加速,速度效果更明显: 将上面的 integrate_f 替换为下面的多线程版本:

use pyo3::prelude::*;
use rayon::prelude::*;#[pyfunction]
fn integrate_f_parallel(a: f64, b: f64, n: i32) -> f64 {let dx: f64 = (b - a) / (n as f64);let s: f64 = (0..n).into_par_iter().map(|i| {let x = a + i as f64 * dx;(2.71828182846_f64).powf(-(x.powf(2.0)))}).sum();return s * dx;
}/// A Python module implemented in Rust. The name of this function must match
/// the `lib.name` setting in the `Cargo.toml`, else Python will not be able to
/// import the module.
#[pymodule]
fn demo(_py: Python<'_>, m: &PyModule) -> PyResult<()> {m.add_function(wrap_pyfunction!(integrate_f_parallel, m)?)?;Ok(())
}

执行上一个标题3.2的步骤,然后在引入python使用:

import timeimport demos = time.time()
print(demo.integrate_f_parallel(1.0, 100.0, 200000000))
print("Elapsed: {} s".format(time.time() - s))

花费时间为:Elapsed: 0.9684994220733643 s。这比原先的单线程rust版本又快了10倍。但是差不多是python并行版本的18倍左右,是python单进程版本的32倍左右。如果我们将一些关键的性能通过rust重写,可以节省的时间成本是十分可观的。

总体来看,整体的使用过程相当简洁方便,难点就是rust的学习曲线高,使用起来需要花费精力,但是还是可以慢慢尝试去使用它优化已有的项目性能,哪怕只是一个功能函数,熟能生巧,一切慢慢来。

以上数据比较仅供参考,不同机器可能差异也不同。

如果你对Python感兴趣,想要学习python,这里给大家分享一份Python全套学习资料,都是我自己学习时整理的,希望可以帮到你,一起加油!

😝有需要的小伙伴,可以V扫描下方二维码免费领取🆓

1️⃣零基础入门

① 学习路线

对于从来没有接触过Python的同学,我们帮你准备了详细的学习成长路线图。可以说是最科学最系统的学习路线,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
在这里插入图片描述

② 路线对应学习视频

还有很多适合0基础入门的学习视频,有了这些视频,轻轻松松上手Python~
在这里插入图片描述

③练习题

每节视频课后,都有对应的练习题哦,可以检验学习成果哈哈!
在这里插入图片描述

2️⃣国内外Python书籍、文档

① 文档和书籍资料

在这里插入图片描述

3️⃣Python工具包+项目源码合集

①Python工具包

学习Python常用的开发软件都在这里了!每个都有详细的安装教程,保证你可以安装成功哦!
在这里插入图片描述

②Python实战案例

光学理论是没用的,要学会跟着一起敲代码,动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。100+实战案例源码等你来拿!
在这里插入图片描述

③Python小游戏源码

如果觉得上面的实战案例有点枯燥,可以试试自己用Python编写小游戏,让你的学习过程中增添一点趣味!
在这里插入图片描述

4️⃣Python面试题

我们学会了Python之后,有了技能就可以出去找工作啦!下面这些面试题是都来自阿里、腾讯、字节等一线互联网大厂,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
在这里插入图片描述
在这里插入图片描述

上述所有资料 ⚡️ ,朋友们如果有需要的,可以扫描下方👇👇👇二维码免费领取🆓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/411561.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Docker 镜像加速

文章目录 概述一、MacOS Docker二、Windows Docker三、Linux Docker四、小结 概述 使用容器时一般需要首先下载一个容器镜像&#xff0c;例如Docker Hub官方提供的MySQL、WordPress等容器镜像。然而由于 Docker 服务器在国外&#xff0c;基于网速与“和谐墙”的问题&#xff0c…

Spring MVC学习——解决请求参数中文乱码

解决请求参数中文乱码问题 1.POST请求方式解决乱码问题 在web.xml里面设置编码过滤器 <filter><filter-name>CharacterEncodingFilter</filter-name><filter-class>org.springframework.web.filter.CharacterEncodingFilter</filter-class><…

WebGL中开发VR(虚拟现实)应用

WebGL&#xff08;Web Graphics Library&#xff09;是一种用于在浏览器中渲染交互式3D和2D图形的JavaScript API。要在WebGL中开发VR&#xff08;虚拟现实&#xff09;应用程序&#xff0c;您可以遵循以下一般步骤&#xff0c;希望对大家有所帮助。北京木奇移动技术有限公司&a…

提升UI设计水平的关键技能,轻松打造专业形象!

UI关注软件图形界面&#xff0c;包括按钮、布局、动画、过渡、微交互等。简而言之&#xff0c;UI关于界面的外观。 UI设计包括以下界面&#xff1a; -用户图形界面(GUI):GUI设计用户与系统控制工具之间的视觉交互。计算机桌面是一种GUI。 -语音控制界面(VUI):VUI设计用户与系…

异步Merkle Tree

1. 引言 前序博客&#xff1a; 利用多核的Rust快速Merkle tree Anoushk Kharangate 2023年论文《Asynchronous Merkle Trees》&#xff0c;其对Merkle tree数据结构进行修改&#xff0c;使得可跨多线程异步计算。 开源代码实现见&#xff1a; https://github.com/anoushk1…

一文读懂SSL证书

SSL证书是保障网络通信安全的核心组成部分&#xff0c;但不同类型的SSL证书具有不同的特性和用途。在选择SSL证书时&#xff0c;了解这些不同类型的证书是至关重要的。本文将介绍几种常见的SSL证书类型&#xff0c;以帮助您更好地了解它们的适用场景和优势。 1.域名验证证书&am…

基于springboot+vue的图书个性化推荐系统(前后端分离)

博主主页&#xff1a;猫头鹰源码 博主简介&#xff1a;Java领域优质创作者、CSDN博客专家、公司架构师、全网粉丝5万、专注Java技术领域和毕业设计项目实战 主要内容&#xff1a;毕业设计(Javaweb项目|小程序等)、简历模板、学习资料、面试题库、技术咨询 文末联系获取 项目背景…

保证Kafka消息有序性

一、Kafka特性 写入同一个partion分区中的数据是一定有顺序的kafka中一个消费者消费一个partion的数据&#xff0c;消费者取出数据时&#xff0c;也是有顺序的 二、保证消息Kafka消息有序性 在生产者端&#xff0c;应保证消息被写入同一分区。可以在构造消息时指定消息的key…

go语言(三)----函数

1、函数单变量返回 package mainimport "fmt"func fool(a string,b int) int {fmt.Println("a ",a)fmt.Println("b ",b)c : 100return c}func main() {c : fool("abc",555)fmt.Println("c ",c)}2、函数多变量返回 pack…

新数智空间:阿里云边缘云持续保持中国公有云市场第一

全球领先的 IT 市场研究和咨询公司 IDC 发布 《中国边缘云市场解读&#xff08;2023H1&#xff09;》报告 中国边缘公有云服务市场 阿里云持续第一 稳居市场第一&#xff0c;“边缘”逆势生长 近日&#xff0c;全球领先的 IT 市场研究和咨询公司 IDC 最新发布《中国边缘云市…

排序算法整理

快速排序 C实现 void fastStore(int *a, int start, int end){if(start>end)return ;int leftstart;int rightend;int tempa[left];//设置基准值tempwhile(left < right) //左指针的位置一定小于右指针的位置{while(a[right]>temp && left < right) //左…

Qt纯代码实现UI界面

1.相关信息 设置编辑框内容的字体样式&#xff0c;包括加粗、下划线、斜体、蓝色、红色、黑色 2.界面展示 3.相关代码 #include "dialog.h" #include <QHBoxLayout> #include <QVBoxLayout> #include <QCheckBox> #include <QRadioButton> …