【APUE】补充 — 基于管道的线程池-编程知识

一、引言

二、代码实现

三、思考

一、引言

在线程章节的 3.2 部分，我们曾经提到过线程池的实现

在当时的代码中，我们仅仅用的一个 int 类型的变量来表示这个“池”，用来存放任务

显然这个池太小了，如果下游线程很多，可能会出现以下情况：

我们只需要将任务池的容量增大点，就可以很好地减少上述提到的多次调度带来的上下文切换开销：

池需要用一个数据结构来维护其池中的任务（数据），我们选用队列进行实现

其实队列这个数据结构的特征和管道非常类似，数据从队列尾入队，从队列首出队；数据写入管道的写端，然后从管道的读端读取数据

我们接下来将动手实现一个队列（管道），并基于该管道扩充池的容量。其实内核也提供了现成的管道，我们不直接使用内核提供的管道主要有以下两点考虑：

内核提供的管道可用于进程间通信，线程间通信没必要用内核提供的机制，用的话就有点儿大材小用了
自己实现管道能够深入了解管道的特点，为后续讲解进程间通信做铺垫（到时候会用到内核提供的管道）

二、代码实现

mypipe.h，暴露接口

#ifndef MYPIPE_H__
#define MYPIPE_H__#define PIPESIZE 1024
#define MYPIPE_READ 0b00000001UL
#define MYPIPE_WRITE 0b00000010ULtypedef void mypipe_t;mypipe_t* mypipe_init(void);	// 创建（初始化）一个管道int mypipe_register(mypipe_t *, int opmap);	// 注册用户身份int mypipe_unregister(mypipe_t *, int opmap);	// 取消注册用户身份int mypipe_read(mypipe_t *, int *buf, size_t count);	// 读管道int mypipe_write(mypipe_t *, const int *buf, size_t count);	// 写管道int mypipe_destroy(mypipe_t *);	// 销毁管道	#endif

mypipe.c，实现接口。注意如何将在 mypipe.h 中隐藏的数据结构解除隐藏

#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>#include "mypipe.h"struct mypipe_st {	// 并发队列int head;	// 指向队头int tail;	// 指向队尾int data[PIPESIZE];	// 存放数据的地方int datasize;	// 队列中有效数据的个数pthread_mutex_t mutex;	// 互斥量pthread_cond_t cond;	// 条件变量int count_rd, count_wr;	// 读者写者计数// 从这里看出，我们需要用户指定其读者/写者的身份
};mypipe_t * mypipe_init(void) {	// 初始化一个管道struct mypipe_st *me;me = malloc(sizeof(*me));if (me == NULL)return NULL;me->head = 0;me->tail = 0;me->datasize = 0;me->count_rd = 0;	// 读者个数为0me->count_wr = 0;	// 写者个数为0pthread_mutex_init(&me->mutex, NULL);pthread_cond_init(&me->cond, NULL);return me;
}int mypipe_register(mypipe_t *ptr, int opmap) {	// 用户通过该函数指定其身份struct mypipe_st * me = ptr;	// 之前在.h文件中隐藏了ptr所表征的数据结构，在这里取消隐藏pthread_mutex_lock(&me->mutex);	// 可能多个线程同时注册身份，需要互斥if (opmap & MYPIPE_READ)	// 将宏看成位图，注意位图操作me->count_rd++;if (opmap & MYPIPE_WRITE)me->count_wr++;pthread_mutex_unlock(&me->mutex);	return 0;
}int mypipe_unregister(mypipe_t *ptr, int opmap) {	// 用户通过该函数取消注册其身份struct mypipe_st * me = ptr;pthread_mutex_lock(&me->mutex);if (opmap & MYPIPE_READ)me->count_rd--;if (opmap & MYPIPE_WRITE)me->count_wr--;pthread_cond_broadcast(&me->cond);	// 可能读者或者写者被减为0了，需要通知一下read及writepthread_mutex_unlock(&me->mutex);return 0;
}int mypipe_read(mypipe_t * ptr, int *buf, size_t count) {struct mypipe_st * me = ptr;pthread_mutex_lock(&me->mutex);while (me->datasize <= 0 && me->count_wr > 0)	// 当管道中没有数据，但是还有写者，就继续等待{pthread_cond_wait(&me->cond, &me->mutex);	// 等待管道中有数据// 等待写者数量变为0}if (me->datasize <= 0 && me->count_wr <= 0){pthread_mutex_unlock(&me->mutex);	// 没有写者且管道中没有数据，就直接返回读取到的字节数为0return 0;}int i;for (i = 0; i < count; ++i) {	// 读取if (me->datasize <= 0)break;*(buf+i) = me->data[me->head];me->head = (me->head + 1)%PIPESIZE;	// 读出来了，相当于队列首出队了一个元素me->datasize--;}pthread_cond_broadcast(&me->cond);	// 告诉写者能写了pthread_mutex_unlock(&me->mutex);return i;
}int mypipe_write(mypipe_t *ptr, const int *buf, size_t count) {struct mypipe_st * me = ptr;pthread_mutex_lock(&me->mutex);while (me->datasize >= PIPESIZE && me->count_rd > 0)	// 当管道满，但是还有读者，就继续等待 pthread_cond_wait(&me->cond, &me->mutex);	// 等待读者读出数据，使管道不满// 等待读者数量变为0if (me->datasize >= PIPESIZE && me->count_rd <= 0)	// 没有读者后，且管道已经满了，就没必要继续写了，直接返回{pthread_mutex_unlock(&me->mutex);return 0;}int i;for (i = 0; i < count; ++i) {	// 写入if (me->datasize == PIPESIZE)break;me->data[me->tail] = *(buf+i);me->tail = (me->tail + 1)%PIPESIZE;me->datasize++;}pthread_cond_broadcast(&me->cond);	// 告诉读者能读了pthread_mutex_unlock(&me->mutex);return i;
}int mypipe_destroy(mypipe_t * ptr) {struct mypipe_st * me = ptr;pthread_mutex_destroy(&me->mutex);pthread_cond_destroy(&me->cond);free(ptr);return 0;
}

main.c，演示用户如何使用接口。main 首先创建 10 个线程（这 10 个线程负责从池中获取数据并判断是否为质数），然后 main 线程自身源源不断往池中写入数据。我们需要用我们上述写的管道来表征这个池，注意如何使用我们的接口：

创建管道
往管道写入数据前需要注册写者身份，写入完毕后需要取消注册的身份
从管道读取数据前需要注册读者身份，读取完毕后需要取消注册的身份
管道用完后需要销毁管道

#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>
#include "mypipe.h"#define NUM_THREADS 10
#define START_NUM 30000000
#define END_NUM 30000200// 质数判断函数
int is_prime(int number) {if (number <= 1) return 0;for (int i = 2; i * i <= number; i++) {if (number % i == 0) return 0;}return 1;
}// 线程函数
void *reader_function(void *arg) {mypipe_t *pipe = (mypipe_t *)arg;int number;mypipe_register(pipe, MYPIPE_READ);while (mypipe_read(pipe, &number, 1) > 0) {if (is_prime(number)) {printf("Prime number: %d\n", number);}}mypipe_unregister(pipe, MYPIPE_READ);return NULL;
}int main() {pthread_t threads[NUM_THREADS];mypipe_t *pipe = mypipe_init();// 创建读线程for (int i = 0; i < NUM_THREADS; i++) {pthread_create(&threads[i], NULL, reader_function, pipe);}// 主线程写入数据mypipe_register(pipe, MYPIPE_WRITE);for (int i = START_NUM; i <= END_NUM; i++) {mypipe_write(pipe, &i, 1);}mypipe_unregister(pipe, MYPIPE_WRITE);// 等待所有读线程完成for (int i = 0; i < NUM_THREADS; i++) {pthread_join(threads[i], NULL);}// 销毁管道mypipe_destroy(pipe);return 0;
}

结果示例如下

我们判断的是从 30000000 到 30000200 之间的质数，结果和线程章节的 3.2 中所实现代码的运行结果一致，说明代码没毛病

我们从我们自己创建的管道，可以看出管道的如下几个特点

管道通信是单工的。一方作为读者，另一方作为写者。写永远写在尾部，读永远是从首部读
管道必须凑齐读写双方才能正常运行。注意 mypipe_read 和 mypipe_write 中的 while 循环条件：只要缺失读者或者写者，另一方就可能直接返回而不会等待新的数据（哪怕后面可能有新的读者或者写者加入并读写管道）
管道内部自带同步与互斥机制

三、思考

上述代码的一个缺陷是：没有办法约束用户的行为！

比如我是一个用户，我注册了写者身份后却调用的 write......

那可不妥！！一种好的思路是引入权限的概念，并对上述接口再封装一层......

上述蓝色字体表示封装出来的新的接口，以供用户调用；绿色字体介绍了这样封装的思想和逻辑。其实这就是 UNIX “一切皆文件”思想的部分实现方式！即：就算最底层可能是完全不一样的东东（操作管道、操作设备、操作普通文件......），也会再封装一层，并提供通用的接口（如 open、read、write、close 和文件描述符 fd......）。这样一来，在用户的视角里，操作文件的接口也可以操作很多不一样的东东，因此“一切皆文件”