1. 程式人生 > >對於Linux下的伺服器程式設計(1)

對於Linux下的伺服器程式設計(1)

在Linux下面,對於海量連線並且每個連線在大部分時間裡面都是不活躍的情況下,我們使用Epoll來解決C10K[C10M]問題。

1.如何使用Epoll:man Epoll。即為三個系統呼叫。

2.在伺服器擁有多個CPU的情況下,我們需要多執行緒或者多程序來幫助我們提高程式的效能,所以就需要一個主執行緒和一些工作執行緒,我們可以在每個執行緒/程序裡面弄一個epoll例項,來監控客戶的連結[有兩種情況]:

    ① 在主執行緒/程序裡面接受客戶的連結,並且把連結分發到工作執行緒/程序裡面。

    ② 在工作執行緒/程序裡面對同一個監聽套接字進行監控。

    上面兩種模型:第一種主執行緒/程序會一直阻塞在accept操作上,在高併發的情況下,客戶端還是會出現重連[backlog佇列已滿],或者延遲[accept阻塞]。第二種對同一個監聽套接字進行監控,當一個連線進來的時候,會出現驚群現象,在核心2.6以後,accept變成原子操作,但是epoll還是會出現驚群現象:有1-N個程序/執行緒會被喚醒,但是隻有1個程序/執行緒能成功accept,其他執行緒/程序又投入睡眠,這樣會造成效能的損失

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <netinet/in.h>
#include <sys/socket.h>
#include <fcntl.h>
#include <string.h>
#include <sys/epoll.h>
#include <sys/types.h>
#include <pthread.h>
#include <time.h>
#include <errno.h>
#include <arpa/inet.h>

int numThread = 8;
int listenFD;

void* initWorkerThread(void* arg) {
	int epfd = epoll_create1(0);
	if (epfd < 0) {
		perror("Epoll Create Error");
		printf("The thread id is : %ld.\n", pthread_self());
		pthread_exit((void*)1);
	}

	struct epoll_event ev;
	memset(&ev, 0, sizeof(ev));
	ev.data.fd = listenFD;
	ev.events = EPOLLIN | EPOLLET; 

	int ss = epoll_ctl(epfd, EPOLL_CTL_ADD, listenFD, &ev);
	if (ss < 0) {
		perror("Epoll Add Error");
		pthread_exit((void*)1);
	} else {
		printf("Start Epoll Wait.\n");
	}

	struct epoll_event events[128];
	while (1) {
		int num = epoll_wait(epfd, events, 128, -1);
		printf("Thread Wake up.\n");
		
		sleep(5);  //如果沒有sleep的話,可能看不出來效果
		for (int i = 0; i < num; ++i) {
			if (events[i].data.fd == listenFD) {
				struct sockaddr_in client;
				socklen_t len;
				int connFD = accept(listenFD, (struct sockaddr*)&client, &len);
				if (connFD < 0 && errno == EAGAIN) {
					printf("The resource is not exist.\n");
				} else {
					printf("Thread id is : %ld, The client port is : %d.\n", pthread_self(), ntohs(client.sin_port));
				}
			}
		}
	}
	return ((void*)0);
}

int main(int argc, char** argv) {
	pthread_t threadArr[numThread];
	listenFD = socket(AF_INET, SOCK_STREAM, 0);
	if (listenFD < 0) {
		perror("Socket Error");
	}

	setSocketNonBlock(listenFD);

	struct sockaddr_in server;
	memset(&server, 0, sizeof(server));
	server.sin_family = AF_INET;
	server.sin_port = htons(4321);
	server.sin_addr.s_addr = htonl(INADDR_ANY);

	int ss = bind(listenFD, (struct sockaddr*)&server, sizeof(server)); 
	if (ss < 0) {
		perror("Bind Error");
	}
	
	ss = listen(listenFD, 5);
	if (ss < 0) {
		perror("Listen Error");
	}

	for (int i = 0; i < numThread; ++i) {
		ss = pthread_create(&threadArr[i], NULL, initWorkerThread, NULL);
		printf("The %dth thread id is : %ld.\n", i, threadArr[i]);
		if (ss < 0) {
			perror("Thread Create Error");
		}
	}

	while (1) {}

	return 0;
}

上面程式碼如果沒有sleep,那麼可能不會喚醒所有的程序/執行緒,因為如果有一個執行緒/程序把連線accept掉了,那麼後面還沒有喚醒的程序/執行緒還是會阻塞在epoll_wait呼叫。

上面的程式碼會得到如下的結果:


可以看到所有的執行緒都會被喚醒,但是隻有一個會得到這個連線。所以我們必須要面對驚群這個問題。

1.直接不管驚群。

2.借鑑Nginx:任意時刻,監聽套接字只會出現在一個子程序的epoll裡面[通過鎖來實現]。 

3.跟第二條差不多,但是沒有主次執行緒/程序之分,全部的執行緒/程序都同等對待,但是在任何時刻也只有一個程序/執行緒的epoll裡面會出現監聽套接字。