對於Linux下的伺服器程式設計(1)
在Linux下面,對於海量連線並且每個連線在大部分時間裡面都是不活躍的情況下,我們使用Epoll來解決C10K[C10M]問題。
1.如何使用Epoll:man Epoll。即為三個系統呼叫。
2.在伺服器擁有多個CPU的情況下,我們需要多執行緒或者多程序來幫助我們提高程式的效能,所以就需要一個主執行緒和一些工作執行緒,我們可以在每個執行緒/程序裡面弄一個epoll例項,來監控客戶的連結[有兩種情況]:
① 在主執行緒/程序裡面接受客戶的連結,並且把連結分發到工作執行緒/程序裡面。
② 在工作執行緒/程序裡面對同一個監聽套接字進行監控。
上面兩種模型:第一種主執行緒/程序會一直阻塞在accept操作上,在高併發的情況下,客戶端還是會出現重連[backlog佇列已滿],或者延遲[accept阻塞]。第二種對同一個監聽套接字進行監控,當一個連線進來的時候,會出現驚群現象,在核心2.6以後,accept變成原子操作,但是epoll還是會出現驚群現象:有1-N個程序/執行緒會被喚醒,但是隻有1個程序/執行緒能成功accept,其他執行緒/程序又投入睡眠,這樣會造成效能的損失
#include <stdio.h> #include <stdlib.h> #include <unistd.h> #include <netinet/in.h> #include <sys/socket.h> #include <fcntl.h> #include <string.h> #include <sys/epoll.h> #include <sys/types.h> #include <pthread.h> #include <time.h> #include <errno.h> #include <arpa/inet.h> int numThread = 8; int listenFD; void* initWorkerThread(void* arg) { int epfd = epoll_create1(0); if (epfd < 0) { perror("Epoll Create Error"); printf("The thread id is : %ld.\n", pthread_self()); pthread_exit((void*)1); } struct epoll_event ev; memset(&ev, 0, sizeof(ev)); ev.data.fd = listenFD; ev.events = EPOLLIN | EPOLLET; int ss = epoll_ctl(epfd, EPOLL_CTL_ADD, listenFD, &ev); if (ss < 0) { perror("Epoll Add Error"); pthread_exit((void*)1); } else { printf("Start Epoll Wait.\n"); } struct epoll_event events[128]; while (1) { int num = epoll_wait(epfd, events, 128, -1); printf("Thread Wake up.\n"); sleep(5); //如果沒有sleep的話,可能看不出來效果 for (int i = 0; i < num; ++i) { if (events[i].data.fd == listenFD) { struct sockaddr_in client; socklen_t len; int connFD = accept(listenFD, (struct sockaddr*)&client, &len); if (connFD < 0 && errno == EAGAIN) { printf("The resource is not exist.\n"); } else { printf("Thread id is : %ld, The client port is : %d.\n", pthread_self(), ntohs(client.sin_port)); } } } } return ((void*)0); } int main(int argc, char** argv) { pthread_t threadArr[numThread]; listenFD = socket(AF_INET, SOCK_STREAM, 0); if (listenFD < 0) { perror("Socket Error"); } setSocketNonBlock(listenFD); struct sockaddr_in server; memset(&server, 0, sizeof(server)); server.sin_family = AF_INET; server.sin_port = htons(4321); server.sin_addr.s_addr = htonl(INADDR_ANY); int ss = bind(listenFD, (struct sockaddr*)&server, sizeof(server)); if (ss < 0) { perror("Bind Error"); } ss = listen(listenFD, 5); if (ss < 0) { perror("Listen Error"); } for (int i = 0; i < numThread; ++i) { ss = pthread_create(&threadArr[i], NULL, initWorkerThread, NULL); printf("The %dth thread id is : %ld.\n", i, threadArr[i]); if (ss < 0) { perror("Thread Create Error"); } } while (1) {} return 0; }
上面程式碼如果沒有sleep,那麼可能不會喚醒所有的程序/執行緒,因為如果有一個執行緒/程序把連線accept掉了,那麼後面還沒有喚醒的程序/執行緒還是會阻塞在epoll_wait呼叫。
上面的程式碼會得到如下的結果:
可以看到所有的執行緒都會被喚醒,但是隻有一個會得到這個連線。所以我們必須要面對驚群這個問題。
1.直接不管驚群。
2.借鑑Nginx:任意時刻,監聽套接字只會出現在一個子程序的epoll裡面[通過鎖來實現]。
3.跟第二條差不多,但是沒有主次執行緒/程序之分,全部的執行緒/程序都同等對待,但是在任何時刻也只有一個程序/執行緒的epoll裡面會出現監聽套接字。