學習啦>學習電腦>操作系統>操作系統基礎知識>

Linux操作系統的IO模型詳解

時間: 佳洲1085 分享

  Linux操作系統中IO模型是很常見的。下面由學習啦小編為大家整理了Linux操作系統的IO模型詳解,希望對大家有幫助!

  Linux操作系統的IO模型詳解

  Linux下的五種IO模型

  阻塞IO(blocking IO)

  非阻塞IO (nonblocking IO)

  IO復用(select 和poll) (IO multiplexing)

  信號驅動IO (signal driven IO (SIGIO))

  異步IO (asynchronous IO (the POSIX aio_functions))

  前四種都是同步,只有最后一種才是異步IO。

  阻塞IO模型

  在這個模型中,應用程序(application)為了執(zhí)行這個read操作,會調用相應的一個system call,將系統控制權交給kernel,然后就進行等待(這其實就是被阻塞了)。kernel開始執(zhí)行這個system call,執(zhí)行完畢后會向應用程序返回響應,應用程序得到響應后,就不再阻塞,并進行后面的工作。

  非阻塞IO

  在linux下,應用程序可以通過設置文件描述符的屬性O_NONBLOCK,IO操作可以立即返回,但是并不保證IO操作成功。也就是說,當應用程序設置了O_NONBLOCK之后,執(zhí)行write操作,調用相應的system call,這個system call會從內核中立即返回。但是在這個返回的時間點,數據可能還沒有被真正的寫入到指定的地方。也就是說,kernel只是很快的返回了這個 system call(只有立馬返回,應用程序才不會被這個IO操作blocking),但是這個system call具體要執(zhí)行的事情(寫數據)可能并沒有完成。而對于應用程序,雖然這個IO操作很快就返回了,但是它并不知道這個IO操作是否真的成功了,為了知道IO操作是否成功,一般有兩種策略:一是需要應用程序主動地循環(huán)地去問kernel(這種方法就是同步非阻塞IO);二是采用IO通知機制,比如:IO多路復用(這種方法屬于異步阻塞IO)或信號驅動IO(這種方法屬于異步非阻塞IO)。

  IO多路復用(異步阻塞IO)

  和之前一樣,應用程序要執(zhí)行read操作,因此調用一個system call,這個system call被傳遞給了kernel。但在應用程序這邊,它調用system call之后,并不等待kernel的返回結果而是立即返回,雖然立即返回的調用函數是一個異步的方式,但應用程序會被像select()、poll和epoll等具有復用多個文件描述符的函數阻塞住,一直等到這個system call有結果返回了,再通知應用程序。也就是說,“在這種模型中,IO函數是非阻塞的,使用阻塞 select、poll、epoll系統調用來確定一個 或多個IO 描述符何時能操作。”所以,從IO操作的實際效果來看,異步阻塞IO和第一種同步阻塞IO是一樣的,應用程序都是一直等到IO操作成功之后(數據已經被寫入或者讀取),才開始進行下面的工作。不同點在于異步阻塞IO用一個select函數可以為多個描述符提供通知,提高了并發(fā)性。舉個例子:假如有一萬個并發(fā)的read請求,但是網絡上仍然沒有數據,此時這一萬個read會同時各自阻塞,現在用select、poll、epoll這樣的函數來專門負責阻塞同時監(jiān)聽這一萬個請求的狀態(tài),一旦有數據到達了就負責通知,這樣就將之前一萬個的各自為戰(zhàn)的等待與阻塞轉為一個專門的函數來負責與管理。與此同時,異步阻塞IO和第二種同步非阻塞IO的區(qū)別在于:同步非阻塞IO是需要應用程序主動地循環(huán)去詢問是否有操作數據可操作,而異步阻塞IO是通過像select和poll等這樣的IO多路復用函數來同時檢測多個事件句柄來告知應用程序是否可以有數據操作。

  信號驅動IO (signal driven IO (SIGIO))

  應用程序提交read請求的system call,然后,kernel開始處理相應的IO操作,而同時,應用程序并不等kernel返回響應,就會開始執(zhí)行其他的處理操作(應用程序沒有被IO操作所阻塞)。當kernel執(zhí)行完畢,返回read的響應,就會產生一個信號或執(zhí)行一個基于線程的回調函數來完成這次 IO 處理過程。

  從理論上說,阻塞IO、IO復用和信號驅動的IO都是同步IO模型。因為在這三種模型中,IO的讀寫操作都是在IO事件發(fā)生之后由應用程序來完成。而POSIX規(guī)范所定義的異步IO模型則不同。對異步IO而言,用戶可以直接對IO執(zhí)行讀寫操作,這些操作告訴內核用戶讀寫緩沖區(qū)的位置,以及IO操作完成后內核通知應用程序的方式。異步IO讀寫操作總是立即返回,而不論IO是否阻塞的,因為真主的讀寫操作已經由內核接管。也就是說,同步IO模型要求用戶代碼自行執(zhí)行IO操作(將數據從內核緩沖區(qū)讀入用戶緩沖區(qū),或將數據從用戶緩沖區(qū)寫入內核緩沖區(qū)),而異步IO機制則是由內核來執(zhí)行IO操作(數據在內核緩沖區(qū)和用戶緩沖區(qū)之間的移動是由內核在后臺完成的)。你可以這樣認為,同步IO向應用程序通知的是IO就緒事件,而異步IO向應用程序通知的是IO完成事件。linux環(huán)境下,aio.h頭文件中定義的函數提供了對異步IO的支持。

  異步IO (asynchronous IO (the POSIX aio_functions))

  異步IO與上面的異步概念是一樣的, 當一個異步過程調用發(fā)出后,調用者不能立刻得到結果,實際處理這個調用的函數在完成后,通過狀態(tài)、通知和回調來通知調用者的輸入輸出操作。異步IO的工作機制是:告知內核啟動某個操作,并讓內核在整個操作完成后通知我們,這種模型與信號驅動的IO區(qū)別在于,信號驅動IO是由內核通知我們何時可以啟動一個IO操作,這個IO操作由用戶自定義的信號函數來實現,而異步IO模型是由內核告知我們IO操作何時完成。為了實現異步IO,專門定義了一套以aio開頭的API,如:aio_read.

  小結:前四種模型–阻塞IO、非阻塞IO、多路復用IO和信號驅動IO都屬于同步模式,因為其中真正的IO操作(函數)都將會阻塞進程,只有異步IO模型真正實現了IO操作的異步性。

  IO復用

  為了解釋這個名詞,首先來理解下復用這個概念,復用也就是共用的意思,這樣理解還是有些抽象,為此,咱們來理解下復用在通信領域的使用,在通信領域中為了充分利用網絡連接的物理介質,往往在同一條網絡鏈路上采用時分復用或頻分復用的技術使其在同一鏈路上傳輸多路信號,到這里我們就基本上理解了復用的含義,即公用某個“介質”來盡可能多的做同一類(性質)的事,那IO復用的“介質”是什么呢?為此我們首先來看看服務器編程的模型,客戶端發(fā)來的請求服務端會產生一個進程來對其進行服務,每當來一個客戶請求就產生一個進程來服務,然而進程不可能無限制的產生,因此為了解決大量客戶端訪問的問題,引入了IO復用技術,即:一個進程可以同時對多個客戶請求進行服務。也就是說IO復用的“介質”是進程(準確的說復用的是select和poll,因為進程也是靠調用select和poll來實現的),復用一個進程(select和poll)來對多個IO進行服務,雖然客戶端發(fā)來的IO是并發(fā)的但是IO所需的讀寫數據多數情況下是沒有準備好的,因此就可以利用一個函數(select和poll)來監(jiān)聽IO所需的這些數據的狀態(tài),一旦IO有數據可以進行讀寫了,進程就來對這樣的IO進行服務。

  理解完IO復用后,我們在來看下實現IO復用中的三個API(select、poll和epoll)的區(qū)別和聯系,select,poll,epoll都是IO多路復用的機制,IO多路復用就是通過一種機制,可以監(jiān)視多個描述符,一旦某個描述符就緒(一般是讀就緒或者寫就緒),能夠通知應用程序進行相應的讀寫操作。但select,poll,epoll本質上都是同步IO,因為他們都需要在讀寫事件就緒后自己負責進行讀寫,也就是說這個讀寫過程是阻塞的,而異步IO則無需自己負責進行讀寫,異步IO的實現會負責把數據從內核拷貝到用戶空間。三者的原型如下所示:

  int select(int nfds, fd_set *readfds, fd_set *writefds, fd_set *exceptfds, struct timeval *timeout);

  int poll(struct pollfd *fds, nfds_t nfds, int timeout);

  int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);

  補充:相關的概念說明

  用戶空間與內核空間

  現在操作系統都是采用虛擬存儲器,那么對32位操作系統而言,它的尋址空間(虛擬存儲空間)為4G(2的32次方)。操作系統的核心是內核,獨立于普通的應用程序,可以訪問受保護的內存空間,也有訪問底層硬件設備的所有權限。為了保證用戶進程不能直接操作內核(kernel),保證內核的安全,操作系統將虛擬空間劃分為兩部分,一部分為內核空間,一部分為用戶空間。針對linux操作系統而言,將最高的1G字節(jié)(從虛擬地址0xC0000000到0xFFFFFFFF),供內核使用,稱為內核空間,而將較低的3G字節(jié)(從虛擬地址0×00000000到0xBFFFFFFF),供各個進程使用,稱為用戶空間。

  進程切換

  為了控制進程的執(zhí)行,內核必須有能力掛起正在CPU上運行的進程,并恢復以前掛起的某個進程的執(zhí)行。這種行為被稱為進程切換。因此可以說,任何進程都是在操作系統內核的支持下運行的,是與內核緊密相關的。

  從一個進程的運行轉到另一個進程上運行,這個過程中經過下面這些變化:

  保存處理機上下文,包括程序計數器和其他寄存器。

  更新PCB信息。

  把進程的PCB移入相應的隊列,如就緒、在某事件阻塞等隊列。 選擇另一個進程執(zhí)行,并更新其PCB。

  更新內存管理的數據結構。

  恢復處理機上下文。

  進程的阻塞

  正在執(zhí)行的進程,由于期待的某些事件未發(fā)生,如請求系統資源失敗、等待某種操作的完成、新數據尚未到達或無新工作做等,則由系統自動執(zhí)行阻塞原語(Block),使自己由運行狀態(tài)變?yōu)樽枞麪顟B(tài)。可見,進程的阻塞是進程自身的一種主動行為,也因此只有處于運行態(tài)的進程(獲得CPU),才可能將其轉為阻塞狀態(tài)。當進程進入阻塞狀態(tài),是不占用CPU資源的。

  文件描述符

  文件描述符(File descriptor)是計算機科學中的一個術語,是一個用于表述指向文件的引用的抽象化概念。

  文件描述符在形式上是一個非負整數。實際上,它是一個索引值,指向內核為每一個進程所維護的該進程打開文件的記錄表。當程序打開一個現有文件或者創(chuàng)建一個新文件時,內核向進程返回一個文件描述符。在程序設計中,一些涉及底層的程序編寫往往會圍繞著文件描述符展開。但是文件描述符這一概念往往只適用于UNIX、Linux這樣的操作系統。

  緩存 IO

  緩存 IO 又被稱作標準 IO,大多數文件系統的默認 IO 操作都是緩存 IO。在 Linux 的緩存 IO 機制中,操作系統會將 IO 的數據緩存在文件系統的頁緩存( page cache )中,也就是說,數據會先被拷貝到操作系統內核的緩沖區(qū)中,然后才會從操作系統內核的緩沖區(qū)拷貝到應用程序的地址空間。

  緩存 IO 的缺點:

  數據在傳輸過程中需要在應用程序地址空間和內核進行多次數據拷貝操作,這些數據拷貝操作所帶來的 CPU 以及內存開銷是非常大的。

  同步與異步 & 阻塞與非阻塞

  在進行網絡編程時,我們常常見到同步(Sync)/異步(Async),阻塞(Block)/非阻塞(Unblock)四種調用方式,先理解一些概念性的東西。

  1.同步與異步

  同步與異步同步和異步關注的是消息通信機制 (synchronous communication/ asynchronous communication)所謂同步,就是在發(fā)出一個調用時,在沒有得到結果之前,該調用就不返回。但是一旦調用返回,就得到返回值了。換句話說,就是由調用者主動等待這個調用的結果。

  而異步則是相反,調用在發(fā)出之后,這個調用就直接返回了,所以沒有返回結果。換句話說,當一個異步過程調用發(fā)出后,調用者不會立刻得到結果。而是在調用發(fā)出后,被調用者通過狀態(tài)、通知來通知調用者,或通過回調函數處理這個調用。

  典型的異步編程模型比如Node.js。

  2016.4.17更新:

  POSIX對這兩個術語的定義:

  同步I/O操作:導致請求進程阻塞,直到I/O操作完成

  異步I/O操作:不導致請求進程阻塞

  2. 阻塞與非阻塞

  阻塞和非阻塞關注的是程序在等待調用結果(消息,返回值)時的狀態(tài)。

  阻塞調用是指調用結果返回之前,當前線程會被掛起。調用線程只有在得到結果之后才會返回。非阻塞調用指在不能立刻得到結果之前,該調用不會阻塞當前線程。

  關于阻塞/非阻塞 & 同步/異步更加形象的比喻

  老張愛喝茶,廢話不說,煮開水。 出場人物:老張,水壺兩把(普通水壺,簡稱水壺;會響的水壺,簡稱響水壺)。

  1. 老張把水壺放到火上,立等水開。(同步阻塞) 老張覺得自己有點傻

  2. 老張把水壺放到火上,去客廳看電視,時不時去廚房看看水開沒有。(同步非阻塞) 老張還是覺得自己有點傻,于是變高端了,買了把會響笛的那種水壺。水開之后,能大聲發(fā)出嘀~~~~的噪音。

  3. 老張把響水壺放到火上,立等水開。(異步阻塞) 老張覺得這樣傻等意義不大

  4. 老張把響水壺放到火上,去客廳看電視,水壺響之前不再去看它了,響了再去拿壺。(異步非阻塞) 老張覺得自己聰明了。

  所謂同步異步,只是對于水壺而言。普通水壺,同步;響水壺,異步。雖然都能干活,但響水壺可以在自己完工之后,提示老張水開了。這是普通水壺所不能及的。同步只能讓調用者去輪詢自己(情況2中),造成老張效率的低下。

  所謂阻塞非阻塞,僅僅對于老張而言。立等的老張,阻塞;看視的老張,非阻塞。情況1和情況3中老張就是阻塞的,媳婦喊他都不知道。雖然3中響水壺是異步的,可對于立等的老張沒有太大的意義。所以一般異步是配合非阻塞使用的,這樣才能發(fā)揮異步的效用。

3644055