1. 程式人生 > >MIT牛人解說數學體系 Ⅰ

MIT牛人解說數學體系 Ⅰ

原文地址:http://www.mysanco.com/wenda/index.php?class=discuss&action=question_item&questionid=1808

MIT牛人解說數學體系

在過去的一年中,我一直在數學的海洋中游蕩,research進展不多,對於數學世界的閱歷算是有了一些長進。

為什麼要深入數學的世界

作為計算機的學生,我沒有任何企圖要成為一個數學家。我學習數學的目的,是要 想爬上巨人的肩膀,希望站在更高的高度,能把我自己研究的東西看得更深廣一些。說起來,我在剛來這個學校的時候,並沒有預料到我將會有一個深入數學的旅 程。我的導師最初希望我去做的題目,是對appearance和motion建立一個unified的model。這個題目在當今Computer Vision中百花齊放的世界中並沒有任何特別的地方。事實上,使用各種Graphical Model把各種東西聯合在一起framework,在近年的論文中並不少見。

我不否認現在廣泛流行的Graphical Model是對複雜現象建模的有力工具,但是,我認為它不是panacea,並不能取代對於所研究的問題的深入的鑽研。如果統計學習包治百病,那麼很多 “下游”的學科也就沒有存在的必要了。事實上,開始的時候,我也是和Vision中很多人一樣,想著去做一個Graphical Model——我的導師指出,這樣的做法只是重複一些標準的流程,並沒有很大的價值。經過很長時間的反覆,另外一個路徑慢慢被確立下來——我們相信,一個 影象是通過大量“原子”的某種空間分佈構成的,原子群的運動形成了動態的可視過程。微觀意義下的單個原子運動,和巨集觀意義下的整體分佈的變換存在著深刻的 聯絡——這需要我們去發掘。

在深入探索這個題目的過程中,遇到了很多很多的問題,如何描述一個一般的運動過程,如何建立一個穩定並且廣泛適用的原子表達,如何刻畫微觀運動和巨集觀分佈變換的聯絡,還有很多。在這個過程中,我發現了兩個事情:

我原有的數學基礎已經遠遠不能適應我對這些問題的深入研究。

在數學中,有很多思想和工具,是非常適合解決這些問題的,只是沒有被很多的應用科學的研究者重視。

於是,我決心開始深入數學這個浩瀚大海,希望在我再次走出來的時候,我已經有了更強大的武器去面對這些問題的挑戰。

我的遊歷並沒有結束,我的視野相比於這個博大精深的世界的依舊顯得非常狹窄。在這裡,我只是說說,在我的眼中,數學如何一步步從初級向高階發展,更高級別的數學對於具體應用究竟有何好處。

集合論:現代數學的共同基礎

現代數學有數不清的分支,但是,它們都有一個共同的基礎——集合論——因為 它,數學這個龐大的家族有個共同的語言。集合論中有一些最基本的概念:集合(set),關係(relation),函式(function),等價 (equivalence),是在其它數學分支的語言中幾乎必然存在的。對於這些簡單概念的理解,是進一步學些別的數學的基礎。我相信,理工科大學生對於 這些都不會陌生。

不過,有一個很重要的東西就不見得那麼家喻戶曉了——那就是“選擇公理” (Axiom of Choice)。這個公理的意思是“任意的一群非空集合,一定可以從每個集合中各拿出一個元素。”——似乎是顯然得不能再顯然的命題。不過,這個貌似平常 的公理卻能演繹出一些比較奇怪的結論,比如巴拿赫-塔斯基分球定理——“一個球,能分成五個部分,對它們進行一系列剛性變換(平移旋轉)後,能組合成兩個一樣大小的球”。正因為這些完全有悖常識的結論,導致數學界曾經在相當長時間裡對於是否接受它有著激烈爭論。現在,主流數學家對於它應該是基本接受的,因為很多數學分支的重要定理都依賴於它。在我們後面要回說到的學科裡面,下面的定理依賴於選擇公理:

1. 拓撲學:Baire Category Theorem

2. 實分析(測度理論):Lebesgue 不可測集的存在性

3. 泛函分析四個主要定理:Hahn-Banach Extension Theorem, Banach-Steinhaus Theorem (Uniform boundedness principle), Open Mapping Theorem, Closed Graph Theorem

在集合論的基礎上,現代數學有兩大家族:分析(Analysis)和代數(Algebra)。至於其它的,比如幾何和概率論,在古典數學時代,它們是和代數並列的,但是它們的現代版本則基本是建立在分析或者代數的基礎上,因此從現代意義說,它們和分析與代數並不是平行的關係。

分析:在極限基礎上建立的巨集偉大廈

微積分:分析的古典時代——從牛頓到柯西

先說說分析(Analysis)吧,它是從微積分(Caculus)發展起來 的——這也是有些微積分教材名字叫“數學分析”的原因。不過,分析的範疇遠不只是這些,我們在大學一年級學習的微積分只能算是對古典分析的入門。分析研究 的物件很多,包括導數(derivatives),積分(integral),微分方程(differential equation),還有級數(infinite series)——這些基本的概念,在初等的微積分裡面都有介紹。如果說有一個思想貫穿其中,那就是極限——這是整個分析(不僅僅是微積分)的靈魂。

一個很多人都聽說過的故事,就是牛頓(Newton)和萊布尼茨 (Leibniz)關於微積分發明權的爭論。事實上,在他們的時代,很多微積分的工具開始運用在科學和工程之中,但是,微積分的基礎並沒有真正建立。那個 長時間一直解釋不清楚的“無窮小量”的幽靈,困擾了數學界一百多年的時間——這就是“第二次數學危機”。直到柯西用數列極限的觀點重新建立了微積分的基本 概念,這門學科才開始有了一個比較堅實的基礎。直到今天,整個分析的大廈還是建立在極限的基石之上。

柯西(Cauchy)為分析的發展提供了一種嚴密的語言,但是他並沒有解決微 積分的全部問題。在19世紀的時候,分析的世界仍然有著一些揮之不去的烏雲。而其中最重要的一個沒有解決的是“函式是否可積的問題”。我們在現在的微積分 課本中學到的那種通過“無限分割區間,取矩陣面積和的極限”的積分,是大約在1850年由黎曼(Riemann)提出的,叫做黎曼積分。但是,什麼函式存 在黎曼積分呢(黎曼可積)?數學家們很早就證明了,定義在閉區間內的連續函式是黎曼可積的。可是,這樣的結果並不令人滿意,工程師們需要對分段連續函式的 函式積分。

實分析:在實數理論和測度理論上建立起現代分析

在19世紀中後期,不連續函式的可積性問題一直是分析的重要課題。對 於定義在 閉區間上的黎曼積分的研究發現,可積性的關鍵在於“不連續的點足夠少”。只有有限處不連續的函式是可積的,可是很多有數學家們構造出很多在無限處不連續的 可積函式。顯然,在衡量點集大小的時候,有限和無限並不是一種合適的標準。在探討“點集大小”這個問題的過程中,數學家發現實數軸——這個他們曾經以為已 經充分理解的東西——有著許多他們沒有想到的特性。在極限思想的支援下,實數理論在這個時候被建立起來,它的標誌是對實數完備性進行刻畫的幾條等價的定理 (確界定理,區間套定理,柯西收斂定理,Bolzano-Weierstrass Theorem和Heine-Borel Theorem等等)——這些定理明確表達出實數和有理數的根本區別:完備性(很不嚴格的說,就是對極限運算封閉)。隨著對實數認識的深入,如何測量“點 集大小”的問題也取得了突破,勒貝格創造性地把關於集合的代數,和Outer content(就是“外測度”的一個雛形)的概念結合起來,建立了測度理論(Measure Theory),並且進一步建立了以測度為基礎的積分——勒貝格(Lebesgue Integral)。在這個新的積分概念的支援下,可積性問題變得一目瞭然。

上面說到的實數理論,測度理論和勒貝格積分,構成了我們現在稱為實分析 (Real Analysis)的數學分支,有些書也叫實變函式論。對於應用科學來說,實分析似乎沒有古典微積分那麼“實用”——很難直接基於它得到什麼演算法。而且, 它要解決的某些“難題”——比如處處不連續的函式,或者處處連續而處處不可微的函式——在工程師的眼中,並不現實。但是,我認為,它並不是一種純數學概念 遊戲,它的現實意義在於為許多現代的應用數學分支提供堅實的基礎。下面,我僅僅列舉幾條它的用處:

1. 黎曼可積的函式空間不是完備的,但是勒貝格可積的函式空間是完備 的。簡單的 說,一個黎曼可積的函式列收斂到的那個函式不一定是黎曼 可積的,但是勒貝格可積的函式列必定收斂到一個勒貝格可積的函式。在泛函分析,還有逼近理論中,經 常需要討論“函式的極限”,或者“函式的級數”,如果用黎曼積分的概念,這種討論幾乎不可想像。我們有時看一些paper中提到Lp函式空間,就是基於勒 貝格積分。

2.勒貝格積分是傅立葉變換(這東西在工程中到處都是)的基礎。很多關於訊號處理的初等教材,可能繞過了勒貝格積分,直接講點面對實用的東西而不談它的數學基礎,但是,對於深層次的研究問題——特別是希望在理論中能做一些工作——這並不是總能繞過去。

3. 在下面,我們還會看到,測度理論是現代概率論的基礎。