好，所以我們這邊講了4個不同的成長函數，如果我今天是Positive Ray的話，那我會
發現說，成長函數是N+1。如果我今天是Positive Interval的話，那我的成長函數N/2平方，
加N/2+1。如果我今天是Convex Set的話，我會發現我的成長函數是2的N次方。
那還有一個，其實我們已經講了，但是我們只講了它的幾個值，我們講了什麼？如果今天是在
二維平面裡面的這些直線，這些Perceptron的話，那我們知道它的成長函數，我們- 知道它在
4，如果成長函數等於4的，N等於4的時候，我們的成長函數會沒有辦法這個， 找出16種這個不同的Dichotomy。
好，所以，如果這樣的話，我們想要什麼？
我們想要用這個小m，想要用這個成長函數，去取代我們原來的那個大M。
那在這邊，既然我們後面有一個Exponential里減少的 項的話，所以這邊兩種東西對我們來說，就有截然不同的感覺。
一種是Polynomial，就是哎，多項式的。
多項式的話，那麼後面那個Exponential減少的比較快，所以 N夠大的時候，後面這個壞事發生的幾率
會越來越小，越來越小，那個Upper Bound會越來越小，越可以說，壞事發生的幾率可能很接近0。
但是呢，如果是像Convex Set那樣，Exponential 2的N次方的話。好，前面是一個
指數成長的，後面是一個指數下降，兩個乘起來，哦，你還是這個，這個指數在那邊跑。
好，所以我們就不見得能夠確保，就算N夠大的時候，我們能夠確保，
Ein跟Eout非常接近，所以Convex Set可能是不好的，前兩個可能是好的。
那麼現在問題是這樣，那Perceptron，2Dimension的Perceptr- on，我們上一次在那邊玩的很愉快的Perceptron
Learning Algorithm， 到底是好的，還是不好的？好，
所以，Perceptron到底我的成長函數是Polynomial
還是Exponential，是多項式的，還是指數的？ 要開始證明這件事情，實際上我們到下一次的課程才會比較
認真地去證明這件事情。我們先對成長函數，再做一個簡單的小定義。
簡單的小定義說什麼呢？我們想要找出，這個成長函數裡面第一個
看起來有一些些希望的點在哪裡，我們把這樣的點叫做Break Point。
什麼意思呢？在我們這個Perceptron裡面，我們之前知道，三個點的話，我們是可以
做出8種所有的Dichotomy，4個點我們就沒有辦法做出所有的Dichoto- my了。
好，所以我們就把4這樣的點叫做一個Break Point。OK，就是 哎，第一個露出一線希望的，在這個Break
Point，在這個 這個停止點上呢，我們發現說，mH成長函數的值會比2的k次方，就是可能的最大值，
還要來的小，OK，Strictly的小。那我們說，哎 你有一個Break
Point以後，實際上，後面的也通通都是，會是Break Point，為什麼？
如果你可以做，在k+1個點的時候，做出所有2的 k+1次方的情形，那k的點的時候，你就把一個點折起來，你就還是可以做出2的k次方
所有情形。那所以，如果你在k個點的時候，做不出來，那k+1個點你也做不出來。
k+2個點你也做不出來。好，所以這個一路往上，通通都做不出來，那我們有興趣的是，
第一個做不出來的點在哪裡？在Perceptron的例子裡面，第一個做不出來的點，- 就是4個
點的時候。4個點的時候，我們發現，我們不管怎麼做，16種情形我們是做不出來，我們最- 多最多就做到
14種。好，那所以這是Break Point，2D的Perceptron最多最多就是
14種。好，那我們之前講過一些例子，我們就可以列出來說，它們的Break Point
在哪裡。如果今天是Positive Ray的話，我們可以算一算，Break Point就在2的地方。
好，N等於2的時候，我的成長函數是2，但是我的最大值 是4，所以，哎，那時候我就做不出4種所有的情形了。然後如果
今天，是Positive Interval的話，我們會看到Break Point是3，
那如果今天是Convex Set怎麼辦？它永遠永遠都是2的N次方，所以我們就說它沒有Break Point。
Break Point是在無線無線遠的地方，那2D的Perceptron呢？它Break
Point我們剛剛講過了，是在4的地方。
好，那從上面的觀察呢，大家搞不好心中
有個猜想，這個猜想我們之後會跟大家證明，說什麼呢？說哎，這個Break Point，
搞不好跟我的成長函數的成長的速度，有一點點關係。
什麼意思呢？如果今天沒有Break Point，根據定義上，我們成長函數一直都是2的N次方，一直都是指數成長，這是沒有-
問題的。
但是有Break Point的時候，怎麼樣呢？有Break Point的時候，我們搞不好可以證明，今天Break
Point在k的地方發生的話，我們 成長的，我們的成長函數成長的速度就大概跟N的k-1
次方有關。OK，像我們剛才第一個例子裡面，在2裡面，那邊有Break Point，那
我們指成長的速度就是N的一次方，在3那邊有Break Point，我們成長的速度就是N的平方。
好，這是，哎，我們從上面觀察，搞不好可以說這件事。
如果我們可以真的證明這件事的話，那Perceptron的例子我們找出了什麼？我們找- 出了它的第一個Break
Point 在4，所以我們搞不好可以說，它的成長速度大概是N的三次方左右。
好，大家有沒有覺得，哎，這真的是太不可思議了。那如果你對這個結果有興趣的話，當然我- 們要花一些
數學的力氣去證明。那有興趣的話，歡迎你下一次回到我們的課程，跟我們看看這個神奇- 的證明，
是怎麼做出來的。好，那這邊也是再給大家做一個練習， 說，我們有了這個Break
Point的定義，有了這個定義之後，是不是我們可以去算， 說，我今天如果用Positive and
Negative Rays，OK，這個1D Perceptron的話，它的Break Point是在哪裡。
那大家如果算出來的話，應該會發現，k等於3的時候，我們剛說，成長函數
是2。就是k等於3的時候，成長函數說，我們最多做出6種可能性，但是我們
最多最多應該有8種，所以6跟8是有一個落差的，那這是一個Break Point。
好，總結來說呢，我們今天開始跟大家探討， 到更複雜的這個Machine
Learning的這個，這理論上的一些設定。
那麼我們從，我們這個複習一下我們所有事情，說，我們把Learning實際上已經拆成- 兩個問題。
Ein跟Eout一不一樣，還有Ein會不會很小，那我們在探討Ein跟Eout一不一樣 的時候，我們發現，我們要算一算，到底真正有幾種Hypothesis。
所以我們從幾種現出發，一直到幾種Hypothesis，也就是我們的成長函數。然後呢- ，到成長函數的性質
就是它的Break Point，它到底在哪邊開始出現一線曙光。那下一次
我們就要開始跟大家講說，是不是有Break Point，有一線曙光的時候，我們就真的能夠證明，
成長函數成長的速度跟一個多項式差不多快。好，那歡迎各位下次回來，謝謝。
[音樂]