‫Willkommen zurück zu dieser fortgesetzten Diskussion der Theorie und Intuition hinter
‫Support-Vektor-Maschinen in diesem Vortrag.
‫Wir werden uns wirklich auf den Kernel-Trick und die Mathematik hinter Support-Vektor-Maschinen konzentrieren.
‫Bisher haben wir eigentlich nur die Intuition hinter diesen Methoden besprochen.
‫Wir werden jetzt also kurz auf die allgemeine Mathematik eingehen, wie wir zur Unterstützung von
‫Vektormaschinen aufbauen, und wir werden auch diskutieren, wie die Mathematik mit den weltlichen und Klassenaufrufen zusammenhängt.
‫Wir beginnen mit einem kurzen Überblick über die Verwendung von Margin-basierten Klassifikatoren, die sich
‫langsam vom Maximum-Margin-Klassifikator zum Support-Vektor-Klassifikator ausweiten, und verwenden dann schließlich den Kernel-Trick für
‫Support-Vektor-Maschinen.
‫Betrachten Sie dies nun gerne als optionalen Vortrag, den Sie durch die relative Lektüre ersetzen können.
‫Die Hintergrundinformationen finden Sie in Kapitel 9 einer Einführung in das statistische Lernen, um einen tiefen, umfassenden
‫Überblick über alles zu erhalten, was wir besprechen.
‫Sie können sich die Originalpublikation von Cortez ansehen und wenn APNIC im Machine Learning Journal Support Vector
‫Networks genannt hat.
‫Lassen Sie uns nun zuerst über mathematisch definierte Hyperklagen sprechen, ich kann mir einen zweidimensionalen Raum
‫mit zwei Merkmalen X1 und X2 vorstellen.
‫Eine Hyperebene ist nur eine Linie in zwei Merkmalen, was bedeutet, dass ich dies mathematisch als die Linien definieren könnte, die wir
‫zuvor gesehen haben.
‫Eine Beta, nicht für den Schnittpunkt plus Beta einmal X1 plus Beta zweimal x2 und setze dies gleich Null und es wird
‫eine Reihe von Betas geben, die diese Linie definieren.
‫Denken Sie daran, ich könnte dies auf eine Reihe von Dimensionen erweitern und dies einfach fortsetzen, wobei es
‫für jedes einzelne Feature einen einzigen Beita-Koeffizienten gibt.
‫Dies ist nun die mathematische Definition einer Hyperebene für eine Reihe von Features.
‫Sprechen wir über das Trennen von Hyperebenen, die ganze Idee hinter Hyperebenen für Support-Vektor-Maschinen ist, dass
‫sie die Klassen trennen, was bedeutet, dass ich nicht nur über die Hybridebenenlinie selbst nachdenken
‫sollte, sondern auch über die mathematischen Definitionen dessen, was ich Ich werde als Trennfaktor
‫betrachten.
‫Ich möchte also berücksichtigen, dass die Werte über Null auf eine Seite dieser Hyperebene fallen.
‫Ebenso fallen die Werte unter Null auf die andere Seite der Hyperebene.
‫Jetzt habe ich also eine Reihe von Gleichungen, die definieren können, auf welche Seite der Hyperebene Sie fallen.
‫Die letzte Überlegung, die wir anstellen müssen, um so etwas wie einen Max-Margin-Klassifikator mathematisch
‫zu definieren, sind die Datenpunkte selbst.
‫Hier ist zu beachten, dass wir, wenn wir dies tatsächlich mathematisch eingeben, normalerweise
‫die tatsächlichen Merkmalspunkte oder Datenpunkte als transponierte Matrix von X anzeigen.
‫Das heißt, X eins bis NP repräsentiert die Anzahl von Datenpunkten und eins bis P repräsentiert die Anzahl
‫von Merkmalen.
‫Beachten Sie also, dass dies von der Art übernommen wird, wie wir unsere Daten normalerweise in so etwas wie
‫den Datenrahmen eines Pandas schreiben.
‫Es sind die gleichen Daten.
‫Einfach transponieren.
‫Also dann die Spalten der Reihen und die Reihen der Spalten, wiederum eins bis N ist die Anzahl
‫der Punkte selbst.
‫Eine Therapie ist die Anzahl der tatsächlichen Merkmale.
‫In diesem Fall hätten wir also anhand des Diagramms rechts zwei Merkmale X1 und X2 und wir
‫hätten sechs Punkte.
‫Eins bis sechs wäre also eins bis eins.
‫Lassen Sie uns nun all diese Informationen verwenden, um mathematisch einen Klassifikator für die maximale Marge zu definieren.
‫Erinnern Sie sich daran, dass der gesamte Zweck eines Max-Margin-Klassifikators darin besteht, M zu maximieren, wobei m diese Marge ist, die sich vom
‫Aquaplaned aus erstreckt.
‫Wir versuchen also im Wesentlichen, die besten Betakoeffizienten auszuwählen, die diese Marge maximieren können, aber wir
‫haben einige Einschränkungen.
‫Angesichts des Datensatzes unterliegen wir diesen beiden Einschränkungen. Was bedeutet das also eigentlich?
‫Nun, das bedeutet nur, dass wir versuchen, die Datenpunkte hier zu berücksichtigen.
‫In diesem Fall haben wir sechs Datenpunkte oder einen bis NP.
‫Und wir möchten sicherstellen, dass wir diese Subjektanforderung erfüllen, bei der im Wesentlichen die Datenpunkte entweder gleich oder
‫größer als die Marge sind, je nachdem, auf welche Seite der Marge sie
‫tatsächlich fallen.
‫Dies ist im Wesentlichen nur eine mathematische Art zu sagen, dass für einen Max-Margin-Klassifikator keine Datenpunkte
‫tatsächlich innerhalb der Marge liegen können.
‫Wir unterliegen auch, dass diese Quadratsumme für die Beta-Koeffizienten gleich eins ist.
‫Nun, dies hilft tatsächlich dabei, der anderen Gleichung zu entsprechen, indem es bestimmt, dass, wenn Sie die
‫Merkmalswerte in die folgende Gleichung einsetzen würden, wenn Sie dem Beta-Quadrat unterliegen und die Summe
‫dieser gleich eins ist, warum ich dann multipliziert habe? von diesen Beta-Koeffizienten mal?
‫Der Merkmalswert gibt Ihnen den senkrechten Abstand vom Punkt zur Hyperebene an und stellt sicher, dass dieser
‫Abstand mindestens so groß ist wie der Rand selbst.
‫Dies soll nur sagen, dass wir mit dieser Einschränkung in der Lage sind, den orthogonalen Abstand
‫von jedem Punkt zur Hyperebene mathematisch zu berechnen.
‫Und hier haben wir, mathematisch gesprochen, wieder die vollständige Definition des Emax-Margin-Klassifikators. Angesichts dieser transponierten Matrix
‫von Datenpunkten möchten wir die Beta-Koeffizienten herausfinden, die dieses em gemäß
‫diesen beiden Gleichungen maximieren werden, was im Wesentlichen sicherstellt dass die Punkte außerhalb dieser Ränder liegen und aufgrund
‫ihrer Klasse auf die richtige Seite des Randes fallen.
‫Und wir unterliegen diesem Beta-Quadrat, wobei ein Koeffizient gleich eins ist, um den orthogonalen Abstand
‫von den Punkten zur Hyperebene zu bestimmen.
‫Kommen wir nun zu einem Support-Vektor-Klassifikator.
‫Erinnern Sie sich, dass sich ein Support-Vektor-Klassifikator von einem Klassifikator mit maximalem Spielraum unterscheidet, da er Fehlklassifizierungen
‫zulässt, was im Wesentlichen ermöglicht, dass eine gewisse Anzahl von Punkten in den Spielraum fällt.
‫Wir wollen diesen Spielraum also immer noch maximieren und sicherstellen, dass
‫die Quadratsumme gleich eins ist, um den orthogonalen Abstand der Vektoren zur Ebene selbst bestimmen
‫zu können.
‫Aber da es einen Support-Vektor-Klassifikator gibt, erlaube ich jetzt einen Fehlerterm.
‫Beachten Sie also, dass ich Epsilon verwende und dieses Epsilon eine Beziehung zwischen einem festgelegten C-Wert ist oder dieser C-Wert
‫bestimmt, wie viele Fehlklassifikationen Sie sich tatsächlich erlauben.
‫Es ist also so ziemlich die gleiche Gleichung, außer dass die Marge jetzt diesen Fehlerfaktor Epsilonfaktor hat, der durch die Summe der Epsilons
‫bestimmt wird, die Lessner gleich sind, um zu sehen, wo das C vom Benutzer bereitgestellt werden kann.
‫Und wir werden in der Lage sein, Kreuzvalidierung zu verwenden, um nach dem optimalen C aufzulösen, um die Genauigkeit zu maximieren oder die
‫Präzision oder den Wiedererkennungswert zu maximieren, je nachdem, was wir hier tatsächlich optimieren möchten.
‫Dies ist jedoch die vollständige Definition eines Support-Vektor-Klassifikators, im Wesentlichen dasselbe wie
‫ein Max-Margin-Klassifikator.
‫Aber mit diesen zusätzlichen Einschränkungen oder Hinzufügungen der Tatsache, dass wir tatsächlich Fehlklassifizierungen haben können, die durch einen
‫Wert von C eingeschränkt werden und wenn C auf Null geht, dann kehren wir tatsächlich zu einem maximalen Margin-Klassifikator zurück,
‫der im Wesentlichen keine Fehler zulässt.
‫Nun eine kurze Anmerkung zu diesem Wert von SI, Sie sollten feststellen, dass wir uns bei der
‫mathematischen Definition, je größer der Sea-Wert, desto mehr Fehler erlauben.
‫Saikat lernen aufgrund der Tatsache, dass sie über mehrere Modelle hinweg konsistent bleiben möchten.
‫Sie sagen, C sei ein Regularisierungsparameter, der umgekehrt proportional zu dem in der Gleichung gezeigten C ist.
‫Das ist alles, um zu sagen, dass mathematisch gesehen in den Gleichungen, die wir hier zeigen, wenn
‫Sie C erhöhen, Sie die Anzahl der Fehlklassifizierungen erhöhen, die Sie Einblick gewähren, und lernen, dass sie umgekehrt proportional zu der
‫hier gezeigten Gleichung ist.
‫Offensichtlich werden sie klarer, wenn wir anfangen, mit Saikat Learn zu experimentieren.
‫Aber es ist nur etwas zu bedenken, dass das C in der Cycler-Dokumentation und der Klassenaufruf für
‫Support-Vektor-Maschinen nicht genau dasselbe ist, was ich hier in den Gleichungen zeige, oder das Sie
‫normalerweise lesen werden, wenn Sie das tatsächlich lesen Gleichungen für Support-Vektor-Maschinen.
‫Es ist tatsächlich umgekehrt proportional zu C, und das nur, weil sie möchten, dass dieser Regularisierungsparameter
‫über mehrere Modelle hinweg konsistent bleibt.
‫OK, lassen Sie uns zum Schluss zu den Support-Vektor-Maschinen übergehen und wie wir diese mathematisch definieren. Erinnern Sie
‫sich daran, dass wir Support-Vektor-Maschinen verwenden müssen konnten keine klar trennbare Hyperebene für unsere Datenpunkte finden
‫hier haben wir etwas, das wir können 'nicht wirklich mit der Linie trennen.
‫Wir haben eine Reihe von Punkten in der Mitte und dann eine weitere Klasse, die es umgibt.
‫Was wir also tun, ist, wie wir zuvor besprochen haben, dies in eine Art höhere Dimension oder einen Merkmalsraum zu
‫transformieren.
‫Im Moment könnte ich also Features x1 x2 bis zur XP-Anzahl von Features haben, und ich könnte
‫so etwas wie eine Polynomtransformation mit X1 und x1 quadriert x2 neben quadriert verwenden, um XP zum Quadrat zu
‫erweitern, um das herauszufinden wenn es in diesem größeren Feature-Raum ein Hyper-Wasserflugzeug
‫gibt, das diese beiden Klassen erfolgreich trennen kann.
‫Und ich kann immer noch Fehlklassifizierungen in diesem höheren Merkmalsraum berücksichtigen.
‫Auch hier möchte ich diesen Spielraum maximieren.
‫Aber jetzt muss ich viel mehr Beta-Koeffizienten berücksichtigen, abhängig von dem Feature-Space, auf den ich dies
‫erweitere.
‫Wenn wir das alles nur mathematisch darlegen, fügen wir hier die Addition für
‫diesen einfachen Fall eines quadratischen Polynoms hinzu.
‫Beachten Sie, dass dies keine verallgemeinerte Support-Vektor-Maschine ist.
‫Ich zeige nur die Support-Vektor-Maschine, die wir zuvor gezeigt haben, bei der die Erweiterung des Merkmalsraums
‫quadratisch war, im Wesentlichen eine der einfachsten Support-Vektor-Maschinen, die wir tun können.
‫Wir betrachten also nicht mehr nur x1 x2 bis hin zu XP, sondern auch den
‫quadrierten Feature-Wert.
‫Ich möchte meinen Spielraum m immer noch maximieren, aber jetzt habe ich Koeffizienten nicht nur für die ursprünglichen Features,
‫sondern auch Koeffizienten für die quadrierten Features.
‫Und ich erlaube Fehlklassifizierungen, die Sie sehen werden, tatsächlich im Betreff von y,
‫wenn ich größer oder gleich dem Rand mal eins minus Epsilon oder Epsilon ist, wird wieder
‫durch diesen Benutzerparameter C definiert, der im Wesentlichen einige Fehler berücksichtigt Klassifikationen auch in diesem höheren
‫Merkmalsraum.
‫Die Support-Vektor-Maschine mit der Nutzung dieses größeren Merkmalsraums würde es mir also ermöglichen,
‫herauszufinden, wie der tatsächliche Merkmalsraum getrennt werden kann, um diese Punkte korrekt zu klassifizieren, sogar
‫über die Beschränkung der ursprünglichen Merkmale hinaus.
‫Da ich jetzt einen größeren Merkmalsraum von Dingen wie X zum Quadrat oder X2 zum Quadrat usw. in Betracht ziehe.
‫Die Hauptfrage, die sich beim Übergang zu einem größeren Funktionsraum stellt, lautet nun, wie wir mit dieser
‫wachsenden Komplexität tatsächlich umgehen.
‫Obwohl wir nur ein einfaches Beispiel für einen Polynomgrad von zwei gezeigt haben, ist es sehr wahrscheinlich, dass
‫wir für komplexere Datensätze dieses Polynom auf einen viel höheren Grad vergrößern müssen.
‫Und wenn die Polynomordnung größer wird, wächst auch die Anzahl der Berechnungen, die zum
‫Auflösen nach Spielräumen erforderlich sind, bis zu einem Punkt, an dem es unmöglich sein kann, tatsächlich so viele Spielraumberechnungen zu berechnen.
‫Die Antwort darauf liegt im Kernel-Trick, der das innere Produkt von Vektoren verwendet.
‫Dies wird auch als DOT-Produkt bezeichnet.
‫Bevor wir Ihnen zeigen, wie wir den Kernel-Trick mit unserer Support Vector Machine-Berechnung tatsächlich anwenden können.
‫Sehen wir uns kurz an, was ein DOT-Produkt oder ein inneres Produkt tatsächlich darstellt.
‫Daher vereinfachen wir hier ein Produkt so, dass es nur zwischen zwei Vektoren liegt, und erinnern uns daran, dass Vektoren
‫mehr als nur zwei Dimensionen haben können, die hier gezeigt werden, können viele, viele Dimensionen haben.
‫Aber der Einfachheit halber werden wir dies nur in einem zweidimensionalen Raum verwenden.
‫Ich habe Vektor A und Vektor B, und das DOT-Produkt oder innere Produkt zwischen diesen beiden Vektoren ist
‫definiert als die Summe jeder ihrer Unterkomponenten, die miteinander multipliziert werden.
‫Das heißt, wenn ich hier einen zweidimensionalen Vektor gezeigt habe, dann gibt es eine Unterkomponente entlang
‫der X-Achse und eine Unterkomponente entlang der Y-Achse, die ich als A1 und B eins entlang der X-Achse definieren könnte, und dann
‫A zwei und B zwei entlang der Y-Achse.
‫Nun können Sie sich vorstellen, dass es beim Übergang zu dreidimensionalen Vektoren, vierdimensionalen Vektoren usw.
‫Unterkomponenten für jede dieser Dimensionen und für das DOT-Produkt geben wird.
‫Das würde in diesem speziellen Fall bedeuten, dass das innere Produkt oder DOT-Produkt zwischen
‫A und B nur die Summe jeder dieser Unterkomponenten multipliziert.
‫Vielleicht erinnern Sie sich aus Ihrem Mathematikunterricht auch daran, dass dies nicht die einzige Definition oder mathematische Schreibweise
‫dafür ist.
‫Dieses Produkt, das DOT-Produkt, kann auch als Multiplikation der Größe jedes der Vektoren multipliziert
‫mit dem Kosinus des Grades zwischen ihnen definiert werden.
‫Nun, warum ist es wichtig zu beachten, dass, wenn wir an ein Produkt in diesem Format denken, es
‫im Wesentlichen eine Ähnlichkeit zwischen den Vektoren ist.
‫Dies führt also zu der gleichen Berechnung, als würde man A1 mal B1 plus A zweimal B2 sagen.
‫Es ist im Wesentlichen eine andere Definition für das DOT-Produkt.
‫Der Grund dafür ist, dass es sich bei dieser Produktion von Kosinus von Theta um eine Ähnlichkeitsmessung zwischen den
‫Vektoren handelt.
‫Sie können sich dies vorstellen, indem Sie Extremfälle betrachten.
‫Stellen Sie sich vor, der Grad dazwischen wäre Null.
‫Der Kosinus von Null ist gleich Eins, wobei dies bedeutet, dass dieses Produkt im Wesentlichen die
‫Multiplikation der Größe von Vektor A ist. und Vektor B, das macht Sinn, denn wenn der Grad
‫null war, bedeutet dies, dass beide Vektoren in die exakt gleiche Richtung zeigen, was bedeutet, dass ihr Grad oder
‫Kosinus-Theta zu hundert Prozent ähnlich ist.
‫Es sollte also gleich eins sein.
‫Sie werden auch feststellen, dass diese beiden Vektoren senkrecht oder orthogonal zueinander sind, Kosinus
‫von 90 Grad.
‫Das wäre gleich Null, was bedeutet, dass das innere Produkt gleich Null ist.
‫Und wenn sie dann in genau entgegengesetzte Richtungen zeigen, das heißt Kosinus von einhundertachtzig Grad, dann
‫hätten wir einen negativen Wert, der im Wesentlichen sagt, dass er einmal negativ ist der Betrag von
‫A und der Betrag von B.
‫Wir können uns dieses innere Produkt also eindeutig als Ähnlichkeitsmaß vorstellen.
‫Lassen Sie uns jetzt über den Colonel Eric sprechen.
‫Wir können uns einen linearen Stützvektor-Klassifikator in Bezug auf dieses innere Produkt vorstellen, oder wir können
‫sagen, dass eine Funktion von X gleich Beita ist, nicht plus die Summe einiger Alphaterme mal, das innere
‫Produkt jedes Paars von Drehungen Punkte.
‫Wir berechnen im Wesentlichen die inneren Produkte aller Paare von Trainingsbeobachtungen.
‫Und Sie können die Lektüre in Kapitel neun von eSolar lesen, um einen tieferen Einblick zu erhalten.
‫Oder lesen Sie die Veröffentlichung von Cortez und Chapnick und erfahren Sie, warum wir
‫diese Berechnung der inneren Produkte tatsächlich durchführen können.
‫Aber im Moment ist es so, dass ich in der Lage bin, einen linearen Support-Vektor-Klassifikator in Bezug
‫auf innere Produkte umzuschreiben.
‫Da ich nun die inneren Produkte aller Paare von Trainingsbeobachtungen multipliziert mit einem
‫Alpha-Parameter berechnen kann, werden Sie feststellen, dass in diesem speziellen Fall der Alpha-Parameter nur für die
‫Stützvektoren ungleich Null ist.
‫Lassen Sie uns also eine Sekunde zurückgehen und sehen, ob dies Sinn macht.
‫Ich habe Ihnen gerade gesagt, dass ich den Klassifikator des linearen Stützvektors mit
‫dieser Gleichung umschreiben kann, die besagt, anstatt diesen Beta-Koeffizienten mal den Merkmalswert selbst zu berechnen, werde
‫ich versuchen, dieses Alpha multipliziert mit dem inneren Produkt aller Paare zu berechnen von Trainingsbeobachtungen.
‫Aber wenn ich es so umschreibe, werden Sie schnell feststellen, dass Alpha nur für die gelb markierten Stützvektoren in
‫diesem Diagramm nicht Null ist.
‫Macht das nun Sinn?
‫Nun, intuitiv gesprochen erinnert es an die Marge, die nur von den Unterstützungsvektoren abhängt.
‫Aus Sicht der Ränder spielt es keine Rolle, welche Vektoren dahinter liegen, sobald Sie
‫den Stützvektor treffen, denn Sie finden diesen Rand nur bei den ersten Stützvektoren, mit denen
‫er in Kontakt kommt, was bedeutet, dass Sie Sie sparen sich schon viel Rechenaufwand, müssen sich
‫aber nur um die Stützvektoren kümmern, also die Vektoren, die mit dem Rand in Berührung kommen.
‫Aus diesem Grund kann ich nun von I ist gleich Eins bis zu einer beliebigen Anzahl
‫von Punkten umschreiben und stattdessen nur I sagte s betrachten, wobei s eine Sammlung der Indizes dieser Stützpunkte ist, im Wesentlichen
‫dieselbe Gleichung.
‫Aber ich betrachte nur die Stützvektorpunkte, weil wir zeigen können, dass Alpha nur von diesen Stützpunkten abhängig
‫ist und im Wesentlichen nicht so viele Berechnungen durchführen muss.
‫Dann kommt die Colonel-Funktion, also finden wir eine Colonel-Funktion als Funktion K zwischen zwei Trainingspunkten,
‫Trainingspunkt Auge und Trainingspunkt I prime, und wir können zeigen, dass dies gleich
‫dem Folgenden ist.
‫Etwas X von IFJ multipliziert mit X mit einer Primzahl von J.
‫Und das sollte offensichtlich bekannt vorkommen, denn es sieht aus wie ein inneres Produkt und ein Oberst.
‫Sie können es sich als eine Funktion vorstellen, die nur die Ähnlichkeit zweier Beobachtungen quantifiziert.
‫Und wir haben gerade darüber gesprochen, dass das Punktprodukt und das innere Produkt im Wesentlichen eine Ähnlichkeitsmessung sind.
‫Das heißt, wenn Sie beginnen, sich diese lineare Stützvektor-Klassifikatorgleichung tatsächlich anzusehen, definieren wir sie
‫mit einem inneren Produkt.
‫Jetzt kann ich also meine Beziehung eines inneren Produkts, das gleich der Summe dieser Multiplikationen jeder
‫Unterkomponente ist, verwenden, um meine Kernelfunktion in diesen neu geschriebenen Support-Vektor-Klassifikator einzutauschen, was uns im Wesentlichen
‫eine Support-Vektor-Maschine gibt, bei der ich leicht austauschen kann in jeder Kernel-Funktion, die ich
‫möchte, wobei die Kernel-Funktion im Wesentlichen eine Ähnlichkeitsmessung ist.
‫Und tatsächlich stehen hier viele Kernelfunktionen zur Auswahl.
‫Wir zeigen die einfachste Kernel-Funktion, die nur ein linearer Kernel ist, aber ich kann auch einen
‫polynomischen Kernel-Hinweis haben.
‫Ich berechne jetzt nur diese Kernel-Funktion, bei der ich eine Beziehung zwischen der
‫Kernel-Funktion und dem Grad dessen habe, was ich berechnen möchte, was mir viel Rechenaufwand erspart, da
‫ich Berechnungen nicht mehr im vollen Funktionsraum berechne.
‫Ich berechne den Kernel, der ein inneres Produkt ist.
‫Ein weiterer beliebter Colonel ist der Radio-Bassist, Colonel oder anders als RBF-Radio-Bassisten-Funktion bekannt.
‫Dies ist ein viel komplizierterer Oberst.
‫Und tatsächlich, wenn Sie versuchen, dies tatsächlich zu berechnen, ohne die inneren Produkte
‫zu verwenden, werden theoretisch unendlich viele rechnerische Vergleiche erstellt.
‫Die einzige Möglichkeit, dies mathematisch zu tun, besteht darin, eine Kernelfunktion zu verwenden, die das innere Produkt verwendet.
‫Die Verwendung von Cols als Ersatz ist also als COL-Trick bekannt, und das passiert tatsächlich, wenn wir Support
‫verwenden.
‫Vektormaschinen waren in der Lage, diese Beziehung aus dem Support-Vektor-Klassifikator in Bezug auf ein inneres
‫Produkt umzuschreiben.
‫Und dann haben wir eine Auswahl von Khalsa, die im Wesentlichen als Ähnlichkeitsfunktionen definiert sind und die ich
‫überall dort eintauschen kann, wo ich das innere Produkt sehe.
‫Und dann erlauben uns Cols, Berechnungen im vergrößerten Merkmalsraum zu vermeiden.
‫Sie müssen nur Berechnungen für jedes einzelne Paar von Wendepunkten durchführen, bei denen ich wirklich
‫nur diese Stützvektoren selbst berücksichtigen muss.
‫Die vollständigen Details dazu finden Sie in Abschnitt neun, Punkt drei, Punkt zwei, eSolar.
‫Intuitiv haben wir bereits gesehen, dass innere Produkte als Maß
‫für die Ähnlichkeit zwischen Vektoren dienen Kernel können als ein
‫Maß für die Ähnlichkeit zwischen dem ursprünglichen Merkmalsraum und
‫dem vergrößerten Merkmalsraum angesehen werden.
‫Anstatt also die Rohberechnungen und den vergrößerten Funktionsraum tatsächlich durchführen zu müssen, kann ich sagen,
‫dass die Kernel mir ein Maß an Ähnlichkeit zwischen dem ursprünglichen Funktionsraum und dem
‫großen Funktionsraum geben und die Kernel verwenden, um Berechnungen durchzuführen, anstatt mich zu retten viel Rechenarbeit
‫in diesem vergrößerten Merkmalsraum.
‫OK, jetzt, da wir die Theorie und Intuition hinter Support-Vektor-Maschinen verstehen, wollen wir sie
‫tatsächlich mit Code verwenden.
‫Wir sehen uns in der nächsten Vorlesung.