‫Chào mừng mọi người quay trở lại với cuộc thảo luận tiếp tục này về lý thuyết và trực giác đằng sau máy
‫vectơ hỗ trợ.
‫Trong bài giảng này, chúng ta thực sự sẽ tập trung vào thủ thuật hạt nhân và toán học đằng sau các
‫máy vectơ hỗ trợ.
‫Trước đây, chúng ta chỉ thực sự thảo luận về trực giác đằng sau những phương pháp này.
‫Vì vậy, chúng ta sẽ làm bây giờ là lướt qua toán học tổng quát về cách chúng ta xây dựng để hỗ
‫trợ máy vectơ.
‫Và chúng ta cũng sẽ thảo luận về cách toán học liên quan đến các cuộc gọi lớp học tâm linh.
‫Chúng ta sẽ bắt đầu bằng một bản đánh giá ngắn gọn về việc sử dụng các bộ phân loại dựa trên lợi nhuận.
‫Vì vậy, mở rộng từ bộ phân loại lề tối đa sang bộ phân loại vectơ hỗ trợ, và cuối cùng sử dụng thủ
‫thuật hạt nhân cho các máy vectơ hỗ trợ.
‫Bây giờ, hãy coi đây là một bài giảng tùy chọn mà bạn có thể thay thế bằng bài đọc tương đối.
‫Bài đọc cơ bản có thể được tìm thấy trong Chương chín của Giới thiệu về Học thống kê.
‫Để có cái nhìn tổng quan sâu sắc và toàn diện về mọi thứ được thảo luận, bạn có thể xem ấn
‫phẩm gốc của Cortez và của APNIC có tên là Mạng vectơ hỗ trợ trong Tạp chí Học máy.
‫Bây giờ trước tiên chúng ta hãy nói về các siêu điểm được xác định theo phương pháp toán học.
‫Ở đây tôi có thể hình dung một không gian hai chiều với hai đặc điểm x một và x hai.
‫Một siêu phẳng chỉ là một đường trong hai đặc điểm, có nghĩa là tôi có thể xác định điều này một cách toán học như các đường mà chúng
‫ta đã thấy trước đây.
‫Một phiên bản beta, không dành cho chặn cộng với beta một lần x một cộng với beta hai lần x hai và đặt giá trị
‫này bằng 0.
‫Và sẽ có một số bộ betas xác định dòng này.
‫Bây giờ, hãy nhớ rằng, tôi có thể mở rộng điều này thành số thứ nguyên p, chỉ cần tiếp tục điều này
‫khi có một hệ số beta duy nhất cho mọi tính năng.
‫Bây giờ đây là định nghĩa toán học của một mặt phẳng cho một số P đối tượng.
‫Hãy nói về các mặt phẳng phân cách.
‫Toàn bộ ý tưởng đằng sau siêu phẳng đối với các máy vectơ hỗ trợ là chúng đang tách các lớp ra, có
‫nghĩa là tôi nên bắt đầu suy nghĩ về không chỉ bản thân đường phẳng mà còn các định nghĩa toán học về những
‫gì tôi sẽ coi là yếu tố phân tách .
‫Vì vậy, tôi muốn xem xét các giá trị trên 0 sẽ rơi vào một phía của mặt phẳng này.
‫Tương tự, các giá trị dưới 0 sẽ giảm ở phía bên kia của mặt phẳng.
‫Vì vậy, bây giờ tôi có một tập hợp các phương trình có thể xác định mặt phẳng mà bạn rơi.
‫Cân nhắc cuối cùng mà chúng ta cần thực hiện để xác định một cách toán học thứ gì đó giống như bộ phân
‫loại lợi nhuận tối đa là bản thân các điểm dữ liệu.
‫Một điều cần lưu ý ở đây là khi chúng ta thực sự gõ điều này về mặt toán học, thông thường, chúng
‫ta hiển thị các điểm đặc trưng hoặc điểm dữ liệu thực tế dưới dạng ma trận chuyển vị của X.
‫Điều đó có nghĩa là x từ một đến n đại diện cho số điểm dữ liệu và một đến P đại diện cho
‫số lượng đối tượng.
‫Vì vậy, hãy lưu ý rằng điều này được chuyển đổi từ cách mà chúng ta thường ghi ra dữ liệu của mình.
‫Trong một cái gì đó giống như khung dữ liệu PANDAS, đó là dữ liệu giống nhau chỉ cần hoán vị.
‫Vì vậy, sau đó các cột của các hàng và các hàng của cột, một lần nữa đến NN
‫là số điểm, một đến P là số các đối tượng địa lý thực tế.
‫Vì vậy, trong trường hợp này, chúng ta sẽ có hai đối tượng địa lý x một và x hai, với sơ đồ bên phải và chúng
‫ta sẽ có sáu điểm.
‫Vì vậy, một đến sáu sẽ là một đến N.
‫Bây giờ, hãy sử dụng tất cả thông tin này để xác định một cách toán học bộ phân loại lợi nhuận tối đa.
‫Nhớ lại rằng toàn bộ mục đích của bộ phân loại lề tối đa là tối đa hóa M trong đó M là lề này kéo
‫dài từ siêu phẳng.
‫Vì vậy, về cơ bản chúng tôi đang cố gắng chọn hệ số beta tốt nhất có thể tối đa hóa lợi nhuận này, nhưng
‫chúng tôi có một số ràng buộc.
‫Chúng tôi phải tuân theo hai ràng buộc này với tập dữ liệu.
‫Vì vậy, điều này thực sự có nghĩa là gì?
‫Tất cả điều này có nghĩa là những gì chúng tôi đang cố gắng làm là xem xét các điểm dữ liệu ở đây.
‫Trong trường hợp này, chúng tôi có sáu điểm dữ liệu hoặc một điểm thông qua RN.
‫Và những gì chúng tôi muốn làm là đảm bảo rằng chúng tôi đáp ứng yêu cầu chủ đề này, trong đó về
‫cơ bản các điểm dữ liệu sẽ bằng hoặc lớn hơn biên, tùy thuộc vào bên nào của biên mà chúng
‫thực sự rơi vào.
‫Về cơ bản, đây chỉ là một cách nói toán học rằng đối với bộ phân loại ký quỹ tối đa, không có điểm dữ
‫liệu nào thực sự có thể nằm trong biên độ.
‫Chúng tôi cũng tuân theo điều này một số bình phương cho hệ số beta bằng một.
‫Bây giờ, điều này thực sự giúp tương ứng với phương trình khác bằng cách xác định rằng nếu bạn cắm các giá
‫trị tính năng vào phương trình bên dưới, nếu bạn tuân theo beta bình phương và tổng của chúng
‫bằng một, thì y của EI nhân bằng các hệ số beta này nhân với giá trị của đối tượng địa lý
‫cung cấp cho bạn khoảng cách vuông góc từ điểm đến siêu mặt phẳng và nó đảm bảo rằng khoảng
‫cách đó ít nhất cũng lớn bằng chính lề.
‫Điều này chỉ để nói rằng với ràng buộc này, chúng ta có thể tính toán một cách toán học khoảng
‫cách trực giao từ bất kỳ điểm nào đến siêu mặt phẳng.
‫Và ở đây chúng ta có định nghĩa đầy đủ, nói một cách toán học về bộ phân loại lợi nhuận tối đa.
‫Một lần nữa, với ma trận chuyển vị của các điểm dữ liệu này, chúng tôi muốn tìm
‫ra hệ số beta sẽ tối đa hóa m này tùy thuộc vào hai phương trình này, về cơ bản đảm bảo
‫rằng các điểm nằm ngoài các biên đó và nằm về phía chính xác của lợi nhuận cho lớp của họ.
‫Và chúng ta phải tuân theo hệ số tổng bình phương beta này bằng một để xác định khoảng cách
‫trực giao từ các điểm đến siêu mặt phẳng.
‫Bây giờ chúng ta hãy chuyển sang bộ phân loại véc tơ hỗ trợ.
‫Nhắc lại, bộ phân loại vectơ hỗ trợ khác với bộ phân loại lề tối đa
‫vì nó cho phép phân loại MIS, về cơ bản cho phép một số điểm nằm trong lề.
‫Vì vậy, chúng tôi vẫn muốn tối đa hóa biên độ này và chúng tôi vẫn muốn đảm
‫bảo rằng chúng tôi phải tuân theo tổng bình phương beta bằng một để có thể xác định khoảng cách trực giao từ các
‫vectơ đến chính mặt phẳng.
‫Nhưng bởi vì nó là một bộ phân loại vector hỗ trợ, bây giờ tôi cho phép một số thuật ngữ lỗi.
‫Vì vậy, hãy lưu ý rằng tôi đang sử dụng epsilon và epsilon này là mối quan hệ giữa một số giá trị C được đặt trong đó giá trị
‫C này sẽ xác định có bao nhiêu phân loại sai mà bạn thực sự cho phép.
‫Vì vậy, nó khá giống một phương trình, ngoại trừ bây giờ biên có hệ số lỗi này, hệ số epsilon được
‫xác định bằng tổng epsilon nhỏ hơn hoặc bằng để xem nơi người dùng có thể cung cấp chữ
‫C.
‫Và chúng tôi sẽ có thể sử dụng xác thực chéo để giải quyết cho C tối ưu nhằm tối đa hóa độ chính xác hoặc tối đa hóa độ chính xác
‫hoặc thu hồi tùy thuộc vào những gì chúng tôi thực sự đang cố gắng tối ưu hóa ở đây.
‫Nhưng đây là định nghĩa đầy đủ của bộ phân loại vectơ hỗ trợ, về cơ bản giống với bộ phân
‫loại lề tối đa.
‫Nhưng với những ràng buộc bổ sung này hoặc thêm vào thực tế là chúng ta thực sự có thể phân loại sai bị ràng buộc
‫bởi một số giá trị của C và khi C về 0, thì chúng ta thực sự quay lại bộ phân loại ký quỹ tối đa, về cơ
‫bản là không cho phép bất kỳ lỗi nào.
‫Bây giờ là một lưu ý nhanh về giá trị này của C.
‫Bạn nên lưu ý rằng cách chúng tôi đã xác định nó ở đây về mặt toán học, giá trị C càng lớn, chúng
‫tôi càng cho phép nhiều lỗi hơn.
‫Insight có thể tìm hiểu do thực tế là họ muốn duy trì sự nhất quán trên nhiều mô hình.
‫Họ nói C là một tham số chính quy, tỷ lệ nghịch với C được hiển thị trong phương trình ở đây.
‫Đó là tất cả để nói rằng về mặt toán học, trong các phương trình mà chúng tôi đang hiển thị ở đây, khi bạn
‫tăng C, bạn sẽ tăng số lượng phân loại sai mà bạn cho phép cái nhìn sâu sắc có thể học được.
‫Nó tỷ lệ nghịch với phương trình được hiển thị ở đây.
‫Rõ ràng là chúng sẽ rõ ràng hơn khi chúng ta bắt đầu thử nghiệm với việc học ngoại cảm,
‫nhưng chỉ cần lưu ý rằng tài liệu C trong nhà ngoại cảm học và lớp học kêu gọi máy vectơ hỗ trợ không hoàn
‫toàn giống như những gì tôi đang trình bày ở đây trong các phương trình hoặc mà bạn thường sẽ đọc khi
‫thực sự đọc các phương trình cho các máy vectơ hỗ trợ.
‫Nó thực sự tỷ lệ nghịch với C, và đó chỉ vì họ muốn thông số chính quy hóa đó
‫duy trì nhất quán trên nhiều mô hình.
‫Được chứ.
‫Vì vậy, cuối cùng, chúng ta hãy chuyển sang hỗ trợ máy vectơ và cách chúng ta xác định chúng theo phương pháp toán học.
‫Nhớ lại rằng chúng ta cần sử dụng các máy vectơ hỗ trợ mà chúng ta không thể tìm thấy bất kỳ siêu phẳng có thể phân tách rõ ràng
‫nào cho các điểm dữ liệu của chúng ta.
‫Ở đây chúng ta có những thứ trông giống như một thứ mà chúng ta không thể thực sự phân tách bằng một đường thẳng.
‫Chúng ta có một loạt các điểm ở giữa và sau đó là một lớp khác bao quanh nó.
‫Vì vậy, những gì chúng ta làm như chúng ta đã thảo luận trước đây, là chuyển đổi điều này thành một số loại không gian đặc trưng hoặc kích thước
‫cao hơn.
‫Vì vậy, ngay bây giờ tôi có thể có các tính năng x1x2 theo cách để giải thích số lượng các tính năng và tôi có thể sử dụng một
‫cái gì đó giống như một phép biến đổi đa thức bằng cách sử dụng x một và x một bình phương x thành x hai bình phương theo
‫cách bình phương XP và xp.
‫Để cố gắng tìm ra liệu có một siêu phẳng nào trong không gian đặc trưng lớn hơn này có thể
‫tách thành công hai lớp này hay không.
‫Và tôi vẫn có thể cho phép phân loại sai trong không gian tính năng cao hơn này.
‫Vì vậy, một lần nữa, những gì tôi muốn làm là tối đa hóa lợi nhuận này.
‫Nhưng bây giờ tôi có nhiều hệ số beta hơn để xem xét tùy thuộc vào không gian đối tượng mà tôi đang
‫mở rộng.
‫Vì vậy, nếu chúng ta chỉ giải quyết vấn đề này một cách toán học, những gì chúng ta đang làm ở đây là chúng ta đang
‫thêm phép cộng cho trường hợp đơn giản này của một đa thức bình phương.
‫Hãy nhớ rằng đây không phải là một máy vector hỗ trợ tổng quát.
‫Tôi chỉ hiển thị máy vector hỗ trợ mà trước đây chúng tôi đã chỉ ra nơi bình phương việc mở rộng
‫không gian đối tượng địa lý.
‫Về cơ bản là một trong những máy vector hỗ trợ đơn giản nhất mà chúng ta có thể làm được.
‫Vì vậy, chúng tôi không còn chỉ xem xét x1x2 cho đến XP, mà chúng tôi cũng đang xem xét giá trị tính
‫năng bình phương.
‫Tôi vẫn muốn tối đa hóa số tiền ký quỹ của mình.
‫M, nhưng bây giờ tôi có các hệ số không chỉ cho các đối tượng gốc mà còn các hệ số cho các đối tượng
‫bình phương.
‫Và tôi cho phép bỏ sót các phân loại mà bạn sẽ nhận thấy thực sự nằm trong chủ đề của Y, nơi
‫nó lớn hơn hoặc bằng biên nhân lần một trừ epsilon, trong đó epsilon lại được xác định bởi thông
‫số người dùng C này về cơ bản cho phép một số phân loại sai ngay cả trong không gian tính năng cao hơn này.
‫Vì vậy, sau đó máy vector hỗ trợ với việc sử dụng không gian đặc trưng lớn hơn này sẽ cho
‫phép tôi tìm ra cách tách không gian đối tượng thực tế để phân loại các điểm này một cách chính xác, thậm chí vượt
‫ra ngoài giới hạn của các đối tượng địa lý gốc.
‫Vì bây giờ tôi đang xem xét một số không gian đặc trưng lớn hơn của những thứ như x bình phương hoặc x hai bình phương, v.v.
‫Bây giờ câu hỏi chính đặt ra khi chúng ta chuyển sang một không gian tính năng lớn hơn là làm thế nào để chúng ta thực sự đối phó
‫với sự phức tạp ngày càng tăng này?
‫Chà, chúng tôi chỉ đưa ra một ví dụ đơn giản về đa thức bậc hai.
‫Rất có thể đối với các bộ dữ liệu phức tạp hơn, chúng ta sẽ cần phát triển đa thức này ở một mức độ
‫lớn hơn nhiều.
‫Và khi bậc đa thức ngày càng lớn, số lượng phép tính cần thiết để giải
‫các phép tính lề cũng tăng lên đến mức có thể không khả thi khi thực sự tính nhiều phép tính lề đó.
‫Câu trả lời để giải quyết vấn đề này nằm ở thủ thuật hạt nhân, sử dụng tích bên trong của các vectơ.
‫Đây còn được gọi là sản phẩm DOT.
‫Trước khi chúng tôi chỉ cho bạn cách chúng tôi thực sự có thể sử dụng thủ thuật hạt nhân với tính toán máy vectơ hỗ
‫trợ của chúng tôi, hãy nhanh chóng xem xét sản phẩm chấm hoặc sản phẩm bên trong thực sự đại diện cho điều gì.
‫Vì vậy, ở đây chúng ta sẽ đơn giản hóa một sản phẩm dấu chấm để chỉ nằm giữa hai vectơ và nhớ lại rằng
‫vectơ có thể có nhiều hơn hai kích thước như được hiển thị ở đây có thể có nhiều kích thước.
‫Nhưng để đơn giản, chúng ta sẽ sử dụng điều này trong không gian hai chiều.
‫Tôi có vectơ A và vectơ B và tích DOT hoặc tích trong giữa hai vectơ này được định nghĩa là
‫tổng của mỗi thành phần con của chúng được nhân với nhau.
‫Có nghĩa là, nếu tôi có vectơ hai chiều được hiển thị ở đây, thì sẽ có một thành phần con
‫dọc theo trục x và một thành phần con dọc theo trục y, mà tôi có thể xác định là một và b một dọc theo trục x,
‫sau đó là một hai và B hai dọc theo trục y.
‫Và bạn có thể tưởng tượng rằng khi chúng ta chuyển sang vectơ ba chiều, vectơ bốn chiều, v.v. sẽ có các thành phần phụ cho mỗi thứ nguyên đó và cho sản phẩm DOT.
‫Điều đó có nghĩa là trong trường hợp cụ thể này, tích bên trong hoặc sản
‫phẩm DOT giữa A và B sẽ chỉ là tổng của mỗi thành phần con đó được nhân với nhau.
‫Bây giờ, bạn cũng có thể nhớ từ các lớp học toán của
‫mình rằng đây không phải là định nghĩa hoặc ký hiệu toán học duy nhất cho một sản phẩm.
‫Tích cũng có thể
‫được định nghĩa là phép nhân độ lớn của mỗi vectơ nhân với cosin của độ giữa chúng.
‫Bây giờ tại sao điều này lại quan trọng cần biết?
‫Lưu ý rằng nếu chúng ta
‫bắt đầu nghĩ về một sản phẩm chấm ở định dạng này, về cơ bản nó là sự tương đồng giữa các vectơ.
‫Vì vậy, điều này sẽ dẫn đến một phép tính tương tự như nói A một lần B một cộng với một hai lần B hai.
‫Về cơ bản, đó là một định nghĩa khác cho sản phẩm.
‫Lý do điều này hữu ích là bởi vì
‫với sự tạo ra cosin của theta, nó là một phép đo tương tự giữa các vectơ.
‫Bạn có thể nghĩ về điều này bằng cách xem xét các trường hợp cực đoan.
‫Hãy tưởng tượng rằng mức độ giữa những điều này là 0.
‫Cosine của 0 bằng một trong đó điều đó
‫có nghĩa là tích đó về cơ bản là phép nhân độ lớn của vectơ A và vectơ B.
‫Điều đó có ý nghĩa bởi vì nếu tung độ
‫bằng 0, điều đó có nghĩa là cả hai vectơ này đều hướng về cùng một
‫hướng chính xác, có nghĩa là li độ hoặc cosin của chúng giống nhau 100%, vì vậy nó phải bằng một.
‫Bạn cũng sẽ
‫nhận thấy trong trường hợp hai vectơ này vuông góc hoặc trực giao với nhau, cosin 90 độ sẽ bằng 0, nghĩa là trong một tích bằng 0.
‫Và sau đó nếu chúng hướng về các hướng hoàn toàn ngược nhau,
‫tức là cosin 180 độ, thì chúng ta sẽ có giá trị âm, về cơ bản
‫nói rằng nó âm một lần độ lớn của a và độ lớn của B.
‫Vì vậy, rõ ràng chúng ta có thể coi sản phẩm bên trong này như một phép đo độ tương đồng.
‫Vì vậy, bây giờ chúng ta hãy chuyển sang thảo luận về thủ thuật thẻ bài.
‫Chúng ta có thể nghĩ về một bộ phân
‫loại vectơ hỗ trợ tuyến tính về tích bên trong này, hoặc chúng ta có thể nói rằng chúng ta có một
‫số hàm của X bằng beta không cộng với tổng của một số hạng alpha nhân với tích bên trong của mỗi cặp điểm rèn luyện.
‫Về cơ bản, chúng tôi tính toán các sản
‫phẩm bên trong của tất cả các cặp quan sát huấn luyện và bạn có thể xem phần đọc trong chương chín của Esler.
‫Để có cái nhìn sâu hơn hoặc bạn có thể xem
‫ấn phẩm từ Cortez và APNIC, cũng như lý do tại sao chúng tôi có thể thực sự thực hiện phép tính này đối với các sản phẩm bên trong.
‫Nhưng hiện tại, chỉ cần coi như là tôi có thể viết lại
‫một bộ phân loại véc tơ hỗ trợ tuyến tính về các sản phẩm giữa các sản phẩm.
‫Bây giờ, vì tôi có
‫thể tính toán các tích giữa của tất cả các cặp quan sát huấn luyện nhân với một số tham
‫số alpha, bạn sẽ nhận ra rằng trong trường hợp cụ thể này, tham số alpha chỉ khác 0 đối với các vectơ hỗ trợ.
‫Vì vậy, hãy sao lưu một giây và xem điều này có hợp lý không.
‫Tôi vừa nói với bạn rằng tôi có thể viết lại trình phân
‫loại vectơ hỗ trợ tuyến tính bằng cách sử dụng phương trình này, cho biết thay vì tính hệ số beta này nhân với giá
‫trị của chính đối tượng, tôi sẽ cố gắng tính alpha này nhân với tích bên trong của tất cả các cặp huấn luyện quan sát.
‫Nhưng nếu tôi viết lại theo cách này, bạn sẽ sớm nhận ra rằng Alpha chỉ
‫khác 0 đối với các vectơ hỗ trợ được đánh dấu và màu vàng trên biểu đồ đó.
‫Bây giờ, điều đó có ý nghĩa không?
‫Vâng, nói một cách trực quan, nó gợi lại lợi nhuận chỉ phụ thuộc vào các vectơ hỗ trợ.
‫Từ quan điểm lợi nhuận, điều đó không thực sự quan trọng.
‫Khi bạn nhấn vào vectơ hỗ trợ, những vectơ nào sẽ
‫nằm ngoài nó bởi vì bạn chỉ xác định lề đó bằng các vectơ hỗ trợ đầu tiên mà nó tiếp xúc, có nghĩa
‫là bạn đã tiết kiệm cho mình rất nhiều tính toán bằng cách chỉ phải lo lắng về vectơ hỗ trợ.
‫Đó là các vectơ tiếp xúc với lề.
‫Vì điều này, tôi có thể viết lại từ I
‫bằng một đến n số điểm và thay vào đó chỉ coi tôi đặt s trong đó s là tập hợp các chỉ số của các điểm hỗ trợ.
‫Về cơ bản là cùng một phương trình, nhưng tôi chỉ đang xem xét các điểm vector hỗ trợ vì chúng ta có
‫thể chỉ ra rằng alpha chỉ phụ thuộc vào các điểm hỗ trợ đó, về cơ bản không phải thực hiện nhiều phép tính.
‫Sau đó đến chức năng hạt nhân.
‫Vì vậy, chúng ta sẽ định nghĩa một hàm đại tá như một hàm K giữa hai điểm đào tạo.
‫Điểm rèn luyện I và điểm rèn luyện I nguyên tố.
‫Và chúng ta có thể chứng minh rằng điều này sẽ bằng tổng x
‫của j sau đây nhân với x v nguyên tố của j và điều này rõ ràng sẽ trông quen thuộc vì nó trông giống như một tích bên trong và một hạt nhân.
‫Bạn có thể coi nó như một hàm chỉ định lượng độ giống nhau của hai quan sát.
‫Và chúng ta vừa nói về cách sản phẩm DOT và sản phẩm bên trong về cơ bản là một phép đo độ tương đồng.
‫Điều đó có nghĩa là nếu bạn thực sự bắt đầu xem xét phương trình phân loại
‫vectơ hỗ trợ tuyến tính đó, chúng tôi xác định điều đó bằng cách sử dụng một sản phẩm bên trong.
‫Vì vậy, bây giờ tôi có thể sử
‫dụng mối quan hệ của một tích bên trong bằng tổng các phép nhân này của mỗi thành phần con để hoán đổi hàm nhân của tôi thành bộ phân
‫loại vectơ hỗ trợ mới được viết lại này, về cơ bản cung cấp cho chúng tôi một máy vectơ hỗ trợ nơi tôi có thể dễ dàng hoán
‫đổi trong bất kỳ hàm nhân nào mà tôi muốn, trong đó, hàm nhân về cơ bản là một phép đo độ tương đồng.
‫Và thực sự có nhiều chức năng nhân để lựa chọn.
‫Ở đây chúng tôi đang hiển thị hàm nhân
‫đơn giản nhất, chỉ là một nhân tuyến tính, nhưng tôi cũng có thể có một thông báo về nhân đa thức.
‫Bây giờ tôi chỉ đang tính toán hàm
‫nhân này, nơi tôi có mối quan hệ giữa hàm nhân và mức độ của những gì tôi muốn tính toán.
‫Tiết kiệm cho bản thân rất nhiều
‫tính toán vì tôi không còn thực sự tính toán các phép tính trong không gian đầy đủ tính năng.
‫Tôi đang tính toán hạt nhân, là một sản phẩm bên trong.
‫Một đại tá phổ biến khác là Đại tá tay bass radio hay còn được gọi là chức năng tay bass vô tuyến RBF.
‫Đây là một đại tá phức tạp hơn nhiều và trên thực tế, nếu bạn cố gắng thực sự tính toán điều này mà không sử
‫dụng các sản phẩm bên trong, trên lý thuyết nó thực sự tạo ra vô số phép so sánh tính toán.
‫Vì vậy, cách duy nhất để làm điều này về mặt toán học là với một hàm nhân sẽ sử dụng sản phẩm bên trong.
‫Vì vậy, việc sử dụng hạt nhân để thay thế được gọi là thủ thuật hạt nhân.
‫Và đó là những gì thực sự xảy ra khi chúng ta sử dụng các máy vector hỗ trợ.
‫Chúng tôi có thể viết lại mối quan hệ đó từ trình phân loại vectơ hỗ trợ về mặt sản phẩm bên trong.
‫Và sau đó, chúng ta có nhiều loại hạt nhân để lựa chọn mà về cơ bản được định nghĩa là
‫các hàm tương tự, tôi có thể hoán đổi nó ở bất cứ nơi nào tôi thấy sản phẩm bên trong đó xảy ra.
‫Và sau đó, các hạt nhân cho phép chúng ta tránh các phép tính trong không
‫gian tính năng được mở rộng bằng cách chỉ cần thực hiện các phép tính cho từng cặp điểm huấn luyện riêng biệt.
‫Chúng tôi thực sự chỉ cần xem xét các vectơ hỗ trợ đó.
‫Chi tiết đầy đủ đằng sau điều này có thể được tìm thấy trong phần 9. 3. 2 và Eisler.
‫Bây giờ, theo trực giác, những gì
‫chúng ta đã thấy là Sản phẩm bên trong hoạt động như một phép đo mức độ giống nhau giữa các vectơ và cách tốt nhất mà tôi có
‫thể giải thích một cách trực quan các máy vectơ hỗ trợ, trong trường hợp bạn hơi không rõ bởi thủ thuật hạt nhân, đó là việc sử dụng của
‫kernel có thể được coi là thước đo độ tương đồng giữa không gian đối tượng gốc và không gian đối tượng mở rộng.
‫Vì vậy, thay vì phải thực sự thực hiện các phép tính thô trong không gian tính
‫năng được mở rộng, tôi có thể nói rằng Kernels sẽ cung cấp cho tôi một thước đo về độ tương đồng giữa
‫không gian đối tượng gốc và không gian đối tượng lớn và thay vào đó, sử dụng các nhân để thực
‫hiện một phép tính, tiết kiệm tôi thực hiện rất nhiều công việc tính toán trong không gian tính năng được mở rộng đó.
‫Được chứ.
‫Bây giờ chúng
‫ta đã hiểu lý thuyết và trực giác đằng sau các máy vectơ hỗ trợ, hãy chuyển sang thực sự sử dụng chúng với mã.
‫Hẹn gặp lại các bạn trong bài giảng tiếp theo.