في هذا القسم سوف نقوم بمراجعة وظيفة التكلفة.
عند استخدام التكلفة بدلاً من تحديد قيمة المعلمة لعينة واحدة،
نختار المعلمات التي تقلل قيمة الخسارة لنقاط متعددة.
يمكننا تصور ذلك مع الساحات الصغيرة التي المنطقة هي نفس الخطأ.
في بعض الأحيان نقسم الخطأ أو الخسارة على عدد العينات في هذه الحالة ثلاثة.
في هذه الدورة سوف نستخدم كل من المجموع وكذلك المتوسط
Pictorially نحن مجرد العثور على متوسط مساحة كل مربع.
ويسمى مجموع الخسارة التكلفة.
في بعض الأحيان سوف نشير إلى هو مجموع أو متوسط الخسارة.
كما يشير الكثير من وثائق PyTorch إلى أنها وظيفة الخسارة، وسوف نستخدم الرمز L.
رمزيا وظيفة التكلفة تبدو مثل هذا، بل هو وظيفة المنحدر المنحدر
يتحكم المنحدر في العلاقة بين x و y،
والتحيز، ويتحكم في الإزاحة الأفقية.
يمكننا تنفيذ الانحدار النسب على وظيفة التكلفة كما, مشتق من وظيفة التكلفة هو.
دعونا نرى ما يحدث عندما نأخذ بعض التكرارات من الانحدار التدرج مع المنحدر فقط.
دعونا ننظر في المثال حيث نحن فقط فحص المنحدر،
مع الأخذ المشتق نحصل على التعبير التالي،
يتم عرض الخط الفعلي أو مساحة البيانات في أعلى اليمين، وظيفة التكلفة فيما يتعلق المنحدر هو في الجزء السفلي.
فحص قيمة المشتقات نرى سلبية،
حيث تنتج كلتا العينتين نفس الأرقام السلبية ونحن نضيفها حجم كبير جدا.
ونحن نرى يتم تحديث المعلمات عن طريق إضافة قيمة إيجابية كبيرة،
يتم تحديث الخسارة، والقفزة كبيرة نسبيا.
عندما نقوم بتحديث المعلمة، يصبح الخط المتوقع أقرب إلى نقاط البيانات.
في هذا المثال، نقطة البيانات على الجانب الآخر من الخط.
إذا أخذنا المشتق نرى النتيجة إيجابية.
وبما أن كلا العينتين تنتج نفس الأرقام الموجبة ونحن نضيفها، فإن الحجم كبير جدًا.
تنفيذ خطوة التحديث نضيف رقمًا سالبًا كبيرًا، وبالتالي تنخفض قيمة المعلمة بمقدار كبير.
بعد تحديث قيمة المعلمة، يصبح الخط أقرب
في هذا المثال نقطة بيانات واحدة على جانب واحد من الخط ونقطة البيانات الأخرى على الآخر
كما قيمة واحدة إيجابية والثانية سلبية المشتقة قريبة من الصفر.
وتسمى جميع العينات في مجموعة التدريب دفعة. ونحن نستخدم جميع العينات،
ونحن في بعض الأحيان استدعاء الانحدار دفعة التدرج النسب التدرج
هنا هو مثال حيث حجم الدفعة هو ثلاثة.
نحن نستخدم جميع العينات لحساب الخسارة، ثم العثور على المشتق.