جوهر طريقة المربعات الصغرى هو. أين يتم تطبيق طريقة المربعات الصغرى؟ أمثلة على حل المشكلات بطريقة المربعات الصغرى

له العديد من التطبيقات ، لأنه يسمح بتمثيل تقريبي لوظيفة معينة بواسطة وظائف أخرى أبسط. يمكن أن يكون LSM مفيدًا للغاية في معالجة الملاحظات ، ويتم استخدامه بنشاط لتقدير بعض الكميات من نتائج قياسات أخرى تحتوي على أخطاء عشوائية. في هذه المقالة ، ستتعلم كيفية تنفيذ حسابات المربعات الصغرى في Excel.

بيان المشكلة في مثال محدد

لنفترض أن هناك مؤشرين X و Y. علاوة على ذلك ، يعتمد Y على X. نظرًا لأن OLS يهمنا من وجهة نظر تحليل الانحدار (في Excel ، يتم تنفيذ طرقه باستخدام وظائف مضمنة) ، يجب أن نبدأ على الفور للنظر في مشكلة معينة.

لذلك ، لنفترض أن X هي منطقة البيع لمتجر بقالة ، مقاسة بالمتر المربع ، و Y هي حجم المبيعات السنوي ، المحدد بملايين الروبلات.

مطلوب للتنبؤ بحجم دوران المتجر (Y) إذا كان يحتوي على مساحة بيع بالتجزئة واحدة أو أخرى. من الواضح أن الوظيفة Y = f (X) تتزايد ، حيث يبيع الهايبر ماركت سلعًا أكثر من الكشك.

بضع كلمات حول صحة البيانات الأولية المستخدمة للتنبؤ

لنفترض أن لدينا جدولًا مبنيًا ببيانات لعدد n من المتاجر.

وفقًا للإحصاءات الرياضية ، ستكون النتائج صحيحة إلى حد ما إذا تم فحص البيانات الموجودة على 5-6 كائنات على الأقل. أيضًا ، لا يمكن استخدام النتائج "الشاذة". على وجه الخصوص ، يمكن أن يكون لمتجر النخبة الصغير حجم مبيعات أكبر بعدة مرات من حجم مبيعات المنافذ الكبيرة لفئة "ماسماركت".

جوهر الطريقة

يمكن عرض بيانات الجدول على المستوى الديكارتي كنقاط M 1 (x 1 ، y 1) ، ... M n (x n ، y n). الآن سيتم تقليل حل المشكلة إلى اختيار دالة تقريبية y = f (x) ، والتي لها رسم بياني يمر في أقرب وقت ممكن من النقاط M 1 ، M 2 ، .. M n.

بالطبع ، يمكنك استخدام كثير الحدود بدرجة عالية ، لكن هذا الخيار ليس صعب التنفيذ فحسب ، بل إنه غير صحيح ببساطة ، لأنه لن يعكس الاتجاه الرئيسي الذي يجب اكتشافه. الحل الأكثر منطقية هو البحث عن خط مستقيم y = ax + b ، والذي يقارب البيانات التجريبية بشكل أفضل ، وبشكل أكثر دقة ، المعامِلات - a و b.

درجة الدقة

لأي تقريب ، تقييم دقتها له أهمية خاصة. قم بالإشارة بواسطة e i إلى الفرق (الانحراف) بين القيم الوظيفية والتجريبية للنقطة x i ، أي e i = y i - f (x i).

من الواضح ، لتقييم دقة التقريب ، يمكنك استخدام مجموع الانحرافات ، على سبيل المثال ، عند اختيار خط مستقيم لتمثيل تقريبي لاعتماد X على Y ، يجب إعطاء الأفضلية لتلك التي لها أصغر قيمة مجموع e i في جميع النقاط قيد النظر. ومع ذلك ، ليس كل شيء بهذه البساطة ، لأنه إلى جانب الانحرافات الإيجابية ، سيكون هناك عمليا انحرافات سلبية.

يمكنك حل المشكلة باستخدام وحدات الانحراف أو مربعاتها. الطريقة الأخيرة هي الأكثر استخدامًا. يتم استخدامه في العديد من المجالات ، بما في ذلك تحليل الانحدار (في Excel ، يتم تنفيذه باستخدام وظيفتين مدمجتين) ، وقد ثبتت فعاليته منذ فترة طويلة.

طريقة المربعات الصغرى

في Excel ، كما تعلم ، توجد وظيفة تجميع تلقائي مضمنة تسمح لك بحساب قيم جميع القيم الموجودة في النطاق المحدد. وبالتالي ، لن يمنعنا أي شيء من حساب قيمة التعبير (e 1 2 + e 2 2 + e 3 2 + ... e n 2).

في التدوين الرياضي ، يبدو هذا كما يلي:

منذ أن تم اتخاذ القرار في البداية بالتقريب باستخدام خط مستقيم ، لدينا:

وبالتالي ، فإن مهمة إيجاد خط مستقيم يصف على أفضل وجه علاقة محددة بين X و Y تعني حساب الحد الأدنى لوظيفة من متغيرين:

يتطلب هذا معادلة صفر مشتقات جزئية فيما يتعلق بالمتغيرات الجديدة أ و ب ، وحل نظام بدائي يتكون من معادلتين مع 2 مجهول من النموذج:

بعد التحولات البسيطة ، بما في ذلك القسمة على 2 ومعالجة المبالغ ، نحصل على:

لحلها ، على سبيل المثال ، بطريقة كرامر ، نحصل على نقطة ثابتة مع معاملات معينة a * و b *. هذا هو الحد الأدنى ، أي للتنبؤ بحجم دوران المتجر لمنطقة معينة ، فإن الخط المستقيم y = a * x + b * مناسب ، وهو نموذج انحدار للمثال المعني. بالطبع ، لن يسمح لك بالعثور على النتيجة الدقيقة ، لكنه سيساعدك في الحصول على فكرة عما إذا كان شراء متجر بالائتمان لمنطقة معينة سيؤتي ثماره.

كيفية تنفيذ طريقة المربعات الصغرى في Excel

لدى Excel وظيفة لحساب قيمة المربعات الصغرى. لها الشكل التالي: TREND (قيم Y المعروفة ؛ قيم X المعروفة ؛ قيم X الجديدة ؛ ثابت). دعنا نطبق صيغة حساب OLS في Excel على جدولنا.

للقيام بذلك ، في الخلية التي يجب أن يتم فيها عرض نتيجة الحساب باستخدام طريقة المربعات الصغرى في Excel ، أدخل علامة "=" وحدد وظيفة "TREND". في النافذة التي تفتح ، املأ الحقول المناسبة ، مع تحديد:

  • نطاق القيم المعروفة لـ Y (في هذه الحالة بيانات دوران) ؛
  • النطاق x 1 ، ... x n ، أي حجم مساحة البيع بالتجزئة ؛
  • والقيم المعروفة وغير المعروفة لـ x ، والتي تحتاج إلى معرفة حجم دورانها (للحصول على معلومات حول موقعها في ورقة العمل ، انظر أدناه).

بالإضافة إلى ذلك ، هناك متغير منطقي "Const" في الصيغة. إذا أدخلت 1 في الحقل المقابل له ، فهذا يعني أنه يجب إجراء الحسابات ، على افتراض أن ب \ u003d 0.

إذا كنت بحاجة إلى معرفة التوقعات لأكثر من قيمة x واحدة ، فبعد إدخال الصيغة ، يجب ألا تضغط على "Enter" ، ولكن عليك كتابة المجموعة "Shift" + "Control" + "Enter" ("Enter" ) على لوحة المفاتيح.

بعض الملامح

يمكن أن يكون تحليل الانحدار متاحًا حتى للدمى. يمكن استخدام صيغة Excel للتنبؤ بقيمة مجموعة من المتغيرات غير المعروفة - "TREND" - حتى من قبل أولئك الذين لم يسمعوا أبدًا بطريقة المربعات الصغرى. يكفي فقط معرفة بعض ميزات عملها. بخاصة:

  • إذا قمت بوضع نطاق القيم المعروفة للمتغير y في صف أو عمود واحد ، فسيتم إدراك كل صف (عمود) بقيم x المعروفة بواسطة البرنامج كمتغير منفصل.
  • إذا لم يتم تحديد النطاق مع x المعروف في نافذة TREND ، فعند استخدام الوظيفة في Excel ، سيعتبرها البرنامج كمصفوفة تتكون من أعداد صحيحة ، وعددها يتوافق مع النطاق مع القيم المحددة من المتغير y.
  • لإخراج صفيف من القيم "المتوقعة" ، يجب إدخال تعبير الاتجاه كصيغة صفيف.
  • إذا لم يتم تحديد قيم x جديدة ، فإن دالة TREND تعتبرها مساوية للقيم المعروفة. إذا لم يتم تحديدها ، فسيتم اعتبار المصفوفة 1 كوسيطة ؛ 2 ؛ 3 ؛ 4 ؛ ... ، الذي يتناسب مع النطاق مع المعلمات المعطاة بالفعل y.
  • يجب أن يحتوي النطاق الذي يحتوي على قيم x الجديدة على نفس أو أكثر من الصفوف أو الأعمدة مثل النطاق الذي يحتوي على قيم y المحددة. بمعنى آخر ، يجب أن تكون متناسبة مع المتغيرات المستقلة.
  • يمكن أن تحتوي المصفوفة ذات قيم x المعروفة على متغيرات متعددة. ومع ذلك ، إذا كنا نتحدث عن واحد فقط ، فمن الضروري أن تكون النطاقات ذات القيم المعطاة لـ x و y متناسبة. في حالة وجود العديد من المتغيرات ، من الضروري احتواء النطاق مع قيم y المقدمة في عمود واحد أو صف واحد.

دالة FORECAST

يتم تنفيذه باستخدام عدة وظائف. واحد منهم يسمى "التنبؤ". إنه مشابه لـ TREND ، أي أنه يعطي نتيجة الحسابات باستخدام طريقة المربعات الصغرى. ومع ذلك ، فقط لـ X واحد ، حيث تكون قيمة Y غير معروفة.

أنت الآن تعرف صيغ Excel للدمى التي تسمح لك بالتنبؤ بقيمة القيمة المستقبلية لمؤشر وفقًا لاتجاه خطي.

تكمن المشكلة في إيجاد معاملات التبعية الخطية التي لها دالة متغيرين أو بيأخذ أصغر قيمة. هذا هو ، بالنظر إلى البيانات أو بسيكون مجموع الانحرافات التربيعية للبيانات التجريبية من الخط المستقيم الموجود هو الأصغر. هذه هي النقطة الكاملة لطريقة المربعات الصغرى.

وبالتالي ، يتم تقليل حل المثال إلى إيجاد الحد الأقصى لدالة من متغيرين.

اشتقاق الصيغ لإيجاد المعاملات.نظام من معادلتين مع مجهولين يتم تجميعها وحلها. إيجاد المشتقات الجزئية للدوال بالمتغيرات أو ب، فنحن نساوي هذه المشتقات بصفر.

نقوم بحل نظام المعادلات الناتج بأي طريقة (على سبيل المثال ، طريقة الاستبدال أو طريقة كرامر) ونحصل على صيغ لإيجاد المعاملات باستخدام طريقة المربعات الصغرى (LSM).

مع البيانات أو بوظيفة يأخذ أصغر قيمة.

هذه هي الطريقة الكاملة للمربعات الصغرى. صيغة البحث عن المعلمة أيحتوي على المجاميع ، و ، والمعلمة ن- كمية البيانات التجريبية. يوصى بحساب قيم هذه المبالغ بشكل منفصل. معامل في الرياضيات او درجة بوجدت بعد الحساب أ.

المجال الرئيسي لتطبيق مثل هذه كثيرات الحدود هو معالجة البيانات التجريبية (بناء الصيغ التجريبية). الحقيقة هي أن كثير حدود الاستيفاء التي تم إنشاؤها من قيم الوظيفة التي تم الحصول عليها بمساعدة التجربة ستتأثر بشدة بـ "الضوضاء التجريبية" ، علاوة على ذلك ، أثناء الاستيفاء ، لا يمكن تكرار عقد الاستيفاء ، أي لا يمكنك استخدام نتائج التجارب المتكررة في ظل نفس الظروف. كثير حدود الجذر التربيعي ينعم الضوضاء ويجعل من الممكن استخدام نتائج تجارب متعددة.

التكامل والتفاضل العددي. مثال.

تكامل رقمي- حساب قيمة تكامل محدد (كقاعدة تقريبية). يُفهم التكامل العددي على أنه مجموعة من الطرق العددية لإيجاد قيمة تكامل معين.

التمايز العددي- مجموعة من الطرق لحساب قيمة مشتق دالة معينة بشكل منفصل.

اندماج

صياغة المشكلة.بيان رياضي للمشكلة: من الضروري إيجاد قيمة تكامل معين

حيث a ، b محدودة ، f (x) متصلة على [а ، b].

عند حل المشكلات العملية ، غالبًا ما يحدث أن التكامل غير مريح أو يستحيل تناوله بشكل تحليلي: قد لا يتم التعبير عنه في وظائف أولية ، يمكن إعطاء التكامل في شكل جدول ، وما إلى ذلك. في مثل هذه الحالات ، تكون طرق التكامل العددي مستخدم. تستخدم طرق التكامل العددية استبدال مساحة شبه منحرف منحني الأضلاع بمجموع محدود من المساحات ذات الأشكال الهندسية الأبسط التي يمكن حسابها بدقة. بهذا المعنى يتحدث المرء عن استخدام الصيغ التربيعية.

تستخدم معظم الطرق تمثيل التكامل كمجموع محدود (صيغة التربيع):

تعتمد الصيغ التربيعية على فكرة استبدال الرسم البياني للتكامل وفترة التكامل بوظائف ذات شكل أبسط ، والتي يمكن دمجها بسهولة تحليليًا وبالتالي يمكن حسابها بسهولة. يتم تحقيق أبسط مهمة لبناء الصيغ التربيعية للنماذج الرياضية متعددة الحدود.

يمكن تمييز ثلاث مجموعات من الأساليب:

1. طريقة تقسيم مقطع التكامل إلى فترات متساوية. يتم التقسيم إلى فترات زمنية مقدمًا ، وعادة ما يتم اختيار الفواصل الزمنية على قدم المساواة (لتسهيل حساب الوظيفة في نهايات الفترات الزمنية). احسب المساحات ولخصها (طرق المستطيلات ، شبه المنحرف ، سيمبسون).

2. طرق تقسيم مقطع التكامل باستخدام نقاط خاصة (طريقة غاوس).

3. حساب التكاملات باستخدام الأعداد العشوائية (طريقة مونت كارلو).

طريقة المستطيل.دع الوظيفة (الرسم) تتكامل عدديًا في المقطع. نقسم المقطع إلى N فترات متساوية. يمكن استبدال مساحة كل من شبه المنحنيات N المنحنية بمساحة المستطيل.

عرض كل المستطيلات هو نفسه ويساوي:

كخيار لارتفاع المستطيلات ، يمكنك اختيار قيمة الوظيفة على الحد الأيسر. في هذه الحالة ، سيكون ارتفاع المستطيل الأول f (a) ، والثاني سيكون f (x 1) ، ... ، N-f (N-1).

إذا أخذنا قيمة الدالة الموجودة على الحد الأيمن كخيار لارتفاع المستطيل ، فسيكون ارتفاع المستطيل الأول في هذه الحالة f (x 1) ، والثاني - f (x 2) ،. .. ، ن - و (س ن).

كما يمكن رؤيته ، في هذه الحالة ، تعطي إحدى الصيغ تقريبًا للتكامل مع فائض ، والثاني بنقص. هناك طريقة أخرى - لاستخدام قيمة الوظيفة في منتصف مقطع التكامل للتقريب:

تقدير الخطأ المطلق لطريقة المستطيلات (وسط)

تقدير الخطأ المطلق لأساليب المستطيلات اليمنى واليسرى.

مثال.احسب الفترة بأكملها وقسمها إلى أربعة أقسام

حل.يعطي الحساب التحليلي لهذا التكامل I = arctg (1) –arctg (0) = 0.7853981634. في حالتنا هذه:

1) ح = 1 ؛ xo = 0 ؛ س 1 = 1 ؛

2) ح = 0.25 (1/4) ؛ x0 = 0 ؛ س 1 = 0.25 ؛ x2 = 0.5 ؛ x3 = 0.75 ؛ x4 = 1 ؛

نحسب بطريقة المستطيلات اليسرى:

نحسب بطريقة المستطيلات الصحيحة:

احسب بطريقة متوسط ​​المستطيلات:

طريقة شبه منحرف.يؤدي استخدام كثير الحدود من الدرجة الأولى للاستيفاء (خط مستقيم مرسوم من خلال نقطتين) إلى صيغة شبه منحرف. نهايات جزء التكامل تؤخذ كعقد استيفاء. وبالتالي ، يتم استبدال شبه المنحرف المنحني الخطي بشبه منحرف عادي ، وهي مساحة يمكن العثور عليها كمنتج نصف مجموع القواعد والارتفاع

في حالة الأجزاء N من التكامل لجميع العقد ، باستثناء النقاط القصوى من المقطع ، سيتم تضمين قيمة الوظيفة في المجموع الإجمالي مرتين (نظرًا لأن شبه المنحرفات المجاورة لها جانب مشترك واحد)

يمكن الحصول على صيغة شبه منحرف بأخذ نصف مجموع صيغ المستطيل على طول الحواف اليمنى واليسرى للقطاع:

التحقق من استقرار الحل.كقاعدة عامة ، كلما كان طول كل فترة أقصر ، أي كلما زاد عدد هذه الفواصل ، قل الفرق بين القيم التقريبية والدقيقة للتكامل. هذا صحيح بالنسبة لمعظم الوظائف. في طريقة شبه المنحرف ، الخطأ في حساب التكامل ϭ يتناسب تقريبًا مع مربع خطوة التكامل (ϭ ~ h 2). وبالتالي ، لحساب تكامل دالة معينة في الحدود أ ، ب ، من الضروري قسّم المقطع إلى فترات N 0 وإيجاد مجموع مساحات شبه المنحرف. ثم تحتاج إلى زيادة عدد الفواصل الزمنية N 1 ، مرة أخرى احسب مجموع شبه المنحرف وقارن القيمة الناتجة مع النتيجة السابقة. يجب تكرار ذلك حتى يتم الوصول إلى الدقة المحددة للنتيجة (معيار التقارب).

بالنسبة لطريقتي المستطيل وشبه المنحرف ، عادةً في كل خطوة من خطوات التكرار ، يزداد عدد الفواصل الزمنية بمعامل 2 (N i +1 = 2N i).

معيار التقارب:

الميزة الرئيسية لقاعدة شبه منحرف هي بساطتها. ومع ذلك ، إذا تطلب التكامل دقة عالية ، فقد تتطلب هذه الطريقة الكثير من التكرارات.

الخطأ المطلق في طريقة شبه المنحرفمصنفة كـ
.

مثال.احسب تكاملًا محددًا تقريبًا باستخدام صيغة شبه منحرف.

أ) تقسيم جزء التكامل إلى 3 أجزاء.
ب) تقسيم جزء التكامل إلى 5 أجزاء.

حل:
أ) حسب الشرط ، يجب تقسيم جزء التكامل إلى 3 أجزاء ، أي.
احسب طول كل جزء من القسم: .

وبالتالي ، يتم تقليل الصيغة العامة لشبه المنحرف إلى حجم لطيف:

أخيراً:

أذكرك أن القيمة الناتجة هي قيمة تقريبية للمنطقة.

ب) نقسم جزء التكامل إلى 5 أجزاء متساوية ، أي. من خلال زيادة عدد المقاطع ، نزيد من دقة الحسابات.

إذا ، فإن صيغة شبه المنحرف تأخذ الشكل التالي:

لنجد خطوة التقسيم:
، أي أن طول كل قطعة وسيطة هو 0.6.

عند الانتهاء من المهمة ، من الملائم إجراء جميع الحسابات باستخدام جدول حساب:

في السطر الأول نكتب "عداد"

نتيجة ل:

حسنًا ، هناك بالفعل توضيح ، وواحد جاد!
إذا كان لمدة 3 أجزاء من القسم ، ثم لمدة 5 أجزاء. إذا كنت تأخذ المزيد من الشرائح => ستكون أكثر دقة.

صيغة سيمبسون.تعطي الصيغة شبه المنحرفة نتيجة تعتمد بشدة على حجم الخطوة h ، مما يؤثر على دقة حساب تكامل محدد ، خاصة في الحالات التي تكون فيها الوظيفة غير رئوية. يمكن للمرء أن يفترض زيادة في دقة الحسابات إذا ، بدلاً من مقاطع من الخطوط المستقيمة لتحل محل الأجزاء المنحنية من الرسم البياني للوظيفة f (x) ، استخدمنا ، على سبيل المثال ، أجزاء من القطع المكافئ المعطاة من خلال ثلاث نقاط متجاورة من الرسم البياني . هناك تفسير هندسي مشابه يكمن وراء طريقة سيمبسون لحساب التكامل المحدد. فاصل التكامل أ ، ب مقسم إلى N مقاطع ، وطول المقطع سيكون أيضًا مساويًا لـ h = (b-a) / N.

صيغة سيمبسون هي:

المدى المتبقي

مع زيادة طول المقاطع ، تقل دقة الصيغة ، وبالتالي ، لزيادة الدقة ، يتم استخدام صيغة Simpson المركبة. يتم تقسيم فترة التكامل بأكملها إلى عدد زوجي من المقاطع المتماثلة N ، وسيكون طول المقطع أيضًا مساويًا لـ h = (b-a) / N. صيغة Simpson المركبة هي:

في الصيغة ، التعبيرات الموجودة بين قوسين هي مجموع قيم التكامل ، على التوالي ، في نهايات المقاطع الفردية والزوجية الداخلية.

يتناسب المصطلح المتبقي من صيغة سيمبسون بالفعل مع القوة الرابعة للخطوة:

مثال:احسب التكامل باستخدام قاعدة سمبسون. (الحل الدقيق - 0.2)

طريقة جاوس

صيغة التربيع من Gauss. يظهر المبدأ الأساسي للصيغ التربيعية للصنف الثاني من الشكل 1.12: من الضروري وضع النقاط بهذه الطريقة X 0 و X 1 داخل المقطع [ أ;ب] بحيث تكون مساحات "المثلثات" إجمالاً مساوية لمساحات "المقطع". عند استخدام صيغة Gauss ، فإن المقطع الأولي [ أ;ب] إلى الفترة [-1 ؛ 1] عن طريق تغيير المتغير Xعلى

0.5∙(بأ)∙ر+ 0.5∙(ب + أ).

ثم ، أين .

هذا الاستبدال ممكن إذا أو بمنتهية ، والوظيفة F(x) مستمر في [ أ;ب]. صيغة جاوس ل ننقاط س ط, أنا=0,1,..,ن-1 داخل المقطع [ أ;ب]:

, (1.27)

أين ر أناو عايللاختلافات نترد في الكتب المرجعية. على سبيل المثال ، متى ن=2 أ 0 =أ 1 = 1 ؛ في ن=3: ر 0 = ر 2 "0.775 ، ر 1 =0, أ 0 = أ 2 "0.555 ، أ 1 "0.889.

صيغة التربيع من Gauss

تم الحصول عليها بوظيفة وزن تساوي واحدًا ص (س) = 1 والعقد س ط، وهي جذور كثيرات حدود Legendre

احتمال عاييحسب بسهولة عن طريق الصيغ

أنا=0,1,2,...ن.

يتم إعطاء قيم العقد والمعاملات لـ n = 2،3،4،5 في الجدول

طلب عقدة احتمال
ن=2 × 1=0 س 0 =-x2=0.7745966692 أ 1=8/9 أ 0 = أ 2=5/9
ن=3 × 2 =-× 1=0.3399810436 × 3 =-× 0=0.8611363116 أ 1 = أ 2=0.6521451549 أ 0 = أ 3=0.6521451549
ن = 4 x 2 = 0 x 3 = -x 1 = 0.5384693101 x 4 =-x 0 =0.9061798459 أ 0 =0.568888899 أ 3 =أ 1 =0.4786286705 أ 0 =أ 4 =0.2869268851
ن=5 x 5 = -x 0 =0.9324695142 x 4 = -x 1 =0.6612093865 x 3 = -x 2 =0.2386191861 أ 5 = أ 0 =0.1713244924 أ 4 = أ 1 =0.3607615730 أ 3 = أ 2 =0.4679139346

مثال.احسب القيمة باستخدام صيغة Gauss لـ ن=2:

القيمة الدقيقة: .

لا توفر خوارزمية حساب التكامل وفقًا لصيغة Gauss مضاعفة عدد الأجزاء المجهرية ، ولكن لزيادة عدد الإحداثيات بمقدار 1 ومقارنة القيم التي تم الحصول عليها من التكامل. تتمثل ميزة صيغة Gauss في الدقة العالية مع وجود عدد صغير نسبيًا من الإحداثيات. العيوب: غير مريح للحسابات اليدوية ؛ يجب أن يتم تخزينها في ذاكرة الكمبيوتر ر أنا, عايللاختلافات ن.

سيكون الخطأ في صيغة Gauss التربيعية على المقطع في نفس الوقت بالنسبة لصيغة المصطلح المتبقي حيث سيكون المعامل α نيتناقص بسرعة مع النمو ن. هنا

توفر صيغ Gauss دقة عالية بالفعل مع عدد صغير من العقد (من 4 إلى 10). في هذه الحالة ، في الحسابات العملية ، يتراوح عدد العقد من عدة مئات إلى عدة آلاف. نلاحظ أيضًا أن أوزان التربيعات الغوسية تكون دائمًا موجبة ، مما يضمن استقرار الخوارزمية لحساب المجاميع

تتيح لك طريقة المربعات الصغرى (LSM) تقدير كميات مختلفة باستخدام نتائج العديد من القياسات التي تحتوي على أخطاء عشوائية.

خاصية MNC

الفكرة الرئيسية لهذه الطريقة هي أن مجموع الأخطاء التربيعية يعتبر معيارًا لدقة حل المشكلة ، والذي يسعى إلى تصغيره. عند استخدام هذه الطريقة ، يمكن تطبيق النهجين العددي والتحليلي.

على وجه الخصوص ، كتطبيق عددي ، تتضمن طريقة المربعات الصغرى إجراء أكبر عدد ممكن من القياسات لمتغير عشوائي غير معروف. علاوة على ذلك ، كلما زادت العمليات الحسابية ، كان الحل أكثر دقة. في هذه المجموعة من الحسابات (البيانات الأولية) ، يتم الحصول على مجموعة أخرى من الحلول المقترحة ، والتي يتم بعد ذلك تحديد أفضلها. إذا كانت مجموعة الحلول ذات معلمات ، فسيتم تقليل طريقة المربعات الصغرى لإيجاد القيمة المثلى للمعلمات.

كنهج تحليلي لتنفيذ LSM على مجموعة البيانات الأولية (القياسات) ومجموعة الحلول المقترحة ، يتم تعريف البعض (الوظيفية) ، والتي يمكن التعبير عنها من خلال صيغة تم الحصول عليها كفرضية معينة تحتاج إلى تأكيد. في هذه الحالة ، يتم تقليل طريقة المربعات الصغرى لإيجاد الحد الأدنى من هذه الوظيفة في مجموعة الأخطاء التربيعية للبيانات الأولية.

لاحظ أنه ليس الأخطاء نفسها ، بل مربعات الأخطاء. لماذا؟ الحقيقة هي أنه غالبًا ما تكون انحرافات القياسات عن القيمة الدقيقة موجبة وسالبة. عند تحديد المتوسط ​​، يمكن أن يؤدي الجمع البسيط إلى استنتاج غير صحيح حول جودة التقدير ، لأن الإلغاء المتبادل للقيم الإيجابية والسلبية سيقلل من قوة أخذ العينات لمجموعة القياسات. وبالتالي دقة التقييم.

لمنع حدوث ذلك ، يتم تلخيص الانحرافات التربيعية. أكثر من ذلك ، من أجل معادلة أبعاد القيمة المقاسة والتقدير النهائي ، يتم استخدام مجموع الأخطاء التربيعية لاستخراج

بعض تطبيقات الشركات متعددة الجنسيات

يستخدم MNC على نطاق واسع في مختلف المجالات. على سبيل المثال ، في نظرية الاحتمالات والإحصاءات الرياضية ، تُستخدم الطريقة لتحديد خاصية متغير عشوائي مثل الانحراف المعياري ، الذي يحدد عرض نطاق قيم المتغير العشوائي.

تقريب البيانات التجريبية هو طريقة تعتمد على استبدال البيانات التي تم الحصول عليها تجريبياً بوظيفة تحليلية تمر أو تتطابق بشكل وثيق عند النقاط العقدية مع القيم الأولية (البيانات التي تم الحصول عليها أثناء التجربة أو التجربة). يوجد حاليًا طريقتان لتحديد وظيفة تحليلية:

من خلال بناء استيفاء متعدد الحدود بدرجة n يمر مباشرة من خلال جميع النقاطمجموعة معينة من البيانات. في هذه الحالة ، يتم تمثيل دالة التقريب على النحو التالي: استيفاء متعدد الحدود في صيغة لاغرانج أو استيفاء متعدد الحدود في صيغة نيوتن.

من خلال بناء كثير الحدود التقريبي n- درجة يمر قريبة من النقاطمن مجموعة البيانات المحددة. وبالتالي ، تعمل وظيفة التقريب على تسوية جميع الضوضاء العشوائية (أو الأخطاء) التي قد تحدث أثناء التجربة: تعتمد القيم المقاسة أثناء التجربة على عوامل عشوائية تتقلب وفقًا لقوانينها العشوائية (أخطاء القياس أو الأداة ، عدم الدقة أو التجريبية أخطاء). في هذه الحالة ، يتم تحديد دالة التقريب بطريقة المربعات الصغرى.

طريقة المربعات الصغرى(في الأدب الإنجليزي ، المربعات الصغرى العادية ، OLS) هي طريقة رياضية تعتمد على تعريف دالة تقريبية ، والتي تم إنشاؤها في أقرب نقطة من النقاط من مجموعة معينة من البيانات التجريبية. يتم تحديد القرب من الدالتين الأولي والتقريب F (x) بواسطة مقياس رقمي ، أي: يجب أن يكون مجموع الانحرافات التربيعية للبيانات التجريبية من المنحنى التقريبي F (x) هو الأصغر.

منحنى ملائم تم إنشاؤه بواسطة طريقة المربعات الصغرى

يتم استخدام طريقة المربعات الصغرى:

لحل أنظمة المعادلات شديدة التحديد عندما يتجاوز عدد المعادلات عدد المجهول ؛

للبحث عن حل في حالة أنظمة المعادلات غير الخطية العادية (غير المحددة بإفراط) ؛

لتقريب قيم النقطة ببعض الوظائف التقريبية.

يتم تحديد دالة التقريب بواسطة طريقة المربعات الصغرى من حالة الحد الأدنى لمجموع الانحرافات التربيعية لوظيفة التقريب المحسوبة من مجموعة معينة من البيانات التجريبية. تتم كتابة معيار طريقة المربعات الصغرى على النحو التالي:

قيم دالة التقريب المحسوبة عند النقاط العقدية ،

مجموعة محددة من البيانات التجريبية عند نقاط العقد.

يحتوي المعيار التربيعي على عدد من الخصائص "الجيدة" ، مثل التفاضل ، مما يوفر حلاً فريدًا لمشكلة التقريب مع وظائف تقريب متعددة الحدود.

اعتمادًا على ظروف المشكلة ، فإن دالة التقريب هي كثير حدود من الدرجة m

لا تعتمد درجة دالة التقريب على عدد النقاط العقدية ، ولكن يجب أن يكون بُعدها دائمًا أقل من بُعد (عدد النقاط) لمجموعة معينة من البيانات التجريبية.

∙ إذا كانت درجة دالة التقريب م = 1 ، فإننا نقرب دالة الجدول بخط مستقيم (الانحدار الخطي).

∙ إذا كانت درجة دالة التقريب م = 2 ، فإننا نقرب دالة الجدول بمكافئ تربيعي (تقريب تربيعي).

∙ إذا كانت درجة دالة التقريب م = 3 ، فإننا نقرب دالة الجدول بمقطع مكافئ مكعب (تقريب تكعيبي).

في الحالة العامة ، عندما يكون مطلوبًا إنشاء كثير حدود تقريبي للدرجة m لقيم جدولية معينة ، تتم إعادة كتابة شرط الحد الأدنى لمجموع الانحرافات التربيعية على جميع النقاط العقدية بالشكل التالي:

- معاملات غير معروفة لكثير الحدود التقريبي للدرجة م ؛

عدد قيم الجدول المحددة.

الشرط الضروري لوجود حد أدنى من الوظيفة هو المساواة إلى الصفر من مشتقاتها الجزئية فيما يتعلق بالمتغيرات غير المعروفة . نتيجة لذلك ، نحصل على نظام المعادلات التالي:

دعنا نحول نظام المعادلات الخطي الناتج: افتح الأقواس وانقل المصطلحات الحرة إلى الجانب الأيمن من التعبير. نتيجة لذلك ، سيتم كتابة النظام الناتج من التعبيرات الجبرية الخطية بالشكل التالي:

يمكن إعادة كتابة هذا النظام من التعبيرات الجبرية الخطية في شكل مصفوفة:

نتيجة لذلك ، تم الحصول على نظام المعادلات الخطية ذات البعد m + 1 ، والذي يتكون من m + 1 غير معروف. يمكن حل هذا النظام باستخدام أي طريقة لحل المعادلات الجبرية الخطية (على سبيل المثال ، طريقة غاوس). نتيجة للحل ، سيتم العثور على معلمات غير معروفة لوظيفة التقريب التي توفر الحد الأدنى لمجموع الانحرافات التربيعية لوظيفة التقريب من البيانات الأصلية ، أي أفضل تقريب تربيعي ممكن. يجب أن نتذكر أنه إذا تغيرت قيمة واحدة من البيانات الأولية ، فإن جميع المعاملات ستغير قيمها ، حيث يتم تحديدها بالكامل بواسطة البيانات الأولية.

تقريب البيانات الأولية بالاعتماد الخطي

(الانحدارالخطي)

كمثال ، ضع في اعتبارك طريقة تحديد دالة التقريب ، والتي يتم تقديمها كعلاقة خطية. وفقًا لطريقة المربعات الصغرى ، تتم كتابة شرط الحد الأدنى لمجموع الانحرافات المربعة على النحو التالي:

إحداثيات النقاط العقدية للجدول ؛

معاملات غير معروفة للدالة التقريبية ، والتي تُعطى كعلاقة خطية.

الشرط الضروري لوجود حد أدنى من الوظيفة هو المساواة إلى الصفر من مشتقاتها الجزئية فيما يتعلق بالمتغيرات غير المعروفة. نتيجة لذلك ، نحصل على نظام المعادلات التالي:

دعونا نحول النظام الخطي الناتج من المعادلات.

نحل نظام المعادلات الخطية الناتج. يتم تحديد معاملات دالة التقريب في شكل تحليلي على النحو التالي (طريقة كرامر):

توفر هذه المعاملات بناء دالة تقريبية خطية وفقًا لمعيار تقليل مجموع مربعات دالة التقريب من قيم جدولية معينة (بيانات تجريبية).

خوارزمية لتنفيذ طريقة المربعات الصغرى

1. البيانات الأولية:

بالنظر إلى مجموعة من البيانات التجريبية مع عدد القياسات N

يتم إعطاء درجة التقريب كثير الحدود (م)

2. خوارزمية الحساب:

2.1. يتم تحديد المعاملات لبناء نظام معادلات ذات أبعاد

معاملات نظام المعادلات (الجانب الأيسر من المعادلة)

- فهرس رقم عمود المصفوفة المربعة لنظام المعادلات

الأعضاء الأحرار في نظام المعادلات الخطية (الجانب الأيمن من المعادلة)

- فهرس رقم صف المصفوفة المربعة لنظام المعادلات

2.2. تكوين نظام معادلات خطية ذات أبعاد.

2.3 حل نظام معادلات خطية لتحديد المعاملات غير المعروفة لكثير الحدود التقريبي للدرجة م.

2.4 تحديد مجموع الانحرافات التربيعية لكثير الحدود التقريبي من القيم الأولية على جميع النقاط العقدية

القيمة التي تم العثور عليها لمجموع الانحرافات التربيعية هي الحد الأدنى الممكن.

التقريب مع وظائف أخرى

تجدر الإشارة إلى أنه عند تقريب البيانات الأولية وفقًا لطريقة المربعات الصغرى ، تُستخدم أحيانًا دالة لوغاريتمية ودالة أسية ودالة طاقة كدالة تقريبية.

تقريب السجل

ضع في اعتبارك الحالة عندما يتم إعطاء دالة التقريب بواسطة دالة لوغاريتمية في النموذج:

طريقة المربعات الصغرى

طريقة التربيع الصغرى ( MNK ، OLS ، المربعات الصغرى العادية) - إحدى الطرق الأساسية لتحليل الانحدار لتقدير المعلمات غير المعروفة لنماذج الانحدار من بيانات العينة. تعتمد الطريقة على تقليل مجموع مربعات بقايا الانحدار.

تجدر الإشارة إلى أن طريقة المربعات الصغرى نفسها يمكن أن تسمى طريقة لحل مشكلة في أي منطقة ، إذا كان الحل يتكون من معيار معين أو يفي به لتقليل مجموع مربعات بعض وظائف المتغيرات غير المعروفة. لذلك ، يمكن أيضًا استخدام طريقة المربعات الصغرى للتمثيل التقريبي (التقريب) لوظيفة معينة بواسطة وظائف أخرى (أبسط) ، عند العثور على مجموعة من الكميات التي تفي بالمعادلات أو القيود ، والتي يتجاوز عددها عدد هذه الكميات ، إلخ.

جوهر الشركات متعددة الجنسيات

دع بعض النماذج (البارامترية) للاعتماد الاحتمالي (الانحدار) بين المتغير (الموضح) ذوالعديد من العوامل (المتغيرات التفسيرية) x

أين متجه معلمات النموذج غير المعروفة

- خطأ نموذج عشوائي.

يجب أن تكون هناك أيضًا ملاحظات نموذجية لقيم المتغيرات المشار إليها. اسمحوا ان يكون رقم الملاحظة (). ثم قيم المتغيرات في الملاحظة -th. بعد ذلك ، بالنسبة لقيم معينة للمعلمات b ، من الممكن حساب القيم النظرية (النموذجية) للمتغير الموضح y:

تعتمد قيمة القيم المتبقية على قيم المعلمات ب.

يتمثل جوهر LSM (عادي ، كلاسيكي) في إيجاد مثل هذه المعلمات ب التي يكون مجموع مربعات القيم المتبقية (eng. المجموع المتبقي للمربعات) سيكون ضئيلاً:

في الحالة العامة ، يمكن حل هذه المشكلة بالطرق العددية للتحسين (التصغير). في هذه الحالة ، يتحدث المرء عن المربعات الصغرى غير الخطية(NLS أو NLLS - الإنجليزية. المربعات الصغرى غير الخطية). في كثير من الحالات ، يمكن الحصول على حل تحليلي. لحل مشكلة التصغير ، من الضروري إيجاد النقاط الثابتة للدالة عن طريق تمييزها فيما يتعلق بالمعلمات غير المعروفة b ، معادلة المشتقات بالصفر ، وحل نظام المعادلات الناتج:

إذا تم توزيع الأخطاء العشوائية للنموذج بشكل طبيعي ، ولها نفس التباين ، وغير مرتبطة ببعضها البعض ، فإن تقديرات معلمات المربعات الصغرى هي نفسها تقديرات طريقة الاحتمال الأقصى (MLM).

LSM في حالة النموذج الخطي

دع تبعية الانحدار تكون خطية:

يترك ذ- متجه العمود لملاحظات المتغير الموضح ، و - مصفوفة ملاحظات العوامل (صفوف المصفوفة - متجهات قيم العامل في ملاحظة معينة ، حسب الأعمدة - متجه قيم عامل معين في جميع الملاحظات) . تمثيل المصفوفة للنموذج الخطي له الشكل:

ثم سيكون متجه تقديرات المتغير الموضح ومتجه بقايا الانحدار مساوياً لـ

وفقًا لذلك ، سيكون مجموع مربعات قيم الانحدار المتبقية مساويًا لـ

عند التفريق بين هذه الوظيفة فيما يتعلق بمتجه المعلمة ومعادلة المشتقات بالصفر ، نحصل على نظام من المعادلات (في شكل مصفوفة):

.

يعطي حل نظام المعادلات هذا الصيغة العامة لتقديرات المربعات الصغرى للنموذج الخطي:

لأغراض تحليلية ، تبين أن التمثيل الأخير لهذه الصيغة مفيد. إذا كانت البيانات في نموذج الانحدار تتمحور، ثم في هذا التمثيل المصفوفة الأولى لها معنى مصفوفة التغاير للعينة من العوامل ، والثانية هي متجه التغايرات المشتركة للعوامل ذات المتغير التابع. إذا ، بالإضافة إلى ذلك ، البيانات هي أيضا تطبيعفي SKO (أي في النهاية موحد) ، ثم المصفوفة الأولى لها معنى مصفوفة ارتباط العينة للعوامل ، والمتجه الثاني - متجه ارتباطات العينة مع المتغير التابع.

خاصية مهمة لتقديرات LLS للنماذج مع ثابت- يمر خط الانحدار المركب عبر مركز ثقل بيانات العينة ، أي أن المساواة تتحقق:

على وجه الخصوص ، في الحالة القصوى ، عندما يكون الانحدار الوحيد ثابتًا ، نجد أن تقدير OLS لمعامل واحد (الثابت نفسه) يساوي القيمة المتوسطة للمتغير الموضح. أي أن المتوسط ​​الحسابي ، المعروف بخصائصه الجيدة من قوانين الأعداد الكبيرة ، هو أيضًا تقدير المربعات الصغرى - فهو يفي بمعيار الحد الأدنى لمجموع الانحرافات التربيعية عنه.

مثال: الانحدار البسيط (الزوجي)

في حالة الانحدار الخطي المقترن ، يتم تبسيط معادلات الحساب (يمكنك الاستغناء عن جبر المصفوفة):

خصائص تقديرات OLS

بادئ ذي بدء ، نلاحظ أنه بالنسبة للنماذج الخطية ، فإن تقديرات المربعات الصغرى هي تقديرات خطية ، على النحو التالي من الصيغة أعلاه. بالنسبة لتقديرات OLS غير المتحيزة ، من الضروري والكافي للوفاء بأهم شرط لتحليل الانحدار: يجب أن يكون التوقع الرياضي لخطأ عشوائي مشروط بالعوامل مساويًا للصفر. يتم استيفاء هذا الشرط ، على وجه الخصوص ، إذا

  1. التوقع الرياضي للأخطاء العشوائية هو صفر ، و
  2. العوامل والأخطاء العشوائية هي متغيرات عشوائية مستقلة.

الشرط الثاني - حالة العوامل الخارجية - أساسي. إذا لم يتم استيفاء هذه الخاصية ، فيمكننا أن نفترض أن أي تقديرات تقريبًا ستكون غير مرضية للغاية: لن تكون حتى متسقة (أي ، حتى كمية كبيرة جدًا من البيانات لا تسمح بالحصول على تقديرات نوعية في هذه الحالة). في الحالة الكلاسيكية ، يتم وضع افتراض أقوى حول حتمية العوامل ، على عكس الخطأ العشوائي ، مما يعني تلقائيًا استيفاء الحالة الخارجية. في الحالة العامة ، من أجل اتساق التقديرات ، يكفي تحقيق شرط التجانس جنبًا إلى جنب مع تقارب المصفوفة مع بعض المصفوفة غير المفردة مع زيادة حجم العينة إلى ما لا نهاية.

من أجل ، بالإضافة إلى الاتساق وعدم التحيز ، أن تكون تقديرات المربعات الصغرى (المعتادة) فعالة أيضًا (الأفضل في فئة التقديرات الخطية غير المنحازة) ، من الضروري تحقيق خصائص إضافية للخطأ العشوائي:

يمكن صياغة هذه الافتراضات لمصفوفة التغاير لمتجه الخطأ العشوائي

يسمى النموذج الخطي الذي يلبي هذه الشروط كلاسيكي. تعتبر تقديرات المربعات الصغرى للانحدار الخطي الكلاسيكي غير متحيزة ومتسقة والأكثر كفاءة في فئة جميع المقدرات الخطية غير المتحيزة (الاختصار أزرق (أفضل مقدر خطي غير مدفوع) هو أفضل تقدير خطي غير متحيز ؛ في الأدب المحلي ، غالبًا ما يتم الاستشهاد بنظرية غاوس ماركوف). نظرًا لأنه من السهل إظهار ذلك ، فإن مصفوفة التغاير لمتجه تقديرات المعامل ستكون مساوية لـ:

المربعات الصغرى المعممة

طريقة المربعات الصغرى تسمح بتعميم واسع. بدلاً من تقليل مجموع مربعات القيم المتبقية ، يمكن تقليل بعض الأشكال التربيعية الموجبة المحددة للمتجه المتبقي ، حيث توجد بعض مصفوفة الوزن المحددة الإيجابية المتماثلة. المربعات الصغرى العادية هي حالة خاصة لهذا النهج ، عندما تكون مصفوفة الوزن متناسبة مع مصفوفة الهوية. كما هو معروف من نظرية المصفوفات المتماثلة (أو العوامل) ، هناك تحلل لمثل هذه المصفوفات. لذلك ، يمكن تمثيل الوظيفة المحددة على النحو التالي ، أي ، يمكن تمثيل هذه الوظيفة كمجموع المربعات لبعض "المخلفات" المحولة. وبالتالي ، يمكننا تمييز فئة طرق المربعات الصغرى - طرق LS (المربعات الصغرى).

ثبت (نظرية Aitken) أنه بالنسبة لنموذج الانحدار الخطي المعمم (حيث لا يتم فرض قيود على مصفوفة التباين المشترك للأخطاء العشوائية) ، فإن الأكثر فعالية (في فئة التقديرات الخطية غير المتحيزة) هي تقديرات لما يسمى. OLS المعمم (OMNK ، GLS - المربعات الصغرى المعممة)- طريقة LS بمصفوفة وزن تساوي مصفوفة التغاير العكسي للأخطاء العشوائية:.

يمكن إثبات أن صيغة تقديرات GLS لمعلمات النموذج الخطي لها الشكل

مصفوفة التغاير لهذه التقديرات ، على التوالي ، ستكون مساوية لـ

في الواقع ، يكمن جوهر OLS في تحويل معين (خطي) (P) للبيانات الأصلية وتطبيق المربعات الصغرى المعتادة على البيانات المحولة. الغرض من هذا التحول هو أنه بالنسبة للبيانات المحولة ، فإن الأخطاء العشوائية تفي بالفعل بالافتراضات الكلاسيكية.

المربعات الصغرى المرجحة

في حالة مصفوفة الوزن القطري (وبالتالي مصفوفة التغاير للأخطاء العشوائية) ، لدينا ما يسمى بالمربعات الصغرى الموزونة (WLS - المربعات الصغرى الموزونة). في هذه الحالة ، يتم تقليل مجموع المربعات الموزونة لبقايا النموذج ، أي أن كل ملاحظة تتلقى "وزنًا" يتناسب عكسياً مع تباين الخطأ العشوائي في هذه الملاحظة:. في الواقع ، يتم تحويل البيانات عن طريق ترجيح الملاحظات (قسمة مقدار يتناسب مع الانحراف المعياري المفترض للأخطاء العشوائية) ، ويتم تطبيق المربعات الصغرى العادية على البيانات الموزونة.

بعض الحالات الخاصة لتطبيق LSM في الممارسة

تقريب خطي

ضع في اعتبارك الحالة ، كنتيجة لدراسة اعتماد كمية قياسية معينة على كمية قياسية معينة (يمكن أن يكون هذا ، على سبيل المثال ، اعتماد الجهد على قوة التيار: حيث تكون القيمة الثابتة ، مقاومة الموصل ) ، تم قياس هذه الكميات ، ونتيجة لذلك تم قياس القيم والقيم المقابلة لها. يجب تسجيل بيانات القياس في جدول.

طاولة. نتائج القياس.

رقم القياس
1
2
3
4
5
6

يبدو السؤال على هذا النحو: ما هي قيمة المعامل التي يمكن اختيارها لوصف التبعية على أفضل وجه؟ وفقًا للمربعات الصغرى ، يجب أن تكون هذه القيمة بحيث يكون مجموع الانحرافات التربيعية للقيم من القيم

كان ضئيلاً

مجموع الانحرافات التربيعية له حد أقصى واحد - الحد الأدنى ، مما يسمح لنا باستخدام هذه الصيغة. لنجد قيمة المعامل من هذه الصيغة. للقيام بذلك ، نقوم بتحويل جانبه الأيسر على النحو التالي:

تسمح لنا الصيغة الأخيرة بإيجاد قيمة المعامل المطلوب في المسألة.

قصة

حتى بداية القرن التاسع عشر. لم يكن لدى العلماء قواعد معينة لحل نظام معادلات يكون فيه عدد المجهول أقل من عدد المعادلات ؛ حتى ذلك الوقت ، تم استخدام طرق معينة ، اعتمادًا على نوع المعادلات وبراعة الآلات الحاسبة ، وبالتالي توصلت الآلات الحاسبة المختلفة ، بدءًا من نفس بيانات الملاحظة ، إلى استنتاجات مختلفة. يرجع الفضل إلى Gauss (1795) في أول تطبيق لهذه الطريقة ، واكتشفها Legendre (1805) بشكل مستقل ونشرها تحت اسمها الحديث (fr. ميثود دي مويندر المحاجر ). ربط لابلاس الطريقة بنظرية الاحتمالية ، واعتبر عالم الرياضيات الأمريكي Adrain (1808) تطبيقاتها الاحتمالية. هذه الطريقة منتشرة وتم تحسينها من خلال إجراء مزيد من البحث بواسطة Encke و Bessel و Hansen وغيرهم.

الاستخدام البديل للشركات متعددة الجنسيات

يمكن أيضًا استخدام فكرة طريقة المربعات الصغرى في حالات أخرى لا تتعلق مباشرة بتحليل الانحدار. الحقيقة هي أن مجموع المربعات هو أحد مقاييس القرب الأكثر شيوعًا للمتجهات (المقياس الإقليدي في المساحات ذات الأبعاد المحدودة).

أحد التطبيقات هو "حل" أنظمة المعادلات الخطية التي يكون فيها عدد المعادلات أكبر من عدد المتغيرات

حيث المصفوفة ليست مربعة بل مستطيلة.

نظام المعادلات هذا ، في الحالة العامة ، ليس له حل (إذا كانت المرتبة أكبر من عدد المتغيرات). لذلك ، يمكن "حل" هذا النظام فقط بمعنى اختيار مثل هذا المتجه لتقليل "المسافة" بين المتجهات و. للقيام بذلك ، يمكنك تطبيق معيار لتقليل مجموع الفروق التربيعية للأجزاء اليمنى واليسرى من معادلات النظام ، أي. من السهل إظهار أن حل مشكلة التصغير يؤدي إلى حل نظام المعادلات التالي