موقع د. عزيز الجعيد
  • الرئـيـسـية

  • الأقسام

    • علم البيانات والذكاء الإصطناعي

    • ذكاء الأعمال

    • لغة البرمجة بايثون

    • مقالات متنوعـة

    • لغة البرمجة آر R

    • الإحــــــصــــــاء

    • البيانات المفتوحة

  • عـنــي

  • تواصل معي

علم البيانات والذكاء الاصطناعي

  • الرئـيـسـية

  • الأقسام

    • علم البيانات والذكاء الإصطناعي

    • ذكاء الأعمال

    • لغة البرمجة بايثون

    • مقالات متنوعـة

    • لغة البرمجة آر R

    • الإحــــــصــــــاء

    • البيانات المفتوحة

  • عـنــي

  • تواصل معي

تقدير الإحتمال الأقصى (Maximum Likelihood)

12/01/2017 | الإحــــــصــــــاء | شارك بتعليقك

نفرض أن $x_{1},x_{2},…,x_{n}$ عينة عشوائية تتبع توزيع برنولي ( Bernoulli distribution)، حيث أن دالة الكثافة الإحتمالية (the probability density function) يمكن كتابتها كما يلي:

\[
f\left( x_{i};p\right) =p^{x_{i}}\left( 1-p\right) ^{1-x_{i}}
\]

 

بالتالي دالة الإحتمال (Likelihood function) يمكن كتابتها كما يلي:

\begin{eqnarray*}
L\left( \mathbf{x}|p\right) &=&\prod\limits_{i=1}^{n}p^{x_{i}}\left(
1-p\right) ^{1-x_{i}} \\
&=&p^{\sum\nolimits_{i=1}^{n}x_{i}}\left( 1-p\right)
^{n-\sum\nolimits_{i=1}^{n}x_{i}}
\end{eqnarray*}

كذلك، بأخد اللوغاريم الطبيعي لدالة الإحتمال، نجد أن:

\begin{eqnarray*}
l\left( \mathbf{x}|p\right) &=&\log \left(
p^{\sum\nolimits_{i=1}^{n}x_{i}}\left( 1-p\right)
^{n-\sum\nolimits_{i=1}^{n}x_{i}}\right) \\
&=&\left( \sum\nolimits_{i=1}^{n}x_{i}\right) \log \left( p\right) +\left(
n-\sum\nolimits_{i=1}^{n}x_{i}\right) \log \left( 1-p\right)
\end{eqnarray*}

 

الأن، نشتق $l\left( \mathbf{x}|p\right) $ بالنسبة لـ $p$

\[
\frac{\partial l\left( \mathbf{x}|p\right) }{\partial p}=\frac{1}{p}%
\sum\nolimits_{i=1}^{n}x_{i}-\frac{1}{1-p}\left(
n-\sum\nolimits_{i=1}^{n}x_{i}\right)
\]

 

نضع $\frac{\partial l\left( \mathbf{x}|p\right) }{\partial p}$ تساوي صفر

\begin{eqnarray*}
\frac{1}{p}\sum\nolimits_{i=1}^{n}x_{i}-\frac{1}{1-p}\left(
n-\sum\nolimits_{i=1}^{n}x_{i}\right) &=&0 \\
\frac{1}{p}\sum\nolimits_{i=1}^{n}x_{i}-\frac{n}{1-p}+\frac{1}{1-p}%
\sum\nolimits_{i=1}^{n}x_{i} &=&0
\end{eqnarray*}

 

نضرب الطرفين بـ $p(1-p)$

\begin{eqnarray*}
(1-p)\sum\nolimits_{i=1}^{n}x_{i}-np+p\sum\nolimits_{i=1}^{n}x_{i} &=&0 \\
-np+\sum\nolimits_{i=1}^{n}x_{i} &=&0
\end{eqnarray*}

 

وبالتالي:

\begin{eqnarray*}
p &=&\frac{1}{n}\sum\nolimits_{i=1}^{n}x_{i} \\
&=&\bar{x}
\end{eqnarray*}

أخيراً، تقدير الإحتمال الأرجح (maximum likelihood estimator) يساوي:

\[
\hat{p}=\bar{x}
\]

جميع الحقوق الفكرية لهذا المقال محفوظة © موقع د. عزيز، يمنع إعادة نشره في موقع آخر

مقالات ذات صلة:

  • المتغيرات العشوائية

    المتغير العشوائي (random variable) هو متغير يمثل النتائج العددية لظاهرة عشوائية. يجب أن يكون المتغير العشوائي قابل... المتغيرات العشوائية
    اقرأ المزيد
  • الدالة المولدة للعزوم

    مثال(1): الدالة المولدة للعزوم للتوزيع الأسي نفرض أن $X$ يتبع التوزيع الأسي (Exponential distribution)، حيث أن دالة... الدالة المولدة للعزوم
    اقرأ المزيد
  • التوقع والتباين (Expectation and Variance)

    نفرض أن $X$ متغير عشوائي يتبع التوزيع الطبيعي (Normal distribution) بمتوسط $\mu$ وتباين $\sigma^{2}$ \begin{equation*}... التوقع والتباين (Expectation and Variance)
    اقرأ المزيد

شارك بتعليقك

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *


The reCAPTCHA verification period has expired. Please reload the page.

د. عزيز عوض الله الجعيد
دكتوراه في الإحصاء، عالم بيانات، مبرمج، مهتم في التحليل المتقدم، والبيانات الضخمة والذكاء الاصطناعي، لمزيد من المعلومات أضغط هنا

  • YouTube
جميع الحقوق محفوظة © موقع د. عزيز