اصل حداکثر آنتروپی
اصل حداکثر آنتروپی بیان می کند که توزیع احتمالی که بهترین حالت فعلی را نشان می دهد، آن توزیعی میباشد که در میان داده های دقیق پیشین (مانند یک قضیه که اطلاعات قابل آزمابش را بیان می کند)بیشترین آنتروپی را دارا می باشد.
راه دیگری برای بیان این مطلب:داده های دقیق پیشین یا اطلاعات قابل آزمایش درباره یک یک توزیع احتمال را در نظر بگیرید.تمامی توزیع های احتمال را که ممکن است داده های پیشین را رمزگزاری کنند را در نظر داشته باشید.براساس این اصل توزیعی با بیشترین آنتروپی اطلاعات بهترین گزینه میباشد.
تاریخچه[ویرایش]
این اصل اولین بار توسط ادوین توماس جینز در دو مقاله در سال 1957 توضیح داده شد،در این مقالات که او تاکید کرد که یک ارتباط طبیعی بین مکانیک آماری و تئوری اطلاعات وجود دارد.به طور خاص، جینس یک منطق جدید و بسیار عمومی ارائه داد که چرا روش گیبسیان مکانیک آماری کار می کند. او استدلال کرد که آنتروپی مکانیک آماری و انتروپی اطلاعات تئوری اطلاعات اساساً یکسان هستند.در نتیجه، مکانیک آماری باید فقط به عنوان یک کاربرد خاص از کاربرد کلی استنتاج منطقی و نظریه اطلاعات شناخته شود.
This article "اصل حداکثر آنتروپی" is from Wikipedia. The list of its authors can be seen in its historical and/or the page Edithistory:اصل حداکثر آنتروپی. Articles copied from Draft Namespace on Wikipedia could be seen on the Draft Namespace of Wikipedia and not main one.
|
This page exists already on Wikipedia. |
