در این پایان نامه ابتدا انواع فرایندهای تصادفی را بیان کرده و به ذکر خصوصیات هر نوع می پردازیم. به ویژه گونه ای از فرایندهای تصادفی را که تحت عنوان زنجیرهای مارکف شناخته شده اند بررسی می کنیم. سپس مفهوم آنتروپی و نرخ آنتروپی را مطرح و همچنین، نحوه به دست آوردن آنتروپی شرطی رنی با استفاده از قواعدی را که قبلاً بیان شده اند، نشان می دهیم. بر مبنای این آنتروپی شرطی رنی، نرخ آنتروپی رنی در فرایندهای تصادفی مانا، فرایندهای گاوسی و زنجیرهای مارکف تحویل ناپذیر نامتناوب را به دست آورده و در پایان نرخ آنتروپی رنی سری های ma(q) و ar(p) را محاسبه می کنیم