در سال های اخیر امنیت محصول های دیجیتال در مقابل حمله های عمدی و غیرعمدی از مسائل مهم می باشد. رمزنگاری یکی از روش های تأمین امنیت می باشد که با استفاده از یک رابطه ریاضی برگشت پذیر انجام می گیرد. تصویر به عنوان یکی از پراستفاده ترین محصول دیجیتالی به دلیل ماهیت خاص خود، دارای الگوریتم های رمزنگاری ویژه می باشد. در اکثر روش های رمزنگاری تصویر از یک دنباله ریاضی برای درهم ریزی تصویر استفاده می شود. اکثر دنباله های ریاضی دارای یک رابطه بازگشتی هستند که دارای یک دسته ضرایب می باشند که با تغییر این ضرایب دنباله های عددی مختلفی را می توان تولید کرد. کارایی هر دنباله در رمزنگاری تصویر با استفاده از معیارهای ارزیابی استانداردی محاسبه می شود. به دلیل پیچیدگی سیستم و عدم وجود رابطه ی مستقیم ضرایب دنباله با معیارهای ارزیابی، انتخاب ضرایب مناسب دنباله برای رمزنگاری تصویر به آسانی امکان پذیر نیست. در این پایان-نامه با در نظر گرفتن یک فرم عمومی رابطه بازگشتی و تعریف تابع برازندگی مناسب، ضرایب رابطه ی بازگشتی توسط الگوریتم ژنتیک به گونه ای محاسبه می شوند که دنباله ی تولیدی کارایی مناسبی برای رمزنگاری تصویر داشته باشد. آزمایش ها نشان می دهد دنباله ی به دست آمده از الگوریتم ژنتیک نتایج رضایت بخش تری را نسبت به ضرایب سایر روش ها از خود نشان می دهند.