به علت رشد نمایی اطلاعات، شرکت ها با حجم درحال رشدی از اطلاعات دیجیتال سر و کار دارند. بنابراین حجم زیاد اطلاعات و محاسبات برنامه های پردازشی جدید مثل داده کاوی نیازمند سیستم های پردازشی موازی با عملکرد بالا هستند. یکی از چالش های مهم این سیستم ها، یافتن سریع و دقیق ارتباط بین داده هاست. در این پروژه، می خواهیم به هدف اصلی پردازش موازی که استفاده ی بهینه از عناصر پردازشی با استفاده از توازن بار وکاهش زمان پردازش است برسیم. برای رسیدن به الگوریتم توازن بار بهینه، روش ارائه شده از یک روش اکتشافی بر مبنای وزن مجموع آیتم های متناوب استفاده کرده است. راه حل ارائه شده بر اساس پارامترهای مختلف بررسی شده و زمان پردازش در این حالات با استفاده از شبیه ساز grid-sim به دست آمده است. چالش دوم در سیستم های پردازش موازی، تحمل پذیری خطا ست. در نتیجه یک الگوریتم توازن بار مبتنی بر تحمل پذیری خطا بر اساس توزیع بهینه ی پشتیبان معرفی شده است. در انتها، معیارهای عملکرد روش پیشنهادی مثل زمان محاسبات، نرخ موفقیت و ... از نتایج شبیه سازی استخراج شده است.