ماروین مینسکی و مک کارتی وقتی بنیادهای هوش مصنوعی را می¬ساختند (1960)، به روش معکوس عمل می¬کردند. آنها می¬خواستند دستگاهی بسازند که شبیه موجودات زنده رفتار کند. به عبارت دیگر یک فرآیند را به سیستم تحمیل می¬کردند ولی واقعیت این است که یک موجود زنده اعمالی را انجام می¬دهد که بتدریج و با گذشت زمان آموخته است. مجموعه¬های فازی و شبکه¬های عصبی دو موضوعی هستند که ما را در شبیه¬سازی رفتار موجودات زنده یاری می¬کنند. اگر در مدت تعلیم، اطلاعات کافی و صحیح دردسترس باشد شبکه¬های عصبی می¬توانند برای آموزش هرسیستمی سودمند باشند. بنابراین خودآموز بودن شبکه¬های عصبی، نیاز به استفاده از تحلیل¬های ریاضی مشکل و پیچیده را منتفی می¬کند. برای اینکه بتوانیم پیچیدگی و عظمت شبکه¬های عصبی طبیعی را نمایش دهیم اشاره¬ی گذرا بر آنها آورده شده است و سپس به معرفی شبکه¬های عصبی مصنوعی پرداخته شده . مشهورترین و پرکاربردترین شبکه¬های عصبی و الگوریتم¬های یادگیری آنها و همچنین بعضی از تغییراتی که در شبکه¬های خطی و در شبکه¬های برنامه¬ریزی درجه دو ایجاد می¬شود تا جواب بهینه بهتری بدست دهند در اینجا بررسی شده و با مثال آورده شده است.