تعاریف فراوانی در رابطه با پایداری یک سیستم دینامیکی وجود دارد. همچنین پاسخ های یک سیستم غیرخطی را به لحاظ هندسی می توان در قالب نقاط تعادل، پاسخ های متناوب، جاذب های عجیب، مدار های هموکلینیک و غیره طبقه بندی کرد. در این پایان نامه ابتدا پایداری گوشه ای تعریف و یک قضیه برای اثبات این نوع پایداری ارائه شده است. با استفاده از تعریف این نوع پایداری بسترسازی لازم به منظور ارائه یک تعبیر هندسی علاوه بر تحلیل پایداری و یک طبقه بندی برای نقاط تعادل سیستم غیرخطی خودگردان مرتبه دوم ارائه شده است. سپس با تبیین مفهوم حوزه چرخشی چند قضیه در مورد وجود مدار متناوب و مدار هموکلینیک اثبات شده است. همچنین در قالب یک قضیه با استفاده از همین مفهوم، شرایط تعمیم پایداری مجانبی نقطه تعادل یک سیستم خودگردان مرتبه دوم به پایداری مجانبی فراگیر آن بیان شده است. در ادامه تعریف جدیدی از الگوریتم در مسئله پایداری بیان می شود. الگوریتم در مسئله پایداری یک سیستم از نظر ما به جواب پایدار و یا ناپایدار آن ختم نمی شود، بلکه به ایجاد توابعی منجر می شود که می توان از آن ها برای تحلیل رفتار دینامیکی سیستم استفاده کرد. در این راستا در ابتدا یک قضیه پایه ای برای استفاده از توابع بدست آمده از این الگوریتم ارائه شده است. از دو منظر استفاده از این قضیه دارای اهمیت است. اول این که لزومی برای استفاده از توابع معین مثبت در تحلیل پایداری با این روش وجود ندارد که این به خودی خود عملیات را به مراتب ساده تر می کند. دوم این که علاوه بر پایداری، ناپایداری نقطه تعادل سیستم را نیز می توان با این روش مورد بررسی قرار داد. در ادامه تعریف توابع ویژه و ارتباط آن با تحلیل رفتار دینامیکی یک سیستم خودگردان از طریق مجموعه های پایا معرفی می شود. با استفاده از این مفاهیم، تابع ویژه ای برای سیستم خطی ارائه می دهیم که با آن بتوان وضعیت پایداری هر سیستم خطی اعم از هیپربولیک و غیر هیپربولیک را تحلیل کرد. در انتها با استفاده از بیان متفاوتی از مسئله مقدار ویژه نسبت به مراجع گذشته سعی شده است، که توابع ویژه مربوط به یک سیستم را بدست آوریم. در طول این پایان نامه مثال های متنوع و سیستمهای دینامیکی پیچیده ای از لحاظ تحلیل پایداری، با استفاده از روشهای تدوین شده مورد تحلیل قرار گرفته است، تا بدینوسیله تبحر لازم در تحلیل سیستم های مشابه، به خواننده منتقل شود.