تشخیص دقیق پروتکل در بسیاری از کاربرد های شبکه مثل مهندسی ترافیک، خدمات تضمین کیفیت خدمت، پایش و امنیت شبکه نقش مهمی دارد. در روش هایی قدیمی معمولا از شماره ی درگاه لایه ی حمل و بررسی محتوای بسته ها برای تشخیص پروتکل لایه ی کاربرد جریان ها استفاده می شود. مشکلات این روش ها و گسترش استفاده از پروتکل های رمزنگاری شده، تلاش برای یافتن راه های بهتر برای تشخیص پروتکل لایه ی کاربرد را افزایش داده است. یکی از روش هایی که سعی می کند برخی از مشکلات روش های قدیمی تشخیص پروتکل لایه ی کاربرد را حل کند، استفاده از تحلیل رفتاری ترافیک شبکه است. در این روش از ویژگی هایی مثل اندازه ی بسته های یک جریان و فاصله ی زمانی بین آنها برای تشخیص پروتکل لایه ی کاربرد آن جریان استفاده می شود. این پایان نامه روشی برای تشخیص برخط پروتکل ترافیک یک طرفه پیشنهاد می دهد. در تشخیص برخط، فقط با استفاده از چند بسته ی اول هر جریان، پروتکل آن تشخیص داده می شود و در ترافیک یک طرفه، فقط امکان دسترسی به بسته های حرکت کننده در یک جهت هر جریان وجود دارد. این پایان نامه چهار روش دسته بندی مبتنی بر یادگیری ماشین را برای دسته بندی ترافیک بررسی کرده است که در این میان درخت تصمیم c4.5 با دقت بیش از 99% بهترین نتایج را برای دسته بندی بیست پروتکل غیر رمزنگاری بدست آورد. برای دست یابی به این دقت، خصیصه های جدیدی نسبت به پژوهش های گذشته به کار گرفته شده است. همچنین با استفاده از روشی مبتنی بر درخت تصمیم تاثیر خصیصه ها بر دقت مقایسه شود. پس از آن آزمایش هایی برای یافتن مقدار بهینه ی تعداد جریان های به کار رفته برای آموزش و اندازه ی پنجره ی تشخیص انجام شده است. از جایی که رفتار جریان های یک پروتکل در اثر گذشت زمان یا تغییر محل دریافت ترافیک تغییر می کند، آزمایش هایی برای اندازگیری مقدار ثبات روش پیشنهادی نسبت به این تغییرها انجام شده است. سپس سعی شده است اثر استفاده از گروه های پروتکلی بر دقت اندازگیری شود. با توجه به اینکه گم شدن بسته ها دقت تشخیص پروتکل ها را به شدت پایین می آورد، روشی برای بازیابی بسته های گم شده ارائه شده است. سپس تلاش شده است دقت پروتکل های کم دقت با روش های دسته بندی دو مرحله ای، پلکانی و تکرار داده های آموزشی بهبود داده شود. در پایان با تغییر روش پیشنهادی برای دسته بندی ترافیک دوطرفه، آزمایش هایی برای ارزیابی دقت دسته بندی ترافیک دوطرفه و پروتکل های رمزنگاری شده انجام شده است.