جزوه ای از یادگیری درخت‌های تصمیم

یادگیری درخت های تصمیم

یادگیری درخت تصمیم یکی از رایج ترین تکنیک های یادگیری ماشین می باشد که به دلیل سادگی و کارامدی باعث شده است علی رغم مشکلاتی که در استفاده از آن همچون صفات دارای نویز و یا صفات فاقد مقدار یا ... وجود دارد به شکل گسترده ای در مسائل مربوط به یادگیری ماشین استفاده شود.

درخت تصمیم

درخت تصمیم یک ابزار برای پشتیبانی از تصمیم است که از درختان برای مدل کردن استفاده می‌کند. درخت تصمیم به طور معمول در تحقیق در عملیات استفاده می‌شود، به طور خاص در آنالیز تصمیم، برای مشخص کردن استراتژی که با بیشترین احتمال به هدف برسد بکار، می‌رود. استفاده دیگر درختان تصمیم، توصیف محاسبات احتمال شرطی است.
در آنالیز تصمیم، یک درخت تصمیم به عنوان ابزاری برای به تصویر کشیدن و آنالیز تصمیم، در جایی که مقادیر مورد انتظار از رقابت‌ها متناوباً محاسبه می‌شود، استفاده می‌گردد. یک درخت تصمیم دارای سه نوع گره‌است:
1) گره تصمیم: به طور معمول با مربع نشان داده می‌شود.
2) گره تصادفی: با دایره مشخص می‌شود.

3) گره پایانی: با مثلث مشخص می‌شود.

برنامه‌نویسی ژنتیک

مقدمه
نظریه تاریخی داروین بعنوان یک راه حل برای مسائل علمی استفاده می شود و انسانها به وسیله آن اعمال هوشمندانه خود را انجام می‌دهند و بر مبنای آن اقدام به برنامه نویسی می‌نمایند.
نظریه داروین: "موجودات اولیه (تک سلولی‌ها) در تلاش برای بقا شروع به تکامل کرده‌اند و در طی جریان تولید مثل و با همکاری طبیعت، موجودات کامل‌تری را بوجود آورده‌اند، و این موجودات نیز به همین شکل تکامل را ادامه داده‌اند. این تکامل در طی چندین هزار سال ادامه یافته تا موجودات فعلی بر روی زمین حاصل شده‌اند".
در اینجا یک سوال پیش می‌آید: چگونه یک موجود شکل و فرم موجودات پس از خود را تعیین می‌کند؟
برای جواب به این سوال به شرح فرآیند تولید مثل موجودات می‌پردازیم.
برای تولید مقل یک موجود کروموزم‌های والدین با هم ترکیب و سلول تخم را تشکیل می‌دهند. تکثیر این سلول تخم منجر به تشکیل فرزند تقریباً مشابه والدینش می‌شود که خصوصیات آنها را به همراه دارد.این روند باعث تکامل یک موجود می‌شود.
در حین تشکیل سلول تخم تغییرات ناخواسته‌ای درون کرموزوم‌های سلول بوجود می‌آید، که اگر این تغییرات کوچک باشند موجود اصلی اصلاح می‌شود و اگر این تغییرات بزرگ باشند منجر به تشکیل یک موجود جدید می‌شود.
اگر موجود جدید نسبت به والدینش در تقابل با محیط برتری داشته باشد، در جریان زندگی موفق‌تر و امکان تولید مثل پیدا می‌کند و در نتیجه خصوصیاتش را به فرزندانش منتقل می‌نماید.