الگوریتم genetic fuzzy k-Modes برای خوشه بندی داده های گروهی

فهرست
چکیده
1-    مقدمه  (3)
2-    مروری بر روش های قبل  (7)
1.2 - الگوریتمk-Means   Hard  (7)
1.1.2            - مثالی عددی از الگوریتم k-Means  (9)
2.2- الگوریتم Fuzzy c-Means  (13)
3.2- الگوریتم Hard k-Modes  (15)
4.2- الگوریتم fuzzy k-Modes   (18)
      3- الگوریتم پیشنهادی : genetic fuzzy k-Modes  (21)
4-    نتایج آزمایش  (25)
5-    نتیجه گیری  (32)
      پیوست – کد برنامه
      مراجع



چکیده

خوشه بندی روشی است که داده های یک مجموعه داده را به گروه یا خوشه تقسیم می کند . از مرسوم ترین روش های خوشه بندی،الگوریتم های خوشه بندی k-Means وfuzzy k-Means می باشند.این دو الگوریتم فقط روی داده های عددی عمل می کنند و به منظور رفع این محدودیت، الگوریتم های k-Modes و fuzzy k-Modes ارائه شدند که مجموعه داده های گروهی (دسته ای) را نیز خوشه بندی می کنند. . با این وجود، این الگوریتم ها ،شبیه همه روال های بهینه سازی دیگر که برای مینیمم عمومی یک تابع جستجو می کنند، احتمال گیر افتادن در یک مینیمم محلی وجود دارد. به منظوردستیابی به جوبب بهینه عمومی ، الگوریتم های تکاملی مانند ژنتیک و جدول جستجو با الگوریتم های مذکور ترکیب می شوند. در این پژوهش،   الگوریتم  ژنتیک ، GA، را با الگوریتم fuzzy k-Modes ترکیب شده ،بطوریکه  عملگر ادغام به عنوان یک مرحله از الگوریتم  fuzzy k-Modes تعریف می شود.  آزمایش ها روی دو مجموعه داده واقعی انجام شده است تا همراه با مثال کارایی الگوریتم پیشنهادی را روشن نماید.
مقدمه
به عنوان یک ابزار اولیه در داده کاوی  ،تجزیه و تحلیل  خوشه ، که تجزیه و تحلیل سگمنت نیز نامیده می شود،روشی است که داده ها  را به گروه هایی  همگن تحت عنوان خوشه تقسیم می کند.در چنین روشی داده های موجود در یک کلاستر یا خوشه خیلی شبیه به هم و داده ها ی کلاستر های مختلف خیلی متفاوت نسبت به  هم هستند.اغلب، شباهت بر مبنای معیار فاصله می باشد.
آنالیز خوشه،خوشه بندی، تکنیک عمومی برای آنالیز داده های آماری می باشد که در بسیاری زمینه ها  مانند یادگیری ماشین ، داده کاوی ، شناسایی الگو و آنالیز تصویر کاربرد دارد.در کنار اصطلاح خوشه بندی داده (یا فقط خوشه بندی)،بعضی اصطلاحات دیگرنیزهمانند کلاس بندی اتوماتیک  ،طبقه بندی  عددی ، آنالیز نوع شناسی  ، با معنای مشابه  استفاده می شود[1].
به طور کلی ،یک الگوریتم خوشه بندی خوب معمولا برای طراحی شامل چهار فاز ذیل را شامل می شود:1- نمایش داده 2- مدل کردن .3- بهینه سازی .4- اعتبار سنجی[2]  ..
فاز نمایش  داده، تعیین می کند که چه نوعی از ساختارهای خوشه می تواند داده ها را شناسایی کند.سپس فاز مدلینگ ضوابط و معیار ها را برروی ساختار تعریف می کند بطوریکه که ساختارها ی گروه های مطلوب را از موارد نامطلوب مجزا می کند.در فاز مدلینگ ، در طول جستجو برای ساختار های مخفی در داده ،یک معیار کیفیت مانند  معیار بهینه سازی یا معیار تقریب تولید می شود. بعبارتی دیگرفاز بهینه سازش،ساختار های موثرتر و بهینه تر را انتخاب میکند. از آنجا که فرآیند خوشه بندی ،یک فرایند بدون سرپرستی است فاز اعتبار سنجی خیلی ضروری است تا نتایج تولید شده به وسیله الگوریتم خوشه بندی ارزیابی شوند.
به طور کلی ،الگوریتم های خوشه بندی به دو دسته تقسیم بندی می شوند[3,4] : الگوریتم های خوشه بندی سخت  و الگوریتم های خوشه بندی فازی .
در چهارچوب خوشه بندی سخت ،هر شی ء به یک و فقط یک خوشه تعلق دارد و برعکس در چهار چوب خوشه بندی فازی به هر شی ء اجازه داده می شود که توابع تعلقی به همه خوشه ها داشته باشد.هر دو روش الگوریتم خوشه بندی سخت و فازی ،مرکز های خوشه (نمونه های اولیه) را تعیین می کنند و مجموع مربع فاصله  بین این مرکز ها و خوشه ها را مینیمم می کنند.
بسیاری از الگوریتم ها به منظور دستیابی به خوشه بندی سخت در یک مجموعه داده  پیشرفت داده شده اند.در بین آنها الگوریتم  k-meansو روش های  خوشه بندی IsoData به طور گسترده ای مورد استفاده گرفته اند.این دو الگوریتم بر پایه تکرار می باشند. کاربرد مجموعه های فازی در توابع کلاس بندی موجب می شود هر داده در یک زمان به چندین کلاس با درجه های متفاوت تعلق داشته باشد[3].
معروف ترین و پرکاربردترین الگوریتم خوشه بندی فازی ،الگوریتم fuzzy C-Means  [7] است. الگوریتم fuzzy C-Means با یک مقدار اولیه از  Wشروع می شود و مکررا  بین تخمین مراکز خوشه Z داده شده درZ و تخمین ماتریس  تعلق  داده شده درW تکرار می شود تا هنگامیکه  دو مقدار متوالی از Z یا W مساوی شوند.