تعداد صفحات: ۹۳ | قابل ویرایش
فهرست مطالب |
|
عنوان صفحه |
|
فهرست اشکال …………………………………………………………………………………………………………………………….. |
۱۰ |
فهرست جداول ……………………………………………………………………………………………………………………………. |
۱۱ |
فصل۱: مقدمهای بر داده کاوی …………………………………………………………………. |
۱۳ |
۱-۱ تعریف دادهکاوی ………………………………………………………………………………………………………………….. |
۱۵ |
۲-۱ تاریخچه دادهکاوی ……………………………………………………………………………………………………………….. |
۱۶ |
۳-۱ چه چیزی سبب پیدایش دادهکاوی شده است؟ ……………………………………………………………………………. |
۱۷ |
۴-۱ اجزای سیستم دادهکاوی …………………………………………………………………………………………………………. |
۱۹ |
۵-۱ جایگاه دادهکاوی در میان علوم مختلف …………………………………………………………………………………….. |
۲۱ |
۶-۱ قابلیتهای دادهکاوی ………………………………………………………………………………………………………………… |
۲۲ |
۷-۱ چرا به دادهکاوی نیاز داریم؟ ……………………………………………………………………………………………………. |
۲۳ |
۸-۱ دادهکاوی چه کارهایی نمیتواند انجام دهد؟ ……………………………………………………………………………… |
۲۵ |
۹-۱ کاربردهای دادهکاوی …………………………………………………………………………………………………………….. |
۲۵ |
۱-۹-۱ کاربردهای پیشبینیکننده ……………………………………………………………………………………… |
۲۷ |
۲-۹-۱ کاربردهای توصیفکننده ………………………………………………………………………………………. |
۲۷ |
۱۰-۱ ابزارهای تجاری دادهکاوی ……………………………………………………………………………………………………. |
۲۸ |
۱۱-۱ دادهکاوی و انباردادهها …………………………………………………………………………………………………………. |
۲۹ |
۱-۱۱-۱ تعاریف انبارداده …………………………………………………………………………………………………. |
۲۹ |
۲-۱۱-۱ چهار خصوصیت اصلی انبارداده …………………………………………………………………………….. |
۳۰ |
۳-۱۱-۱ موارد تفاوت انبارداده و پایگاه داده ………………………………………………………………………… |
۳۱ |
۱۲-۱ دادهکاوی و OLAP …………………………………………………………………………………………………………… |
۳۳ |
۱-۱۲-۱ OLAP …………………………………………………………………………………………………………… | ۳۳ |
۲-۱۲-۱ انواع OLAP ……………………………………………………………………………………………………. |
۳۴ |
۱۳-۱ مراحل فرایند کشف دانش از پایگاه دادهها ………………………………………………………………………………. |
۳۴ |
۱-۱۳-۱ انبارش دادهها …………………………………………………………………………………………………….. |
۳۵ |
۲-۱۳-۱ انتخاب دادهها …………………………………………………………………………………………………….. |
۳۶ |
۳-۱۳-۱ پاکسازی- پیشپردازش- آمادهسازی …………………………………………………………………….. |
۳۶ |
۴-۱۳-۱ تبدیل دادهها ………………………………………………………………………………………………………. |
۳۶ |
۵-۱۳-۱ کاوش در دادهها (Data Mining) ……………………………………………………………………… |
۳۷ |
۶-۱۳-۱ تفسیر نتیجه ………………………………………………………………………………………………………… |
۳۸ |
فصل ۲: قوانین ارتباطی ………………………………………………………………… |
۳۹ |
۱-۲ قوانین ارتباطی ………………………………………………………………………………………………………………………. |
۴۰ |
۲-۲ اصول پایه …………………………………………………………………………………………………………………………….. |
۴۱ |
۱-۲-۲ شرح مشکل جدی ………………………………………………………………………………………………… |
۴۱ |
۲-۲-۲ پیمایش فضای جستجو …………………………………………………………………………………………… |
۴۳ |
۳-۲-۲ مشخص کردن درجه حمایت مجموعه اقلام ………………………………………………………………. |
۴۵ |
۳-۲ الگوریتمهای عمومی ……………………………………………………………………………………………………………… |
۴۵ |
۱-۳-۲ دستهبندی ……………………………………………………………………………………………………………. |
۴۵ |
۲-۳-۲ BFS و شمارش رویدادها ……………………………………………………………………………………… |
۴۶ |
۳-۳-۲ BFS و دونیمسازی TID-list ………………………………………………………………………………. |
۴۷ |
۴-۳-۲ DFS و شمارش رویداد ………………………………………………………………………………………… |
۴۷ |
۵-۳-۲ DFS و دو نیمسازی TID-list ……………………………………………………………………………… |
۴۸ |
۴-۲ الگوریتم Apriori ……………………………………………………………………………………………………………….. |
۴۸ |
۱-۴-۲ مفاهیم کلیدی ……………………………………………………………………………………………………… |
۴۸ |
۲-۴-۲ پیادهسازی الگوریتم Apriori ……………………………………………………………………………….. |
۴۹ |
۳-۴-۲ معایب Apriori و رفع آنها ……………………………………………………………………………………. |
۵۴ |
۵-۲ الگوریتم رشد الگوی تکرارشونده ……………………………………………………………………………………………. |
۵۵ |
۱-۵-۲ چرا رشد الگوی تکرار سریع است؟ …………………………………………………………………………. |
۵۸ |
۶-۲ مقایسه دو الگوریتم Apriori و FP-growth ………………………………………………………………………….. |
۵۹ |
۷-۲ تحلیل ارتباطات …………………………………………………………………………………………………………………….. |
۶۳ |
فصل ۳: وبکاوی و متنکاوی ……………………………………………………….. |
۶۵ |
۱-۳ وبکاوی …………………………………………………………………………………………………………………………….. |
۶۶ |
۱-۱-۳ الگوریتمهای هیتس و لاگسام ………………………………………………………………………………….. |
۶۹ |
۲-۱-۳ کاوش الگوهای پیمایش مسیر …………………………………………………………………………………. |
۷۶ |
۲-۳ متنکاوی …………………………………………………………………………………………………………………………….. |
۸۰ |
۱-۲-۳ کاربردهای متنکاوی …………………………………………………………………………………………….. |
۸۲ |
۱-۱-۲-۳ جستجو و بازیابی …………………………………………………………………………………. |
۸۳ |
۲-۱-۲-۳ گروهبندی و طبقهبندی ………………………………………………………………………….. |
۸۳ |
۳-۱-۲-۳ خلاصهسازی ………………………………………………………………………………………. |
۸۴ |
۴-۱-۲-۳ روابط میان مفاهیم ………………………………………………………………………………… |
۸۴ |
۵-۱-۲-۳ یافتن و تحلیل گرایشات ………………………………………………………………………… |
۸۴ |
۶-۱-۲-۳ برچسب زدن نحوی (pos) ……………………………………………………………………. |
۸۵ |
۷-۱-۲-۳ ایجاد Thesaurus و آنتولوژی به صورت اتوماتیک ………………………………….. |
۸۵ |
۲-۲-۳ فرایند متنکاوی ……………………………………………………………………………………………………. |
۸۶ |
۳-۲-۳ روشهای متنکاوی ………………………………………………………………………………………………… |
۸۷ |
مراجع ……………………………………………………………………………………….. |
۸۹ |
چکیده:
در دو دهه قبل تواناییهای فنی بشر برای تولید و جمعآوری دادهها به سرعت افزایش یافته است. عواملی نظیر استفاده گسترده از بارکد برای تولیدات تجاری، به خدمت گرفتن کامپیوتر در کسبوکار، علوم، خدمات دولتی و پیشرفت در وسائل جمعآوری داده، از اسکن کردن متون و تصاویر تا سیستمهای سنجش از دور ماهوارهای، در این تغییرات نقش مهمی دارند.
بطور کلی استفاده همگانی از وب و اینترنت به عنوان یک سیستم اطلاع رسانی جهانی ما را مواجه با حجم زیادی از داده و اطلاعات میکند. این رشد انفجاری در دادههای ذخیره شده، نیاز مبرم وجود تکنولوژیهای جدید و ابزارهای خودکاری را ایجاد کرده که به صورت هوشمند به انسان یاری رسانند تا این حجم زیاد داده را به اطلاعات و دانش تبدیل کند.
داده کاوی به عنوان یک راه حل برای این مسائل مطرح می باشد. در یک تعریف غیر رسمی دادهکاوی فرآیندی است، خودکار برای استخراج الگوهایی که دانش را بازنمایی میکنند، که این دانش به صورت ضمنی در پایگاه دادههای عظیم، انباره داده و دیگر مخازن بزرگ اطلاعات، ذخیره شده است.
به لحاظ اینکه در چند سال اخیر مبحث دادهکاوی و اکتشاف دانش موضوع بسیاری از مقالات و کنفرانسها قرار گرفته و نرمافزارهای آن در بازار به شدت مورد توجه قرار گرفته، از اینرو در مقاله سعی بر آن شده تا گذری بر آن داشته باشیم.
در این مقاله درفصل مروری بر دادهکاوی خواهیم داشت که به طور عمده به تاریخچه ، تعاریف، کاربردها وارتباط آن با انبار داده و OLAP خواهیم پرداخت. در پایان فصل مراحل فرایند کشف دانش از پایگاه دادهها را ذکر کردیم که دادهکاوی یکی از مراحل آن است.
مقدمه
امروزه با گسترش سیستمهای پایگاهی و حجم بالای دادههای ذخیره شده در این سیستمها، نیاز به ابزاری است تا بتوان دادههای ذخیره شده را پردازش کرد و اطلاعات حاصل از این پردازش را در اختیار کاربران قرار داد.
با استفاده از پرسشهای ساده در SQL و ابزارهای گوناگون گزارشگیری معمولی، میتوان اطلاعاتی را در اختیار کاربران قرار داد تا بتوانند به نتیجهگیری در مورد دادهها و روابط منطقی میان آنها بپردازند. امّا وقتی که حجم دادهها بالا باشد، کاربران هرچند زبردست و باتجربه باشند نمیتوانند الگوها مفید را در میان حجم انبوه دادهها تشخیص دهند و یا اگر قادر به این کار هم باشند، هزینه عملیات از نظر نیروی انسانی و مادی بسیار بالا است.
از سوی دیگر، کاربران معمولاً فرضیهای را مطرح میکنند و سپس براساس گزارشات مشاهده شده به اثبات یا رد فرضیه میپردازند، در حالی که امروزه نیاز به روشهایی است که اصطلاحاً به کشف دانش بپردازند یعنی با کمترین دخالت کاربر و بصورت خودکار الگوها و رابطههای منطقی را بیان نمایند.
داده کاوی یکی از مهمترین این روشها است که به الگوهای مفید در دادهها با حداقل دخالت کاربران شناخته میشوند واطلاعاتی را در اختیار کاربران و تحلیل گران قرار میدهند تا براساس آن تصمیمات مهم و حیاتی در سازمانها اتخاذ شوند. اصطلاح دادهکاوی زمانی بکار برده میشود که با حجم بزرگی از دادهها، در حد مگا یا ترابایت، مواجه باشیم.
تعریف داده کاوی
اصطلاح Data Mining همانطور که از ترجمه آن به دادهکاوی مشخص میشود، به مفهوم استخراج اطلاعات نهان و یا الگوها و روابط مشخص در حجم زیادی از دادههای یک یا چند بانک اطلاعاتی بزرگ است. اطلاعات استخراج شده در تعریف Data Mining بطور ضمنی به معنی اطلاعاتی است که بر اساس آن بتوان به نتایجی دست یافت که بطور معمول ملموس نیستند.
در این تعریف بر بزرگ بودن بانکهای اطلاعاتی و یا حجم زیاد دادههای مورد پردازش تاکید میشود. علت این است که از نظر آماری و تئوری اطلاعات، تجزیه و تحلیل دادهها و یا آنطور که در این اصطلاح تعبیر میشود، کاوش در حجم کم دادههای یک بانک به نتایج قابل قبولی منجر نمیشود.
به کمک ابزارهای Data Mining میتوان مقادیر متغیرهای را پیشبینی و توصیف نمود. این ابزارها در فرایندهای تصمیمگیری متکی بر اطلاعات و دانش کاربر فراوان دارند و فعالیتهای تجاری نوین و مدرن امروزه به شدت بر آن متکی است.
فرایند Data Mining را نباید با روشهای متداول آنالیز داده و اطلاعات و سیستمهای تصمیمگیری معمولی یکی دانست. به کمک روشهای Data Mining میتوان به پرسشهایی (عمدتاً تجاری) پاسخ گفت که بطور سنتی عملاً امکان وجود ندارد.
تاریخچه داده کاوی
اخیرا دادهکاوی موضوع بسیاری از مقالات، کنفرانسها و رسالههای عملی شده است، امّا این واژه تا اوایل دهه نود مفهومی نداشت و به کاربرده نمیشد. در دهه شصت و پیش از آن زمینههایی برای ایجاد سیستمهای جمعآوری و مدیریت دادهها ایجاد شد و تحقیقاتی در این زمینه انجام پذیرفت که منجر به معرفی و ایجاد سیستمهای مدیریت پایگاه دادهها گردید.
ایجاد و توسعه مدلهای دادهای برای پایگاه سلسله مراتبی، شبکهای و بخصوص رابطهای در دهه هفتاد، منجر به معرفی مفاهیمی همچون شاخصگذاری و سازمادهی دادهها و در نهایت ایجاد زبان پرسش SQL در اوایل دهه هشتاد گردید تا کاربران بتوانند گزارشات و فرمهای اطلاعاتی موردنظر خود را ، از این طریق ایجاد نمایند.
توسعه سیستمهای پایگاهی پیشرفته در دهه هشتاد و ایجاد پایگاهها شیگرا، کاربرد گرا و فعال باعث توسعه همه جانبه و کاربردی شدن این سیستمها در سراسر جهان گردید. بدین ترتیب DBMSهایی همچون Oracle, DB2, Sybase, … ایجاد شدند و حجم زیادی از اطلاعات با استفاده از این سیستمها مورد پردازش قرار گرفتند. شاید بتوان مهمترین جنبه در معرفی دادهکاوی را مبحث کشف دانش از پایگاه دادهها (KDD) دانست بطوریکه در بسیاری موارد DM و KDD بصورت مترادف مورد استفاده قرار میگیرند.
مراجع
[۱] دادهکاوی (Data Mining)، تالیف مهمد کانتاردزیک، ترجمه امیر علیخانزاده، ۱۳۸۵، ویرایش اول
[۲] Introduction to Data Mining and Knowledge Discovery، Two Crows Corporation، ۱۹۹۹
[۳] Data Mining: Concepts and Techniques، M.Kamber and J.Han، ۲۰۰۱
[۴] مقاله Algorithms for Association Rule Mining – A General Survey and comparison نوشته Jochen Hipp و Gholamreza Nakhaeizadeh ، در کنفرانس ACM SIGKDD July 2000.