از هنگامی که رایانه در تحلیل و ذخیره سازی داده ها بکار رفت (1950) پس از حدود 20 سال، حجم داده ها در پایگاه داده ها دو برابر شد. ولی پس از گذشت دو دهه و همزمان با پیشرفت فن آوری اطلاعات(IT) هر دو سال یکبار حجم داده ها، دو برابر شد. همچنین تعداد پایگاه داده ها با سرعت بیشتری رشد نمود. این در حالی است که تعداد متخصصین تحلیل داده ها و آمارشناسان با این سرعت رشد نکرد. حتی اگر چنین امری اتفاق می افتاد، بسیاری از پایگاه داده ها چنان گسترش یافته اند که شامل چندصد میلیون یا چندصد میلیارد رکورد ثبت شده هستند و امکان تحلیل و استخراج اطلاعات با روش های معمول آماری از دل انبوه داده ها مستلزم چند روز کار با رایانه- های موجود است. حال با وجود سیستم های یکپارچه اطلاعاتی، سیستم های یکپارچه بانکی و تجارت الکترونیک، لحظه به لحظه به حجم داده ها در پایگاه داده های مربوط اضافه شده و باعث به وجود آمدن انبارهای ( توده های ) عظیمی از داده ها شده است به طوری که ضرورت کشف و استخراج سریع و دقیق دانش از این پایگاه داده ها را بیش از پیش نمایان کرده است (چنان که در عصر حاضر گفته می شود « اطلاعات طلاست» ).
هم اکنون در هر کشور، سازمان ها، شرکت ها و . . . برای امور بازرگانی، پرسنلی، آموزشی، آماری و . . . پایگاه داده ها ایجاد یا خریداری شده است، به طوری که این پایگاه داده ها برای مدیران، برنامه ریزان، پژوهشگران و . . . جهت تصمیم گیری های راهبردی، تهیه گزارش های مختلف، توصیف وضعیت جاری خود و . . . می تواند مفید باشد. داده کاوی[1] یا استخراج و کشف سریع و دقیق اطلاعات با ارزش و پنهان از این پایگاه داده ها از جمله اموری است که هر کشور، سازمان و شرکتی به منظور توسعه علمی، فنی و اقتصادی خود به آن نیاز دارد.
در کشور ما نیز سازمان ها، شرکت ها و مؤسسات دولتی و خصوصی به طور فزاینده ولی آهسته در حال ایجاد یا خرید نرم افزارهای پایگاه داده ها و مکانیزه کردن سیستم های اطلاعات خود هستند، همچنین با توجه به فصول دهم و یازدهم قانون برنامه سوم توسعه در خصوص داد و ستدهای الکترونیکی و همچنین تأکید بر برخورداری کشور از فن آوری های جدید اطلاعات برای دستیابی آسان به اطلاعات داخلی و خارجی، دولت مکلف شده است امکانات لازم برای دستیابی آسان به اطلاعات، زمینه سازی برای اتصال کشور به شبکه های جهانی و ایجاد زیر ساخت های ارتباطی و شاهراه های اطلاعاتی فراهم کند. واضح است این امر باعث ایجاد پایگاه های عظیم داده ها شده و ضرورت استفاده از داده کاوی را بیش از پیش نمایان می سازد.
سابقه داده کاوی
داده کاوی و کشف دانش در پایگاه داده ها از جمله موضوع هایی هستند که همزمان با ایجاد و استفاده از پایگاه داده ها در اوایل دهه 80 برای جستجوی دانش در داده ها شکل گرفت.
شاید بتوان لوول (1983) را اولین شخصی دانست که گزارشی در مورد داده کاوی تحت عنوان « شبیه سازی فعالیت داده کاوی » ارائه نمود. همزمان با او پژوهشگران و متخصصان علوم رایانه، آمار، هوش مصنوعی، یادگیری ماشین و . . . نیز به پژوهش در این زمینه و زمینه های مرتبط با آن پرداخته اند.
پژوهش جدی روی موضوع داده کاوی از اوایل دهه 90 شروع شد. پژوهش ها و مطالعه های زیادی در این زمینه صورت گرفته، همچنین سمینارها، دوره های آموزشی و کنفرانس هایی نیز برگزار شده است. نتایج پایه های نظری داده کاوی در تعدادی از مقاله های پژوهشی آورده شده است. مثلاً سال 1991 پیاتتسکی و شاپیرو [1] « استقلال آماری قاعده ها در داده کاوی» را بررسی نموده اند. سال 1995 هافمن و نش استفاده از داده کاوی و داده انبار[2] توسط بانک های آمریکا را بررسی نموده و بیان کردند که چگونه این سیستم ها برای بانک های آمریکا قدرت رقابت بیشتری ایجاد می کنند. چت فیلد مشکلات ایجاد شده توسط داده کاوی را بررسی نمود و همچنین مقاله ای تحت عنوان « مدل های خطی غیر دقیق داده کاوی و استنباط آماری » ارایه نمود. هندری نیز دیدگاه اقتصاد سنجی روی داده کاوی را تهیه کرد. در این سال انجمن داده کاوی همزمان با اولین کنفرانس بین المللی «کشف دانش و داده کاوی» شروع به کار کرد. این کنفرانس توسعه یافته چهار دوره آموزشی بین المللی در پایگاه های داده درسال 1989 تا 1994 بود. انجمن مذکور، یک سازمان علمی به نام ACM- SIGKDD را ایجاد نمود. سال 1996 ایمیلنسکی[3] و منیلا[4] دیدگاهی از داده کاوی به عنوان «پرس و جو کننده از پایگاه های استنتاجی[5]» را پیشنهاد کردند. فایاد، پیاتتسکی – شاپیرو، اودوراُسامی پیشرفت های کشف دانش و داده کاوی را عنوان کردند. در سال 1997 منیلا خلاصه ای از مطالعه روی اساس داده کاوی ارایه نمود. باربارا و همکاران نیز دیدگاه کاهش داده ها روی داده کاوی را در گزارش کاهش داده های نیوجرسی ارایه نمودند. همچنین می توان برای کاربرد داده کاوی
در مدیریت مالی می توان، تحلیل داده های مالی و مدل سازی مالی بنینگاه و چاچ کز و هیگینز [6] را ملاحظه کرد فریدمن نیز مقاله ای در ارتباط با مفهوم آمار و داده کاوی ارایه نمود. سال 1998 هند [7] مقاله ای تحت عنوان « داده کاوی : آمار یا بیشتر؟ » ارائه نمود. کلینبرگ[8] پائودیمیتریو و راغان [9] دیدگاه اقتصاد سنجی روی داده کاوی و عملکرد داده کاوی به عنوان یک مسئله بهینه را ارایه نمودند. در این سال نیز کنفرانس های ناحیه ای و بین المللی در مورد داده کاوی برگزار شد که از جمله می توان به کنفرانس آسیا و اقیانوسیه درباره کشف دانش و داده کاوی اشاره کرد. سال 2000 هند و همکاران و اسمیت بحث های مقایسه ای بین آمار و داده کاوی را ارایه کردند. سری و استاوا، کولی، رش پاند و تن استفاده از وب در کاوش داده ها و کاربردهای آن را ارایه کردند. سال 2002 کلادیو کانورسانو و همکاران « مدل آمیخته چندگانه جمع پذیر تعمیم یافته » برای داده کاوی را بررسی نمودند. پائلو و گیانلوکاپاسرون، « داده کاوی ساختارهای پیوند برای مدل رفتار مصرف کننده » را ارایه نمودند.
مفهوم داده کاوی
عبارت داده کاوی مترادف با یکی از عبارت های استخراج دانش، برداشت اطلاعات، وارسی داده ها و حتی لایروبی کردن داده هاست که در حقیقت کشف دانش در پایگاه داده ها[10] (KDD ) را توصیف می کند. بنابراین ایده ای که مبنای داده کاوی است یک فرآیند با اهمیت از شناخت الگوهای بالقوه مفید، تازه و درنهایت قابل درک در داده هاست. واژه کشف دانش در پایگاه داده ها در اوایل دهه 80 در مراجعه به مفهوم کلی، گسترده، سطح بالا و به دنبال جستجوی دانش در اطلاعات شکل گرفته است. داده کاوی کاربرد سطح بالای فنون و ابزار بکار برده شده برای معرفی و تحلیل داده ها ی تصمیم گیرندگان است. اصطلاح داده کاوی را آمار شناسان، تحلیل گران داده ها و انجمن سیستم های اطلاعات مدیریت به کار برده اند در حالی که پژوهشگران یادگیری ماشین و هوش مصنوعی از KDD بیشتر استفاده می کنند. در ادامه چند تعریف از داده کاوی ارائه می شود.
1- «داده کاوی یا به تعبیر دیگر کشف دانش در پایگاه داده ها، استخراج غیر بدیهی اطلاعات بالقوه مفید از روی داده هایی است که قبلاً، ناشناخته مانده اند. این مطلب برخی از روش های فنی مانند خوشه بندی، خلاصه سازی داده ها، فراگیری قاعده های رده بندی، یافتن ارتباط شبکه ها، تحلیل تغییرات و کشف بی قاعدگی را شامل می شود » ( پیاتتسکی شاپیرو، ماتئوس کریستوفر)
2- « داده کاوی در حقیقت کشف ساختارهای جالب توجه، غیر منتظره و با ارزش از داخل مجموعه وسیعی از داده ها می باشد و فعالیتی است که اساساً با آمار و تحلیل دقیق داده ها منطبق است» هند (1998)
3- « داده کاوی فرآیند کشف رابطه ها، الگوها و روندهای جدید معنی داری است که به بررسی حجم وسیعی از اطلاعات ذخیره شده در انبارهای داده با فناوری های تشخیص الگو ( مانند ریاضی و آمار ) می پردازد». ( سایت[11] http://www.spss.com)
کشف دانش در پایگاه داده ها در جهت کشف اطلاعات مفید از مجموعه بزرگ داده هاست. دانش کشف شده می تواند قاعده ای باشد تا ویژگی های داده ها، الگوهایی که به طور متناسب رخ می دهند، خوشه بندی موضوع های درون پایگاه داده ها و غیره را توصیف می کند.
یک کاربر سیستم KDD بایستی درک بالایی از قلمرو داده ها به منظور انتخاب زیر مجموعه صحیحی از داده ها، رده مناسبی از الگوها و معیار خوبی برای الگوهای جالب داشته باشد. بنابراین سیستم KDD باید ابزارهایی با اثر تعاملی داشته باشد نه سیستم های تجزیه و تحلیل خودکار. لذا کشف دانش از پایگاه داده ها باید مثل یک فرآیند شامل گام های زیر باشد:
1- درک قلمرو
2- آماده کردن مجموعه داده ها
3- کشف الگوها (داده کاوی)
4- پردازش بعد از کشف الگو
5- استفاده از نتایج .
فرآیند دادهکاوی
میتوان فرآیند دادهکاوی را طی مراحل زیر به صورت نمودار نشان داد.
منابع دادههای خامدادههای مهیا شدهانبار دادههاالگوی کشف شدهطرح یک فرضیه، پیشگوییاستخراج، ترجمه
و فراخوانی
مهیا کردن دادهها
کشف الگو
تجزیه و تحلیل الگو بو بهبود آن
در فرآیند بالا، دادههای خام از منابع مختلفی جمعآوری میشوند و از طریق استخراج، ترجمه و فرآیندهای بازخوانی به انبار دادهها وارد میشوند. در بخش مهیاسازی دادهها، دادهها از انبار خارج شده و به صورت یک فرمت مناسب برای دادهکاوی درمیآیند. در بخش کشف الگو با روشهای دادهکاوی برای پاسخ به سؤالهای خاصی که به ذهن میرسند، الگوریتمهایی را استخراج میکنند و از این الگوریتمها برای ساخت الگو استفاده میشود. در بخش تجزیه و تحلیل الگو، الگوها به یک دانش مفید و قابل استفاده تبدیل میشوند و پس از بهبود آنها، الگوهایی که کارا محسوب میشوند در یک سیستم اجرایی به کار گرفته خواهند شد.
نرمافزارهای دادهکاوی
طی سالهای گذشته جریان سریعی از تمایل به دادهکاوی در بازارهای نرمافزاری به وجود آمده است. بیشتر کاربران نرمافزارهای دادهکاو با تفکر استفاده تجاری از این نرمافزارها، خواهان استفاده از آن شدهاند. نرمافزارهای دادهکاو معمولاً سه روش مختلف را برای استفاده از دادهکاوی به کار میبرند. 1) اکتشاف 2) استفاده از مدلهای پیشگویی 3) استفاده از آنالیز بحث و جدل.
اکتشاف، فرآیند جستجو در دادههاست تا الگوهای مخفی موجود در دادهها را بدون هیچ ایدة از پیش تعیین شدهای مشخص نماید. در نرمافزارهای دادهکاوی مبتنی بر مدلهای پیشگویی، الگوهایی که از یک بانک داده کشف میشوند، برای پیشبینی آینده به کار میروند. مدلهای پیشبینی به کاربر اجازه میدهند تا دادههای نامشخص را به کار ببرد و این مقادیر نامشخص توسط نرمافزار کشف شود.
در مدلهای جدلی نیز الگوهای یافت شده از دادهها برای تعیین مقادیر غیرعادی به کار میرود. برای تعیین مقادیر غیر عادی، ابتدا میبایست مقادیر عادی شناخته شود تا بر این اساس مقادیر غیرعادی و منحرف شناخته شوند.
نرمافزارهای دادهکاو در حال حاضر از فعالیت کمتری نسبت به سایر نرمافزارهای هوشمند برخوردار هستند. با این وجود فعالیت تجاری این نرمافزار را میتوان در شش بخش کلی، دستهبندی دادهها، برآورد مقادیر نامشخص، پیشبینی مقادیر نامشخص, گروهبندی تقریبی دادهها، خوشهبندی دادهها و تشریح روابط بین دادهها تقسیم کرد.
دادهکاوی و مدیریت دانش
اگر چه دانش به طور انحصاری محصول فناوری اطلاعات نیست، ولی فناوری اطلاعات به طور لاینفکی در ایجاد دانش و فرآیند مدیریت دانش از سال های اول مشارکت داشته است. امروزه مدیریت دانش از مسئولیت های فناوری اطلاعات به شمار میرود. زیرا در جمعآوری، تبدیل دانش و انتقال دادهها، اطلاعات و دانش نقش کلیدی دارد.
از منظر مدیریت دانش، هدف دادهکاوی، کشف دانش سازمانی پنهان در اطلاعات خام است. اینگونه نیست که هر بینش حاصل از دادهکاوی دانش میسازد، بلکه در عوض بسیاری از نتایج به دست آمده، اطلاعات مدیریت، یا هوش سازمانی است. مثلاً در سازمانهای تجاری، دانش با ارزش
مورد مشتری، محصول و بازار را میتوان از طریق دادهکاوی به دست آورد. دادهکاوی ابزار مفیدی برای مدیران دانش است که کشف را با تحلیل تلفیق میکنند. تلفیقی که اغلب منجر به ایجاد دانش میشود.
کاربرد دادهکاوی در آموزش عالی
با توجه به اینکه آموزش عالی همواره با دادهها و اطلاعات بسیار زیادی در مورد دانشگاهها، دانشجویان، اعضای هیئت علمی، پرسنل، منابع مادی و... روبروست و در اکثر مواقع این دادهها میتواند حامل اطلاعات و الگوهای باارزشی باشند، لذا به نظر میرسد یکی از مهمترین کاربردهای دادهکاوی در آموزش عالی است. امروز بانکهای اطلاعاتی وسیعی از ویژگیهای دانشجویان موجود است که اطلاعات مربوط به ویژگیهای خانوادگی، تحصیلی و ... را شامل میشود. پیدا کردن الگوها و دانش نهفته در این اطلاعات میتواند به تصمیمگیرندگان عرصه آموزش عالی کمک شایانی بکند. استفاده از تکنیکهای پیشرفته دادهکاوی مانند خوشهبندی، طبقهبندی، و ... میتواند در طبقهبندی دانشگاهها، یافتن الگوهای خاص و با ارزش در مورد دانشجویان موفق، یافتن یک برنامه یا روش موفق تدریس، یافتن نقاط بحرانی در مدیریت مالی دانشگاهها و موارد دیگر کاربرد داشته باشد.
نتیجه گیری
شرکتها، سازمانها، دانشگاهها و مؤسسات آموزش عالی امروزی غرق در انبوه دادهها و اطلاعاتی هستند که استفاده از آنها در بیشتر موارد محدود به انجام کارهای جاری میباشد و هنوز از دادهها در تصمیمگیری استراتژیک استفاده نمیشود. دادهکاوی که استفاده از آن روز به روز توسعه مییابد میتواند به استفاده از اطلاعات موجود در مؤسسات و مراکز آموزش عالی در زمینههای
تصمیمگیری استراتژیک منجر شود.
--------------------------------------------------------------------------------
[1] - piatetsky-shapiro
[2]- Data warehouse
[3]- Imielnski
[4] - Mannila
[5] - Inductive databases
[6] - Benninga, Czaczkes, Higgins
[7] - Hand
[8] - Kleinberg
[9] - Paodimitriou , Raghavan
[10] - Knowledge Discovery of Database
1- این سایت یکی از معتبرترین سایت ها در زمینه آمار و داده کاوی است.
احمد سعیدی
دانشجوی دکتری اقتصاد و مدیریت مالی آموزش عالی