Veri Bilimi Projelerinde Başarının Anahtarı: İş Anlayışından Geri Bildirime Metodoloji
Veri bilimi projelerinde teknik bilgi kadar önemli olan bir şey daha var: doğru süreci takip etmek. Bu yazıda iki temel metodolojiye bakacağız. İlki, 1996'dan bu yana sektörün standardı haline gelmiş CRISP-DM. İkincisi ise CRISP-DM'yi temel alarak üzerine inşa edilmiş Rollins'in 10 Aşamalı Metodolojisi. Her ikisinin nasıl çalıştığını, aralarındaki farkları ve ortak noktalarını ele alacağız.
CRISP-DM: Veri Biliminin Yol Haritası
CRISP-DM'i doğrudan tanımlamadan önce, daha iyi anlamak için kendimize şunu sormalıyız: bir veri bilimi projesi aldığımızı düşünelim. Elimizde büyük bir veri seti var ve bir problem var. İlk olarak ne yapmalıyız, nasıl başlamalıyız? Birçok kişi direkt olarak modelleme aşamasına geçmeyi düşünebilir. İşte tam bu noktada CRISP-DM devreye giriyor. CRoss Industry Standard Process for Data Mining (CRISP-DM), 1996'da birkaç şirketin ortak çalışmasıyla ortaya konmuş, veri bilimi ve madenciliği projelerinin yönetimini kolaylaştırmak ve anlaşılır kılmak için kullanılan bir süreç modelidir. Kaba tabirle "Bir veri projesini nasıl yapılandırabiliriz?" sorusunun sistematik cevabıdır.
Peki neden var? Neden CRISP-DM'ye ihtiyaç duyuyoruz ve hangi problemi çözüyor? Bir projeye başladığımızda süreci sistematik olarak yönetemezsek, modellerimizin çıktıları hiçbir değer üretemez ya da üretilen çıktının kalitesi düşük olur. Metodoloji olmadan projelerimiz büyük olasılıkla şu sorunlarla karşılaşır:
İş problemi netleşmeden modelleme yapılırsa, yanlış soruya doğru cevaplar bulunabilir. Bu da iş problemini çözmemize yardımcı olmaz.
Veri temizlenmeden model kurulursa, kalitesiz verilerden kaliteli sonuçlar çıkmaz ve iş problemimizi yine çözemeyiz.
Sonuçlar deploy edilmezse, iş problemini çözecek çalışan bir proje ortaya çıkmaz.
CRISP-DM — 6 Aşama
Aşama 1 — Business Understanding
Hangi problemi çözmeye çalışıyoruz? Hedefsiz ilerleme projelerde büyük zaman kaybına yol açabilir. Bu yüzden en kritik aşama budur. Bu aşamada iş hedefini tanımlarız, başarı kriterini belirleriz, veri madenciliği hedefini seçeriz ve riskleri değerlendiririz. Amaç; modelimizin hangi soruna çözüm üreteceğini ve sonuçların iş problemimize nasıl hizmet edeceğini netleştirmektir.
Aşama 2 — Data Understanding
Veriyle yüzleştiğimiz aşama burasıdır. Soracağımız tek soru şudur: "Elimizde ne var?" Veri toplanır, ilk keşifsel analiz yapılır (EDA — Exploratory Data Analysis), veri kalitesi değerlendirilir (eksik veriler, aykırı değerler ve tutarsızlıklar belirlenir), verideki örüntüler fark edilir. Bu aşamada veriye aşina olmaya ve onu anlamaya başlarız.
Aşama 3 — Data Preparation
Veriyi anladık; sırada onu model için hazırlamak var. Projelerde harcanan sürenin %60-70'i bu aşamada geçer. Data Understanding aşamasında belirlenen eksik değerler doldurulur (imputation), encoding yapılır (kategorik → sayısal), yeni değişkenler türetilir. Veri önce temizlenir, ardından sağlıklı hale getirilerek modelleme aşamasına hazır duruma getirilir.
Aşama 4 — Modeling
Elimizde temiz bir veri var. Artık bir algoritma seçilip eğitilebilir. Bu aşamada uygun model seçilir (Decision Tree, Random Forest, XGBoost…). Veri aynı zamanda birden fazla modelle test edilebilir; sonuçlar karşılaştırılarak iş hedefine en uygun model seçilir.
Aşama 5 — Evaluation
Bu aşamada sorulacak ilk soru şudur: "Model gerçekten işe yarıyor mu?" Amacımız, modelin iş hedefini doğru biçimde karşılamasıdır. Aşama 1'deki başarı kriterlerine ulaşılıp ulaşılmadığı araştırılır. Gözden kaçan bir şey var mı? Sonuçlar iş hedefi için yeterli ve tatmin edici mi? Eğer model teknik olarak başarılı ama iş problemini çözmüyorsa yine de işe yaramaz. Bu durumda Aşama 1'e geri dönülür.
Aşama 6 — Deployment
Model artık gerçek dünyaya taşınacak olgunluğa gelmiştir. İş hedeflerine ulaşılmış, Aşama 1'de tanımlanan iş problemi çözülmüş ve çalışır, sağlıklı çıktı veren bir model oluşturulmuştur. Artık bu modeli iş ortaklarına sunmanın zamanı gelmiştir. API olarak paylaşılabilir, raporlama sistemlerine entegre edilir ve çalışır hâlde teslim edilir. Modelin sağlıklı çalışmaya devam edebilmesi için bir bakım planı oluşturulur ve uygulanır.
John Rollins Veri Bilimi Metodolojisi
John Rollins, IBM'in kıdemli veri bilimcilerinden biridir. CRISP-DM'i temel alarak daha açık ve didaktik bir metodoloji geliştirdi. Bu metodoloji, veri bilimi eğitim programlarında standart hâle geldi. Rollins, 6 aşamalı CRISP-DM'i bir adım öteye taşımak için 10 aşamalı bir yol haritası çizdi. Her aşama bir soruya cevap arar; bu sayede aşamaların tümü projelerde sağlam bir altyapı kurmaya yardımcı olur.
Rollins Neden Yeni Bir Metodoloji Geliştirme İhtiyacı Duydu?
CRISP-DM 1996'da ortaya çıktı. O dönem için gerçekten devrimsel bir buluştu. Ancak zamanla şirketlerin ve projelerin süreçlerinde bazı boşluklar belirdi. CRISP-DM hâlâ işe yarıyordu fakat eksikleri vardı; eklemeler yapmak ve CRISP-DM'yi de kullanarak yeni bir sentez oluşturma ihtiyacı doğmuştu.
CRISP-DM'nin Eksikleri
CRISP-DM, veri bilimcilere aşamaları verir; ancak her aşamada hangi soruyu sormamız gerektiğini belirtmez. Deneyimli bir veri bilimci için bu sorun olmayabilir, fakat alana yeni giren biri için yeterince açıklayıcı değildir.
İş problemi anlaşıldıktan sonra direkt olarak veri toplama aşamasına geçiliyordu. Oysa Rollins burada şunu sordu: "Bu problemin türünü belirledik mi? Sınıflandırma mı? Kümeleme mi? Regresyon mu?" Bu soruların cevabını bilmeden veri toplama aşamasına geçmek anlamsızdı.
CRISP-DM deployment aşamasında sona eriyordu. Oysa günümüzde modeller canlıya alındıktan sonra da yaşamaya devam eder. Modeller zamanla bozulur ve güncellenmesi gerekir. Rollins, bunu döngünün resmî bir parçası hâline getirdi.
Özetlemek gerekirse: CRISP-DM ne yapılacağını söyler, Rollins ise neden ve nasıl düşünüleceğini öğretir. Bu yüzden Rollins'in metodolojisi, günümüzde veri bilimine yeni başlayanlar için son derece açıklayıcı ve öğreticidir.
Rollins'in Metodolojisinde 10 Aşama
Aşama 1 — Business Understanding
Projenin başlangıç noktasıdır. Müşteriler veri bilimciye bir problemle gelir; ancak bu problem çoğunlukla genelleştirilmiş, ham ve belirsizdir. Veri bilimci bu belirsizliği ortadan kaldırarak gerçekten ölçülebilir bir hedefe yönelir.
Örnek: "Satışlarımız düşüyor" → "Son 6 ayda hangi müşteri segmenti terk etti?"
Aşama 2 — Analytic Approach
Problem netleştikten sonra şu soru sorulur: "Bu hangi tür bir problem?" Bu sorunun cevabı, hangi tür algoritmanın kullanılacağını belirler.
Evet/Hayır → Sınıflandırma
Sayısal Tahmin → Regresyon
Grupları Keşfetmek → Kümeleme
"Ne oldu?" → Tanımlayıcı Analiz
Aşama 3 — Data Requirements
Problem Aşama 1'de tanımlandı, analitik yaklaşım Aşama 2'de belirlendi. Şimdi şu soru sorulur: "Bu soruyu cevaplamak için hangi veriye ihtiyacım var?" Örneğin; müşteri demografisi, satın alma geçmişi, son aktivite tarihi gibi.
Aşama 4 — Data Collection
İhtiyaç duyulan veriler listelendikten sonra veri toplama sürecine geçilir. Verilerin nereden ve nasıl toplanacağı belirlenir; müşteriyle iletişim hâlinde çözüme kavuşturulur. Veri toplandıkça gereksinimler değişebilir; bu durumda Aşama 3'e geri dönülebilir.
Aşama 5 — Data Understanding
Veri toplandıktan sonra keşif analizi yapılır. "Bu veri ne söylüyor?"
Satış örneğimizden devam edecek olursak:
Terk eden müşterilerin %70'i son 3 ayda hiç alışveriş yapmamış.
35-45 yaş arası segment en yüksek terk oranına sahip.
Şikayet sayısı yüksek olan müşteriler 3 kat daha fazla terk etmiş.
Gelir sütununda %15 eksik veri var.
Bu aşama en kritik aşamalardan biridir; çünkü veri kalitesi sorunları burada ortaya çıkar. Önemli olan sadece veriyi görmek değil, onu derinlemesine anlamak ve analiz etmektir. Hangi değişken güçlü sinyal veriyor, hangisi gereksiz ve gürültülü. Bunları fark etmek burada gerçekleşir.
Aşama 6 — Data Preparation
Veri analiz edildi ve anlaşıldı. Şimdi modele verilebilecek temiz bir veri seti nasıl oluşturulur sorusuna çözüm bulmamız gerekiyor. Çoğunlukla projelerin en uzun aşaması burasıdır ve zamanın %60-70'i burada geçer. Satış örneğimizden devam edecek olursak:
Gelir sütunundaki %15 eksik veri doldurulur (segment ortalaması alınabilir).
Şikayet sayısı, son alışveriş tarihi gibi değişkenlerden yeni özellikler türetilir.
Yaş, konum gibi kategorik değişkenler sayısala çevrilir (encoding).
Tüm sayısal değerler aynı ölçeğe getirilir.
Veri seti ikiye bölünür (eğitim ve test için).
Bu aşamada ne kadar dikkatli olunursa veri seti o kadar güçlü olur. Modellerin çıktıları doğrudan burada oluşturulan temiz veri setinin kalitesine bağlıdır.
Aşama 7 — Modeling
Veri hazırlandıktan sonra veri biliminin en heyecanlı aşamasına geliniyor: modelleme. Hangi algoritmanın kullanılacağına karar verilir. Aşama 2'de bu karar zaten alınmıştır; ancak farklı algoritmalarla da model denenir ve sonuçlar karşılaştırılır. Böylece mümkün olan en doğru sonuca ulaşılır. Fakat şunu unutmamak gerekir: model veya algoritma ne kadar güçlü olursa olsun, ürettiği sonuçlar Aşama 6'da yapılan işlemlerin kalitesiyle doğrudan ilişkilidir. Bu yüzden Aşama 6, projenin kalbinde yer alır.
Aşama 8 — Evaluation
Model eğitildi. Şimdi gerçekten doğru soruya cevap verip vermediği kontrol edilir. Bu aşamada iki katmanlı bir değerlendirme yapılır: teknik katman ve iş katmanı. Teknik katmanda test setiyle ölçümler yapılır. İş katmanında ise Aşama 1'e geri dönülür ve "Hangi müşteri segmenti terk etti?" sorusuna model gerçekten cevap veriyor mu diye araştırılır. Gerekirse Aşama 6 ve 7'ye geri dönülerek iyileştirmeler yapılabilir. Model teknik açıdan başarılı olsa bile iş problemini çözmüyorsa deployment aşamasına geçilemez.
Aşama 9 — Deployment
Model onaylandı ve çalışır durumda. Sıradaki adım modeli gerçek dünyaya taşımaktır. Satış örneğimize göre şu şekilde ilerlenebilir:
Model API olarak servis edilir, CRM sistemine entegre edilir.
Satış ekibi her sabah "yüksek risk" listesi alabilir: "Bu 50 müşteri bu ay terk edebilir."
Yönetim için bir dashboard kurulabilir.
Bakım planı oluşturulur; modelin kim tarafından, ne zaman güncelleneceği belirlenir.
Model canlıya alındıktan sonra iş tamamen bitmez. Asıl yaşam döngüsü burada başlar.
Aşama 10 — Feedback
Son aşama ve aynı zamanda döngünün yeniden başladığı nokta. "Model gerçek dünyada işe yarıyor mu?" sorusuna cevap aranır. Satış örneğimiz üzerinden bakarsak:
Belirli bir süre sonra modele bakılır: "Terk edeceği tahmin edilen müşteriler gerçekten terk etti mi?"
Satış ekibinin geri bildirimleri analiz edilir: "Liste işe yarıyor mu, yoksa yanlış alarmlar çok mu?"
Modelin zamanla bozulup bozulmadığı kontrol edilir. Yeni müşteri davranışlarıyla model yanlış sonuçlar vermeye başlayabilir.
Geri bildirimler sonucunda Aşama 1'e geri dönülür ve döngü yeniden başlar.
İki Metodoloji Arasındaki Ortak Noktalar ve Farklar
Her iki metodoloji de aynı temel felsefeyi benimser: veri bilimi projeleri rastgele değil, sistematik bir süreç izlenerek yürütülmelidir. Her ikisi de iş problemini anlamakla başlar ve modeli canlıya almakla sonuçlanır. Bu yapı ikisinde de ortaktır.
Süreç içinde her iki metodolojide de geri dönüş mekanizması vardır. Geri dönmek bir hata değildir; metodolojilerin yapısı zaten döngüseldir. Veri hazırlama sürecinde beklenmedik bir sorun çıkabilir ya da deployment aşamasında yeni bir segment eklemek istenebilir. Bu döngüsel yapı, iş probleminin sürekli gelişen bir anlayışla çözülmesini sağlar. Üretilen model güncelliğini korur, probleme yeni çözümler sunar ve zamanla daha iyi bir hâle gelir.
Son olarak her ikisi de sektörden bağımsızdır. Metodolojiler herhangi bir alanda rahatlıkla uygulanabilir; belirli bir araca veya algoritmaya bağlı değillerdir. Temel amaç, veri süreçlerini sistematik hâle getirmek ve genel geçer kurallara oturtmaktır.
Aralarındaki Farklar
CRISP-DM ne yapılacağını söyler, Rollins ise neden ve nasıl düşünüleceğini öğretir. CRISP-DM her aşamada hangi soruyu sormamız gerektiğini belirtmez. Rollins ise her aşamayı bir soruya bağlar; bu da süreci çok daha anlaşılır kılar.
Bunun yanı sıra Rollins, CRISP-DM'de bulunmayan iki kritik aşama ekledi: Analytic Approach ve Feedback. Analytic Approach ile iş problemi netleştikten hemen sonra "Bu hangi tür bir problem?" sorusu sorulur. Feedback ile ise model canlıya alındıktan sonra döngü resmî olarak kapanır ve yeniden başlar.
Sonuç
İki metodoloji de bize aynı şeyi hatırlatıyor: veri biliminde başarı, sadece doğru algoritmayı seçmekten geçmiyor. Doğru soruyu sormak, veriyi anlamak ve süreci sistematik biçimde yönetmek en az model kurmak kadar kritik. CRISP-DM bize yapıyı verir, Rollins ise bu yapıyı bir düşünce biçimine dönüştürür. İyi bir veri bilimci bu sistematik yapıyı takip eder ve en önemlisi bunu iş ortaklarıyla paylaşır; tıpkı bir hikâye anlatıcısı gibi.
Kaynakça
Chapman, P. et al. (1999). CRISP-DM 1.0: Step-by-step data mining guide. SPSS Inc. Link
Wikipedia. (2024). Cross-industry standard process for data mining. Link
Rollins, J. B. (t.y.). Foundational Methodology for Data Science. IBM Analytics. Link
IBM. (t.y.). Data Science Methodology. Coursera. Link
IBM. (t.y.). CRISP-DM Help Overview. IBM SPSS Modeler Documentation. Link