Paling banyak satu email per minggu. Berhenti kapan saja dengan satu klik.
Transkrip
Narasi lengkap video ini. Kalimat yang sedang diucapkan disorot saat video diputar; klik kalimat untuk melompat ke sana.
Tampilkan transkrip
Pembuka
Inilah hasil akhirnya, perbandingan akurasi dan waktu latihan delapan model, dari satu pohon keputusan sampai XGBoost dan LightGBM, algoritma andalan para juara kompetisi data science. Kita juga melihat bagaimana boosting belajar dari kesalahan sedikit demi sedikit. Ayo kita mulai. Selamat datang di episode ke-9 seri Machine Learning dengan Python. Ensemble Learning adalah teknik menggabungkan banyak model lemah menjadi satu model yang kuat, seperti meminta pendapat banyak ahli. Ada dua pendekatan utama, begin yang melatih banyak model secara paralel lalu memungut suara, dan boosting yang melatih model satu per satu, di mana setiap model baru fokus memperbaiki kesalahan model sebelumnya.
Langkah 1: Menyiapkan data dan fungsi uji
Pertama, kita pasang dua librari tambahan dengan pip install XGBoost LiteGBM. Lalu buat file ensemble.py. Datanya kita buat dengan Make Classification, 2000 sampel, 20 fitur, dan hanya delapan yang benar-benar informatif, supaya cukup menantang. Kita juga siapkan satu fungsi uji yang melatih model, menghitung akurasi pada data uji, dan mencatat waktu latihnya.
Langkah 2: Bagging dan Random Forest
Kita mulai dari dasar. Satu decision tree sebagai pembanding. Lalu beging, yaitu 100 pohon yang masing-masing dilatih pada sampel acak, dan random forest yang menambahkan pemilihan fitur acak. Lihat akurasinya, menggabungkan banyak pohon langsung menaikkan akurasi beberapa persen dibanding satu pohon.
aa 3. AdaBoost, Gradient Boosting, XGBoost, LightGBM
Sekarang boosting. Ada boost memberi bobot lebih besar pada data yang salah ditebak. Gradient boosting melatih setiap pohon baru untuk memprediksi sisa kesalahan, atau residual, dari gabungan pohon sebelumnya. XGBoost dan LightGBM adalah versi gradient boosting yang sangat dioptimalkan, dengan regularisasi dan algoritma yang jauh lebih cepat. Hasilnya, XGBoost dan LightGBM meraih akurasi tertinggi, dengan waktu latih tetap di bawah 1 detik.
Langkah 4: VotingClassifier dan grafik perbandingan
Kita juga bisa menggabungkan model yang berbeda jenis dengan voting kelas CVR. Di sini kita menggabungkan logistic regression, random forest, dan XGBoost, dengan soft voting, yaitu merata-ratakan probabilitas dari ketiganya. Lalu kita gambar semua hasilnya, akurasi di kiri dan waktu latih di kanan.
Langkah 3: Kurva belajar boosting
Bagaimana boosting belajar? Buat file boosting.py Gradient boosting punya metode staget predict, yang memberi prediksi setelah pohon pertama, kedua, dan seterusnya. Kita gambar akurasi latih dan uji untuk setiap jumlah pohon, dengan dua learning rate. Learning rate kecil belajar lebih pelan tapi lebih stabil. Setelah titik tertentu akurasi uji berhenti naik, menambah pohon hanya membuang waktu.
. Selesai!
Selesai. Kita sudah membandingkan beging, random forest, ada boost, gradient boosting, XGBoost, lightGBM, dan voting. Untuk data tabel, boosting biasanya memberi hasil terbaik. Tapi ingat, semua skor ini belum dituning. Di episode berikutnya kita belajar cara mengevaluasi model dengan benar, dari confusion matrix sampai ROCAUC. Ingin menguasai machine learning dan data science? Cerdas inovasi digital membuka kursus Python, machine learning, dan AI dari dasar, jasa pembuatan model prediksi, analisis data, dan aplikasi AI untuk bisnis maupun penelitian, serta menjual source code lengkap tutorial ini. Ingin menguasai seluruh seri ini, dari pengenalan machine learning sampai diplo model ke web? Semua 18 episode, lengkap dengan PDF panduan langkah demi langkah, tersedia untuk pelanggan tutorial premium. Berlangganan mulai Rp69.000 per bulan, hemat 28% dengan paket 12 bulan, atau sekali bayar Rp999.000 untuk akses seumur hidup. Mau satu kelas saja? Beli kelas satuan dengan akses selamanya. Langganan sekarang di halaman premium cerdasinovasidigital.com Hubungi WhatsApp kami, atau kunjungi cerdasinovasidigital.com Terima kasih telah menonton, sampai jumpa di episode berikutnya.
Tanya materi kelas
Ketik pertanyaan atau kata kunci; kami carikan bagian episode ini yang menjelaskannya dan lompatkan videonya ke sana.
Catatan saya
Catatan disimpan bersama menit video saat ini dan hanya terlihat oleh Anda.
Tanya jawab
Bingung di salah satu langkah? Tanyakan di sini; pengajar dan peserta lain bisa menjawab.
Belum ada pertanyaan.
Pengajar
Tim Cerdas Inovasi Digital
Pengembang software, engineer BIM & 3D, dan praktisi AI
52 kelas video1.276 episode
Sehari-hari kami mengerjakan software, model BIM, game, dan otomasi AI untuk klien, lalu menjadikan pengalaman praktik itu kelas langkah demi langkah: setiap langkah diperlihatkan di layar dan dilengkapi panduan PDF.
