Paling banyak satu email per minggu. Berhenti kapan saja dengan satu klik.
Transkrip
Narasi lengkap video ini. Kalimat yang sedang diucapkan disorot saat video diputar; klik kalimat untuk melompat ke sana.
Tampilkan transkrip
Pembuka
Inilah hasil akhirnya, grafik jalur koefisien ridge dan leso, yang memperlihatkan bagaimana regularisasi menekan koefisien model, bahkan membuat sebagian menjadi nol. Kita juga mencari hyperparameter terbaik secara otomatis dengan grid search dan optuna. Ayo kita mulai. Selamat datang di episode ke-11 seri machine learning dengan Python. Di episode 5 kita melihat bahaya overfitting. Sekarang kita belajar cara mengatasinya dengan regularisasi, yaitu memberi hukuman pada koefisien yang terlalu besar. Lalu kita belajar hyperparameter tuning, cara sistematis mencari pengaturan model terbaik, dari grid search sampai optuna.
Langkah 1: Overfitting, Ridge, dan Lasso
Kita buat file regularisasi .py. Kita pakai dataset diabetes, lalu menambah fitur polinomial derajat 2 sehingga fiturnya menjadi 65. Dengan data sesedikit ini, regresi linier biasa langsung overfitting. Skor latihnya tinggi, tapi R kuadrat ujinya jauh lebih rendah. Ridge menambahkan hukuman kuadrat koefisien, dan Leso menambahkan hukuman nilai mutlak. Keduanya memperbaiki skor uji.
Langkah 2: Jalur koefisien
Leso punya keistimewaan, ia bisa membuat koefisien menjadi tepat 0, sehingga sekaligus memilih fitur. Kita hitung berapa koefisien yang menjadi 0. Lalu kita gambar jalur koefisien, bagaimana setiap koefisien berubah saat kekuatan regularisasi alpha dinaikkan. Pada Ridge, koefisien mengecil perlahan menuju 0. Pada Leso, koefisien 1 persatu jatuh tepat ke 0.
Langkah 3: GridSearchCV
C, kedalaman pohon, dan jumlah pohon adalah hyperparameter, yaitu pengaturan yang tidak dipelajari dari data, melainkan kita tentukan sendiri. Buat file tuning.py GridSearch CV mencoba semua kombinasi dalam daftar dan menilainya dengan cross-validation. Kita tuning SVM untuk detasetkan kerpayudara dengan pilihan C dan gamma. Hasilnya, kombinasi terbaik, skor cross-validation, dan skor data uji. Jika kombinasinya terlalu banyak, GridSearch menjadi lambat. Randomized search CV hanya mencoba sejumlah kombinasi acak dari rentang nilai. Kita coba pada random forest dengan 4 hyperparameter, cukup 20 percobaan. Hasilnya sering sama baiknya dengan jauh lebih cepat.
i Langkah 3: Tuning otomatis dengan Optuna
Cara paling cerdas adalah Optuna. Pasang dulu dengan pip install Optuna, lalu buat file optuna underscore tuning dot py. Kita menulis fungsi objektif V yang menerima trial, menyarankan nilai hyperparameter, dan mengembalikan skor. Optuna belajar dari percobaan sebelumnya untuk memilih nilai berikutnya yang lebih menjanjikan. Kita jalankan 30 percobaan dan melihat parameter terbaiknya.
Selesai!
Selesai. Kita sudah memakai ridge dan leso untuk melawan overfitting, membaca jalur koefisien, dan mencari hyperparameter terbaik dengan GridSearch CV, RandomizedSearch CV, dan Optuna. Ingat, semua tuning dilakukan dengan cross-validation pada data latih, data uji tetap disimpan untuk penilaian akhir. Di episode berikutnya kita belajar feature engineering dan feature selection. Ingin menguasai machine learning dan data science? Cerdas inovasi digital membuka kursus Python, machine learning, dan AI dari dasar, jasa pembuatan model prediksi, analisis data, dan aplikasi AI untuk bisnis maupun penelitian, serta menjual source code lengkap tutorial ini. Ingin menguasai seluruh seri ini, dari pengenalan machine learning sampai diplo model ke web? Semua 18 episode, lengkap dengan PDF panduan langkah demi langkah, tersedia untuk pelanggan tutorial premium. Berlangganan mulai 69 ribu rupiah per bulan, hemat 28% dengan paket 12 bulan, atau sekali bayar 999 ribu untuk akses seumur hidup. Terima kasih telah menonton, sampai jumpa di episode berikutnya.
Tanya materi kelas
Ketik pertanyaan atau kata kunci; kami carikan bagian episode ini yang menjelaskannya dan lompatkan videonya ke sana.
Catatan saya
Catatan disimpan bersama menit video saat ini dan hanya terlihat oleh Anda.
Tanya jawab
Bingung di salah satu langkah? Tanyakan di sini; pengajar dan peserta lain bisa menjawab.
Belum ada pertanyaan.
Pengajar
Tim Cerdas Inovasi Digital
Pengembang software, engineer BIM & 3D, dan praktisi AI
52 kelas video1.276 episode
Sehari-hari kami mengerjakan software, model BIM, game, dan otomasi AI untuk klien, lalu menjadikan pengalaman praktik itu kelas langkah demi langkah: setiap langkah diperlihatkan di layar dan dilengkapi panduan PDF.
