Courtesy of Forbes
Perusahaan China, DeepSeek, baru-baru ini mengumumkan model R1 yang sangat canggih, yang menggabungkan kinerja tinggi dengan biaya sumber daya yang rendah. Pengumuman ini mengguncang pasar saham AS dan menciptakan dampak besar di seluruh dunia. Namun, ada tuduhan bahwa DeepSeek menggunakan cara yang tidak etis untuk mengumpulkan data pelatihan, yaitu dengan memanfaatkan API GPT-4 dari OpenAI secara besar-besaran untuk menghasilkan respons dari ribuan atau jutaan permintaan. Hal ini menimbulkan kekhawatiran di kalangan para pemimpin industri, termasuk pejabat pemerintah AS, tentang praktik "distillation" yang digunakan untuk menyalin kemampuan model AI yang lebih besar.
Distillation dalam dunia AI adalah proses pemindahan pengetahuan dari model besar ke model yang lebih kecil dan efisien. Proses ini penting karena model yang lebih besar mungkin tidak sepenuhnya memanfaatkan kapasitas pengetahuannya. Dengan distillation, hasil yang lebih baik dapat diperoleh dari model besar dan diterapkan pada model yang lebih kecil, seperti dalam kendaraan otonom. Ada berbagai metode distillation, termasuk distillation berbasis respons dan fitur, serta metode online dan offline. Saat ini, AS berusaha memperketat kontrol ekspor untuk mencegah peniruan sistem AI yang kuat oleh negara lain, termasuk China.
Pertanyaan Terkait
Q
Apa yang diumumkan oleh perusahaan DeepSeek?A
DeepSeek mengumumkan model R1 yang memiliki kemampuan tinggi dengan biaya sumber daya yang rendah.Q
Siapa David Sacks dan apa komentarnya tentang DeepSeek?A
David Sacks adalah czar AI dan crypto baru di AS yang menyatakan ada bukti substansial terkait praktik meragukan DeepSeek.Q
Apa itu distilasi dalam konteks AI?A
Distilasi dalam konteks AI adalah proses transfer pengetahuan dari model besar ke model yang lebih kecil.Q
Mengapa CNN penting dalam distilasi pengetahuan?A
CNN penting dalam distilasi pengetahuan karena dirancang khusus untuk pengenalan objek dan visi komputer.Q
Apa relevansi teori Marvin Minsky dengan distilasi model AI?A
Teori Marvin Minsky relevan karena menyatakan bahwa organisme besar adalah kumpulan dari yang lebih kecil yang bekerja sama, mirip dengan cara model AI berfungsi.