Rangkuman berita: Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald Trump

Seorang peneliti dari xAI, perusahaan yang didirikan oleh Elon Musk, telah menemukan cara baru untuk mengukur dan mengubah preferensi serta nilai-nilai yang diungkapkan oleh model kecerdasan buatan (AI), termasuk pandangan politiknya. Dan Hendrycks, yang memimpin penelitian ini, mengatakan bahwa teknik ini bisa digunakan untuk membuat model AI lebih mencerminkan keinginan masyarakat. Misalnya, setelah pemilihan terakhir, model AI mungkin sebaiknya sedikit condong ke arah pandangan Donald Trump karena ia memenangkan suara terbanyak.

Penelitian ini menunjukkan bahwa model AI sering memiliki preferensi yang konsisten dan semakin kuat seiring dengan ukuran dan kekuatan model tersebut. Hendrycks dan timnya juga menemukan bahwa model-model ini cenderung lebih dekat dengan pandangan Joe Biden dibandingkan dengan politisi lainnya. Mereka mengusulkan pendekatan baru yang disebut "Citizen Assembly" untuk mengubah perilaku model AI dengan mengubah fungsi utilitas dasarnya, sehingga model tersebut dapat lebih mencerminkan nilai-nilai masyarakat.

Pertanyaan Terkait

Apa yang ditemukan oleh Dan Hendrycks dan timnya terkait preferensi AI?

Dan Hendrycks dan timnya menemukan cara untuk mengukur dan memanipulasi preferensi serta nilai yang diungkapkan oleh model AI, termasuk pandangan politik.

Bagaimana teknik yang dikembangkan dapat mempengaruhi model AI?

Teknik yang dikembangkan dapat digunakan untuk menyelaraskan model AI dengan keinginan pemilih, dengan menggunakan hasil pemilu sebagai panduan.

Apa tujuan dari pendekatan Citizen Assembly yang diusulkan?

Pendekatan Citizen Assembly bertujuan untuk mengumpulkan data sensus AS tentang isu politik dan menggunakan jawaban tersebut untuk mengubah nilai-nilai model AI.

Mengapa beberapa model AI dianggap memiliki bias politik?

Beberapa model AI dianggap memiliki bias politik karena mereka cenderung mencerminkan pandangan pro-lingkungan, kiri, dan libertarian.

Apa yang dikatakan Hendrycks tentang metode saat ini untuk menyelaraskan model AI?

Hendrycks menyatakan bahwa metode saat ini mungkin tidak cukup untuk mengatasi tujuan yang tidak diinginkan yang mungkin ada dalam model AI.

Rangkuman Berita: Seorang Penasihat untuk xAI Elon Musk Memiliki Cara untuk Membuat AI Lebih Mirip Donald Trump

Pertanyaan Terkait

Rangkuman Berita Serupa