Mantan Karyawan Tuntut OpenAI Jangan Ubah Misi AI Jadi Profit Semata

Mantan karyawan OpenAI meminta pejabat penegak hukum di California dan Delaware untuk menghentikan perusahaan dari mengalihkan kendali teknologi AI dari badan amal nirlaba ke bisnis yang berorientasi pada keuntungan. Mereka khawatir tentang dampak jika OpenAI memenuhi ambisinya untuk membangun AI yang melebihi kemampuan manusia tetapi tidak lagi bertanggung jawab pada misi publiknya. Surat tersebut didukung oleh tiga pemenang Nobel dan ahli lainnya. OpenAI mengatakan bahwa perubahan struktur akan memastikan masyarakat luas dapat memperoleh manfaat dari AI dan bahwa bagian nirlaba akan tetap ada. Namun, beberapa mantan karyawan khawatir bahwa perubahan ini akan meningkatkan insentif untuk terburu-buru membuat keputusan yang dapat berisiko. Mereka juga mengkhawatirkan hilangnya klausul 'stop-and-assist' yang mengharuskan OpenAI untuk membantu jika organisasi lain mendekati pencapaian AI yang lebih baik dari manusia. Konflik mengenai tujuan OpenAI telah lama terjadi, yang menyebabkan beberapa pendiri dan karyawan meninggalkan perusahaan. Beberapa mantan karyawan merasa bahwa OpenAI semakin mengabaikan pengujian keselamatan dan terburu-buru meluncurkan produk baru untuk mengalahkan pesaing bisnis. Mereka percaya bahwa dalam struktur baru, insentif untuk membuat keputusan terburu-buru akan meningkat dan tidak ada yang bisa menghentikan mereka.