OpenAI Dinilai Utamakan Produk daripada Keamanan, Peneliti Senior Mengundurkan Diri?

Updated

May 19, 2024

Gambar OpenAI Dinilai Utamakan Produk daripada Keamanan, Peneliti Senior Mengundurkan Diri?

Jakarta, Pintu News – OpenAI, perusahaan di balik ChatGPT, baru-baru ini menjadi sorotan setelah salah satu peneliti seniornya, Jan Leike, mengundurkan diri. Leike mengungkapkan bahwa ia tidak sejalan dengan prioritas perusahaan yang lebih mengutamakan produk daripada keamanan. Pengunduran dirinya terjadi beberapa hari setelah OpenAI meluncurkan model AI terbaru mereka, GPT-4o. Simak berita lengkapnya disini!

Perbedaan Pandangan tentang Prioritas

Leike, yang sebelumnya menjabat sebagai salah satu kepala bagian keselamatan di OpenAI, merasa bahwa perusahaan tersebut telah mengesampingkan budaya dan proses keselamatan demi mengejar produk-produk yang menarik. Ia menyatakan bahwa perselisihan tentang tujuan utama perusahaan telah mencapai titik puncaknya, sehingga ia memutuskan untuk mengundurkan diri.

jan leike openai — Sumber: Akun X Jan Leike

Dalam sebuah utas di X, Leike menjelaskan alasan pengunduran dirinya. Ia mengatakan bahwa selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan demi produk-produk yang mengilap.

Leike berpendapat bahwa OpenAI seharusnya menginvestasikan lebih banyak sumber daya pada isu-isu seperti keselamatan, dampak sosial, kerahasiaan, dan keamanan untuk model-model generasi berikutnya.

Tanggapan OpenAI

Menanggapi pengunduran diri Leike, CEO OpenAI, Sam Altman, menyampaikan rasa terima kasihnya atas kontribusi Leike terhadap budaya keselamatan perusahaan. Altman mengakui bahwa masih banyak yang harus dilakukan dalam hal keselamatan dan berkomitmen untuk terus berupaya meningkatkannya.

Di sisi lain, Ilya Sutskever, mantan kepala ilmuwan OpenAI yang juga mengundurkan diri minggu ini, menyatakan keyakinannya bahwa OpenAI akan membangun AGI (Artificial General Intelligence) yang aman dan bermanfaat di bawah kepemimpinan saat ini.

Sutskever sebelumnya sempat mendukung penggulingan Altman sebagai pemimpin OpenAI, tetapi kemudian mendukungnya kembali setelah terjadi gejolak internal di perusahaan.

Kekhawatiran tentang Keamanan AI

Pengunduran diri Leike dan Sutskever memunculkan kekhawatiran tentang keamanan AI. Sebuah panel ahli AI internasional baru-baru ini merilis laporan perdana tentang keselamatan AI, yang menyebutkan adanya perbedaan pendapat tentang kemungkinan sistem AI yang kuat dapat menghindari kendali manusia.

Laporan tersebut juga memperingatkan bahwa regulator dapat tertinggal oleh kemajuan teknologi yang cepat, sehingga menimbulkan potensi kesenjangan antara kecepatan kemajuan teknologi dan kecepatan respons regulasi.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*Disclaimer

Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.

Referensi