jfid – OpenAI, perusahaan teknologi yang baru-baru ini merilis model GPT-4o, kembali menjadi sorotan publik.
Kali ini, perhatian tertuju pada pengunduran diri seorang eksekutif penting yang menimbulkan kekhawatiran di kalangan komunitas AI.
Jan Leike dan Peran Pentingnya di OpenAI
Jan Leike, yang bertanggung jawab memastikan produk OpenAI bermanfaat dan aman bagi masyarakat, telah memutuskan untuk meninggalkan perusahaan.
Kepergiannya menambah daftar eksekutif yang keluar dari OpenAI setelah Ilya Sutskever, salah satu pendiri perusahaan, yang juga baru-baru ini mengundurkan diri.
Leike, melalui serangkaian tweet, menjelaskan bahwa keputusannya untuk hengkang tidaklah mudah.
Dia menyatakan bahwa ada ketidaksepakatan mendalam dengan pimpinan OpenAI terkait prioritas inti organisasi.
Kekhawatiran Terhadap Arah Perusahaan
Leike mengungkapkan kekhawatiran terhadap arah perusahaan, menyebutkan bahwa bidang-bidang penting seperti keamanan dan analisis dampak sosial teknologi AI tidak mendapatkan perhatian dan sumber daya yang memadai.
Dia berpendapat bahwa membangun mesin yang lebih cerdas dari manusia adalah usaha yang secara inheren berbahaya dan menegaskan bahwa OpenAI harus mengutamakan keamanan dalam mengembangkan AI Generasi Umum (AGI).
“Saya bergabung karena saya percaya OpenAI adalah tempat terbaik di dunia untuk melakukan penelitian ini. Namun, saya sudah cukup lama tidak setuju dengan kepemimpinan OpenAI mengenai prioritas inti perusahaan, hingga akhirnya kami mencapai titik puncaknya,” ujarnya dalam salah satu tweet.
Tantangan dalam Penelitian AI
Sebagai peneliti AI, Leike menekankan pentingnya persiapan untuk generasi berikutnya dari model AI.
Dia menyatakan bahwa timnya sering menghadapi tantangan dalam mengamankan sumber daya komputasi yang diperlukan untuk penelitian mereka, yang menurutnya esensial untuk mengarahkan dan mengendalikan sistem AI yang lebih cerdas dari manusia.
“Masalah-masalah ini cukup sulit untuk diselesaikan, dan saya khawatir kita belum berada pada jalur yang tepat untuk mencapainya,” cuit Leike.
Dalam pesan terakhirnya kepada karyawan OpenAI, Leike mendesak mereka untuk bertindak dengan keseriusan yang sesuai dalam membangun AGI dan menerima perubahan budaya yang diperlukan. “Dunia mengandalkan Anda,” tulisnya.
Respons dari CEO OpenAI, Sam Altman
CEO OpenAI, Sam Altman, merespons serangkaian tweet Leike dengan menyatakan apresiasinya terhadap kontribusi Leike dalam penelitian penyelarasan dan budaya keselamatan OpenAI.
Altman mengakui bahwa masih banyak yang harus dilakukan dan berkomitmen untuk melakukannya.
“Aku sangat menghargai kontribusi @janleike terhadap penelitian penyelarasan dan budaya keselamatan OpenAI, dan sangat sedih melihatnya pergi. Dia benar masih banyak yang harus kita lakukan; kami berkomitmen untuk melakukannya. Saya akan memiliki posting yang lebih panjang dalam beberapa hari ke depan,” tulis Altman.
Masa Depan OpenAI
Kepergian Jan Leike dari OpenAI menimbulkan pertanyaan besar tentang masa depan perusahaan, terutama dalam hal keamanan dan etika AI.
Komunitas AI dan publik secara umum akan terus memantau bagaimana OpenAI menanggapi tantangan ini dan apakah mereka dapat mempertahankan komitmen mereka terhadap keamanan dan manfaat sosial dari teknologi AI.
OpenAI menghadapi masa depan yang penuh tantangan, dan langkah-langkah yang mereka ambil dalam beberapa bulan ke depan akan sangat penting dalam menentukan arah mereka.
