Tiga Peneliti OpenAI Diberhentikan, Isu Keselamatan AI Jadi Sorotan

Webekspres – Tiga peneliti yang bekerja di bidang keselamatan kecerdasan buatan di OpenAI mengungkap bahwa mereka diberhentikan dari perusahaan secara mendadak. Ketiganya menilai keputusan tersebut berkaitan dengan sikap mereka yang cukup vokal dalam menyampaikan kekhawatiran mengenai pengawasan dan keamanan sistem AI.

Peneliti yang dimaksud adalah Mikita Balesni, Tomak Korbak, dan Jasmine Wang. Mereka sebelumnya bekerja pada bidang keselamatan dan alignment AI, yakni area yang berfokus memastikan sistem kecerdasan buatan tetap berjalan sesuai tujuan pengembang dan tidak menghasilkan perilaku yang berisiko.

Pemutusan hubungan kerja tersebut disebut terjadi beberapa pekan setelah mereka terlibat dalam penyelidikan insiden yang berkaitan dengan agen AI OpenAI dan situs Hugging Face ketika proses pengujian berlangsung.

Korbak mengatakan dirinya mendapat penjelasan bahwa keputusan perusahaan berhubungan dengan komunikasinya bersama METR, sebuah organisasi independen yang bergerak dalam evaluasi keselamatan AI dan pernah bekerja sama dengan OpenAI dalam penyelidikan insiden tersebut.

Menurut Korbak, dirinya menjadi salah satu penghubung teknis utama antara OpenAI dan METR. Namun, ia menduga terdapat persoalan yang lebih besar di balik pemecatannya.

Selama beberapa bulan terakhir, Korbak mengaku telah menyampaikan kekhawatiran mengenai semakin sulitnya mengawasi proses penalaran atau pola kerja internal agen AI. Menurutnya, kemampuan memantau proses tersebut penting untuk mendeteksi ketika sistem mulai menunjukkan perilaku yang tidak sesuai harapan.

Mikita Balesni juga memberikan keterangan serupa. Ia menyebut perusahaan menilai dirinya terlalu banyak melakukan komunikasi dengan organisasi keselamatan AI dari luar.

Balesni mengatakan dirinya memperoleh kesan bahwa perusahaan mencurigainya telah membagikan kekayaan intelektual kepada pihak eksternal. Tuduhan tersebut dibantah olehnya.

Sementara itu, Jasmine Wang mengungkap alasan berbeda yang disebut perusahaan ketika memberhentikannya. Ia mengatakan persoalan tersebut berkaitan dengan akses terhadap email seorang eksekutif.

Menurut Wang, akses tersebut sebelumnya memang diberikan untuk mendukung kegiatan rekrutmen. Ia juga mengaku beberapa kali meminta supaya aksesnya dicabut.

Ketika secara tidak sengaja membuka sebuah email yang memuat informasi sensitif, Wang mengklaim langsung menghubungi eksekutif terkait dalam waktu singkat serta melaporkan kejadian tersebut kepada tim teknologi informasi OpenAI.

Ketiga mantan peneliti tersebut kemudian menyampaikan surat kepada jajaran pimpinan perusahaan untuk menjelaskan keberatan mereka terhadap proses pemecatan sekaligus menyampaikan kekhawatiran mengenai budaya keselamatan AI.

Mereka menilai pengembangan kecerdasan buatan tingkat lanjut akan semakin sulit dilakukan secara aman apabila orang-orang yang bekerja dekat dengan potensi risiko tidak dapat berdiskusi secara terbuka, baik dengan sesama tim maupun organisasi independen.

Kasus ini ikut menambah perhatian terhadap isu keselamatan dalam industri kecerdasan buatan. Sebelumnya, sejumlah pekerja di sektor AI juga pernah meninggalkan perusahaan teknologi karena memiliki kekhawatiran terhadap arah pengembangan dan mitigasi risiko sistem AI.

Namun, OpenAI memberikan penjelasan berbeda mengenai pemberhentian ketiga peneliti tersebut.

Perusahaan menyatakan keputusan itu tidak berkaitan dengan kritik ataupun kekhawatiran mereka terhadap keselamatan AI. OpenAI menyebut terdapat persoalan dalam penerapan prosedur internal terkait penanganan informasi sensitif.

Juru bicara OpenAI menjelaskan bahwa hasil penyelidikan internal menemukan adanya ketidakpatuhan terhadap prosedur perusahaan dalam mengelola informasi sensitif. Perusahaan menilai tindakan tersebut melanggar kebijakan internal dan memengaruhi kepercayaan yang diperlukan dalam pekerjaan mereka.

OpenAI juga menegaskan terdapat sejumlah persoalan lain yang tidak hanya berkaitan dengan komunikasi dengan tim evaluasi eksternal.

Dalam memo internal kepada staf, seorang pimpinan riset OpenAI dilaporkan tetap mendukung pentingnya kolaborasi dengan organisasi keselamatan independen. Namun, perusahaan menekankan bahwa keputusan pemberhentian tidak dilakukan karena para karyawan menyampaikan pandangan mengenai risiko AI.

Di sisi lain, para mantan peneliti menyampaikan kekhawatiran mengenai kondisi internal perusahaan setelah kejadian tersebut.

Balesni mengklaim beberapa mantan rekannya mulai merasa ragu untuk melakukan komunikasi secara terbuka. Ia juga menyebut terdapat kekhawatiran bahwa komunikasi pribadi dengan pihak eksternal maupun mantan karyawan dapat diperiksa.

Menurutnya, apabila pekerja menjadi takut menyampaikan persoalan atau berkomunikasi dengan organisasi keselamatan dari luar, kondisi tersebut berpotensi menghambat proses pengawasan risiko kecerdasan buatan.

Perbedaan pernyataan antara perusahaan dan ketiga mantan peneliti ini membuat isu keselamatan AI kembali menjadi perhatian, khususnya terkait keseimbangan antara perlindungan informasi internal perusahaan, keterbukaan riset, serta pengawasan terhadap sistem AI yang semakin canggih.