Jakarta - OpenAI telah mengumumkan penunjukan Zico Kolter, Profesor dan Direktur Machine Learning di Carnegie Mellon University, sebagai Direktur barunya.

Kolter berfokus pada penelitian tentang keamanan AI. Oleh karena itu, ia merupakan direktur teknis yang sangat berharga bagi OpenAI (Tata Kelola), tulis OpenAI dalam sebuah posting blog yang dikutip oleh TechCrunch pada hari Kamis (8 Agustus) waktu setempat. Keamanan AI telah menjadi tantangan utama di perusahaan tersebut. Penunjukan Colter dilakukan beberapa bulan setelah beberapa eksekutif dan karyawan OpenAI yang berfokus pada keamanan, termasuk salah satu pendiri Ilya Sutkever, meninggalkan perusahaan.



Beberapa pengunduran diri ini berasal dari mantan tim Superalignment Sutskever, yang berfokus pada cara membangun sistem AI super cerdas, tetapi sumber-sumber mengatakan bahwa mereka pada awalnya dijanjikan sumber daya komputasi Mereka tidak diberi akses ke sumber daya komputasi yang dijanjikan sebelumnya, menurut sumber tersebut.

Colter juga bergabung dengan direktur Brett Taylor, Adam DAngelo, Paul Nakasone dan Nicole Seligman, CEO Sam Altman, dan pakar teknis OpenAI di Dewan Keselamatan dan Keamanan OpenAI Komite Keselamatan dan Keamanan. Komite ini bertanggung jawab untuk memberikan rekomendasi mengenai keputusan keamanan dan keselamatan untuk semua proyek OpenAI. Namun, seperti yang ditunjukkan oleh TechCrunch, komite ini sebagian besar terdiri dari orang dalam, sehingga menimbulkan pertanyaan di antara para pengamat tentang keefektifannya.

“Dengan menambahkan pemahaman teknis yang mendalam dan perspektif tentang keamanan dan ketahanan AI, Zico akan membantu memastikan bahwa kecerdasan buatan secara umum bermanfaat bagi seluruh umat manusia,” kata Ketua Dewan OpenAI, Bret Taylor.

Colter, yang merupakan Kepala Ilmuwan Data di C3.ai, menerima gelar PhD di bidang ilmu komputer dari Universitas Stanford pada tahun 2010 dan kemudian menjabat sebagai rekan postdoctoral di MIT dari tahun 2010 hingga 2012.

Penelitiannya termasuk mendemonstrasikan potensi untuk melewati perlindungan AI yang ada melalui teknik pengoptimalan otomatis.

Colter juga tidak asing dengan kolaborasi industri dan saat ini menjadi penasihat teknis utama untuk Subject Matter Expert Bosch dan perusahaan rintisan AI Grey Swan. Hal ini dilaporkan oleh TechCrunch pada hari Kamis (8 Agustus) waktu setempat.