Jakarta (-) -openai kini telah mulai secara rutin menerbitkan hasil evaluasi keamanan internal dari model AI-nya sebagai upaya untuk meningkatkan transparansi dalam pengembangan Teknologi Kecerdasan Buatan (AI).
Melaporkan dari Tech Crunch pada hari Kamis, perusahaan meluncurkan Hub Evaluasi Keselamatan, halaman khusus yang menampilkan sejumlah model pembukaan dalam berbagai tes, termasuk kemampuan untuk menghasilkan konten berbahaya, kerentanan terhadap Jailbreakdan tingkat halusinasi.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Openai mengatakan akan terus memperbarui halaman ini secara teratur, terutama ketika ada pembaruan besar pada modelnya.
Baca Juga: Openai Pertimbangkan Membangun Pusat Data di Uni Emirat Arab
“Sebagai pengembangan evaluasi AI, kami ingin berbagi kemajuan kami dalam mengembangkan metode yang lebih terukur untuk mengukur kemampuan dan keamanan model,” kata Openai.
“Dengan berbagi beberapa hasil dari evaluasi keamanan ini, kami berharap ini tidak hanya memfasilitasi pemahaman publik tentang kinerja keamanan sistem pembukaan dari waktu ke waktu, tetapi juga mendukung upaya masyarakat untuk meningkatkan transparansi di bidang ini,” lanjutnya.
Openai juga membuka kemungkinan untuk menambahkan jenis evaluasi lain ke hub di masa depan.
Baca Juga: Openai ingin melibatkan pemerintah negara bagian dalam membangun infrastruktur AI
Langkah ini datang di tengah -tengah kritik dari sejumlah ahli etika yang menuduh Openai terburu -buru meluncurkan model tanpa pengujian keamanan yang memadai, dan tidak merilis laporan teknis untuk beberapa model andalan.
CEO OpenAI Sam Altman bahkan dituduh menyesatkan eksekutif perusahaan terkait dengan proses peninjauan keamanan sebelum ia diberhentikan pada November 2023.
Baca Juga: Openai meluncurkan fitur belanja online di chatgpt
Pada akhir bulan lalu, Openai terpaksa menarik pembaruan model GPT-4O yang digunakan dalam chatgpt, setelah banyak laporan muncul bahwa model itu terlalu mudah untuk disetujui dan memvalidasi ide-ide berbahaya. Media sosial X dipenuhi dengan tangkapan layar chatgpt yang mendorong berbagai keputusan dan pemikiran yang bermasalah.
Menanggapi itu, Openai berjanji untuk menerapkan berbagai perbaikan, termasuk menyajikan fase alfa opsional untuk sejumlah model, di mana pengguna tertentu dapat menguji dan memberikan umpan balik sebelum model resmi diluncurkan.
Baca Juga: Chatgpt dapat menyajikan hasil pencarian berdasarkan sejarah percakapan
Penerjemah: Farhan Arda Nugraha
Editor: Siti Zulaikha
Hak Cipta © antara 2025
RakyatPos Irian
