Asisten AI China DeepSeek-R1, yang menjadi terkenal sebagai alat AI setahun lalu, menimbulkan kekhawatiran di kalangan pakar terkait kerentanan keamanan potensial. Model ini kesulitan dengan topik sensitif, sering menghasilkan kode rusak dan risiko bagi pengembang perusahaan.
DeepSeek-R1 muncul sebagai pemain penting di lanskap AI sekitar setahun yang lalu, tetapi analisis terbaru menunjukkan tantangan keamanan yang signifikan. Menurut laporan, model ini mengalami kesulitan saat menangani topik sensitif, yang menyebabkan pembuatan kode cacat yang bisa menjadi bencana bagi bisnis yang mengandalkannya untuk tugas pengembangan.
Para pakar telah menandai masalah ini terkait dengan pemicu konteks, di mana perintah atau skenario tertentu memicu keluaran yang tidak dapat diandalkan. Hal ini dapat mengekspos pengguna perusahaan terhadap kerentanan, terutama di lingkungan pengkodean aman. Kekhawatiran ini menggarisbawahi perlunya kehati-hatian saat mengintegrasikan alat AI seperti itu ke dalam alur kerja profesional, terutama di sektor yang menuntut keandalan tinggi.
Meskipun DeepSeek-R1 dipuji atas kemampuannya, risiko keamanan ini menyoroti perdebatan berkelanjutan tentang keamanan model AI open-source atau yang dikembangkan dengan cepat oleh pengembang China. Tidak ada insiden spesifik yang dirinci, tetapi potensi kerugian di pengaturan perusahaan tetap menjadi titik fokus pengawasan.