AI di India memerlukan izin pemerintah sebelum diluncurkan
Dalam sebuah peringatan yang dikeluarkan oleh Kementerian Elektronika dan Teknologi Informasi (MeitY) India pada Jumat lalu, dinyatakan bahwa setiap teknologi AI yang masih dalam pengembangan harus mendapatkan izin eksplisit dari pemerintah sebelum dirilis ke publik.
Pengembang juga hanya dapat menerapkan teknologi ini setelah memberi label pada potensi kesalahan atau ketidakandalan keluaran yang dihasilkan.
Selain itu, dokumen tersebut menguraikan rencana penerapan mekanisme “popup persetujuan” untuk memberi tahu pengguna tentang potensi cacat atau kesalahan yang dihasilkan oleh AI. Perjanjian ini juga mewajibkan pelabelan deepfake dengan metadata unik permanen atau pengidentifikasi lainnya untuk mencegah penyalahgunaan.
Selain langkah-langkah ini, imbauan ini memerintahkan semua perantara atau platform untuk memastikan bahwa produk model AI apa pun – termasuk model bahasa besar (LLM) – tidak mengizinkan bias, diskriminasi, atau mengancam integritas proses pemilu.
Beberapa tokoh industri mengkritik rencana India karena bertindak terlalu jauh:
Baca Juga:
Pengembang diminta untuk mematuhi imbauan tersebut dalam waktu 15 hari setelah dikeluarkan. Disarankan bahwa setelah kepatuhan dan permohonan izin untuk merilis suatu produk, pengembang mungkin diminta untuk melakukan demo untuk pejabat pemerintah atau menjalani stress test.
Meskipun nasihat tersebut tidak mengikat secara hukum saat ini, hal ini mencerminkan harapan pemerintah dan petunjuk mengenai arah regulasi sektor AI di masa depan.
“Kami melakukannya hari ini sebagai nasihat yang meminta Anda (platform AI) untuk mematuhinya,” kata Menteri TI Rajeev Chandrasekhar. Dia menambahkan bahwa sikap ini pada akhirnya akan dituangkan dalam undang-undang.
“AI generatif atau platform AI yang tersedia di internet harus bertanggung jawab penuh atas apa yang dilakukan platform tersebut, dan tidak bisa lepas dari akuntabilitas dengan mengatakan bahwa platform mereka sedang dalam pengujian,” lanjut Chandrasekhar, seperti dilansir media lokal.
(Foto oleh Naveed Ahmed di Unsplash)
Artikel Terkait
