ChatGPT telah menjadi salah satu topik paling hangat di seluruh dunia. Sistem AI sedemikian dirujuk sebagai 'Generative AI', yang boleh menjana teks, imej, suara, media, kod dan bahan lain sebagai tindak balas kepada perkara yang telah diimport atau diperlukan oleh pengguna, berdasarkan algoritma, model dan peraturan. AI Generatif boleh digunakan dalam pelbagai senario dan menggalakkan revolusi beberapa industri, dan dengan itu ia telah membangkitkan banyak perhatian. Sebagai tindak balas kepada pembangunan AI Generatif, Pentadbiran Ruang Siber China (selepas ini "CAC") mengeluarkan Cadangan Langkah Pentadbiran untuk Perkhidmatan Generatif AI (Draf untuk Komen Awam) [1](“生成式人工智能服务管理办法(征求意见稿)”, selepas ini “Draf Langkah Pentadbiran”) pada 11 Apr. 2023.
1. Sorotan
Draf Langkah Pentadbiran terdiri daripada 21 Artikel, merangkumi perkara utama di bawah.
1) Skop Permohonan: Bidang Kuasa Luar Wilayah
Draf Langkah Pentadbiran ini terpakai kepada sesiapa sahaja yang membuat inovasi atau menggunakan AI Generatif dan menyediakan perkhidmatan di China (Penyedia) (Art 2). Ini bermakna Draf Langkah Pentadbiran akan mempunyai kesan luar wilayah. Kesan luar wilayah tersebut adalah berdasarkan doktrin kesan dan doktrin wilayah objektif. Di satu pihak, kandungan yang dijana oleh Generative AI boleh menjejaskan susunan sosial atau hubungan lain di China, oleh itu mempunyai kesan di China. Sebaliknya, AI Generatif akan digunakan oleh pengguna di wilayah tersebut, operasi AI Generatif yang terletak di wilayah tersebut, yang menyediakan asas doktrin wilayah objektif.
2) Kewajipan Penyedia
Penyedia akan mengambil tanggungjawab berikut menurut Draf Langkah Pentadbiran.
(1) Kandungan
Penyedia harus bertanggungjawab terhadap kandungan yang dihasilkan oleh AI. Kandungan hendaklah sah, tepat dan sahih. Ia tidak sepatutnya berunsur fitnah, diskriminasi, palsu, anti-sosial, anti-kerajaan, anti-nasional, keganasan, melampau, ganas, lucah dan mengganggu ketenteraman ekonomi dan sosial. Pembekal harus memadamkan kandungan yang tidak sesuai secara aktif atau atas permintaan pengguna dan menambah baik atau mengoptimumkan AI.
(2) Kegunaan
Pertama, Penyedia hendaklah mematuhi etika perniagaan dan tidak seharusnya menjalankan perlakuan persaingan yang tidak adil. Kedua, Pembekal tidak seharusnya menceroboh hak orang lain, termasuk harta intelek, maklumat peribadi, privasi dan rahsia perdagangan. Ketiga, Pembekal tidak seharusnya menjana kandungan secara diskriminasi.
(3) Inovasi
Draf Langkah Pentadbiran juga menyediakan keperluan untuk inovasi AI Generatif. Pembekal hendaklah menggubal arahan yang jelas, khusus dan boleh dikendalikan untuk Penyumbang, melatih Penyumbang dan memastikan ketepatan kandungan sebaik sahaja anotasi tiruan diperlukan.
(4) Kerjasama dengan Pentadbiran
Penyedia harus bekerjasama secara aktif dengan pentadbiran yang diperlukan oleh peraturan atau ejen pentadbiran. Pertama, Pembekal harus mendaftarkan Generatif AI atau melaporkan untuk penilaian keselamatan mengikut peraturan berkaitan perkhidmatan Internet. Kedua, Pembekal harus menandakan imej dan video yang dijana mengikut Peraturan mengenai Perkhidmatan Deepfake.[2] Ketiga, Pembekal harus menyediakan maklumat penting yang boleh menjejaskan pilihan pengguna atas permintaan ejen pentadbiran.
(5) Pengurusan Pengguna
Pembekal harus mengurus pengguna Generatif AI. Pertama, Pembekal harus meminta pengguna memberikan maklumat identiti mereka. Kedua, Pembekal harus menyatakan dan menghebahkan sasaran perkhidmatan mereka dan mengambil langkah untuk mengelakkan pengguna daripada ketagih dengan kandungan yang disediakan oleh AI. Ketiga, Pembekal harus mengarahkan pengguna untuk menggunakan kandungan generatif dengan sewajarnya dan melarang pengguna buat sementara waktu atau selama-lamanya jika mereka menggunakan AI secara haram atau tidak bermoral.
2. Comments
1) Kesan Positif
Draf Langkah Pentadbiran ialah tindak balas pantas dari China terhadap trend AI Generatif. Ia berfungsi sebagai tambahan penting kepada rangka kerja pengawalseliaan AI. Ia mempunyai beberapa kesan positif. Pertama, ia merangkumi kebanyakan isu undang-undang yang dibawa oleh Generative AI, termasuk atribusi liabiliti AI, ancaman terhadap harta intelek, kandungan berbahaya, persaingan tidak adil dan pelanggaran privasi, dsb. Selain itu, ia menyediakan pengawasan seumur hidup terhadap AI Generatif, daripada inovasi kepada penggunaan. Kedua, Artikel 3 Draf Langkah Pentadbiran telah menunjukkan sikap menyokong China terhadap pembangunan AI dengan mengisytiharkan bahawa kerajaan akan menyokong dan menggalakkan inovasi, aplikasi dan kerjasama antarabangsa AI. Ketiga, Draf Langkah Pentadbiran berfungsi sebagai bahagian penting dalam rangka kerja kawal selia tipologi AI, yang terdiri daripada beberapa peraturan yang tertumpu pada kategori AI yang berbeza.
2) Status Undang-undang
Draf Langkah Pentadbiran bukanlah undang-undang, kerana ia dikeluarkan oleh CAC, an
Pejabat Pentadbiran di bawah Majlis Negeri. Menurut Undang-undang Perundangan China, undang-undang hanya boleh digubal oleh Kongres Rakyat Kebangsaan. Oleh itu, CAC hanya boleh mengeluarkan peraturan pentadbiran atau dokumen normatif, yang berada pada hierarki yang lebih rendah dalam sistem hierarki perundangan China dan tidak boleh bercanggah dengan undang-undang. Walau bagaimanapun, status undang-undang sedemikian telah memastikan fleksibiliti dan kecekapan sedikit sebanyak. Di satu pihak, berbanding dengan undang-undang, keperluan untuk menggubal atau meminda peraturan pentadbiran atau dokumen normatif adalah kurang ketat. Sebaliknya, Semua ejen pentadbiran boleh mengeluarkan dokumen kawal selia dalam kuasa pentadbiran mereka sendiri apabila mereka menganggapnya perlu, yang memastikan tindak balas yang cepat terhadap keperluan untuk peraturan.
3) Risiko
Perlu diingatkan bahawa mungkin terdapat beberapa risiko lain yang dibawa oleh Draf Langkah Pentadbiran. Walaupun Perkara 3 mengisytiharkan sikap menyokong kerajaan, perlu diakui bahawa Pentadbiran telah meningkatkan beban Pembekal Generatif AI dengan ketara. Teknologi Generatif AI masih jauh dari matang. Oleh itu, adalah diragui sama ada Penyedia berkebolehan untuk mematuhi semua kewajipan yang disediakan oleh Draf Langkah Pentadbiran, atau sekurang-kurangnya ia akan meningkatkan kos pematuhan. Sebagai contoh, Draf Langkah Pentadbiran menggesa Penyedia untuk mencegah kandungan palsu. Walau bagaimanapun, secara teknikalnya, kandungannya hampir tidak boleh 100% tulen pada peringkat sekarang. Ia mungkin memerlukan kos yang tinggi bagi Pembekal untuk mematuhi kewajipan sedemikian. Sehubungan itu, beban pematuhan yang tinggi mungkin menjadi penghalang kepada pembangunan dan inovasi Generatif AI sedikit sebanyak.
Sebagai kesimpulan, Draf Langkah Pentadbiran mencerminkan sikap positif China terhadap mengawal selia AI. Ia telah meletakkan keperluan pematuhan yang agak tinggi ke atas entiti yang berhasrat untuk menyediakan perkhidmatan Generatif AI. Sikap ini menyumbang kepada pembangunan AI Generatif yang sihat, walaupun mungkin terdapat kebimbangan tentang kos pematuhan yang tinggi. Secara keseluruhannya, kesan Draf Langkah Pentadbiran masih wajar diperhatikan.
[1] Lihat http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[2] Pentadbiran Ruang Siber China, Kementerian Perindustrian dan Teknologi Maklumat China dan Kementerian Keselamatan Awam China, Peraturan mengenai Perkhidmatan Deepfake, Peraturan No. 12.
Foto sampul oleh Kumpulan Nebular pada Unsplash
Penyumbang: Jidong Lin 林济东