Pemerhati Keadilan China

中司观察

EnglishArabicChinese (Simplified)DutchFrenchGermanHindiItaliJapaneseKoreanPortugueseRussiaSpanyolSwedishBahasa IbraniIndonesianVietnamThaiTurkiMalay

Bagaimanakah China Menangani Akauntabiliti Platform dalam Pembuatan Keputusan Algoritma?

Ahad, 28 Nov 2021
kategori: Insights

avatar

 

Pengambilan kunci:

  • Penggubal undang-undang China telah menyedari peranan utama algoritma dalam pengendalian platform internet, dan mentakrifkannya sebagai "pembuatan keputusan automatik" dalam Undang-undang Perlindungan Maklumat Peribadi (PIPL) yang digubal pada 20 Ogos 2021, yang mengawal selia teknologi ini buat kali pertama.
  • Di bawah PIPL, platform hendaklah menilai kesan algoritma terlebih dahulu, dan bertanggungjawab ke atas keputusan membuat keputusan selepas itu.
  • PIPL memperluaskan hak untuk mengetahui pengguna platform, dan memerlukan platform untuk memecahkan "kepompong maklumat" yang dicipta oleh pengesyoran diperibadikan algoritma kepada pengguna.


Undang-undang Perlindungan Maklumat Peribadi China (个人信息保护法), yang digubal pada Ogos 2021, menarik sempadan untuk platform Internet yang menjalankan pembuatan keputusan automatik melalui algoritma.

Ⅰ. Latar belakang

Platform Internet Cina, biasanya TopBuzz dan TikTok dari ByteDance, secara meluas menggunakan algoritma pengesyoran untuk menolak kandungan dan produk kepada pengguna mereka.

Walau bagaimanapun, algoritma sedemikian, yang didakwa telah mengganggu hak pengguna untuk membuat keputusan bebas dan dengan itu mewujudkan bahaya moral, dipersoalkan oleh orang ramai dan pengawal selia.

Penggubal undang-undang China telah menyedari peranan utama algoritma dalam operasi platform sedemikian, dan mentakrifkannya sebagai "pembuat keputusan automatik" dalam Undang-undang Perlindungan Maklumat Peribadi (selepas ini 'PIPL') yang digubal pada 20 Ogos 2021, mengawal selia teknologi ini untuk kali pertama.

Selaras dengan PIPL, pembuatan keputusan automatik merujuk kepada aktiviti menganalisis dan menilai secara automatik tabiat tingkah laku, hobi, atau kewangan, kesihatan dan status kredit individu melalui program komputer dan membuat keputusan mengenainya. (Perkara 73)

Sebelum itu, terdapat perbezaan pendapat mengenai liabiliti platform untuk membuat keputusan automatik. Sebagai contoh, sesetengah orang percaya bahawa platform tidak sepatutnya bertanggungjawab terhadap hasil algoritma membuat keputusan automatik mereka, yang pada asasnya adalah sejenis teknologi neutral. Bagaimanapun, PIPL menjelaskan sebaliknya.

Ⅱ. Sekatan pada platform

1. Pengawal selia menyemak algoritma secara langsung

Sebagai pemproses maklumat peribadi, platform hendaklah mengaudit pematuhan pemprosesan maklumat peribadi mereka dengan undang-undang dan peraturan pentadbiran secara tetap. (Perkara 54)

Ini memerlukan platform untuk mengaudit secara berkala untuk membuat keputusan automatik algoritma mereka dan aktiviti pemprosesan maklumat lain.

Mengikut peraturan itu, pengawal selia juga boleh menjalankan audit dalaman ke atas operasi algoritma platform, bukannya penyeliaan luaran ke atas tindakan platform dan akibatnya sahaja.

Sehubungan itu, pengawal selia menjadikan algoritma sebagai objek pengawalseliaan langsung, yang membolehkan pengawal selia campur tangan dalam teknologi dan butiran pembuatan keputusan automatik.

2. Platform menilai kesan algoritma terlebih dahulu 

Sebagai pemproses maklumat peribadi, platform hendaklah menjalankan penilaian kesan perlindungan maklumat peribadi terlebih dahulu dan merekodkan maklumat pemprosesan jika mereka menggunakan maklumat peribadi untuk membuat keputusan automatik. (Perkara 55)

Penilaian mengikut platform hendaklah meliputi perkara berikut:

A. Sama ada tujuan, kaedah atau mana-mana aspek lain pemprosesan maklumat peribadi adalah sah, sah dan perlu;

B. Kesan ke atas hak dan kepentingan peribadi serta tahap risiko; dan

C. Sama ada langkah perlindungan keselamatan yang diambil adalah sah, berkesan dan setara dengan tahap risiko.

Sehubungan itu, platform hendaklah menjalankan penilaian awal sebelum algoritma membuat keputusan automatik disiarkan secara langsung. Penilaian risiko termasuk kesahihan dan keperluan pembuatan keputusan automatik algoritma, serta kesan dan risikonya.

Pembuatan keputusan automatik algoritma yang rosak daripada platform boleh membawa kemudaratan kepada harta rakyat dan hak peribadi, malah kepada kepentingan awam dan keselamatan negara.

Oleh itu, akibat negatif boleh memberi kesan kepada beribu-ribu pengguna. Pada ketika itu, walaupun platform dipertanggungjawabkan, mungkin sukar untuk memulihkan kerosakan yang telah dilakukan.

Untuk mengelakkan situasi sedemikian, undang-undang menetapkan sistem penilaian awal untuk algoritma platform dalam usaha untuk campur tangan dalam algoritma terlebih dahulu.

3. Platform bertanggungjawab ke atas keputusan membuat keputusan selepas itu

Platform hendaklah memikul kewajipan berikut untuk keputusan membuat keputusan automatik (Perkara 24):

A. Platform hendaklah memastikan bahawa keputusan adalah adil dan saksama

Jika pemproses maklumat peribadi menjalankan pembuatan keputusan automatik dengan maklumat peribadi, mereka hendaklah memastikan ketelusan dalam membuat keputusan dan keadilan dan kesaksamaan keputusan, dan tidak akan memberikan layanan pembezaan yang tidak munasabah kepada individu dari segi harga transaksi atau syarat transaksi lain.

B. Platform hendaklah menyediakan pilihan membuat keputusan automatik yang tidak menyasarkan ciri peribadi kepada pengguna mereka.

Di mana penyampaian maklumat berasaskan dorongan atau pemasaran komersial kepada individu dijalankan dengan cara membuat keputusan automatik, pilihan yang tidak menyasarkan ciri peribadi individu atau cara mudah untuk menolak menerima akan diberikan kepada individu secara serentak.

C. Platform hendaklah membuat penjelasan tentang keputusan membuat keputusan.

Jika keputusan yang mempunyai kesan material terhadap hak dan kepentingan individu dibuat dengan cara membuat keputusan automatik, individu itu berhak meminta pemproses maklumat peribadi untuk membuat penjelasan, serta hak untuk menolak pembuatan keputusan oleh pemproses maklumat peribadi semata-mata dengan cara membuat keputusan automatik.

Peraturan ini memegang platform yang bertanggungjawab terhadap keputusan membuat keputusan automatik, termasuk:

A. Peraturan itu tidak mengiktiraf pertahanan "neutraliti teknologi" yang telah digunakan oleh platform. Platform harus bertanggungjawab terhadap keputusan pembuatan keputusan automatik algoritma dan harus memastikan bahawa keputusan adalah adil dan munasabah.

B. Peraturan memperluaskan hak untuk mengetahui pengguna platform. Pengguna boleh meminta ketelusan keputusan membuat keputusan automatik serta penjelasan daripada platform sekiranya "kesan material".

C. Peraturan tersebut memerlukan platform untuk memecahkan "kepompong maklumat" yang dicipta oleh pengesyoran diperibadikan algoritma kepada pengguna, dan memerlukan platform untuk melindungi hak pengguna untuk mengetahui.

III. Komen Kami

China telah membuat satu kejayaan dalam PIPL dengan menambahkan peraturan undang-undang untuk algoritma platform membuat keputusan automatik. Namun, ia masih perlu diperhalusi lagi. Sebagai contoh, undang-undang tidak menjelaskan:

A. syarat untuk platform memulakan penilaian algoritma.

B. sama ada dan sejauh mana laporan penilaian akan didedahkan kepada umum selepas platform menilai algoritma mereka, dan 

C. bagaimana platform harus bertanggungjawab terhadap kerosakan yang disebabkan oleh pembuatan keputusan automatik algoritma mereka.

Saya menganggap bahawa pengawal selia China masih meneroka kemungkinan menggubal satu siri peraturan khusus untuk melaksanakan PIPL selanjutnya.

 

Gambar oleh Perjalanan Darat dengan Raj on Unsplash

 

 

 

 

 

Penyumbang: Guodong Du 杜国栋

Simpan sebagai PDF

Undang-undang berkaitan Portal Undang-undang China

Anda mungkin juga berminat

Kajian Kes: Hukuman Pentadbiran Pengecaman Muka

Kajian terhadap lebih 400 kes hukuman pentadbiran menjelaskan sikap semasa kerajaan China terhadap pengecaman muka dan menyediakan senario untuk menilai cara Undang-undang Perlindungan Maklumat Peribadi China akan digunakan sekiranya kes itu berlaku hari ini.

Apa Kata Undang-Undang Bantuan Guaman China?

Apakah tugas peguam? Siapa yang akan berkhidmat sebagai pegawai bantuan undang-undang? Apakah jenis perkhidmatan undang-undang yang boleh diberikan? Inilah soalan utama yang harus dijawab untuk mengetahui Undang-Undang Bantuan Guaman China.

Undang-undang Keselamatan Kerja China (2021)

Undang-undang Keselamatan Kerja (安全 生产 法) diundangkan pada 29 Juni 2002, dan masing-masing diubah pada tahun 2009, 2014, dan 2021. Semakan terbaru mula berkuat kuasa pada 1 September 2021.

Ketentuan mengenai Beberapa Masalah Mengenai Penerapan Undang-Undang dalam Perbicaraan Kes Sipil yang Melibatkan Penggunaan Teknologi Pengakuan Wajah untuk Memproses Maklumat Peribadi (2021)

Peruntukan Mahkamah Agung Terhadap Beberapa Masalah Mengenai Penerapan Undang-Undang dalam Perbicaraan Kes Sivil yang Melibatkan Penggunaan Teknologi Pengecaman Muka untuk Memproses Maklumat Peribadi (最高人民法院 关于 审理 使用 人脸识别 技术 个人 信息 信息 相关 民事案件 适用 法律若干 问题 的 规定) diundangkan pada 27 Julai 2021, dan mula berkuat kuasa pada 1 Ogos 2021.