Satu dorongan kontroversi oleh ahli perundang-undangan Kesatuan Eropah untuk secara sah memerlukan platform pesanan untuk mengimbas komunikasi peribadi warga untuk bahan penyalahgunaan seksual kanak-kanak (CSAM) boleh menghasilkan jutaan positif palsu setiap hari, ratusan pakar keselamatan dan privasi memperingatkan dalam surat terbuka pada Khamis.

Keberimbangan ke atas cadangan EU telah meningkat sejak Komisi mencadangkan rancangan pengimbasan CSAM dua tahun lalu - dengan pakar-pakar bebas, ahli perundang-undangan di seluruh Parlimen Eropah dan penyelia Perlindungan Data negara itu sendiri antara mereka yang memperingatkan.

Cadangan EU tidak hanya akan memerlukan platform pesanan yang menerima arahan pengesanan CSAM untuk mengimbas CSAM yang diketahui, tetapi mereka juga akan terpaksa menggunakan teknologi pengimbasan imbasan yang tidak ditentukan untuk mencuba memperoleh CSAM yang tidak diketahui dan mengenal pasti aktiviti grooming semasa ia berlaku - mengakibatkan tuduhan anggota perundang-undangan terhadap tingkat technosolutionisme berjuang dengan teknologi ajaib.

Kritikus berhujah cadangan tersebut meminta kemungkinan teknologi dan tidak akan mencapai tujuan yang dinyatakan untuk melindungi kanak-kanak daripada penderaan. Sebaliknya, kata mereka, ia akan menimbulkan kerosakan pada keselamatan internet dan privasi pengguna web dengan memaksa platform untuk melaksanakan pengawasan meluas terhadap semua pengguna mereka dengan menggunakan teknologi yang berisiko dan belum terbukti, seperti pengimbasan pihak pelanggan.

Pakar berkata tidak ada teknologi yang mampu mencapai apa yang dikejarkan undang-undang tanpa menimbulkan lebih banyak kerosakan daripada kebaikan. Namun, EU terus maju tanpa menghiraukan.

Pengawas EU mempersoalkan kerahsiaan sekitar cadangan pemindai CSAM pecahan enkripsi yang diusulkan oleh ahli perundang-undangan

Surat terbuka terkini membincangkan pindaan kepada peraturan pengimbasan CSAM yang dicadangkan baru-baru ini oleh Majlis Eropah, yang pihak bertandatangan berhujah gagal menangani kelemahan asas pelan itu.

Pihak yang menandatangani surat - berjumlah 270 pada masa penulisan - termasuk ratusan ahli akademik, termasuk pakar keselamatan terkenal seperti profesor Bruce Schneier dari Harvard Kennedy School dan Dr. Matthew D. Green dari Universiti Johns Hopkins, bersama dengan segelintir penyelidik yang bekerja untuk syarikat teknologi seperti IBM, Intel dan Microsoft.

Surat terbuka sebelumnya (Julai lepas), yang ditandatangani oleh 465 ahli akademik, memperingatkan bahawa teknologi-teknologi pengesanan yang bergantung kepada cadangan undang-undang itu dipaksa untuk mengadaptasi adalah 'sangat bermasalah dan rentan terhadap serangan' dan akan menyebabkan perlemahan yang ketara terhadap perlindungan penting yang disediakan oleh komunikasi enjutan hujung-ke-hujung (E2EE).

Sedikit daya tarik bagi cadangan balas

Pada musim luruh lalu, ahli-ahli Parlimen Eropah bersatu untuk menentang dengan pendekatan yang telah diperkemas dengan sangat - yang akan mengehadkan pengimbasan kepada individu dan kumpulan yang sudah disyaki melakukan penyalahgunaan seksual kanak-kanak; mengehadkannya kepada CSAM yang diketahui dan tidak diketahui, menghapuskan keperluan untuk mengimbas grooming; dan menghapuskan sebarang risiko terhadap E2EE dengan menghadkannya kepada platform yang tidak dihujung-ke-hujung-enkripsi. Tetapi Majlis Eropah, badan co-legislatif lain yang terlibat dalam perundang-undangan EU, belum mengambil sikap dalam perkara ini, dan di mana ia akan mendarat akan mempengaruhi bentuk akhir undang-undang itu.

Pindaan terkini yang dibangkitkan oleh kepemimpinan Majlis Belgium pada Mac, yang sedang mengadakan perbincangan bagi pihak wakil kerajaan negara-negara anggota EU. Tetapi dalam surat terbuka para pakar tersebut memperingatkan bahawa cadangan ini masih gagal menangani kelemahan asas yang melekat dalam pendekatan Komisi, berhujah bahawa pindaan-pindaan masih mencipta 'keupayaan yang belum pernah terjadi sebelumnya bagi pengawasan dan kawalan pengguna Internet' dan akan 'merosakkan... masa hadapan digital yang selamat untuk masyarakat kita dan boleh mempunyai kesan besar pada proses demokratik di Eropah dan di luar negara itu'.

Temperings yang dibincangkan dalam cadangan Majlis yang dipinda termasuk cadangan bahawa arahan pengesanan boleh lebih tertumpu dengan menerapkan kategorisasi risiko dan langkah-langkah mitigasi risiko, dan keselamatan siber dan enkripsi boleh dilindungi dengan memastikan platform tidak diwajibkan membentuk akses kepada data yang didekripsikan dan dengan mempunyai teknologi pengesanan disahkan. Tetapi 270 pakar tersebut mencadangkan bahawa ini sama seperti mengacuhkan masalah keatas bencana keselamatan dan privasi.

Dari segi teknikal, bagi berkesan, pindaan baru ini juga sepenuhnya akan mengorbankan keselamatan komunikasi dan sistem,” mereka memperingatkan. Sementara bergantung pada teknologi pengesanan “yang bermasalah” untuk menentukan kes-kes yang menarik bagi arahan pengesanan yang lebih tertumpu tidak akan mengurangkan risiko undang-undang memperkenalkan zaman 'pengawasan meluas' mesej pengguna web, menurut analisis mereka.

Surat terbuka juga membincangkan cadangan oleh Majlis untuk menghadkan arahan pengesanan kepada aplikasi pesanan yang dianggap “berisiko tinggi” adalah revisi yang tidak berguna, menurut pandangan pihak yang menandatangani, kerana mereka berhujah kemungkinan tetap akan “secara meluas mempengaruhi sejumlah besar orang.” Di sini mereka menunjukkan bahawa hanya ciri-ciri standard, seperti berkongsi imej dan perbualan teks, diperlukan untuk pertukaran CSAM - ciri-ciri yang disokong secara meluas oleh banyak pembekal perkhidmatan, bermakna kategorisasi risiko yang tinggi akan 'tanpa disangsikan akan memberi kesan kepada banyak perkhidmatan.'

Mereka juga menunjukkan bahawa penggunaan E2EE semakin meningkat, yang mereka ramalkan akan menambah kebarangkalian perkhidmatan yang memperkenalkan E2EE dianggap sebagai risiko tinggi. “Nombor ini mungkin akan meningkat dengan keperluan interoperabiliti yang diperkenalkan oleh Akta Pasaran Digital yang akan menghasilkan mesej-mesej yang mengalir antara perkhidmatan berisiko rendah dan berisiko tinggi. Akibatnya, hampir semua perkhidmatan boleh diklasifikasikan sebagai risiko tinggi,” mereka berhujah. (NB: Interoperabiliti mesej adalah asas penting bagi DMA EU.)

Satu pintu belakang untuk pintu belakang

Berkenaan menjaga enkripsi, surat tersebut mengulangi mesej yang telah sering diteriakkan oleh pakar keselamatan dan privasi kepada ahli perundang-undangan selama bertahun-tahun ini: “Pengesanan dalam perkhidmatan hujung-ke-hujung dengan definisi merosakkan perlindungan enkripsi.”

“Cadangan baru ini mempunyai salah satu matlamatnya untuk 'melindungi keselamatan siber dan data yang dienkripsi, sambil memastikan perkhidmatan menggunakan enkripsi hujung-ke-hujung di bawah skop arahan pengesanan.' Seperti yang kami jelaskan sebelum ini, ini adalah bertentangan,” mereka menekankan. “Perlindungan yang diberikan oleh enkripsi hujung-ke-hujung bermaksud bahawa tiada sesiapa selain penerima yang diinginkan dari komunikasi itu harus dapat mengetahui apa-apa maklumat tentang kandungan komunikasi tersebut. Membolehkan kemampuan pengesanan, sama ada untuk data yang dienkripsi atau untuk data sebelum ia dienkripsi, melanggar definisi kerahsiaan yang diberikan oleh enkripsi hujung-ke-hujung.”

Baru-baru ini, ketua polis di seluruh Eropah telah menulis kenyataan bersama mereka sendiri - menimbulkan kebimbangan tentang perluasan E2EE dan menyeru platform untuk merancang sistem keselamatan mereka dengan cara yang membolehkan mereka masih mengenal pasti aktiviti haram dan menghantar laporan tentang kandungan mesej kepada pihak berkuasa.

Campur tangan ini secara meluas dilihat sebagai cubaan untuk mengenakan tekanan ke atas ahli perundang-undangan supaya meluluskan undang-undang seperti peraturan pengimbasan CSAM.

Pegawai polis menafikan mereka meminta enkripsi untuk dibuka tetapi mereka belum menjelaskan tepatnya penyelesaian teknikal apa yang mereka mahu platform mengadaptasi untuk membolehkan 'akses yang sah' yang dicari. Menjodohkan lingkaran itu meletakkan bola yang sangat berbentuk tidak rata kembali kepada ahli perundang-undangan.

Jika EU meneruskan jalan sekarang - jadi mengandaikan Majlis gagal mengubah haluan, seperti yang diminta oleh ahli Parlimen - akibatnya akan 'catastrophic,' pihak yang menandatangani surat tersebut melanjutkan untuk memperingatkan. “Ia membuka galeri untuk menyaring Internet, dan mencegah orang daripada menggunakan beberapa alatan yang terhad yang ada untuk melindungi hak mereka untuk memiliki kehidupan peribadi dalam ruang digital; ia akan memberikan kesan pengecilan, khususnya kepada remaja yang banyak bergantung pada perkhidmatan dalam talian untuk interaksi mereka. Ia akan mengubah bagaimana perkhidmatan digital digunakan di seluruh dunia dan kemungkinan akan memberikan kesan negatif terhadap demokrasi di seluruh dunia.”

Sumber EU berdekatan dengan Majlis tidak dapat menyediakan pandangan tentang perbincangan semasa antara Negeri-Negeri Ahli tetapi mencatat bahawa terdapat satu pertemuan kumpulan kerja pada 8 Mei di mana mereka mengesahkan cadangan untuk mengawal peraturan bagi menangani penyalahgunaan seksual kanak-kanak.

Rancangan pengimbasan CSAM Eropah adalah titik pangkah bagi hak demokratik, pakar memperingatkan

Ketua polis Eropah sasarkan E2EE dalam permintaan terbaru untuk 'akses yang sah'