Badan privasi UE mempertimbangkan beberapa pertanyaan rumit tentang keabsahan GenAI

Dewan Perlindungan Data Eropa (EDPB) menerbitkan sebuah pendapat pada hari Rabu yang mengeksplorasi bagaimana pengembang AI dapat menggunakan data pribadi untuk mengembangkan dan menerapkan model AI, seperti model bahasa besar (LLM), tanpa melanggar undang-undang privasi blok tersebut. Dewan memainkan peran penting sebagai pengarah dalam penerapan undang-undang ini, dengan mengeluarkan panduan yang mendukung penegakan peraturan, sehingga pandangannya menjadi penting.

Bidang-bidang yang dicakup oleh opini EDPB meliputi apakah model AI dapat dianggap anonim (yang berarti undang-undang privasi tidak berlaku); apakah dasar hukum “kepentingan yang sah” dapat digunakan karena memproses data pribadi secara sah untuk pengembangan dan penerapan model AI (yang berarti persetujuan individu tidak perlu diminta); Dan apakah model AI yang dikembangkan dengan data yang diproses secara tidak sah selanjutnya dapat diterapkan secara sah.

Pertanyaan tentang dasar hukum apa yang mungkin sesuai bagi model AI untuk memastikan model tersebut mematuhi Peraturan Perlindungan Data Umum (GDPR), khususnya, masih menjadi pertanyaan yang hangat dan terbuka. Kami telah melihat OpenAI ChatGPT masuk ke air panas Di Sini. Dan kegagalan untuk mematuhi aturan privasi dapat mengakibatkan denda hingga 4% dari omset tahunan global dan/atau perintah untuk mengubah cara kerja alat AI.

Hampir setahun yang lalu, otoritas perlindungan data Italia mengeluarkan temuan awal bahwa chatbot OpenAI melanggar GDPR. Sejak itu, keluhan lain telah diajukan terhadap teknologi tersebut, termasuk di Polandia Dan Austriamenyasar aspek-aspek seperti dasar hukum pemrosesan data masyarakat, kecenderungan mengarang informasi, dan ketidakmampuan mengoreksi pernyataan yang salah terhadap individu.

GDPR berisi aturan tentang bagaimana data pribadi dapat diproses secara sah dan serangkaian hak akses data untuk individu — termasuk kemampuan untuk meminta salinan data yang disimpan tentang mereka; menghapus data tentang mereka; dan memperbaiki informasi yang salah tentang mereka. Namun untuk mengarang chatbot AI (atau “berhalusinasi”, sebagaimana dibingkai oleh industri), ini bukanlah pertanyaan sepele.

Namun meskipun alat AI generatif dengan cepat menghadapi banyak keluhan GDPR, namun – sejauh ini – penegakan hukumnya jauh lebih sedikit. Otoritas perlindungan data UE jelas sedang bergulat dengan cara menerapkan aturan perlindungan data yang sudah lama ada pada teknologi yang menuntut begitu banyak data untuk pelatihan. Pendapat EDPB dimaksudkan untuk membantu badan pengawas dalam pengambilan keputusan.

Menanggapi pernyataan tersebut, Komisi Perlindungan Data (DPC) Irlandia, regulator yang meminta pandangan Dewan mengenai bidang-bidang yang ditangani opini tersebut – dan pengawas yang akan memimpin pengawasan GDPR terhadap OpenAI berikut ini peralihan hukum akhir tahun lalu — menyatakan pendapat EDPB akan “memungkinkan regulasi yang proaktif, efektif dan konsisten” terhadap model AI di seluruh wilayah.

“Hal ini juga akan mendukung keterlibatan DPC dengan perusahaan-perusahaan yang mengembangkan model AI baru sebelum diluncurkan di pasar UE, serta penanganan banyak keluhan terkait AI yang telah diajukan ke DPC,” tambah komisaris Dale Sunderland.

Selain memberikan petunjuk kepada regulator tentang cara mendekati AI generatif, pendapat tersebut juga memberikan beberapa arahan kepada pengembang tentang bagaimana regulator privasi dapat melanggar isu-isu penting seperti keabsahan. Namun pesan utama yang harus mereka ambil adalah bahwa tidak akan ada solusi universal terhadap ketidakpastian hukum yang mereka hadapi.

Anonimitas model

Misalnya, mengenai pertanyaan tentang anonimitas model – yang Dewan definisikan sebagai model AI yang “sangat tidak mungkin” untuk “secara langsung atau tidak langsung mengidentifikasi individu yang datanya digunakan untuk membuat model” dan sangat tidak mungkin untuk memungkinkan pengguna untuk mengekstrak data tersebut dari model melalui kueri yang cepat — pendapat tersebut menekankan bahwa hal ini harus dinilai “berdasarkan kasus per kasus”.

Dokumen tersebut juga memberikan apa yang Dewan sebut sebagai “daftar non-preskriptif dan tidak lengkap” mengenai metode yang memungkinkan pengembang model menunjukkan anonimitas, seperti melalui pemilihan sumber untuk data pelatihan yang berisi langkah-langkah untuk menghindari atau membatasi pengumpulan data pribadi (termasuk dengan tidak termasuk sumber yang “tidak pantas”); langkah-langkah minimalisasi dan pemfilteran data pada tahap persiapan data pra-pelatihan; membuat “pilihan metodologis” yang kuat yang “dapat secara signifikan mengurangi atau menghilangkan” risiko identifikasi, seperti memilih “metode regularisasi” yang bertujuan untuk meningkatkan generalisasi model dan mengurangi overfitting, dan menerapkan teknik yang menjaga privasi seperti privasi diferensial; serta tindakan apa pun yang ditambahkan ke model yang dapat menurunkan risiko pengguna memperoleh data pribadi dari data pelatihan melalui kueri.

Hal ini menunjukkan bahwa berbagai pilihan desain dan pengembangan yang dibuat oleh pengembang AI dapat memengaruhi penilaian peraturan mengenai sejauh mana GDPR diterapkan pada model tertentu. Hanya data yang benar-benar anonim, di mana tidak ada risiko identifikasi ulang, yang berada di luar cakupan peraturan – tetapi dalam konteks model AI, batasannya ditetapkan pada risiko mengidentifikasi individu atau data mereka pada “sangat tidak mungkin”.

Sebelum pendapat EDPB, sudah ada beberapa perdebatan di antara otoritas perlindungan data mengenai anonimitas model AI – termasuk saran bahwa model tidak akan pernah bisa menjadi data pribadi – tetapi Dewan dengan jelas menyatakan bahwa anonimitas model AI adalah hal yang tidak dapat dibenarkan. bukan yang diberikan. Penilaian kasus per kasus diperlukan.

Kepentingan yang sah

Pendapat tersebut juga mempertimbangkan apakah dasar hukum kepentingan yang sah dapat digunakan untuk pengembangan dan penerapan AI. Hal ini penting karena hanya ada sedikit dasar hukum yang tersedia dalam GDPR, dan sebagian besar tidak sesuai untuk AI — seperti yang telah ditemukan oleh OpenAI melalui penegakan DPA Italia.

Kepentingan yang sah kemungkinan besar akan menjadi dasar pilihan bagi pengembang AI untuk membuat model, karena hal ini tidak memerlukan persetujuan dari setiap individu yang datanya diproses untuk membangun teknologi tersebut. (Dan mengingat banyaknya data yang digunakan untuk melatih LLM, jelas bahwa dasar hukum berbasis persetujuan tidak akan menarik atau terukur secara komersial.)

Sekali lagi, Dewan berpandangan bahwa DPA harus melakukan penilaian untuk menentukan apakah kepentingan yang sah merupakan dasar hukum yang tepat untuk memproses data pribadi untuk pengembangan dan penerapan model AI – mengacu pada pengujian tiga langkah standar yang memerlukan pertimbangan oleh pengawas. tujuan dan kebutuhan pemrosesan (yaitu sah dan spesifik; dan apakah ada cara alternatif yang tidak terlalu mengganggu untuk mencapai hasil yang diharapkan) dan melakukan uji keseimbangan untuk melihat dampak pemrosesan terhadap hak-hak individu.

Pendapat EDPB membuka kemungkinan bagi model AI untuk memenuhi semua kriteria untuk mengandalkan dasar hukum kepentingan yang sah, misalnya menyarankan pengembangan model AI untuk mendukung layanan agen percakapan untuk membantu pengguna, atau penerapan deteksi ancaman yang ditingkatkan dalam sistem informasi akan memenuhi pengujian pertama (tujuan yang sah).

Untuk menilai tes kedua (kebutuhan), penilaian harus melihat apakah pemrosesan benar-benar mencapai tujuan yang sah dan apakah ada cara yang tidak terlalu mengganggu untuk mencapai tujuan tersebut — dengan memberikan perhatian khusus pada apakah jumlah data pribadi yang diproses proporsional vs. tujuannya, dengan memperhatikan prinsip minimalisasi data GDPR.

Tes ketiga (menyeimbangkan hak-hak individu) harus “mempertimbangkan keadaan spesifik dari setiap kasus”, menurut pendapat tersebut. Perhatian khusus diperlukan terhadap segala risiko terhadap hak-hak dasar individu yang mungkin muncul selama pengembangan dan penempatan.

Bagian dari uji keseimbangan ini juga mengharuskan regulator untuk mempertimbangkan “ekspektasi yang masuk akal” dari subjek data – artinya, apakah individu yang datanya diproses untuk AI dapat mengharapkan informasi mereka digunakan sedemikian rupa. Pertimbangan yang relevan di sini mencakup apakah data tersebut tersedia untuk umum, sumber data dan konteks pengumpulannya, hubungan apa pun antara individu dan pengolah, serta potensi penggunaan model tersebut lebih lanjut.

Jika uji penyeimbangan gagal, karena kepentingan individu melebihi kepentingan pengolah, Dewan mengatakan langkah-langkah mitigasi untuk membatasi dampak pemrosesan terhadap individu dapat dipertimbangkan – yang harus disesuaikan dengan “keadaan kasus” dan “ karakteristik model AI”, seperti tujuan penggunaannya.

Contoh langkah-langkah mitigasi yang dikutip oleh opini tersebut mencakup langkah-langkah teknis (seperti yang tercantum di atas pada bagian model anonimitas); tindakan pseudoanonimisasi (seperti pemeriksaan yang akan mencegah kombinasi data pribadi berdasarkan pengidentifikasi individu); mengambil tindakan untuk menutupi data pribadi atau menggantinya dengan data pribadi palsu di set pelatihan; tindakan yang bertujuan untuk memungkinkan individu untuk menggunakan hak-hak mereka (seperti opt-out); dan langkah-langkah transparansi.

Pendapat tersebut juga membahas langkah-langkah untuk memitigasi risiko yang terkait dengan web scraping, yang menurut Dewan menimbulkan “risiko spesifik”.

Model yang dilatih secara tidak sah

Pendapat tersebut juga mempertimbangkan permasalahan yang sulit mengenai bagaimana regulator harus melakukan pendekatan terhadap model AI yang dilatih berdasarkan data yang tidak diproses secara sah, seperti yang dituntut oleh GDPR.

Sekali lagi, Dewan merekomendasikan regulator untuk mempertimbangkan “keadaan masing-masing kasus” – sehingga jawaban mengenai bagaimana pengawas privasi UE akan menanggapi pengembang AI yang termasuk dalam kategori pelanggaran hukum ini adalah… tergantung.

Namun, pendapat tersebut tampaknya menawarkan semacam klausul keluar untuk model AI yang mungkin dibangun di atas landasan (hukum) yang lemah, misalnya karena mereka mengambil data dari mana pun mereka bisa mendapatkannya tanpa mempertimbangkan konsekuensi apa pun, jika mereka mengambilnya. langkah-langkah untuk memastikan bahwa data pribadi apa pun dianonimkan sebelum model memasuki tahap penerapan.

Dalam kasus seperti itu — selama pengembang dapat menunjukkan bahwa pengoperasian model selanjutnya tidak memerlukan pemrosesan data pribadi — Dewan mengatakan GDPR tidak akan berlaku, dengan menulis: “Oleh karena itu, pelanggaran hukum pada pemrosesan awal tidak akan berdampak pada pengoperasian model selanjutnya.”

Membahas pentingnya unsur pendapat ini Lukasz Olejnikkonsultan independen dan afiliasi dari KCL Institute for Artificial Intelligence — yang Keluhan GDPR terhadap ChatGPT masih dalam pertimbangan oleh DPA Polandia selama lebih dari satu tahun – memperingatkan bahwa “kehati-hatian harus dilakukan untuk tidak membiarkan skema penyalahgunaan yang sistematis”.

“Ini adalah potensi perbedaan yang menarik dari penafsiran undang-undang perlindungan data hingga saat ini,” katanya kepada TechCrunch. “Dengan hanya berfokus pada keadaan akhir (anonimisasi), EDPB mungkin secara tidak sengaja atau berpotensi melegitimasi pengambilan data web tanpa dasar hukum yang tepat. Hal ini berpotensi melemahkan prinsip inti GDPR bahwa data pribadi harus diproses secara sah di setiap tahap, mulai dari pengumpulan hingga pembuangan.”

Ketika ditanya mengenai dampak opini EDPB secara keseluruhan terhadap keluhannya terhadap ChatGPT, Olejnik menambahkan: “Pendapat tersebut tidak mengikat DPA nasional. Oleh karena itu, saya yakin PUODO (DPA Polandia) akan mempertimbangkan hal ini dalam keputusannya,” meskipun ia juga menekankan bahwa kasusnya terhadap chatbot AI OpenAI “lebih dari sekedar pelatihan, dan mencakup akuntabilitas dan Privasi berdasarkan Desain.”