20 Juni 2025, "Diskusi Pengelolaan Tindak Pidana Cybercrime Berbasis AIGC yang Melanggar Kesusilaan dan Pornografi" diadakan di Alibaba Beijing Chaoyang Science and Technology Park. Diskusi ini dipandu oleh Asosiasi Internet Ibu Kota dan diselenggarakan oleh Divisi Informasi Cerdas Alibaba. Para ahli dari Universitas Politik dan Hukum China, Universitas Komunikasi China, Penelitian Informatika dan Telekomunikasi AI, Penelitian Big Data Nan Du, serta Kantor Hukum Dacheng Beijing berkumpul untuk menganalisis bentuk baru kejahatan jaringan yang diciptakan oleh teknologi AIGC.
Saat ini, industri hitam dan abu-abu internet sedang memanfaatkan teknologi big model untuk melakukan iterasi dan evolusi. Kasus AI Korsel dalam menghasilkan novel seksual, kasus kejahatan Deepfake Korea "N号房2.0", dan contoh kasus lainnya menunjukkan bahwa produksi konten cabul telah berkembang dari UGC menjadi paradigma AIGC. Pada pertemuan tersebut, insinyur keamanan dari Lembaga Komunikasi dan Informasi X yang hadir secara langsung menunjukkan bagaimana industri hitam dan abu-abu menggunakan teknologi sintesis multimodal untuk menghasilkan konten cabul, menggunakan instruksi metafora untuk menghindari deteksi platform, membentuk rantai kerjasama "pengembangan teknologi-bahan baku-distribusi lintas batas". Perwakilan keamanan model besar Alibaba berbagi tentang skenario utama di mana konten cabul disintesis oleh AIGC, serta karakteristik konten dan akunnya, dan menganalisis model penghasilan industri abu-abu dan hitam terkait.
Rapat kali ini fokus pada isu pengelolaan konten yang dihasilkan oleh kecerdasan buatan, mendiskusikan berbagai aspek tantangan dan masalah keamanan yang dihadapi kecerdasan buatan dalam hal kualitas ekosistem konten, informasi hoaks dan palsu, penegakan hak cipta, privasi individu, dan keamanan data. Diskusi utama melibatkan pengakuan hukum pidana dan jalur pengelolaan terkait dengan produksi dan sintesis konten pornografi oleh AIGC (Artificial Intelligence Generated Content). Para ahli yang hadir menyarankan pendekatan pengelolaan bersama dari berbagai pihak, dengan membangun kerangka pengelolaan melalui norma identifikasi konten dan pemantauan keamanan dinamis, mendorong disiplin platform melalui evaluasi tanggung jawab dan sistem insentif, serta memperkuat pengawasan data dan dukungan penelitian untuk mencapai pengelolaan sosial bersama.
Asosiasi Internet Ibu Kota akan terus memperhatikan titik-titik sakit dan kesulitan dalam pengelolaan jaringan internet, aktif menanggapi risiko dan masalah baru yang muncul dari derivasi teknologi AI, mendorong pembangunan sistem pengelolaan yang melibatkan pemerintah, perusahaan, masyarakat, dan pengguna internet secara bersama-sama, dari sumber hingga terminal, untuk membentuk sistem pengelolaan yang komprehensif. Semua ini bertujuan untuk mendorong pengembangan kecerdasan buatan yang positif, melindungi hak-hak pengguna internet, dan menciptakan ekosistem jaringan yang baik.
Sumber: Asosiasi Internet Ibu Kota
【Sumber: Jingbao Wang】