VATIKAN,KITAKATOLIK.COM—DALAM pesannya untuk Hari Komunikasi berjudul “Melestarikan Suara dan Wajah Manusia” yang diluncurkan pada 24 Januari 2026, bertepatan dengan peeringatan Santo Fransiskus dari Sales, santo pelindung penulis dan jurnalis, Paus mengingatkan umat manusia akan bahaya yang muncul dari AI (Artificial Intelligence) atau kecerdasan buatan.
“Kecerdasan buatan dan teknologi digital dapat merusak kemanusiaan, mengganggu hubungan antar manusia dan mendistorsi realitas, kecuali jika dipandu oleh tanggung jawab dan berakar pada pendidikan,” katanya dalam pesannya terkait Hari Komunikasi Sosial Sedunia yang ke-60 itu.
Bagaimana menjelaskan bahwa AI bisa merusak kemanusiaan dan hubungan antar manusia?
Pertama, AI mengaburkan, bahkan menghilangkan keunikan setiap orang. Ciri unik dari setiap orang itu hilang ketika menggunakan AI.
Keunikan setiap orang yang oleh Paus disebut sebagai tanda-tanda “sacral” identitas manusia menguap oleh semakin seringnya orang menggunakan dan menikmati konten yang dibentuk dan dihasilkan oleh AI.
“Wajah dan suara kita adalah ciri unik dan khas dari setiap orang,” tulis Paus Leo XIV. “Wajah dan suara itu suci.” Ia menyatakan bahwa melindungi keduanya pada akhirnya berarti “melindungi diri kita sendiri,” karena tantangan yang ditimbulkan oleh AI “bukanlah tantangan teknologi, melainkan antropologi.”
Kedua, AI membuat kita menyerahkan penilaian manusia pada algoritma dan system otomatis, terutama yang dibangun untuk memaksimalkan keterlibatan di media sosial.
Ketiga, AI bisa mengurangi kemampuan kognitif, emosional dan komunikasi kita. Dalam jangka panjang, kita digoda untuk tidak berpikir sendiri, dan puas dengan kompilasi statistic buatan.
“Meskipun AI dapat memberikan dukungan dan bantuan dalam mengelola tugas-tugas yang berkaitan dengan komunikasi, dalam jangka panjang, memilih untuk menghindari upaya berpikir sendiri dan puas dengan kompilasi statistik buatan mengancam untuk mengurangi kemampuan kognitif, emosional, dan komunikasi kita,” tulisnya seperti dilaporkan Angela Abrogetti kepada Catholic News Agency (CNA).
Keempat, AI nemiliki kemampuan yang semakin meningkat untuk memalsukan konten — termasuk “’realitas’ paralel”. Muncul bahaya misinformasi dan penyebaran informasi tanpa konfirmasi. Karena itu perlu komitmen baru untuk verifikasi dan pelaporan lapangan.
Paus menegaskan bahwa “kegagalan untuk memverifikasi sumber” dapat “memicu disinformasi,” memperdalam “ketidakpercayaan, kebingungan, dan rasa tidak aman.”
Selain tentang AI, Paus juga menyoroti risiko baru dalam interaksi daring, mencatat betapa sulitnya untuk mengetahui apakah seseorang berinteraksi dengan orang sungguhan.
“Saat kita menelusuri umpan kita, semakin sulit untuk menentukan apakah kita berinteraksi dengan manusia lain atau dengan ‘bot’ atau ‘influencer virtual’,” tulisnya, memperingatkan bahwa chatbot dapat digunakan untuk “persuasi terselubung” dan dapat “menjadi arsitek tersembunyi dari keadaan emosional kita.”
Tingkatkan tanggung jawab
Alih-alih menyerukan penghentian inovasi, Paus mendesak kebijaksanaan dan tata kelola, mengusulkan apa yang ia gambarkan sebagai “aliansi yang mungkin” dengan teknologi digital — tetapi hanya dengan dasar yang jelas.
“Aliansi ini mungkin tetapi perlu didasarkan pada tiga pilar: tanggung jawab, kerja sama, dan pendidikan,” tulisnya.
Mengenai tanggung jawab, Paus berbicara kepada platform teknologi, pengembang, pembuat undang-undang, dan media, mendesak mereka untuk memprioritaskan kebaikan bersama daripada keuntungan dan untuk memastikan transparansi dan perlindungan martabat manusia.
Ia juga menyerukan pelabelan yang jelas untuk konten yang dihasilkan AI: “Konten yang dihasilkan atau dimanipulasi oleh AI harus ditandai dengan jelas dan dibedakan dari konten yang dibuat oleh manusia konkrit,” tulisnya.
Paus menekankan perlunya melindungi karya jurnalis dan kreator: “Kepengarangan dan kepemilikan mutlak atas karya jurnalis dan kreator konten lainnya harus dilindungi. Informasi adalah barang publik,” tulisnya.
Pendidikan literasi
Pendidikan, tambahnya, sangat penting untuk membangun pemikiran kritis dan kewarganegaraan digital, dan harus menjangkau setiap generasi.
“Sebagai umat Katolik, kita dapat dan harus berkontribusi pada upaya ini, sehingga individu — terutama kaum muda — dapat memperoleh keterampilan berpikir kritis dan tumbuh dalam kebebasan jiwa,” tulis Paus Leo XIV, menambahkan bahwa literasi semacam itu juga harus menjangkau “orang dewasa yang lebih tua dan anggota masyarakat yang terpinggirkan.” (Admin/CNA)
