Pesan Paus untuk Hari Komunikasi Sedunia ke-58

Kecerdasan buatan dan kebijaksanaan hati: untuk komunikasi manusia seutuhnya

Saudara dan saudari terkasih:

Evolusi dari apa yang disebut sistem "kecerdasan buatan", yang telah saya bahas baru-baru ini Pesan untuk Hari Perdamaian Sedunia, Hal ini juga secara radikal mengubah informasi dan komunikasi dan, melalui mereka, beberapa landasan hidup berdampingan secara sipil. Ini adalah perubahan yang mempengaruhi semua orang, tidak hanya para profesional. Percepatan penyebaran penemuan-penemuan mengejutkan, yang fungsi dan potensinya tidak dapat dipahami oleh sebagian besar dari kita, menimbulkan keheranan yang terombang-ambing antara antusiasme dan disorientasi dan mau tidak mau menempatkan kita di hadapan pertanyaan-pertanyaan mendasar: lalu apakah manusia itu? Apa kekhususannya dan bagaimana masa depan spesies ini, seruan kami orang bijak di era kecerdasan buatan? Bagaimana kita bisa tetap menjadi manusia seutuhnya dan mengarahkan perubahan budaya yang sedang berlangsung menuju kebaikan?

Dimulai dari hati

Pertama, Dianjurkan untuk membersihkan dasar dari pembacaan bencana dan efeknya yang melumpuhkan. Seabad yang lalu, Romano Guardini, ketika merenungkan teknologi dan manusia, mendesak kita untuk tidak menjadi kaku dalam menghadapi hal-hal “baru” dalam upaya untuk “melestarikan dunia dengan keindahan tak terbatas yang akan segera lenyap.” Namun, pada saat yang sama ia dengan tegas memperingatkan secara profetis: "Tempat kita adalah di masa depan. Setiap orang harus mencari posisi di mana masing-masing berada [...], kita akan dapat mencapai tujuan ini jika kita bekerja sama dengan baik dalam usaha ini; dan pada saat yang sama, tetap, di lubuk hati kita yang paling dalam, peka terhadap rasa sakit yang diakibatkan oleh kehancuran dan perilaku tidak manusiawi yang terkandung dalam dunia baru ini. Dan dia menyimpulkan: «Memang benar bahwa ini adalah masalah teknis, ilmiah dan politik; tetapi kita perlu menyelesaikannya dengan mempertimbangkannya dari awal. sudut pandang manusia. Kemanusiaan baru dengan spiritualitas yang mendalam, kebebasan dan kehidupan batin yang baru harus muncul.».^[1]

Di era yang penuh risiko kaya teknologi dan miskin kemanusiaan, refleksi kita hanya bisa dimulai dari hati manusia. ^[2] Hanya dengan membekali diri kita dengan pandangan spiritual, hanya dengan memulihkan kebijaksanaan hati, kita akan mampu membaca dan menafsirkan kebaruan zaman kita dan menemukan kembali jalur komunikasi manusia seutuhnya. Hati, yang secara alkitabiah dipahami sebagai tempat kebebasan dan pengambilan keputusan paling penting dalam hidup, adalah simbol integritas, kesatuan, sekaligus membangkitkan kasih sayang, keinginan, impian, dan yang terpenting adalah tempat perjumpaan dengan Tuhan. Oleh karena itu, kebijaksanaan hati adalah kebajikan yang memungkinkan kita menjalin keseluruhan dan bagian-bagiannya, keputusan-keputusan dan konsekuensi-konsekuensinya, kemampuan dan kerapuhan, masa lalu dan masa depan, aku dan kita.

Hikmah hati ini dapat ditemukan oleh orang yang mencarinya dan dapat dilihat oleh orang yang mencintainya; dia mengantisipasi siapa pun yang menginginkannya dan mencari siapa yang layak untuknya (lih. Sab 6,12-16). Dia bersama mereka yang membiarkan dirinya dinasihati (lih. Prov 13:10), dengan mereka yang memiliki hati yang patuh dan mendengarkan (lih. 1 Ulang 3.9). Ini adalah karunia Roh Kudus, yang memungkinkan kita melihat segala sesuatu dengan mata Tuhan, memahami hubungan, situasi, peristiwa dan menemukan maknanya. Tanpa kebijaksanaan ini, keberadaan menjadi hambar, karena justru kebijaksanaan—yang berasal dari bahasa Latin tahu terkait dengan rasa— yang memberi kesenangan pada hidup.

Peluang dan bahaya

Kita tidak bisa mengharapkan kebijaksanaan ini dari mesin. Meskipun istilahnya kecerdasan buatan telah menggantikan yang paling benar yang digunakan dalam literatur ilmiah, pembelajaran mesin, penggunaan kata “intelijen” justru menyesatkan. Tidak diragukan lagi, mesin memiliki kapasitas yang jauh lebih besar daripada manusia dalam menyimpan data dan menghubungkannya satu sama lain, namun terserah kepada manusia, dan hanya dia, yang dapat menguraikan maknanya. Maka, ini bukanlah persoalan menuntut agar mesin tampak seperti manusia; melainkan untuk menyadarkan manusia dari hipnotis yang telah ia jatuhkan karena khayalannya akan kemahakuasaan, meyakini dirinya sebagai subjek yang benar-benar otonom dan mengacu pada diri sendiri, terpisah dari semua ikatan sosial dan asing dengan keberadaannya.

Memang, Manusia selalu mengalami bahwa ia tidak bisa mandiri dan berusaha mengatasi kerentanannya dengan segala cara. Dimulai dengan artefak prasejarah pertama, yang digunakan sebagai perpanjangan tangan, hingga alat komunikasi yang digunakan sebagai perpanjangan kata, saat ini kita telah mencapai mesin tercanggih yang berfungsi sebagai alat bantu berpikir. Namun, masing-masing realitas ini dapat terkontaminasi oleh godaan awal untuk menjadi sebagai Tuhan dosa Tuhan (lih. Gn 3), yaitu ingin menaklukkan dengan kekuatan sendiri apa yang sebaliknya harus diterima sebagai anugerah Tuhan dan dijalani dalam hubungan dengan orang lain.

Menurut orientasi hati, Segala sesuatu yang ada di tangan manusia menjadi peluang atau bahaya. Tubuh Anda sendiri, yang diciptakan sebagai tempat komunikasi dan persekutuan, dapat menjadi sarana agresi. Demikian pula, setiap perluasan teknis manusia dapat menjadi instrumen pelayanan penuh kasih atau dominasi yang bermusuhan. Sistem kecerdasan buatan dapat berkontribusi pada proses pembebasan ketidaktahuan dan memfasilitasi pertukaran informasi antara masyarakat dan generasi yang berbeda. Misalnya, mereka dapat membuat pengetahuan yang sangat banyak yang ditulis di masa lalu dapat diakses dan dipahami, atau memungkinkan orang untuk berkomunikasi dalam bahasa yang tidak mereka ketahui. Namun pada saat yang sama, mereka juga bisa menjadi instrumen “kontaminasi kognitif,” yang mengubah realitas melalui narasi palsu sebagian atau seluruhnya yang diyakini—dan dibagikan—seolah-olah narasi tersebut benar. Bayangkan saja masalah misinformasi yang kita hadapi selama bertahun-tahun. dalam bentuk berita palsu^[3] dan itu hari ini digunakan palsu, yaitu pembuatan dan penyebaran gambar yang tampaknya masuk akal tetapi salah (saya juga menjadi objeknya), atau pesan audio yang menggunakan suara seseorang untuk mengatakan hal-hal yang belum pernah mereka katakan. Simulasi, yang merupakan dasar dari program-program ini, dapat bermanfaat dalam beberapa bidang tertentu, namun menjadi buruk bila mendistorsi hubungan dengan orang lain dan kenyataan.

Sejak gelombang pertama kecerdasan buatan, yaitu media sosial, kita telah memahami ambivalensinya, menyadari potensinya serta risiko dan patologinya. Kecerdasan buatan generatif tingkat kedua menandai lompatan kualitatif yang tidak dapat disangkal. Oleh karena itu, penting untuk memiliki kemampuan untuk memahami, memahami dan mengatur alat-alat yang jika berada di tangan yang salah dapat membuka skenario yang merugikan. Seperti segala sesuatu yang berasal dari pikiran dan tangan manusia, algoritma. Karena itu, Penting untuk bertindak secara preventif, dengan mengusulkan model regulasi etis untuk menghentikan implikasi sistem kecerdasan buatan yang berbahaya dan diskriminatif, tidak adil secara sosial, dan melawan penggunaannya dalam pengurangan pluralisme, polarisasi opini publik, atau konstruksi pemikiran tunggal. Oleh karena itu, saya memperbarui seruan saya untuk mendesak “komunitas negara-negara agar bekerja sama untuk mengadopsi perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaan kecerdasan buatan dalam berbagai bentuknya.”^[4] Namun, seperti halnya dalam bidang manusia lainnya, regulasi saja tidak cukup.

Tumbuh dalam kemanusiaan

Kita dipanggil untuk tumbuh bersama, dalam kemanusiaan dan sebagai kemanusiaan. DANTantangan yang kita hadapi adalah melakukan lompatan kualitatif untuk menghadapi masyarakat yang kompleks, multietnis, pluralistik, multiagama, dan multikultural. Terserah pada kita untuk mempertanyakan diri kita sendiri tentang perkembangan teoretis dan penggunaan praktis instrumen komunikasi dan pengetahuan baru ini. Kemungkinan-kemungkinan besar untuk kebaikan disertai dengan risiko bahwa segala sesuatu menjadi sebuah perhitungan abstrak, yang mereduksi manusia menjadi sekedar data, pemikiran menjadi sebuah skema, pengalaman menjadi sebuah kasus, kebaikan untuk sebuah manfaat, dan yang terpenting adalah kita akhirnya mengingkari keunikan setiap orang dan sejarah mereka, membubarkan konkrit realitas ke dalam serangkaian statistik.

Revolusi digital memang bisa membuat kita lebih bebas, namun tentu tidak jika kita membiarkan diri kita terjebak oleh fenomena media yang saat ini dikenal dengan sebutan ruang gema. Dalam kasus seperti ini, alih-alih meningkatkan pluralisme informasi, kita malah berisiko tersesat di rawa yang tidak diketahui, demi kepentingan pasar atau kekuasaan. Tidak dapat diterima bahwa penggunaan kecerdasan buatan mengarah pada pemikiran anonim, pengumpulan data yang tidak tersertifikasi, hingga pengabaian tanggung jawab editorial secara kolektif. Representasi realitas di makrodato, betapapun fungsionalnya pengelolaan mesin, pada kenyataannya menyiratkan hilangnya kebenaran secara substansial, yang membuat komunikasi antarpribadi menjadi sulit dan mengancam akan merusak kemanusiaan kita sendiri. Informasi tidak dapat dipisahkan dari hubungan eksistensial: informasi menyiratkan tubuh, yang ada dalam realitas; Hal ini tidak hanya memerlukan keterkaitan data, namun juga pengalaman; Hal ini memerlukan wajah, penampilan dan kasih sayang lebih dari sekedar pertukaran.

Saya memikirkan tentang laporan perang dan “perang paralel” yang dilakukan melalui kampanye disinformasi. Dan saya memikirkan berapa banyak reporter yang terluka atau terbunuh di lapangan agar kita bisa melihat apa yang dilihat mata mereka. Karena hanya dengan menyentuh penderitaan anak-anak, perempuan dan laki-laki kita dapat memahami absurditas perang.

Pemanfaatan kecerdasan buatan dapat memberikan kontribusi positif dalam bidang komunikasi jika tidak meniadakan peran jurnalisme di lapangan., tetapi sebaliknya, mendukungnya; jika profesionalisme komunikasi meningkat, meminta pertanggungjawaban setiap komunikator; jika kembali ke setiap manusia peran subjek, dengan kapasitas kritis, mengenai komunikasi yang sama.

Pertanyaan untuk hari ini dan besok

Oleh karena itu, timbul pertanyaan spontan: bagaimana melindungi profesionalisme dan martabat pekerja di bidang komunikasi dan informasi, serta para pengguna di seluruh dunia? Bagaimana cara menjamin interoperabilitas platform? Bagaimana memastikan bahwa perusahaan yang mengembangkan platform digital bertanggung jawab atas apa yang mereka sebarkan dan dari mana mereka memperoleh keuntungan, sama seperti editor media tradisional? Bagaimana kita bisa membuat kriteria yang menjadi dasar algoritma pengindeksan dan deindeks serta mesin pencari menjadi lebih transparan, mampu meninggikan atau membatalkan orang dan opini, cerita dan budaya? Bagaimana menjamin transparansi proses informasi? Bagaimana caranya membuat penulis tulisannya jelas dan sumbernya dapat dilacak, dengan menghindari terselubung anonimitas? Bagaimana cara menunjukkan apakah suatu gambar atau video menggambarkan suatu peristiwa atau mensimulasikannya? Bagaimana cara mencegah sumber direduksi menjadi satu pemikiran yang diuraikan secara algoritmik? Dan bagaimana cara menumbuhkan lingkungan yang melestarikan pluralisme dan mewakili kompleksitas realitas? Bagaimana cara menjadikan alat yang kuat, mahal, dan berkonsumsi energi tinggi ini berkelanjutan? Bagaimana kita bisa membuatnya dapat diakses oleh negara-negara berkembang?

Berdasarkan jawaban atas pertanyaan-pertanyaan ini dan pertanyaan-pertanyaan lainnya, kita akan memahami apakah kecerdasan buatan pada akhirnya akan membangun kasta-kasta baru berdasarkan dominasi informasi, sehingga menghasilkan bentuk-bentuk eksploitasi dan ketidaksetaraan baru.; atau sebaliknya, hal ini akan membawa lebih banyak kesetaraan, mendorong informasi yang benar dan kesadaran yang lebih besar terhadap perubahan zaman yang kita alami, mendukung mendengarkan beragam kebutuhan manusia, dalam sistem informasi yang terartikulasi dan pluralistik. Di satu sisi, momok perbudakan baru membayangi, di sisi lain, penaklukan kebebasan; di satu sisi, kemungkinan beberapa orang mengkondisikan pemikiran setiap orang, di sisi lain, kemungkinan setiap orang berpartisipasi dalam elaborasi pemikiran.

Jawabannya tidak tertulis, terserah kita. Terserah pada manusia untuk memutuskan apakah ia akan menjadi makanan bagi algoritma atau justru memberi makan hatinya dengan kebebasan, yang tanpanya hati kita tidak akan bertumbuh dalam kebijaksanaan. Kebijaksanaan ini menjadi matang dengan memanfaatkan waktu dan memahami kelemahan. Hal ini tumbuh dalam aliansi antar generasi, antara mereka yang memiliki ingatan akan masa lalu dan mereka yang memiliki visi masa depan. Hanya dengan bersama-sama kemampuan untuk membedakan, memantau, melihat segala sesuatu dari pemenuhannya akan bertumbuh. Agar tidak kehilangan rasa kemanusiaan, marilah kita mencari Hikmah yang mendahului segala sesuatu (lih. Dan 1,4), yang melalui hati yang murni menjadikan para nabi sahabat Allah (lih. Sab 7,27). Hal ini juga akan membantu kita memandu sistem kecerdasan buatan menuju komunikasi manusia seutuhnya.

Roma, di Santo Yohanes Lateran, 24 Januari 2024

FRANSISCO

^[1] Piagam Danau Como, Pamplona 2013, 101-104.

^[2] Melanjutkan Pesan-pesan Hari Komunikasi Sosial Sedunia sebelumnya, yang didedikasikan untuk penemuan kepada orang-orang di mana mereka berada dan bagaimana keadaan mereka (2021), dengarkan dengan telinga hati (2022) tahun berbicara dari hati (2023).

^[3] “Kebenaran akan memerdekakanmu” (Jn 8, 32). Berita palsu dan jurnalisme perdamaian. Pesan dari Hari Komunikasi Sedunia ke-52, 2018.

^[4] Pesan untuk Perayaan Hari Perdamaian Sedunia ke-57 (1 Januari 2024),