Poruku pape Franje o temi „Umjetna inteligencija i mudrost srca. Prema potpuno ljudskoj komunikaciji“ za 58. Svjetski dan sredstava društvene komunikacije, koji se obilježava 12. svibnja 2024., prenosimo u cijelosti.
PORUKA PAPE FRANJE ZA 58. SVJETSKI DAN SREDSTAVA DRUŠTVENIH KOMUNIKACIJA
[12. svibnja 2024.]
Umjetna inteligencija i mudrost srca.
Prema uistinu ljudskoj komunikaciji
Draga braćo i sestre!
Razvoj sustavâ takozvane umjetne inteligencije, o čemu sam već razmišljao u nedavnoj Poruci za Svjetski dan mira, radikalno mijenja također informacije i komunikaciju, a time i neke od temelja građanskog suživota. To je promjena koja zahvaća sve, a ne samo one koji se time profesionalno bave. Ubrzano širenje izvanrednih izuma, čije je funkcioniranje i čije su mogućnosti većini nas nedokučive, začuđenost koja se kreće od oduševljenosti pa do nesnalaženja, i neizbježno nas suočava s temeljnim pitanjima: što je, dakle, čovjek, koja je njegova specifičnost i kakva će biti budućnost ove naše vrste homo sapiensa u eri umjetne inteligencije. Kako ostati u potpunosti ljudi i kako prema dobrom usmjeravati aktualne promjene na području kulture?
Početi od srca
Valja, ponajprije, raščistiti s katastrofičnim tumačenjima i njihovim paralizirajućim učincima. Romano Guardini, promišljajući još prije stotinu godina o tehnologiji i čovjeku, poziva da se ne zauzima krut stav protiv »novog« u nastojanju da se »sačuva jedan lijepi svijet […] koji je osuđen na nestajanje«. Istodobno, međutim, usrdno i proročki upozorava: »Naše je mjesto u nastajanju. Moramo se u to uključiti, svaki na svome mjestu (…), prianjajući iskreno uz to, ali pritom nepokolebljivo zadržati osjetljivost za sve što je u njemu destruktivno i neljudsko«, te je zaključio: »Radi se uistinu o pitanjima tehničke, znanstvene i političke naravi, međutim ne može ih riješiti nitko drugi doli sâm čovjek. Mora se oblikovati novi model ljudskosti koji će biti prožet dubokom duhovnošću, novom slobodom i nutrinom.« [1]
U ovoj epohi, koja se izlaže riziku da bude bogata tehnologijom i siromašna ljudskošću, naše promišljanje jednostavno mora započeti od ljudskog srca [2]. Samo usvajajući duhovan način gledanja, samo ako ponovno steknemo mudrost srca, možemo proniknuti i tumačiti tu novost koju sa sobom nosi naše doba i otkriti put do istinski ljudske komunikacije. Srce, biblijski shvaćeno kao sjedište slobode i najvažnijih životnih odluka u životu, simbol je cjelovitosti, jedinstva, ali priziva također osjećaje, želje, snove, ali prije svega srce je unutarnje mjesto susreta s Bogom. Mudrost srca je stoga ona krepost koja nam omogućuje da povežemo cjelinu i dijelove, odluke i njihove posljedice, prednosti i slabosti, prošlost i budućnost, ono ja i ono mi.
Tu mudrost srca nalaze oni koji je traže i koji je ljube; ona pretječe sve koji je žude i traži sebi dostojne (usp. Mudr 6,12-16). Ona je kod onih koji slušaju savjete (usp. Izr 13,10), koji su poučljiva i pronicava srca (usp. 1 Kr 3,9). Ona je dar Duha Svetoga koji daje gledati stvari Božjim očima, shvatiti povezanosti, situacije, događaje i otkriti njihov smisao. Bez te mudrosti život postaje bezukusan, jer upravo mudrost (sapientia) – izraz čiji je korijen na latinskom (sapere) povezan s okusom (sapor) – daje okus životu.
Prilika i prijetnja
Tu mudrost ne možemo očekivati od strojeva. Iako je termin umjetna inteligencija sada zamijenjen adekvatnijim pojmom koji se koristi u znanstvenoj literaturi, a glasi strojno učenje (machine learning), uporaba riječi inteligencija dovodi u zabludu. Strojevi zasigurno imaju nemjerljivo veću sposobnost od ljudi u pohrani podataka i međusobnom povezivanju, ali na ljudima je, i samo na njima, da odgonetnu njihov smisao. Dakle, ne radi se o tome da se od strojeva traži da bi trebali izgledati kao ljudi. Radi se o tome da se čovjek probudi iz stanja hipnoze, u koju zapada zbog delirija svemoći, smatrajući se potpuno autonomnim i autoreferencijalnim subjektom, koji je lišen svih socijalnih veza i zaboravio je svoju kreaturalnost.
Čovjek, u stvari, oduvijek doživljava da sâm sebi nije dostatan i na sve moguće načine pokušava prevladati svoju ranjivost. Od najranijih pretpovijesnih artefakata, koje koristi kao produžetke svojih ruku, pa preko medija koje koristi kao govorna pomagala, danas smo stigli do najsofisticiranijih strojeva koji mu služe kao pomoć prigodom razmišljanja. No, svaka od tih stvarnosti može biti kontaminirana iskonskom napašću da se postane kao Bog bez Boga (usp. Post 3), željom da se vlastitim silama pribavi ono što, naprotiv, treba prihvatiti kao Božji dar i živjeti u odnosu s drugima.
Ovisno o tome prema čemu mu je srce usmjereno, sve u čovjekovim rukama postaje prilika ili prijetnja. Sámo njegovo tijelo, stvoreno da bude mjesto komunikacije i zajedništva, može postati sredstvo agresije. Jednako tako, svako tehničko proširenje ljudskih sposobnosti može biti sredstvo služenja u ljubavi ili neprijateljske dominacije. Sustavi umjetne inteligencije mogu pridonijeti procesu oslobađanja od neznanja i olakšati razmjenu informacija između različitih naroda i naraštaja. Mogu, primjerice, golemo bogatstvo znanja napisanog u prošlim stoljećima učiniti dostupnim i razumljivim ili pomoći ljudima da komuniciraju na njima nepoznatim jezicima. No, istodobno, mogu biti sredstva kognitivnog onečišćenja, preoblikovanja stvarnosti pomoću djelomice ili potpuno lažnih narativa u koje se vjeruje – i koji se šire – kao da su istiniti. Dovoljno je prisjetiti se samo problema dezinformiranja s kojim se godinama nosimo u obliku lažnih vijesti (fake news) [3], a koji se danas koristi deep fakeom, odnosno kreiranjem i dijeljenjem slika koje djeluju savršeno uvjerljivo, ali su lažne (i meni se dogodilo da budem predmet toga) ili audioporuka koje koriste glas neke osobe govoreći stvari koje ta osoba nikada nije izrekla. Simulacija, na kojoj se temelje ti programi, može biti korisna na nekim određenim područjima, ali postaje izopačena tamo gdje iskrivljuje odnose s drugima i sa samom stvarnošću.
Već u prvom valu umjetne inteligencije, odnosno društvenih medija, shvatili smo njezinu dvoznačnost, izravno se osvjedočivši u njezine mogućnosti, ali ujedno i prijetnje i patologije. Druga razina generativne umjetne inteligencije predstavlja neosporan kvalitativan skok. Stoga je važno omogućiti shvatiti, razumjeti i regulirati sredstva koja bi u krivim rukama mogla proizvesti negativne scenarije. Kao i svaki drugi plod ljudskoga uma i ruku, ni algoritmi nisu neutralni. Stoga je prijeko potrebno djelovati preventivno, predlažući modele etičke regulacije kako bi se zaustavile štetne i diskriminatorne, društveno nepravedne, implikacije sustavâ umjetne inteligencije i kako bi se suprotstavilo njihovoj uporabi za ograničavanje pluralizma, polarizaciju javnog mnijenja ili oblikovanje jednoumlja. Ponavljam, dakle, svoj apel te pozivam »međunarodnu zajednicu na zajednički rad u cilju usvajanja obvezujućeg međunarodnog ugovora kojim će se regulirati razvoj i korištenje umjetne inteligencije u njezinim različitim oblicima« [4]. No, kao i u svakom ljudskom području, regulacija nije dovoljna.
Rasti u čovjekoljubivosti
Pozvani smo zajedno rasti u čovjekoljubivosti i kao čovječanstvo. Izazov koji se pred nas stavlja sastoji se u tome da učinimo kvalitativan skok kako bismo bili na visini one zadaće koju pred nas stavlja kompleksno, multietničko, pluralističko, multireligijsko i multikulturalno društvo. Na nama je zadatak propitkivati se o teorijskom razvoju i praktičnoj uporabi ovih novih komunikacijskih alata, kao i alata za stjecanje znanja. Velike mogućnosti za ostvarenje dobra idu ukorak s opasnostima da se sve pretvori u apstraktnu kalkulaciju koja ljude svodi na podatke, misao na shemu, iskustvo na slučaj, dobro na profit, a prije svega da na kraju negiramo jedincatost svake osobe i njezine povijesti, rastačući konkretnost stvarnosti u niz statističkih podataka.
Digitalna revolucija može nas učiniti slobodnijima, ali do toga sigurno neće doći ako nas zarobi u modele danas poznate kao echo chamber. U takvim slučajevima, umjesto širenja informacijskog pluralizma, u opasnosti smo da se izgubimo u anonimnoj močvari, zadovoljavajući interese tržišta ili onih koji imaju moć u svojim rukama. Neprihvatljivo je da korištenje umjetne inteligencije dovede do anonimnog razmišljanja, prikupljanja neprovjerenih podataka, kolektivnog gubljenja uredničke odgovornosti. Predstavljanje stvarnosti u velikim skupovima podataka (big data), koliko god bili korisni za upravljanje strojevima, implicira značajan gubitak istine o stvarima, što predstavlja prepreku međuljudskoj komunikaciji i prijeti ugrozom same ljudskosti.
Informaciju se ne može odvojiti od životnog odnosa: ona podrazumijeva tijelo, postojanje u stvarnosti; zahtijeva umrežavanje ne samo podataka nego i iskustava; zahtijeva lice, pogled, suosjećanje i dijeljenje s drugima.
Mislim na izvješćivanje o ratovima i na onaj paralelni rat koji se vodi dezinformacijskim kampanjama. I mislim o tome koliko je izvjestitelja ranjeno ili poginulo na terenu kako bismo mogli vidjeti što su njihove oči vidjele. Jer tek kada iz prve ruke doživimo patnju djece, žena i muškaraca, možemo shvatiti apsurdnost rata.
Korištenje umjetne inteligencije moći će dati pozitivan doprinos na području komunikacija ako se time ne bude obezvrjeđivalo, nego naprotiv podupiralo ulogu novinarstva na tome području; ako se budu vrednovale profesionalnost u komunikaciji, osnažujući odgovornost svakoga komunikatora; ako se svakom čovjeku, koji će biti osposobljen za kritičko vrednovanje, iznova vrati uloga nositelja same komunikacije.
Pitanja za sadašnjost i budućnost
Spontano se, dakle, nameću pitanja: Kako zaštititi profesionalnost i dostojanstvo onih koji rade na komunikacijsko-informacijskom području, kao i korisnika diljem svijeta? Kako zajamčiti interoperabilnost platformi? Kako postići to da poduzeća koja razvijaju digitalne platforme preuzmu na sebe istu odgovornost za ono što distribuiraju i od čega izvlače profit kao i izdavači tradicionalnih medija? Kako možemo učiniti transparentnijima kriterije na kojima se temelje algoritmi za indeksiranje, deindeksiranje i tražilice, koji su kadri veličati, odnosno izbrisati ljude i mišljenja, povijesti i kulture? Kako zajamčiti transparentnost informacijskih procesa? Što učiniti kako bi autorska prava pisanih zapisa bila vidljiva i kako bi se mogao pratiti put do izvora, razgrćući paravan anonimnosti? Kako jasno pokazati prikazuje li slika ili videozapis kakav stvaran događaj, ili je pak riječ o krivotvorini? Kako spriječiti svođenje izvorâ na jedan jedini, na jedinstvenu algoritamski elaboriranu misao? A kako, s druge strane, promovirati okruženje koje će biti pogodno za očuvanje pluralizma i predstavljanje kompleksnost stvarnosti? Kako taj moćan, skup i energetski krajnje zahtjevan alat možemo učiniti održivim? Kako ga učiniti dostupnim i zemljama u razvoju?
Iz odgovora na ta i druga pitanja shvatit ćemo hoće li umjetna inteligencija na kraju dovesti do nastanka novih kasti temeljenih na informacijskoj dominaciji, iznjedrujući nove oblike iskorištavanja i nejednakosti, ili će, naprotiv, donijeti više jednakosti, promičući točne informacije i promičući svijest o promjeni epohe kojom mi prolazimo, potičući osluškivanje višestrukih potreba ljudi i naroda, u artikuliranom informacijskom i pluralističkom sustavu. S jedne strane vreba sablast novog ropstva, a s druge se nazire ostvarenje slobode; s jedne mogućnost da nekolicina uvjetuje razmišljanje svih, a s druge pak mogućnost da svi sudjeluju u procesima oblikovanja mišljenja.
Odgovor nije utvrđen, ovisi o nama i na nama je da ga pružimo. Na samom je čovjeku da odluči hoće li postati hrana za algoritme ili će svoje srce hraniti slobodom, srce bez kojega se ne može rasti u mudrosti. Ta mudrost sazrijeva učeći iz povijesti i prihvaćanjem ranjivosti. Ona raste u savezu među naraštajima, onih koji prošlost pamte i onih koji imaju viziju budućnosti. Samo u zajednici raste sposobnost razlučivanja, budnog praćenja, sposobnost gledanja stvari počevši od njihova ispunjenja. Kako ne bismo izgubili svoju ljudskost, tražimo Mudrost koja je prije svega postalog (usp. Sir 1,4), koja, ulazeći u čista srca, čini od ljudi Božje prijatelje i proroke (usp. Mudr 7,27): ona će nam pomoći da sustave umjetne inteligencije usmjerimo prema uistinu ljudskoj komunikaciji.
Rim, Sveti Ivan Lateranski, 24. siječnja 2024.
FRANJO
________________________
[1] Lettere dal lago di Como (Pisma s jezera Como), Brescia 52022., 95-97.
[2] U kontinuitetu s porukama za prethodne svjetske dane društvenih komunikacija, posvećenih sljedećim vidovima: susretati osobe ondje gdje jesu i kakve jesu (2021.), slušati uhom srca (2022.), govoriti srcem (2023.).
[3] »Istina će vas osloboditi« (Iv 8,32). Fake news i novinarstvo mira. Poruka za LII. svjetski dan sredstava društvene komunikacije, 2018.
[4] Poruka za LVII. svjetski dan mira, 1. siječnja 2024., 8.
