Sfântul Scaun: IA este o șansă, dar omul riscă să devină sclavul mașinilor
Salvatore Cernuzio - Vatican News
28 ianuarie 2025 – Cetatea Vaticanului. Atenționările Papei cu privire la Inteligența Artificială din ultimii ani trasează orizontul documentului Antiqua et Nova, o Notă privind relația dintre Inteligența Artificială (IA) și Inteligența Umană rezultat al unei reflecții comune a Departamentului pentru Doctrina Credinței și a Departamentului pentru Cultură și Educație. Documentul se adresează celor care sunt chemați să educe și să transmită credința, dar și celor care împărtășesc nevoia de dezvoltare științifică și tehnologică „în slujba persoanei și a binelui comun” [5]. În 117 paragrafe, Antiqua et Nova subliniază provocările și oportunitățile dezvoltării Inteligenței Artificiale (AI) în domeniile educației, economiei, muncii, sănătății, relațiilor și războiului. În acest din urmă domeniu, de exemplu, potențialul Inteligenței Artificiale ar putea crește resursele de război „cu mult dincolo de controlul uman”, accelerând „o cursă destabilizatoare a înarmării cu repercusiuni devastatoare asupra drepturilor omului” [99].
Pericole și progrese
Mai detaliat, documentul enumeră pericolele IA, dar și progresele, pe care le încurajează ca „parte a colaborării” omului cu Dumnezeu [2]. Cu toate acestea, documentul nu ascunde îngrijorarea care însoțește toate inovațiile ale căror efecte sunt încă imprevizibile.
Diferențiere între Inteligența Artificială și Inteligența umană
Mai multe paragrafe ale Notei sunt consacrate deosebirilor dintre Inteligența Artificială și Inteligența Umană. „Inducerea în eroare”, se spune, este chiar utilizarea cuvântului „inteligență” cu referire la AI: aceasta nu este „o formă artificială de inteligență”, ci „unul dintre produsele sale” [35]. La fel ca orice produs al ingeniozității umane, Inteligența Artificială poate fi orientată spre „scopuri pozitive sau negative”. E adevărat că Inteligența Artificială poate introduce „inovații importante” [48], dar riscă, de asemenea, să agraveze situațiile de discriminare, sărăcie, decalaj digital, inegalități sociale [52]. Faptul că „cea mai mare parte a puterii asupra aplicațiilor majore ale Inteligenței Artificiale este concentrată în mâinile câtorva companii puternice” [53] ridică „probleme etice”, astfel încât această tehnologie ajunge să fie manipulată pentru „câștiguri personale sau corporative” [53].
ăǾܱ
În ceea ce privește războiul, se subliniază faptul că sistemele de arme autonome și letale capabile să „identifice și să lovească ținte fără intervenția directă a omului” [100] reprezintă un „motiv serios de preocupare etică”. Papa a cerut ca utilizarea lor să fie interzisă, deoarece acestea reprezintă o amenințare reală pentru „supraviețuirea umanității sau a unor regiuni întregi” [101]. Aceste tehnologii „dau războiului o putere distructivă incontrolabilă, afectând mulți civili nevinovați, fără a cruța nici măcar copiii”, a denunțat Antiqua et Nova.
Relațiile umane
În ceea ce privește relațiile umane, documentul menționează că IA poate duce la o „izolare dăunătoare” [58], că „antropomorfizarea IA” ridică probleme pentru creșterea copiilor [60] și că reprezentarea IA ca persoană este „o încălcare etică gravă” dacă este folosită în scopuri frauduloase. La fel cum utilizarea IA pentru a înșela în contexte precum educația, relațiile, sexualitatea, este „imorală și necesită o vigilență atentă” [62].
Economia și munca
Aceeași vigilență este solicitată și în sfera economică și financiară. În special în domeniul muncii, se observă că, în timp ce, pe de o parte, Inteligența Artificială are „potențialul” de a crește competențele și productivitatea, pe de altă parte, aceasta poate „de-califica lucrătorii, îi poate supune supravegherii automatizate și îi poate limita la funcții rigide și repetitive” [67].
Asistența medicală
Un spațiu amplu este dedicat subiectului asistenței medicale. Amintind potențialul enorm al diferitelor aplicații din domeniul medical, se avertizează că, dacă IA ar înlocui relația medic-pacient, ar risca să „agraveze” singurătatea care însoțește frecvent boala. O atenționare, de asemenea, cu privire la riscul de a consolida o „medicină pentru bogați”, în care persoanele cu mijloace financiare beneficiază de instrumente avansate, în timp ce alții nu au acces nici măcar la serviciile de bază.
ܳț
Riscurile sunt evidențiate și în domeniul educației. Dacă este utilizată cu prudență, IA poate îmbunătăți accesul la educație și poate oferi „feedback imediat” studenților [80]. Problema este că multe programe „oferă doar răspunsuri, în loc să îi determine pe elevi și studenți să le găsească singuri sau să scrie singuri texte”; ceea ce duce la eșecul dezvoltării gândirii critice [82]. Ca să nu mai vorbim de cantitatea de „informații distorsionate sau fabricate” și de „știri fake” pe care le pot genera unele programe [84].
Fake News și Deepfake
În ceea ce privește ”fake news”-urile (știri false), documentul avertizează asupra riscului serios ca Inteligența Artificială „să genereze un conținut manipulat și informații false” [85], difuzate apoi pentru „a înșela sau a face rău” [87]. Apelul este de a avea întotdeauna „grijă să verificăm veridicitatea” a ceea ce este divulgat și de a evita, în orice caz, „împărtășirea cuvintelor și imaginilor care degradează ființele umane”, excluzând „ceea ce alimentează ura și intoleranța” sau înjosesc „intimitatea sexualității umane” [89].
Confidențialitate și control
În ceea ce privește viața privată și controlul, Nota subliniază că anumite tipuri de date pot merge atât de departe încât să atingă „chiar propria conștiință” [90], cu pericolul ca totul să devină „un fel de spectacol care poate fi spionat” [92]. „Supravegherea digitală poate fi utilizată pentru a exercita un control asupra vieții credincioșilor și a exprimării credinței lor” [90].
Casa comună
Pe tema Creației, aplicațiile IA pentru îmbunătățirea relației cu casa comună sunt considerate „promițătoare”. În același timp, modelele actuale de Inteligență Artificială necesită „cantități mari de energie și apă și contribuie în mod semnificativ la emisiile de CO2, pe lângă faptul că sunt mari consumatoare de resurse”.
Relația cu Dumnezeu
În sfârșit, Nota avertizează cu privire la riscul ca ființele umane să devină „sclavi ai propriei lor făpturi”. De aici, o recomandare: „Inteligența Artificială ar trebui să fie utilizată doar ca un instrument complementar al Inteligenței Umane, nu să înlocuiască bogăția acesteia” [112].