Umel¨¢ inteligencia a ?udsk? faktor
Andrea Tornielli
?Autonómne zbra¨¾ové systémy nikdy nemô?u by? morálne zodpovednými subjektmi: jedine?ná ?udská schopnos? morálneho úsudku a etického rozhodovania je viac ako zlo?itý súbor algoritmov a táto schopnos? sa nedá zredukova? na programovanie stroja, ktorý, akoko?vek je ?inteligentný¡°, je stále strojom. Z tohto dôvodu je nevyhnutné zabezpe?i? primeraný, zmysluplný a dôsledný ?udský doh?ad nad zbra¨¾ovými systémami¡°. Toto napísal pápe? Franti?ek vo svojom posolstve k Svetovému d¨¾u pokoja 2024.
Je známa udalos?, ktorá sa stala pred ?tyridsiatimi rokmi a ktorá by sa mala sta? paradigmou v?dy, ke? hovoríme o umelej inteligencii aplikovanej na vojnu, na zbrane, na nástroje smrti. Je to príbeh sovietskeho dôstojníka, ktorého rozhodnutie v rozpore s protokolom zachránilo svet pred jadrovým konfliktom, ktorý by mal katastrofálne následky. Ten mu? sa volal Stanislav Jevgrafovi? Petrov, bol podplukovníkom ruskej armády a 26. septembra 1983 mal no?nú slu?bu v bunkri ?Serpuchov 15¡°, kde monitoroval aktivitu amerických rakiet. Studená vojna sa nachádzala v rozhodujúcom bode, americký prezident Ronald Reagan investoval obrovské sumy do zbrojenia a práve ozna?il ZSSR za ?rí?u zla¡°, NATO bolo zapojené do vojenských cvi?ení, ktoré vytvárali scenáre jadrovej vojny. V tom ?ase bol v Kremli Jurij Andropov, ktorý nedávno hovoril o ?bezprecedentnej eskalácii¡° krízy a 1. septembra Sovieti zostrelili nad Kam?atkou lietadlo spolo?nosti Korean Air Lines, pri?om zahynulo 269 ?udí.
V tú noc 26. septembra podplukovník Petrov videl, ?e po?íta? Krokus, ve?ký mozog pova?ovaný za neomylný pri monitorovaní nepriate?skej aktivity, hlásil zo základne v Montane odlet rakety smerujúcej na Sovietsky zväz. Pod?a protokolu mal dôstojník okam?ite upozorni? svojich nadriadených, ktorí by dali súhlas na odpove? vypustením rakiet smerom na Spojené ?táty. Petrov sa v?ak neponáh?al a to aj preto, ?e - ako mu bolo povedané - akýko?vek útok by bol masívny. Preto osamelú raketu pova?oval za falo?ný poplach. A rovnako postupoval aj v prípade ?al?ích ?tyroch, ktoré sa krátko nato objavili na jeho monitoroch, pri?om sa ?udoval, pre?o to nepotvrdil pozemný radar. Dobre vedel, ?e medzikontinentálnym raketám trvá pribli?ne pol hodinu, kým dosiahnu svoj cie?, ale rozhodol sa nevyhlási? poplach, ?ím nechal ostatných prítomných vojakov bez pohybu.
V skuto?nosti sa elektronický mozog mýlil, k ?iadnemu raketovému útoku nedo?lo. Krokus bol oklamaný fenoménom lomu slne?ného svetla pri kontakte s mrakmi vo ve?kej vý?ke. Skrátka, ?udská inteligencia videla ?alej ako stroj. Prozrete?nostné rozhodnutie ni? nekona? urobil ?lovek, ktorého úsudok dokázal vidie? za hranice údajov a protokolov.
Jadrovej katastrofe sa podarilo zabráni?, hoci o tom vtedy nikto nevedel a? do za?iatku 90. rokov. Dôstojník Petrov, ktorý zomrel v septembri 2017, o tej noci v bunkri ?Serpuchov 15¡° povedal toto: ??o som urobil? Ni? zvlá?tne, len svoju prácu. Bol som správny ?lovek na správnom mieste v správnom ?ase¡°. Bol ?lovekom schopným posúdi? mo?nú chybu stroja, ktorý bol pova?ovaný za neomylný. Bol ?lovekom, ktorý je schopný - aby som sa vrátil k pápe?ovým slovám ¨C ?morálneho úsudku a etického rozhodovania¡°, preto?e stroj, nech je akoko?vek ?inteligentný¡°, je stále iba strojom.
Vojna je ?ialenstvo, ako neustále pripomína pápe? Franti?ek, je to porá?ka ?udskosti. Vojna je vá?nym poru?ením ?udskej dôstojnosti. Vedenie vojny je e?te viac vá?ne, ke? sa ?lovek skrýva za algoritmy a spolieha sa na umelú inteligenciu pri ur?ovaní cie?ov a spôsobu ich zasiahnutia, aby si takto o?istil svoje svedomie, preto?e rozhodnutie urobil stroj. Nezabúdajme na Stanislava Jevgrafovi?a Petrova.
(Preklad o. Martin Jarábek)
?akujeme, ?e ste si pre?¨ªtali tento ?l¨¢nok. Ak chcete by? informovan¨ª o novink¨¢ch, prihl¨¢ste sa na odber noviniek kliknut¨ªm sem.
