Umelá inteligencia je dnes neoddeliteľnou súčasťou štátnej aj súkromnej správy. Jej cieľom je zefektívniť prácu úradov, znížiť množstvo papierovania a zrýchliť rozhodovanie. Lenže keď sa stroj dopustí chyby, následky môžu byť pre človeka vážne – niekedy dokonca existenčné.
Video: Ako funguje umelá inteligencia (vysvetľujúci materiál)
Keď rozhoduje algoritmus, nie človek
Mnohé krajiny už využívajú automatizované systémy na posudzovanie žiadostí o dôchodky, sociálne dávky či poistenie. Algoritmy vyhodnocujú stovky údajov, porovnávajú ich s legislatívou a vydávajú odporúčania, ktoré potom úrady často bez kontroly preberajú. V praxi to znamená, že o osude človeka neraz rozhodne stroj bez ľudského zásahu.
Takéto systémy môžu byť rýchle a efektívne, pokiaľ fungujú správne. No aj malá chyba v údajoch alebo v algoritme môže viesť k tomu, že oprávnená žiadosť je zamietnutá. Pre človeka to znamená stratu príjmu, omeškané platby či dokonca stratu prístupu k zdravotnej starostlivosti.
Náprava býva zdĺhavá a zložitá
Ak sa chyba objaví, oprava spravidla netrvá dni, ale mesiace. Úrady musia celý proces preskúmať, preveriť vstupné dáta a rozhodnutia systému. Kým sa vec vyrieši, postihnutý človek môže zostať bez peňazí či podpory. Niektorí ľudia sa tak dostávajú do dlhovej pasce alebo musia požiadať o pomoc rodinu a charitu.
Rizikové rozhodnutia bez dohľadu
Odborníci upozorňujú, že systémy umelej inteligencie, ktoré rozhodujú o tak citlivých veciach, ako sú dôchodky, sociálne dávky alebo poistenie, by mali byť považované za vysoko rizikové. Každé rozhodnutie, ktoré môže priamo ovplyvniť život človeka, by mal overiť človek, nie iba algoritmus.
Bez riadneho dohľadu môže totiž dôjsť k situáciám, keď úradníci sami nevedia, prečo systém rozhodol tak, ako rozhodol. A pokiaľ sa chyba neanalyzuje a neopraví, dotknutý občan zostáva mimo systému – bez peňazí aj bez vysvetlenia.
Umelá inteligencia pomáha, ale potrebuje kontrolu
Technológie môžu byť pre úradníkov veľkou pomocou – dokážu znížiť administratívnu záťaž a urýchliť spracovanie žiadostí. No zároveň je potrebné nastaviť jasné pravidlá a zodpovednosť. Rozhodnutia, ktoré sa dotýkajú ľudských životov, by nikdy nemali byť plne zverené strojom.
Umelá inteligencia dokáže byť dobrým sluhom, ale zlým pánom. Stačí malá chyba v kóde či nesprávne zadaný údaj a človek môže prísť o to, čo si poctivo odpracoval. Preto odborníci volajú po tom, aby sa automatizované procesy vždy kombinovali s ľudským dohľadom a možnosťou odvolania.
