Pomýlená ministerka na súde

Albánsko má od septembra prvého ministra pre umelú inteligenciu na svete. „Diella“, albánsky výraz pre slnko, mal zabezpečiť, aby „verejné obstarávania boli v kandidátskej krajine na vstup do EÚ stopercentne bez korupcie“, ako sľúbil dlhoročný premiér Edi Rama. Zdá sa však, že experiment sa obrátil proti nim; prevádzkovatelia chatbota sú vyšetrovaní za organizovaný zločin. Prebieha niekoľko súdnych sporov a rozhodnutie o tom, či je „Diellova“ pozícia člena vlády vôbec ústavná, sa očakáva v utorok.

Odborníci a opozícia považovali myšlienku systému umelej inteligencie, ktorý by sťažoval administratívne rozhodnutia, od začiatku za problematickú. Hoci by umelá inteligencia mohla byť užitočná pri verejnom obstarávaní, všeobecný konsenzus bol, že zodpovednosť za tieto rozhodnutia musia niesť skutoční ľudia. Gazment Bardhi, parlamentný líder opozičnej konzervatívnej Demokratickej strany (DP), označil „Diellu“ za Rámovu „propagandskú fantáziu“ a „virtuálnu fasádu, ktorá má skryť každodenné, gigantické krádeže páchané touto vládou“.

Socialistická strana vyhrala v máji minulého roka parlamentné voľby už štvrtýkrát za sebou a dosiahla absolútnu väčšinu. V septembri bola „Diella“ prezidentským dekrétom povýšená na ministerku, ale moc nad ňou zostala pod Rámovou priamou kontrolou. „Je to moja dcéra,“ povedal vtedy Ráma, „a je veľmi lojálna svojmu otcovi.“ Dodal, že nemá žiadnych bratrancov a sesterníc, a preto neriskuje, že sa stane obeťou bežného protekcionárstva.

Rama je na čele vlády od roku 2013 a vždy mal záujem o významné verejné akcie.

Opozícia sa obáva Ústavného súdu

Demokratická strana (DP) podala na súd sťažnosť: Podľa ústavy môžu vládne funkcie zastávať iba skutoční ľudia a algoritmus nie je zodpovedný občanom. Dekrét tiež porušuje deľbu moci tým, že vytvára novú ministerskú štruktúru bez právneho základu a prideľuje premiérovi nové zodpovednosti mimo ústavného rámca. Albánsky najvyšší súd by mal v utorok vydať rozhodnutie v tejto veci.

„Diella“ nebola v septembri, keď bola verejnosti predstavená, novinkou; od začiatku roka už existovala ako chatbot na E-Albania, digitálnom vládnom portáli krajiny. Postava bola vyvinutá v spolupráci so spoločnosťami Microsoft a OpenAI, prevádzkovateľmi ChatGPT. O niekoľko mesiacov neskôr dostala „Diella“ tvár: animovaného avatara v tradičnom albánskom odeve, ktorého predvádzala a dabovala herečka Anila Bisha.

Albánsky bezprecedentný projekt pritiahol medzinárodnú pozornosť. Varovania, že nie je jasné, aké transparentné alebo kontrolovateľné budú rozhodnutia člena vlády s umelou inteligenciou a kto bude niesť zodpovednosť v prípade chýb, sa však čoskoro ukázali ako pravdivé.

Vyšetrovania proti tvorcom seriálu „Diella“

Za „Diellou“ stojí albánska národná informačná agentúra AKSHI, ktorá je zodpovedná za digitálnu transformáciu krajiny a priamo podlieha premiérovi. V decembri sa riaditeľka AKSHI a jej zástupca dostali pod súdnu kontrolu. Úrad špeciálnej prokuratúry pre korupciu a organizovaný zločin ich umiestnil do domáceho väzenia.

Podľa obžaloby úmyselne zadávali zmluvy spriateleným spoločnostiam. Aby prinútili konkurentov odstúpiť, zrejme použili zastrašovanie a vyhrážky. Údajne došlo aj k únosom a týmto spôsobom bolo údajne spreneverených niekoľko miliónov eur.

Výzvy na rezignáciu premiéra Ramu prichádzali zo strany opozície, ale narazili na hluché uši: „Predtým museli ľudia stáť v rade na každý dokument, dokonca aj na obyčajné osvedčenie. AKSHI ušetrila občanom viac ako 600 miliónov eur a viac ako 7 000 rokov čakania v rade,“ povedal premiér. Nevidel dôvod na ďalšie kroky.

Stará korupcia skrytá za novým softvérom

Zdá sa však, že „Diellova“ dôveryhodnosť u verejnosti bola natrvalo poškodená; kritici tvrdia, že virtuálny minister je súčasťou skorumpovaného systému a nie jeho riešením. „Diella“ „skrýva starú korupciu za novým softvérom,“ povedal Lutfi Dervishi, bývalý riaditeľ Transparency International Albánsko, v rozhovore pre nemecké noviny „Die Zeit“.

Denisa Keleová, lektorka IT na Univerzite v New Yorku v Tirane, pre ZDF povedala: Ak sú tí istí ľudia, ktorí naprogramovali „Diella“, podozriví z korupcie, „minister pre umelú inteligenciu by sa mohol stať dobre maskovaným nástrojom zneužívania.“

Herečka Anila Bisha má pocit, že boli porušené jej osobné práva.

Herečka ako „Diella“ proti svojej vôli

Žalobu proti „Dielle“ podala aj žena, ktorá jej prepožičala svoj hlas a podobu: Bisha žalovala vládu za nezákonné použitie jej podoby. Podľa Bishy bol video a audio materiál, ktorý s ňou nahral, určený výlučne na použitie s chatbotom e-Albania a zmluva vypršala koncom roka 2025. Tvrdí, že nikdy nesúhlasila s tým, aby sa stala tvárou ministra pre umelú inteligenciu.

Jej právnik opísal zmluvu, ktorú podpísala, ako zmluvu s obmedzeným rozsahom. „Išlo o exkluzívny tovar, exkluzívny účel. To znamená, že jej obraz a hlas sa nedali použiť na iné produkty,“ povedal. Vláda tieto obvinenia odmietla. „Podľa nášho názoru je toto tvrdenie úplne neopodstatnené,“ uviedol vládny úradník. Nakoniec je na súde, aby rozhodol, kto má pravdu.

Mnohí odborníci sa zhodujú v tom, že umelá inteligencia má budúcnosť v politike a mohla by skutočne prospieť občanom. Rozhodujúce je, aby sa verejnosť zapojila do jej vývoja a proces musel zostať transparentný. Inými slovami, musel by sa líšiť od projektu „Diella“.

Zdroj: https://orf.at/stories/3431001/