ETTEVAATUST ⟩ Loe, mida Nevada ametnikud tehisaru abil teha plaanivad

Tehisarulised otsused inimesi isiklikult puudutavates asjades võivad osutuda ohtlikeks: sellistel süsteemidel on komme lappama minna. Tehisaru võimendab nii selle looja tarkust kui ka rumalust. Foto: Marek Strandberg Dall-E tehisaru abil

Hoolimata vähestest tõenditest, et see oleks hea mõte, liigub Nevada edasi plaaniga kasutada tehisintellekti (AI), et otsustada, kes saab töötushüvitisi. See plaan – arvestades tehisaru kommet suvalisel hetkel hallutsineeruda – kostab üsna kohutavana ja olgu meid selle eest hoitud, et Eesti agarad bürokraadid Nevadasse «seda kogemust omandama» ei sõidaks.

Nevada tööhõive, koolituse ja rehabilitatsiooniameti (Department of Employment, Training, and Rehabilitation ehk DETR) direktor Christopher Sewell kinnitas intervjuus Gizmodole, et AI-põhine otsustusalgoritm tagab, et süsteem vigu ei tee. Sewell rõhutas, et kõik AI tehtud otsused vaadatakse enne kinnitamist inimeste poolt üle. Tema sõnul kiirendab see süsteem otsuste tegemist, mis peaks aitama hüvitiste taotlejaid.

Osariigi eksamineerijate nõukogu kinnitas süsteemi eelmisel kuul, ning see Google'i-põhine AI töötab läbi kuulamiste ärakirjad ja tõendusdokumendid, et anda soovitusi selle kohta, kas taotlejale tuleks määrata töötushüvitis või mitte. Kui kohtunik ei nõustu AI otsusega, vaadatakse dokumendid ametniku poolt üle ja DETR uurib neid uuesti, mis tähendab, et protsess võib venida, kui algoritm korduvalt eksib.

Ajaline kokkuhoid, mida nad loodavad saavutada, toimub ainult siis, kui ülevaatus on väga pealiskaudne, selgitas Morgan Shah, Nevada Õigusteenuste (Nevada Legal Services) kogukonna kaasamise direktor. Kui keegi vaatab asja põhjalikult ja korrektselt läbi, siis tegelikult eriti palju aega kokku ei hoita.

Shahi sõnul võib lõpuks tekkida olukord, kus süsteemi kasutavad töötajad on sunnitud kiiremini otsuseid tegema ja sellega soodustatakse «lühema tee» valimist.

Avalikkuse mure AI kasutamise üle töötushüvitiste määramisel

Mure AI-põhise süsteemi üle kajastus ka endise Nevada tööjõuametniku kommentaarides. Michele Evermore, kes töötas varem osariigi tööministeeriumis töötuse moderniseerimispoliitika asejuhina, tõdes Gizmodole, et robotite soovituste kasutamine ja lihtsalt linnukeste tegemine ilma põhjaliku ülevaatuseta tekitab teatavat muret, eriti kui on surve vähendada taotluste kuhjumist.

Google kinnitas vastuses Gizmodole, et nad töötavad klientidega tihedalt koos, et tuvastada ja lahendada võimalikud eriarvamused ning aidata täita föderaalseid ja osariigi nõudeid. Projekt, mille maksumus on hinnanguliselt umbes 1 miljon USA dollarit, pole seni veel nime saanud.

Nagu paljude avaliku sektori AI-lahenduste puhul, võib Nevada töötuskindlustussüsteemi tõehetk tulla alles siis, kui selgub, et see teeb valesid otsuseid. Kriitikute hinnangul on tegemist eksperimendiga, mille sihiks on ühiskonna kõige haavatavamad liikmed, ja seda ilma nende endi nõusolekuta.

Allikas: Futurism