6 didžiausi verslo nesėkmės atvejai, kuriuos sukėlė dirbtinis intelektas | Dirbtinis intelektas versle #58

Kaip išvengti verslo nesėkmių diegiant dirbtinį intelektą?

Verslo nesėkmės dirbtiniame intelekte gali turėti rimtų pasekmių įmonėms, todėl reikia labai atsargiai išbandyti mašininio mokymosi sistemas prieš jas pristatant rinkai. Priešingu atveju didelės investicijos į naujas technologijas gali baigtis dideliu finansiniu ir reputacijos katastrofa.

Taigi, kaip išvengti verslo nesėkmių diegiant dirbtinį intelektą? Nors pirmasis patarimas gali pasirodyti per paprastas, kad veiktų, jis yra: “Atkreipkite dėmesį į duomenų kokybę!”

Antrasis patarimas susijęs su išsamiu testavimu uždaroje aplinkoje prieš įrankio išleidimą visuomenei. Turėtumėte ne tik išbandyti įrankio techninį našumą, bet ir patikrinti jo:

• etikos atitiktį — testų tikslas yra sumažinti dirbtinio intelekto reprodukuojamus šališkumus ir stereotipus,
• teisinę atitiktį — patikrinti, ar dirbtinio intelekto įrankių naudojami duomenys, taip pat jų generuojamas turinys atitinka šalies įstatymus.

Net dirbtinio intelekto srityje dirbantys milžinai šiandien nesilaiko šio patarimo, išleisdami pokalbių robotus, pažymėtus kaip “ankstyvi eksperimentai” arba “tyrimai”. Tačiau, kai technologija subręsta ir įsigalioja dirbtinio intelekto naudojimą reglamentuojantys įstatymai, šios problemos taps vis aktualesnės.

Google Photos

Verslo nesėkmių, susijusių su dirbtinio intelekto naudojimu, sąrašas prasideda nuo 2015 metų atvejo. Tuo metu Google Photos programa, kuri naudojo ankstyvą dirbtinio intelekto versiją vaizdų atpažinimui (kompiuterinė vizija), neteisingai pažymėjo juodųjų žmonių nuotraukas kaip gorilų nuotraukas. Ši verslo nesėkmė įvyko, nes algoritmui mokyti naudojamas mokymo duomenų rinkinys turėjo per mažai juodųjų žmonių nuotraukų.

Be to, Google turėjo panašią problemą su Nest išmaniuoju namų kamera, kuri neteisingai identifikavo kai kuriuos tamsiaodžius žmones kaip gyvūnus. Šie incidentai rodo, kad kompiuterinės vizijos sistemos vis dar turi problemų atpažindamos skirtingų rasų ypatybes.

Verslo nesėkmės: Amžiaus diskriminacija

2023 metais iTutor Group sutiko sumokėti 365 000 dolerių, kad išspręstų ieškinį dėl diskriminuojančios įdarbinimo programinės įrangos naudojimo. Buvo nustatyta, kad programinė įranga automatiškai atmetė moterų kandidatus, vyresnius nei 55 metų, ir kandidatus, vyresnius nei 60 metų, neatsižvelgdama į jų patirtį ar kvalifikacijas.

Amazon taip pat patyrė panašių verslo nesėkmių. 2014 metais įmonė dirbo su dirbtiniu intelektu, kad padėtų įdarbinimo procese. Sistema sunkiai vertino moterų kandidatų gyvenimo aprašymus, nes ji mokėsi iš duomenų, kuriuose daugiausia buvo dokumentų, pateiktų vyrų. Dėl to Amazon atsisakė projekto, kad įgyvendintų dirbtinį intelektą šiame procese.

Šie atvejai rodo, kad automatizuojant įdarbinimo procesą kyla rizika išlaikyti šališkumą ir neteisingai elgtis su kandidatais.

Šaltinis: DALL·E 3, užklausa: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT išrado klaidingus teismo precedentus

Kitas atvejis yra labai šiuolaikiškas. 2023 metais advokatas Steven A. Schwartz naudojo ChatGPT, kad rastų ankstesnius teisinius atvejus ieškiniui prieš aviakompaniją Avianca. Tačiau paaiškėjo, kad bent šeši iš AI pateiktų atvejų buvo klaidingi – juose buvo neteisingi vardai, bylos numeriai ir citatos.

Tai įvyko, nes dideli kalbos modeliai (LLM) haliucinavo, t.y. jie kuria tikėtinas atsakymus, kai negali rasti teisingų faktų. Todėl būtina kiekvieną kartą patikrinti jų atsakymus. Ir Schwartz praleido šį žingsnį. Būtent todėl teisėjas nubaudė jį 5 000 dolerių bauda už “grubų aplaidumą”.

Verslo nesėkmės: Apple Watch, kuris netinkamai veikia tamsesnės odos žmonėms

Pagal 2021 metų grupinį ieškinį, Apple Watch kraujo deguonies programa netinkamai veikia tamsesnės odos žmonėms. Apple teigia, kad ji išbandė programą “plačiame odos tipų ir tonų spektrą”, tačiau kritikai sako, kad technologiniai įrenginiai vis dar nėra sukurti atsižvelgiant į tamsiaodžius žmones.

Šaltinis: DALL·E 3, užklausa: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow nekilnojamojo turto srityje

Zillow, nekilnojamojo turto įmonė, 2018 metais pristatė Zillow Offers programą, skirtą pirkti namus ir greitai juos perparduoti. CNN pranešė, kad Zillow nuo 2018 metų balandžio įsigijo 27 000 namų, tačiau iki 2021 metų rugsėjo pabaigos pardavė tik 17 000. Zillow teigė, kad verslo nesėkmę sukėlė dirbtinio intelekto naudojimas. Algoritmas neteisingai prognozavo namų kainas, dėl ko Zillow permokėjo už pirkimus. Nors įmonė nedelsdama uždarė programą, ji turėjo atleisti 25 procentus savo darbuotojų. Neatsitiktinai pirkdama namus už kainas, viršijančias dabartines būsimų pardavimo kainų prognozes, įmonė patyrė 304 milijonų dolerių nuostolį.

Microsoft rasistinis pokalbių robotas

2016 metais Microsoft išleido eksperimentinį dirbtinio intelekto pokalbių robotą pavadinimu Tay. Jis turėjo mokytis bendraudamas su Twitter (dabar X) vartotojais. Per 16 valandų Tay “išmoko” skelbti įžeidžiančius, rasistinius ir seksistinius įrašus. Twitter vartotojai tyčia provokavo robotą, kuris neturėjo tinkamų saugos mechanizmų, naudojamų šiandieniniuose pokalbių robotuose, tokiuose kaip ChatGPT, Microsoft Copilot ir Google Bard. Microsoft greitai išjungė robotą ir atsiprašė už incidentą, tačiau Tay yra viena didesnių Microsoft verslo nesėkmių.

Pokalbių roboto nesėkmė taip pat nutiko Google, kuri 2020 metais išleido robotą pavadinimu Meena. Meta (anksčiau Facebook) taip pat nesugebėjo išvengti panašios klaidos. 2022 metų rugpjūtį ji pristatė naują dirbtinio intelekto pokalbių robotą pavadinimu BlenderBot 3, kuris buvo sukurtas bendrauti su žmonėmis ir mokytis iš tų sąveikų.

Per kelias dienas po išleidimo buvo pranešimų apie pokalbių roboto įžeidžiančius, rasistinius ir faktologiškai neteisingus teiginius pokalbiuose. Pavyzdžiui, jis teigė, kad Donaldas Trumpas laimėjo 2020 metų JAV rinkimus, skleidė antisemitines sąmokslo teorijas ir kritikavo Facebook.

Jei jums patinka mūsų turinys, prisijunkite prie mūsų užimtos bičių bendruomenės Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.