Vse več zaskrbljenosti zaradi umetne inteligence: pred zlorabo svari tudi WHO (imajo utemeljene pomisleke)

Svetovna zdravstvena organizacija (WHO) je v torek pozvala k previdnosti pri uporabi velikih jezikovnih modelov umetne inteligence. Kot je opozorila, bi lahko njihova uporaba botrovala napakam v zdravstvu in spodkopala zaupanje v umetno inteligenco. Organizacija se zavzema za varno in etično rabo umetne inteligence v zdravstvu.

Podatki so lahko pristranski

V WHO so poudarili, da so navdušeni nad ustrezno uporabo tehnologije, tudi velikih jezikovnih modelov, v zdravstvu, jih pa skrbi, da se z njimi ne ravna v skladu z običajnimi standardi previdnosti.

Med glavnimi pomisleki WHO je, da so lahko podatki, na katerih temeljijo orodja umetne inteligence, pristranski. Umetna inteligenca tako lahko generira zavajajoče informacije, ki predstavljajo tveganje za zdravje. Organizacija opozarja tudi na možnost zlorabe velikih jezikovnih modelov za ustvarjanje zelo prepričljivih dezinformacij, ki jih javnost težko loči od zanesljivih vsebin, povezanih z zdravjem.

Pomisleke bi morali širše obravnavati

"Veliki jezikovni modeli ponudijo odgovore, ki se končnemu uporabniku lahko zdijo verodostojni, a so lahko popolnoma napačni ali vsebujejo resne napake," opozarja WHO in dodaja, da je to pri vsebinah, povezanih z zdravjem, lahko problematično.

Organizacija zato predlaga obravnavo njenih pomislekov pred široko uporabo orodij umetne inteligence v zdravstvu.

Novo na Metroplay: "Zgodovine se moramo zavedati, da ne ponavljamo istih napak. Moramo pa jo zagotovo preseči" | Matej Grah