Berrikuntza teknologikoak

Adimen Artifizialeko sistemek jarrera arrazista eta sexistak dituzte

adimen artifizialak jarrera arrazista eta sexistak ditu

Gure inguruan orokortzen doazen Adimen Artifizialaren sistemek lengoaiaren estereotipo kulturalak kopiatzen dituzte. Hauetan, soslai arrazista eta sexistak nabarmentzen dira. Eta ez da arraroa, gizakion jardueretatik ikasten dutelako. Beraz, arlo teknologikoan ere badugu zer aldatu. Edo, hobeto esanda, jarrerak aldatuta, arlo teknologikoan ere eragina izango du.

adimen-artifiziala

Egun, Adimen Artifizialaz (AI, ingeleseko akronimoan) baliatzen diren sistema linguistikoak hainbat euskarri eta baliabidetan aurki genitzake: testuzko mezuak bidaltzeko ahots-errekonozimendua, zuzentzaileak, onlineko itzulpenak… Baina ezaugarriren bat nabarmentzekotan, sarritan ikusi ez dugun bat azpimarratu behar da: Adimen Artifizialeko sistema hauek soslai arrazista eta sexistak dituztela. Ez da harritzekoa, hala ere, gizakiok sortuta baitira eta makinek gugandik ikasi baitute…

Ikasketa automatikoa edo Machine learning delakoari esker, makinek datuetatik ereduak aurkitu eta errepikatzen dituzte. Datu hauek testu formatukoak direnean (liburu, artikulu, blogetan… esaterako), makinek soslai sexista berdinak errepikatzen dituzte; azken finean, gizakion lengoaian oso barneratuta ditugunak. Eta gugandik ikasten dutenez, jarrera horiek errepikatzen dituzte. Horretan dago koxka.
Horrela ondorioztatu dute Princeton Unibertsitateko Aylin Caliskan, Joanna J. Bryson eta Arvind Narayanan ikertzaileek, Science-n argitaratutako ikerketaren aurkezpenean.

Ikuspegi negatiboa eta horri aurre egiteko neurriak

Ondorioztatutako baieztapena larria da: ikasketa automatikoak gizakiok erakusten dugun arraza-banaketa eta sexuala errepikatzen ditu, nahiz eta guk batzuetan inkontzienteki bideratu. Jarrera hauek ohikoak bilakatu dira ikasketa profesionala aukeratzerakoan, lanpostuetarako hautaketa prozesuetan… Honi buruzko eztabaidak azken aldian maiz errepikatu izan dira gizarte mailan.

Egoera honi aurre egiteko, ikertzaile hauek soslai horiek antzemateko eta zuzentzeko metodoa asmatu dute. Baina zoritxarrez lan handia daukate oraindik aurretik.

Beraz, estereotipo kulturalak egunerokoan erabilera ematen dizkiegun Adimen Artifizialeko teknologietan hedatu eta zabaltzen dira.

Zein izan da ikerketarako erabili duten metodoa?

Oinarri bezala Seattle-ko Washington-eko Unibertsitateko Anthony Greenwald ikertzaileak gizakiontzako sortutako proban oinarritu dira. Test honek Implicit Association Test du izena eta gizakion soslai inkontzienteak ezartzeko informazio iturria da.
Metodologiari dagokionez, boluntarioei hitz bikoteak aurkeztu eta hauek hitzak elkarrekin erlazionatuta dauden edo ez adieraztea eskatzen zaie, tekla bat sakatuz. Erantzunerako denbora neurtzen da, bi hitz horien artean erlazio inkontzientea baldin badago ezartzeko erabiltzen den adierazle gisa.

Test hau oinarri hartuta, Princeton-eko ikertzaileek makinentzako antzeko proba bat sortu dute. Kasu honetan, gizaki baten erantzuna emateko denbora neurtzearen ordez, makinak eskaintzen duen hitzen arteko erlazio maila neurtzen du. Eta makinak erlazioa dagoen edo ez erabakiko du, bi hitzak testu batean elkarrekin agertu izan diren aldien kopuruaren estatistikaren arabera. Metodo honi hitzen doikuntza deitu diote eta beste hainbat ikerketa teknologikotan erabiltzen da.

AdimenArtifiziala

Jarrera sexista eta arrazistaren adibideak

Adibide zehatz batzuetan berehala nabarmentzen da makinek soslai arrazista eta sexista hauek gizakiongandik ikasi dituztela:

  • Emakumezkoen izenak familiarekin erlazionatutako hitzekin lotzen dira, ibilbide profesionalera baino askoz gehiagotan. Gizonezkoen izenak, aldiz, arlo profesionalarekin lotzen dira.
  • Europar jatorria duten Ameriketako estatu batuetarren izenak plazera edo esanahi positiboa duten hitzekin lotzen dira gehiago, izen afro-amerikarrak baino.
  • Emakumea edo neska bezalako terminoak arte arloko gaiekin lotzen dira gehiago, zientzia edo matematikakoekin alderatuz.

Ondorioak

Beraz, sistema adimentsua sortu badugu eta honek lengoaiaren ezaugarriez ikasteko gaitasuna badauka, ulertu eta errepikatzeko gai bada, prozesu horretan makinak lotura kultural historikoak ezarriko ditu eta horietako batzuk onartezinak dira.
Konputazioko ikertzaileek lan handia daukate aurretik.
Baina berriro ere, beste behin, ardura guztia ezin zaie leporatu makinei edo arazo hau konpondu beharko duten ikertzaileei. Gizartean daukagun jarrera aldatu ezean, nekez lortuko dugu gugandik ikasten duten makinek beste jarrera bat izatea.

 

 

Guardar

Guardar

Guardar

Guardar

Save

Save

Iruzkinak


Gure artikuluak zuzenean zure postontzian jaso nahi dituzu?

Nola jaso nahi dituzu artikuluak postontzian?

Iruzkina idatzi nahi baduzu