Illustraĵo de Tactical Tech, kun vidaj elementoj de Yiorgos Bagakis kaj Alessandro Cripsta. Uzata kun permeso..

Tiu ĉi artikolo estis verkita de Safa Ghnaim kunlabore kun la Instituto Goethe Brazilo kaj origine publikigita en DataDetoxKit.org. Reviziita versio estis republikigita kiel parto de kunlaborkontrakto kun Global Voices.

Kvankam artefarita intelekto (AI) estas de multaj homoj ofte rigardata kiel “neŭtrala teknologio”, ĝi donas misgvidan bildon, ĉar ankaŭ AI havas antaŭjuĝojn. AI estas evoluigata de homoj kaj trejnata de datumaroj. Same kiel vi kaj mi, homoj kiuj konstruas ĉi tiujn teknologiojn havas siajn konvinkojn, opiniojn kaj spertojn kiuj formas iliajn elektojn, ĉu ili konscias pri tio aŭ ne. Inĝenieroj kaj firmaoj kiuj disvolvas kaj trejnas AI-sistemojn eble donas pli da pezo al certaj informoj aŭ celoj ol al aliaj. Depende de la datumaroj kun kiuj ili “nutras” AI, ekz. algoritmojn aŭ babilejojn – tiuj sistemoj povas produkti rezultojn kun antaŭjuĝoj. Tial AI povas generi neĝustajn informojn, erarajn supozojn aŭ reprodukti malbonajn decidojn, kiel faras homoj.

AI ne estas magio: maŝinoj programitaj de homoj portas proprajn mankojn

Iuj parolas pri AI kvazaŭ ĝi estus miraklo, sed efektive ĝi estas nur maŝino. Simple dirite, AI-ilaro estas komputilaj programoj plenigitaj per grandaj kvantoj da datumoj por helpi ilin antaŭvidi aŭ rekomendi. “AI” estas kolekta nomo por diversaj iloj kiuj estas dezajnitaj por rekoni patronojn, solvi problemojn kaj fari decidojn—ofte multe pli rapide kaj grandeco ol homoj kapablus.

Sed kiel ĉiu ilo, AI estas dezajnita kaj programita de homoj. Tiuj homoj starigas regulojn: “faru ĉi tion, sed ne tion”. Komprenante ke AI-ilaro estas aŭtomataj sistemoj kun limigoj pro homaj decidoj, ni povas pli bone debati pri la kapabloj kaj malfortoj de AI.

Kiam homoj parolas pri AI, ili povas paroli pri tre malsamaj aplikoj. Jen kelkaj ofte uzataj AI-iloj kaj ties malfortoj:

Tekstgeneriloj kreas enhavon laŭ ŝlosilvortoj aŭ “promptoj” [ndltr. instrukcioj] kiujn vi donas. Ili estas trejnitaj per grandegaj retaj tekstaroj, de varia kvalito. Vi eble konas ilin kiel grandaj lingvaj modeloj (Large Language Models aŭ LLM-oj), aŭ sub nomoj kiel ChatGPT, aŭ pli malformale kiel babilejoj aŭ AI-asistantoj. Kvankam ĉi tiuj iloj foje montras imponajn kapablojn, kiel ekzemple pasigado de ekzamenoj, ili ankaŭ estas konataj pro siaj “halucinoj”: ili produktas informojn kiuj ne konformas al faktoj.

Bildgeneriloj kreas bildojn aŭ filmetojn laŭ vortoj kiujn vi enigas. Ili povas esti ekzemple modeloj de teksto-al-bildo, kiel DALL-E aŭ Stable Diffusion. Tiuj iloj povas generi tre realismajn bildojn kaj filmetojn, sed oni ankaŭ observas ke ili reduktas la mondon al kliŝoj kaj stereotipoj. Ili povas esti misuzataj, ekzemple por seksallogado aŭ minacado.

Rekomendaj sistemoj montras al vi enhavon laŭ kiu algoritmo opinias aŭ “antaŭvidas” ke vi probable alklakos ĝin aŭ interagos kun ĝi. Tiaj sistemoj estas aktivaj en la fono de serĉiloj [eo], sociaj retejoj kaj aŭtoplay-funkcioj [de] en YouTube. Ili ofte donas al vi pli da tio kion vi jam ŝatas, sed ekzistas ankaŭ danĝeraj kaptiloj. Tiaj sistemoj estas ankaŭ uzataj por gravaj decidoj kiel dungado, universitata allaso, hipoteko-kreditoj, kaj aliaj aspektoj de la ĉiutaga vivo.

Kvankam iuj fakuloj argumentas, ke iloj de artefarita intelekto (AI) kiel babilrobotoj el si mem fariĝos “pli saĝaj”, aliaj diras, ke ili estas plenaj de eraroj. Jen kelkaj kialoj, kial vi eble volus pripensi la antaŭjuĝojn malantaŭ AI:

• Iuj datumoj uzataj por trejni AI povas esti private posedataj, sub kopirajto, aŭ uzataj sen permeso.
• Iuj datumaroj enhavas malaman lingvaĵon, konspirajn teoriojn aŭ simple erarajn informojn.
• La datumoj povas esti antaŭjuĝaj kontraŭ certaj homoj, genroj, kulturoj, religioj, profesioj aŭ situacioj.

Iloj de artefarita intelekto (AI) ankaŭ estas trejnataj per datumoj, kiuj tute preterlasas certajn elementojn. Se AI scias malmulte aŭ nenion pri specifa demografio, lingvo aŭ kulturo dum trejnado, ĝi ne povas tauĝe generi enhavon pri ĝi.

Grava studo de 2018, “Gender Shades” [ndltr. Genraj Nuancoj] de Joy Buolamwini, montris kiel vizaĝrekonaj sistemoj luktis por rekoni homojn de koloro, precipe nigrajn virinojn. Ĉi tiuj mankhavaj sistemoj jam estis tiutempe uzataj de la polico en Usono.

Faru antaŭjuĝojn videblaj por eviti ilian disvastigon

Kiel ni menciis, datumoj kaj eĉ manko de datumoj povas kaŭzi partecon aŭ miskomprenojn pri certaj kulturoj, lingvoj aŭ grupoj. Ekzemple, se AI ne havis sufiĉe da datumoj pri iu lingvo aŭ komunumo, ĝi ne povas respondi taŭge al ĉi rilataj temoj.

Nun kiam vi scias ke AI estas konstruita de homoj kaj povas speguli homajn mankojn, estas tempo rigardi nin mem. Kiel la maniero kiel niaj propraj cerboj funkcias povas helpi nin pli bone kompreni la antaŭjuĝojn de AI?

Profunde enradikiĝintaj antaŭjuĝoj ekzistas en individuoj, organizaĵoj kaj socioj. Klarigu ilin per pripensado de ĉi tiuj demandoj:

• Kion vi atendas de aliaj laŭ tio kiel ili prezentiĝas, kondutas, vestiĝas aŭ parolas?
• Ĉu estas grupoj de homoj kiuj havas pli grandan riskon esti punataj, malakceptitaj aŭ stigmatigitaj pro sia aspekto, konduto aŭ lingvo-uzo?

La respondoj ofte malkaŝas implicitajn antaŭjuĝojn: supozoj, sintenoj kaj stereotypoj kiuj jam delonge estas parto de kulturoj kaj kiuj senkonscie influas niajn decidojn. Ĉar ili estas ne konsciaj, ili estas nomataj “implicitaj antaŭjuĝoj”. Ili kutime enradikiĝis en via pensmaniero, malfacile rekoneblaj kaj malfacile akcepteblaj.

Oftaj implicitaj partiecoj inkluzivas interalie:

• Genran partiecon [en: gender bias]: la tendencon rapide kaj senkonscie fari konkludojn pri homoj bazitaj sur genro.
• Rasan kaj/aŭ etnan partiecon: la tendencon rapide fari konkludojn pri homoj bazitaj sur ilia haŭtkoloro, kulturo kaj/aŭ etna fono.

Harvard ofertas vastan kolekton de senpagaj retaj testoj por helpi vin malkovri kaj trakti viajn proprajn implicitajn antaŭjuĝojn. Se vi havas multajn implicitajn antaŭjuĝojn, rekoni ilin povas esti vera defio. Ĝi malofte okazas tuj. Sed vi devas komenci ie, do kial ne nun?

Ĉio estas pligrandigita per AI

Nun kiam vi vidis kiel tiaj pensmanieroj funkcias, imagu kio okazas kiam tiaj pensmanieroj estas aplikataj vastskale. Kiam implicitaj antaŭjuĝoj kaj pensmanieroj enmetiĝas en teknologio, ili povas influi tutajn popolgrupojn — kaj tio okazas tre rapide.

Ekzemple, se vi uzas senpagan ilon de teksto-al-bildo kiel Perchance.org kaj tajpas “bela virino”, tiam vi vidos la jenon:AI-bildoj generitaj en Perchance.org la 13-an de aŭgusto 2024. Bildoj de Tactical Tech.

Se ĉi tiu ilo produktis ses bildojn de “bela virino”, kial ili aperas preskaŭ identaj?Klopodu mem: ĉu vi ricevas aliajn rezultojn?

Pli grandaj studoj pri tiu temo okazis, kiuj montris similajn rezultojn. Vidu ekzemple la esploron ‘Humans are biased. Generative AI is even worse.‘, komplete kun diagramoj kaj datumoj.

AI-ilaro ne estas neŭtrala aŭ sen antaŭjuĝo. Ili estas kreitiaj de homoj kun siaj propraj interesoj. Eĉ iloj kiuj nomas sin ‘malfermitaj”, ne ĉiam estas travideblaj pri kiel ili funkcias kaj dum la fabrika dezajno jam povas esti vestitaj antaŭjuĝoj en la algoritmoj mem.

Starigu al vi mem kritikajn demandojn pri la konstruado kaj trejnado de AI-modeloj por akiri ideon pri kiel AI apartenas al pli granda sistemo:

• Kiu estas la posedanto de tiuj entreprenoj malantaŭ tiu AI-teknologio?
• Kiel tiuj entreprenoj enspezas?
• Kiuj povo-strukturoj estas subtenataj de tiuj entreprenoj?
• Kiu ĝuas la plej multajn avantaĝojn de tiuj AI-iloj?
• Kiu estas ĉefe vundebla pro la riskoj de tiuj sistemoj?

Se respondoj al tiuj demandoj estas malfacilaj aŭ eble ne troveblaj, tio jam klarigas multon.

Ĉar teknologio estas kreita de homoj kaj estas nutrata pere de datumoj — kiuj ankaŭ estas kolektataj kaj etikedataj de homoj — ni povas konsideri teknologion kiel spegulon de jam ekzistantaj problemoj en la socio. Oni povas supozi ke AI fortigas ekzistantajn potenco-strukturojn kaj strukturajn antaŭjuĝojn, sed pli rapide kaj en pli vasta skalo ol antaŭe.

Kiel vi lernis, mankhavaj pensmanieroj estas tute normalaj, kaj ĉiu ajn havas ilin iagrade. Estante nun konscie pripensanta viajn proprajn pensmanierojn, vi estonte pli bone povos eviti erarojn kaj pli rapide rekoni kie sistemoj kiel AI havas siajn mankojn.