SOČUTNI JEZIK MED MLADIMI

136 zagotavljati pravilnosti ustvarjenih informacij, zato sta natančnost in točnost njihovih odgovorov močno odvisni od kakovosti učnih podatkov. Pogosto lahko ustvarijo napačne ali nelogične odgovore. Pogovorni sistemi ali klepetalni roboti so sistemi, zasnovani za neposredno komunikacijo z ljudmi v naravnem jeziku. Ti sistemi uporabljajo jezikovne modele za simulacijo pogovorov, pri čemer je njihov cilj ustvariti interakcije, podobne človeškim, in podajati smiselne ter ustrezne odgovore na vprašanja. Eden prvih takih robotov je bila ELIZA, ki jo je leta 1966 razvil Joseph Weizenbaum. Njen namen pa je bil pokazati, kako preprosto je mogoče uporabnike prepričati, da mislijo, da komunicirajo z osebo. Danes klepetalni roboti pogosto ponujajo informacije, nudijo pomoč, odgovarjajo na vprašanja in izvajajo druge naloge. Njihova funkcija je tudi pritegniti pozornost uporabnikov. Vgrajeni so v sisteme za podporo strankam na spletnih mestih, v aplikacije za sporočila, mobilne aplikacije ter naprave z glasovnim upravljanjem. V zadnjem času so ti sistemi pogosto uporabljeni za spletno druženje in družabništvo (npr. Replika, Kuki, Mitsuku, Cleverbot) ali v podporo duševnemu zdravju (WYSA, Woebot). Uporaba velikih jezikovnih modelov prinaša številna tveganja, kot so diskriminacija, sovražni govor, izključevanje, zloraba informacij, širjenje napačnih ali lažnih vsebin, zlonamerna uporaba teh sistemov, pa tudi negativne posledice v interakciji med človekom in tehnologijo. Etični izzivi so tesno povezani s temi tveganji. Med njimi so vprašanja glede napačnih informacij in manipulacij, pa tudi težave glede zasebnosti in uporabe resničnih podatkov, kar vključuje vprašanja avtorskih pravic in hrambe podatkov. Veliki jezikovni modeli lahko poglobijo že obstoječe pristranskosti, prisotne v učnih podatkih, ki odražajo družbene predsodke, povezane z raso, spolom ali drugimi značilnostmi. Pogosto je problematična tudi preglednost teh sistemov, saj uporabniki ne vedo, da komunicirajo z umetno inteligenco, ter ne razumejo, kako ti sistemi delujejo, zlasti ko se uporabljajo v priporočilnih ali odločevalnih sistemih. Poleg tega velikanski jezikovni modeli vplivajo na način človeške komunikacije, saj vse večja uporaba klepetalnih robotov in virtualnih pomočnikov spreminja, kako ljudje komunicirajo s tehnologijo, kar lahko spremeni družbene norme, zaupanje in naravo medosebnih odnosov. Tudi vprašanja identitete in razkrivanja osebnih podatkov so pomembna, saj raziskave kažejo, da interakcija s človeku podobnimi sistemi lahko vodi do večjega zaupanja in razkritja zasebnih informacij. Prav tako se odpirajo vprašanja avtorstva, saj je težko ločiti, ali je vsebino ustvaril človek ali umetna inteligenca, kar lahko zmanjša vrednost človeške ustvarjalnosti. Ti modeli lahko vplivajo na strukture znanja in izobraževanja ter okrepijo kulturne stereotipe, pri čemer ne upoštevajo kulturne občutljivosti in ogrožajo jezikovno raznolikost, saj se pri njihovem razvoju pogosto osredotočajo na najbolj razširjene jezike (Strahovnik, 2023). Ob hkratnem razvoju multimodalnih sistemov generativne umetne inteligence (zvok, slika, video vsebine) vse to vnaša pomembne nove plasti v digitalni svet. Pri tem lahko zlasti pri pogovornih sistemih umetne inteligence opozorimo na njihov neposredni vpliv na identiteto, še posebej pa to velja za tiste sisteme, ki so namenjeni družabnosti. Do vpliva na identiteto oziroma njeno preobrazbo lahko pride na različne načine. 1. Privzemanje vlog in pogledov ter posledično igranje različnih vlog (učenec, učitelj, zaupnik, stranka), ki lahko povratno vplivajo tudi na našo lastno identiteto. Nekatere od teh vlog so lahko takšne, da jih spodbudi bodisi pogovorni robot neposredno ali pa so posledica naše interakcije z njim – ne pa nujno nekaj, za kar bi se zavestno in avtonomno odločili sami.