Kako ukrotiti velik jezikovni model nad lokalnim korpusom

Avtorji

Kratka vsebina

V prostrani, neukročeni divjini umetne inteligence se je pojavila in postavila v ospredje nova generativna vrsta: veliki jezikovni modeli. Ti orjaki s svojimi milijardami parametrov tavajo po podatkovni pokrajini, lačni vzorcev in vpogledov v obilje besedil. Toda izkoriščanje njihove moči ni enostaven podvig. Lahko so nepredvidljivi, nagnjeni k halucinacijam in se pogosto težko držijo teme. Predvsem pa jih ni preprosto udomačiti. V članku predstavljamo pristop, s katerim lažje ukrotimo te velikane z uporabo pomenskega povezovanja z lokalnim korpusom besedil. Pristop združuje surovo moč velikih jezikovnih modelov s specifičnostjo in ustreznostjo lokalnih podatkov. Raziskali bomo, kako tak pristop omogoči ne le učinkovito, temveč tudi vsebinsko specifično generiranje odgovorov, pri čemer so zagotovljene natančne in podrobne informacije o vašem specifičnem podjetju ali panogi. V članku poskušamo na preprost način predstaviti zapletenost tovrstnega procesa usposabljanja, vključno s strateško uporabo generiranja z razširjenim iskanjem, ki našemu modelu omogoča učinkovit dostop do lokalnih virov znanja. Če bomo v svojem namenu uspeli, vas prispevek ne bo opremil le s kakšnim novim spoznanjem, ampak boste tudi pripravljeni, da se podate na lastno pustolovščino z generativno umetno inteligenco. Na tej pustolovščini se vam rade volje pridružimo, da skupaj ukrotimo velikega dobrodušnega velikana. Naj se torej krotenje začne! 

Biografije avtorja

Vili Podgorelec, Univerza v Mariboru, Fakulteta za elektrotehniko, računalništvo in informatiko

Maribor, Slovenija. E-pošta: vili.podgorelec@um.si

Tadej Lahovnik, Univerza v Mariboru, Fakulteta za elektrotehniko, računalništvo in informatiko

Maribor, Slovenija. E-pošta: tadej.lahovnik1@um.si

Grega Vrbančič , Univerza v Mariboru, Fakulteta za elektrotehniko, računalništvo in informatiko

Maribor, Slovenija. E-pošta: grega.vrbancic@um.si 

Prenosi

Izdano

03.09.2024

Kako citirati

(Ed.). (2024). Kako ukrotiti velik jezikovni model nad lokalnim korpusom. In OTS 2024 Sodobne informacijske tehnologije in storitve: Zbornik 27. konference (Vols. 27., pp. 1-14). Univerzitetna založba Univerze v Mariboru. https://press.um.si/index.php/ump/catalog/book/903/chapter/67