Lielo valodas modeļu pielāgošana latviešu valodas sintaktisko konstrukciju skaidrošanai

Abstract

Mākslīgā intelekta rīki, it īpaši lielie valodu modeļi, mūsdienās tiek izmantoti dažādām ikdienas vajadzībām, tomēr to atbalsts uzdevumiem mazresursu valodās ir vājš. Bakalaura darba “Lielo valodas modeļu pielāgošana latviešu valodas sintaktisko konstrukciju skaidrošanai” mērķis ir demonstrēt LVM pielāgošanu latviešu valodas sintaktisko konstrukciju skaidrošanas uzdevumam – aprakstīt procesu un izmantotās metodes, kā arī interpretēt iegūtos rezultātus. Rezultātā tika iegūti pielāgoti modeļi, kas spēj pildīt doto etalonuzdevumu daudz precīzāk, nekā pirms pielāgošanas, un arī precīzāk, nekā iepriekš apskatīti lielizmēra LVM. Tika apstiprināta hipotēze par to, ka LVM ir pielāgojami specifiskam uzdevumam mazresursu valodā ar būtisku precizitāti, un ka tas ir izdarāms ar ierobežotiem resursiem.

Artificial intelligence tools, especially large language models, are used nowadays for various everyday needs, however, their support for tasks in low-resource languages is limited. The purpose of the bachelor’s thesis “Large language model instruction-tuning for explanation of Latvian language syntactic constructions” is to demonstrate LLM instruction-tuning for the task of explaining Latvian language syntactic constructions – to document the process and methods, as well as interpret the results – instruction-tuned models that can perform the given benchmark task with significantly more precision than before fine-tuning, and more precisely than previously researched large-scale LLMs. The hypothesis, which stated that LLMs are possible to fine-tune for a specific task in a low-resource language with limited resources, was confirmed.