Arcadia AI — magistratura
UZ
Dastur  /  2-semestr — Modern AI Stack
Kurs

NLP, LLM va agent tizimlari: transformerlar, RAG, promptlar

Transformerlar, katta til modellari va agent tizimlari — zamonaviy NLPning asosiy steki

O'qituvchi aniqlanmoqda

Kurs haqida

Kurs NLPning klassik statistik modellardan tortib zamonaviy LLM va ular asosidagi tizimlargacha bo'lgan evolyutsiyasini qamrab oladi. Talabalar transformer arxitekturasini barcha tafsilotlari bilan, modelni moslashtirish usullarini (fine-tuning, RLHF, PEFT), shuningdek RAG tizimlari va instrumentlardan foydalanadigan agentlar qurishni o'rganadilar. Kurs amaliy AI-trek va NLP sohasidagi tadqiqotlar uchun markaziy hisoblanadi.

Nimalarni o'rganasiz

Transformerni noldan amalga oshirish, jumladan scaled dot-product attention va positional encoding
Oldindan o'qitilgan LLMlarni PEFT usullari (LoRA) yordamida aniq vazifa uchun moslashtirish
Vektorli qidiruv, reranker va javob sifatini baholash bilan RAG tizimi qurish
Tool use va kontekstni boshqarish bilan agent pipeline loyihalash
LLM tizimlarini avtomatik metrikalar va LLM-as-judge kombinatsiyasi bo'yicha baholash

Asosiy mavzular

Tokenizatsiya, word embeddings (Word2Vec, GloVe, BPE)
Transformer arxitekturasi: self-attention, multi-head attention, positional encoding
LLMlarni dastlabki o'qitish: GPT, BERT, T5, LLaMA; masshtab qonunlari
Fine-tuning: full fine-tuning, LoRA, QLoRA, prompt tuning (PEFT)
RLHF, DPO va alignment usullari
Retrieval-Augmented Generation (RAG): chunking, vektorli indekslar, re-ranking
Prompt Engineering: chain-of-thought, few-shot, structured output
Agent tizimlari: tool use, ReAct, multi-agent orchestration
LLMni baholash: BLEU, ROUGE, BERTScore, LLM-as-judge
Ushbu tavsif avtomatik tarzda yaratilgan va hali o'qituvchi tomonidan tekshirilmagan — bu muhokama uchun qoralama.