Schița de curs

Introducere în modelele lingvistice mari

  • Prezentare generală a Natural Language Processing (NLP)
  • Introducere la Large Language Models (LLMs)
  • Contribuțiile Meta AI la dezvoltarea LLM

Înțelegerea arhitecturii LLM-urilor Meta AI

  • Arhitectura transformatorului și mecanismele de autoatentie
  • Metodologii de formare pentru modele la scară largă
  • Comparație cu alte LLM-uri (GPT, BERT, T5, etc.)

Configurarea mediului de dezvoltare

  • Instalarea și configurarea Python și Jupyter Notebook
  • Lucrul cu Hugging Face și depozitul de modele Meta AI
  • Utilizarea GPU locale sau bazate pe cloud pentru instruire

Fine-Tuning și personalizarea LLM-urilor Meta AI

  • Încărcarea modelelor pre-antrenate
  • Reglarea fină pe seturi de date specifice domeniului
  • Tehnici de învățare prin transfer

Crearea de aplicații NLP cu Meta AI LLMs

  • Dezvoltarea de chatbots și inteligență artificială conversațională
  • Implementarea rezumării și parafrazării textului
  • Analiza sentimentelor și moderarea conținutului

Optimizarea și implementarea modelelor lingvistice mari

  • Reglarea performanței pentru viteza de inferență
  • Tehnici de compresie și cuantizare a modelelor
  • Implementarea LLM-urilor utilizând API-uri și platforme cloud

Considerații etice și inteligență artificială responsabilă

  • Detectarea și atenuarea prejudecăților în LLM-uri
  • Asigurarea transparenței și corectitudinii în modelele AI
  • Tendințe și evoluții viitoare în IA

Rezumat și pași următori

Cerințe

  • Înțelegerea de bază a învățării automate și a învățării profunde
  • Experiență cu programarea Python
  • Familiaritate cu conceptele de prelucrare a limbajului natural (NLP)

Audiență

  • Cercetători AI
  • Cercetători de date
  • Machine Learning ingineri
  • Dezvoltatori de software interesați de NLP
 21 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite