Architettura dei modelli linguistici di grandi dimensioni (LLM)

Architettura Transformer: La base degli LLM moderni

L'architettura Transformer rappresenta una svolta fondamentale nel campo dell'elaborazione del linguaggio naturale e costituisce la base di tutti i moderni modelli linguistici di grandi dimensioni (LLM). A differenza degli approcci precedenti basati su reti neurali ricorrenti (RNN) o convoluzionali (CNN), i Transformer utilizzano il cosiddetto meccanismo di attenzione, che consente di catturare efficacemente le dipendenze a lungo termine nel testo senza elaborazione sequenziale. Questa base architetturale è fondamentale per un processo efficiente di addestramento dei modelli linguistici.

Una caratteristica chiave dell'architettura Transformer è la sua parallelizzabilità: tutti i token della sequenza di input possono essere elaborati contemporaneamente, il che accelera notevolmente sia l'addestramento che l'inferenza. Un Transformer standard è composto da un encoder (parte di codifica) e un decoder (parte di decodifica), mentre gli LLM moderni come GPT utilizzano principalmente un'architettura decoder-only, mentre modelli come BERT sono encoder-only. Modelli come T5 o BART utilizzano un'architettura encoder-decoder completa.

Specifiche tecniche dei modelli Transformer

LLM moderni come GPT-4, Claude o Llama 2 implementano architetture Transformer profonde con decine o centinaia di strati. Ogni strato (layer) elabora le informazioni attraverso meccanismi di attenzione multi-testa (multi-head attention) e reti neurali feed-forward. Le prestazioni del modello sono in gran parte determinate dal numero di parametri (pesi), che varia da unità di miliardi nei modelli più piccoli a centinaia di miliardi o addirittura trilioni nei sistemi più grandi.

Meccanismi di auto-attenzione e loro implementazione

L'auto-attenzione (self-attention, talvolta chiamata anche scaled dot-product attention) rappresenta il componente chiave dell'architettura Transformer. Questo meccanismo consente al modello di valutare le relazioni e le dipendenze tra tutti i token in una sequenza e di determinare dinamicamente su quali parti del testo concentrarsi nell'interpretare una parola o una frase specifica.

Dal punto di vista tecnico, l'auto-attenzione trasforma ogni token in tre vettori diversi: query (Q), key (K) e value (V). Il successivo calcolo dell'attenzione comporta la moltiplicazione delle matrici Q e K, il ridimensionamento del risultato, l'applicazione della funzione softmax per ottenere i pesi dell'attenzione e infine la moltiplicazione con la matrice V per ottenere una rappresentazione arricchita dal contesto. Matematicamente, questo processo può essere espresso dall'equazione:

Attention(Q, K, V) = softmax(QK^T / √d_k)V

Attenzione multi-testa

Gli LLM moderni utilizzano la cosiddetta attenzione multi-testa (multi-head attention), che consente al modello di monitorare contemporaneamente diversi tipi di relazioni nel testo. Ad esempio, una testa di attenzione può monitorare le relazioni sintattiche, mentre un'altra si concentra sulla somiglianza semantica o sulle relazioni coreferenziali. Il numero di teste di attenzione è un iperparametro importante, che tipicamente varia da 12 nei modelli più piccoli a 96 o più nei sistemi più grandi. Ogni testa opera in una dimensione inferiore rispetto al vettore di embedding originale, garantendo l'efficienza computazionale pur mantenendo la capacità espressiva del modello.

Dimensioni degli embedding e rappresentazione dei token

La dimensione degli embedding rappresenta un iperparametro chiave che determina la grandezza della rappresentazione vettoriale dei singoli token nel modello linguistico. Negli LLM moderni, questo valore varia tipicamente da 768 nei modelli più piccoli a 12288 o più nei sistemi più grandi. Una dimensione di embedding maggiore consente di catturare sfumature semantiche più fini e relazioni linguistiche più complesse, ma allo stesso tempo aumenta la complessità computazionale e il numero di parametri del modello.

Il processo di conversione dei token in embedding coinvolge una tabella di ricerca (lookup table), dove a ogni possibile token corrisponde un vettore di embedding unico. Questi embedding iniziali vengono ulteriormente arricchiti con informazioni posizionali attraverso i cosiddetti embedding posizionali, che possono essere implementati sia come parametri apprendibili sia utilizzando funzioni sinusoidali deterministiche.

Capacità contestuale degli embedding

Un aspetto importante degli embedding negli LLM è la loro capacità contestuale, ovvero la capacità di conservare informazioni sulle relazioni tra i token attraverso lunghe sequenze. Modelli moderni come GPT-4 o Claude 3 Opus raggiungono finestre contestuali di dimensioni da 32K a 128K token, consentendo l'elaborazione di documenti lunghi, conversazioni complesse o istruzioni sofisticate. La corretta implementazione degli embedding posizionali è fondamentale per scalare efficacemente la finestra contestuale, con modelli avanzati che utilizzano tecniche come RoPE (Rotary Position Embedding) o ALiBi (Attention with Linear Biases) per migliorare le prestazioni su sequenze lunghe.

Reti neurali feed-forward negli LLM

Le reti neurali feed-forward (FFN) costituiscono il secondo componente principale di ogni strato Transformer, successivo al meccanismo di auto-attenzione. Mentre l'attenzione cattura le relazioni tra i token, le FFN elaborano le informazioni per ogni token separatamente e applicano trasformazioni non lineari che sono fondamentali per la capacità espressiva del modello.

Un'implementazione tipica di FFN in un Transformer include due trasformazioni lineari con una funzione di attivazione (più comunemente ReLU o GELU) tra di esse. Matematicamente, questo processo può essere espresso come:

FFN(x) = Linear₂(Activation(Linear₁(x)))

Parametrizzazione e ottimizzazione delle FFN

Dal punto di vista dell'architettura, il parametro chiave delle FFN è la cosiddetta dimensione nascosta (hidden dimension), che determina la dimensione del risultato intermedio dopo la prima trasformazione lineare. Questo valore è tipicamente 4 volte maggiore della dimensione degli embedding, garantendo una capacità sufficiente per catturare pattern complessi. Nelle architetture moderne come PaLM o Chinchilla, si sperimentano configurazioni alternative, incluse le attivazioni SwiGLU o GeGLU e approcci mixtures-of-experts, che aumentano ulteriormente l'efficienza dei componenti FFN.

Un aspetto interessante dei componenti FFN è che costituiscono la maggior parte dei parametri degli LLM moderni - tipicamente il 60-70% di tutti i pesi. Ciò li rende i candidati principali per tecniche di ottimizzazione come il pruning (rimozione dei pesi non necessari), la quantizzazione o l'approssimazione a basso rango nei casi in cui è necessario ridurre i requisiti di memoria del modello.

Quantizzazione e altre tecniche di ottimizzazione

La quantizzazione rappresenta una tecnica di ottimizzazione chiave che consente di ridurre i requisiti di memoria degli LLM preservando la maggior parte delle loro capacità. Il principio consiste nel convertire i parametri del modello da alta precisione (tipicamente valori float a 32 bit) a precisione inferiore (rappresentazioni a 16 bit, 8 bit o persino 4 bit). Una quantizzazione implementata correttamente può ridurre le dimensioni del modello fino a 8 volte con un impatto minimo sulla qualità delle risposte.

Approcci moderni come GPTQ, AWQ o QLoRA implementano algoritmi di quantizzazione sofisticati che ottimizzano il processo in base alle proprietà statistiche dei pesi e alla loro importanza per la precisione del modello. La quantizzazione post-addestramento (PTQ) applica la compressione a un modello già addestrato, mentre l'addestramento consapevole della quantizzazione (QAT) integra gli aspetti della quantizzazione direttamente nel processo di addestramento.

Altre tecniche di ottimizzazione

Oltre alla quantizzazione, gli LLM moderni utilizzano una serie di altre tecniche di ottimizzazione:

Model pruning - rimozione sistematica dei pesi meno importanti o di interi componenti del modello in base al loro impatto sulle prestazioni finali

Knowledge distillation - addestramento di un modello "studente" più piccolo in modo che imiti il comportamento di un modello "insegnante" più grande

Adattamento a basso rango - modifica di componenti selezionati del modello utilizzando matrici a basso rango, che consente un efficiente affinamento (fine-tuning) con requisiti minimi di memoria

Sparse attention - implementazione di meccanismi di attenzione che non devono valutare le relazioni tra tutti i token, ma si concentrano solo sulle coppie potenzialmente rilevanti

Model sharding ed elaborazione distribuita

Il model sharding rappresenta una tecnica di distribuzione dei parametri e dei calcoli dei modelli linguistici di grandi dimensioni su più dispositivi di calcolo (GPU/TPU), consentendo l'addestramento e l'implementazione efficienti di modelli troppo grandi per essere contenuti nella memoria di un singolo acceleratore. Esistono quattro approcci principali allo sharding, ciascuno con i propri vantaggi e limiti.

Parallelismo tensoriale (Tensor Parallelism) divide singole matrici e tensori in segmenti che vengono elaborati contemporaneamente su dispositivi diversi. Questo approccio minimizza l'overhead di comunicazione, ma richiede interconnessioni ad alta velocità tra gli acceleratori.

Parallelismo pipeline (Pipeline Parallelism) distribuisce interi strati del modello su dispositivi diversi, che elaborano i dati sequenzialmente come una pipeline. Questo approccio utilizza efficacemente la memoria, ma può portare a un carico di lavoro sbilanciato sui dispositivi.

Strategie avanzate di distribuzione

Parallelismo 3D (3D Parallelism) combina il parallelismo tensoriale e pipeline con il parallelismo dei dati (elaborazione di diversi batch di campioni su dispositivi diversi), consentendo il massimo utilizzo delle risorse di calcolo disponibili durante l'addestramento di modelli estremamente grandi.

ZeRO (Zero Redundancy Optimizer) elimina la ridondanza nell'archiviazione degli stati dell'ottimizzatore, dei gradienti e dei parametri del modello tra le GPU. ZeRO-3, la variante più avanzata, divide i singoli parametri del modello in modo che ogni GPU memorizzi solo una piccola parte del modello totale, consentendo l'addestramento di modelli multi-miliardari anche su sistemi hardware relativamente limitati.

L'implementazione di strategie di sharding efficienti richiede framework specializzati come DeepSpeed, Megatron-LM o Mesh TensorFlow, che automatizzano gli aspetti complessi della distribuzione e della sincronizzazione. Questi framework spesso implementano ulteriori ottimizzazioni come il gradient checkpointing, l'addestramento a precisione mista o la ricomputazione delle attivazioni per migliorare ulteriormente l'efficienza e ridurre i requisiti di memoria.

Confronto tra le architetture dei moderni modelli linguistici

Le differenze architetturali tra gli LLM moderni svolgono un ruolo chiave nelle loro capacità, efficienza e idoneità per diverse applicazioni. Sebbene tutti utilizzino la base Transformer, esistono variazioni significative nell'implementazione dei singoli componenti che influenzano le loro prestazioni e caratteristiche.

Architettura GPT (Generative Pre-trained Transformer) utilizza un approccio decoder-only con generazione di testo autoregressiva, rendendola ideale per compiti generativi. Versioni più recenti come GPT-4 implementano tecniche avanzate sia a livello di architettura (finestra contestuale più ampia, input multimodali) sia a livello di addestramento (RLHF, approcci costituzionali).

Architettura PaLM (Pathways Language Model) di Google ha introdotto innovazioni come le attivazioni SwiGLU, l'attenzione multi-query e RoPE scalato, consentendo una scalabilità più efficiente a centinaia di miliardi di parametri. Gemini, il successore di PaLM, ha ulteriormente integrato capacità multimodali direttamente nell'architettura del modello.

Architetture specializzate e nuovi approcci

Miscele di esperti (MoE) come Mixtral rappresentano un approccio ibrido in cui ogni token viene elaborato solo da un sottoinsieme di reti "esperte" specializzate. Questa tecnica consente di aumentare drasticamente il numero di parametri del modello mantenendo una complessità computazionale simile durante l'inferenza.

Modelli state-space come Mamba rappresentano una potenziale alternativa ai Transformer, che combina i vantaggi degli approcci ricorrenti e convoluzionali con la scalabilità lineare rispetto alla lunghezza della sequenza. Questi modelli sono particolarmente promettenti per l'elaborazione di contesti molto lunghi (100K+ token).

Nella scelta di un'architettura per un'applicazione specifica, è necessario considerare i compromessi tra precisione, efficienza computazionale, requisiti di memoria e capacità specifiche come la memoria a lungo termine o l'elaborazione multimodale. La ricerca più recente si concentra su approcci ibridi che combinano i punti di forza di diverse architetture e tecniche come la generazione aumentata dal recupero (retrieval-augmented generation), che estendono le capacità dei modelli con l'accesso esplicito a conoscenze esterne.