Slides - Agenda INFN

Introduzione
MPI & GPU
Giuseppe Andronico
CCR-WS10
Santa Tecla, 18 Maggio 2010
Sommario
 Introduzione MPI

Calcolo parallelo & MPI

Risorse MPI

MPI & GRID
 Introduzione GPU

Calcolo con le GPU
Introduzione MPI
 Message Passing Interface: libreria che
implementa un metodo di comunicazione tra
processi eseguiti indipendentemente, dove ogni
processo è una istanza dello stesso eseguibile
 Uno dei metodi più diffusi per realizzare
applicazioni parallele
 Supporta diversi metodi di comunicazione tra
processi:
►
Tramite il bus di sistema
►
TCP/IP
►
Infiniband, Myrinet, ...
 Prevede comunicazione sincrona e asincrona
Calcolo parallelo & MPI
Esempio tipico: Lattice QCD
 Algoritmo di tipo Montecarlo su un reticolo di punti in 4
dimensioni
 Il cambiamento nel singolo punto dipende dallo stesso
punto e dai prossimi vicini
 I punti possono essere divisi in due insiemi in modo
tale che l'aggiornamento dei punti di un dato insieme
non abbia correlazioni ⇒ possono essere trattati in
parallelo
 Il reticolo viene diviso in parti eguali che verranno
trattate dai vari processi
 I vari processi scambiano informazioni necessarie al
corretto svolgimento del programma anche diverse
volte per ciclo
Calcolo parallelo & MPI
 Il grande numero di scambio di messaggi rende
importante la latenza nell'attivazione di un
collegamento più che la larghezza di banda
 L'esempio mostra un utilizzo tipico: lo stesso
codice applicato a diversi insiemi di dati con
scambio di informazioni tra le varie parti,
tipicamente in modo sincrono
 In generale MPI supporta applicazioni dove
processi diversi eseguono in parallelo del
codice, non necessariamente lo stesso, che
richiede lo scambio di informazione in modo
sincrono o asincrono
Risorse MPI
 Un qualsiasi cluster può essere usato per
programmi MPI, ma per un elevato numero di
collegamenti la latenza diventa un fattore
importante
 Sono stati sviluppati cluster che fanno uso di
Infiniband per minimizzare questo problema:
al momento l'INFN conta alcune risorse di
questo tipo su cui riporterà Roberto Alfieri
MPI & GRID
 La presenza di risorse MPI con Infiniband distribuite
rende interessante l'accesso via grid
 Esperienze in tal senso in EGEE (mpistart),
Consorzio COMETA
 Sono richieste, comunque, delle adeguate politiche
di utilizzo
 Con la fine di EGEE il supporto dovrebbe
proseguire in EMI
 Ulteriori informazioni nel talk di Roberto Alfieri
MPI & GRID
Usare MPI con GRID solleva altri aspetti:
 L'accounting dell'uso delle risorse, che nel
caso specifico richiede alcuni accorgimenti
particolari, come ci dirà Marco Bencivenni
 Il monitoraggio delle risorse per verificare il
corretto funzionamento e prevenire problemi
agli utenti; di questo ci parlerà Paolo Veronesi
Introduzione GPU
 L'evoluzione delle schede video ha portato i
maggiori produttori a sviluppare unita di calcolo
dedicate (GPU) estremamente potenti
 Due produttori (NVIDIA e ATI) hanno sviluppato
delle librerie per accedere facilmente a questa risorsa
 Negli ultimi modelli la potenza di calcolo
disponibile e' dell'ordine del TeraFlop in singola
precisione
 Si possono montare più schede in un singolo
computer
Calcolo con le GPU
 Le GPU sono usate come co-processori
 Va scritto il codice necessario
 Bisogna gestire gli spostamenti dei dati tra memoria
della CPU e memoria della GPU
 Il metodo di calcolo e' di tipo data-parallel: diversi
thread (centinaia o migliaia) che eseguono lo stesso
codice su porzioni differenti di dati
 Si devono usare librerie fornite dal produttore
 Servono compilatori che supportano le GPU
Calcolo con le GPU
 Possibili grandi aumenti di prestazioni
 Richiesta algoritmi e programmazione
specifici
 L'argomento viene presentato da Roberto
Ammendola