Programma Anno Accademico 2015/2016

Scheda del Corso di “Computational Intelligence”
ANNO ACCADEMICO 2015/2016
CDA SERVENTE: LAUREA MAGISTRALE IN INGEGNERIA DELLE COMUNICAZIONI
1. DESCRITTORI
1.1 SSD: ING-IND/31 Elettrotecnica
1.2 Crediti: 6
1.3 Docente: Antonello Rizzi
1.4 Calendarizzazione: secondo anno, primo semestre
1.5 Offerto a: MELR, MINR, MSIR, MARR
1.6 Tipologia di valutazione: esame con votazione in trentesimi
2. OBIETTIVI DEL MODULO E CAPACITÀ ACQUISITE DALLO STUDENTE
ITA
Sono forniti i principi di base della progettazione di sistemi automatici per il machine learning (problemi di
classificazione, clustering, approssimazione funzionale e predizione) basati su tecniche di Intelligenza
Computazionale (reti neurali, logica fuzzy, algoritmi evolutivi).
ENG
The module deals with the basic principles of machine learning systems (classification, clustering, function
approximation and prediction problems) based on Computational Intelligence techniques (neural networks, fuzzy
logic, evolutionary algorithms).
3. PREREQUISITI
ITA
Conoscenze di base di Geometria, Algebra, Analisi Matematica, Teoria dei Segnali e dell’Informazione, Fondamenti
di Informatica.
ENG
Elementary notions of Geometry, Algebra, Differential Calculus, Signal Theory, Information Theory, Informatics.
4. RISULTATI DI APPRENDIMENTO ATTESI
ITA
Lo studente sarà reso capace di analizzare un problema di modellamento data driven ed i dati disponibili; di
determinare una procedura di preprocessamento adatta al caso in esame; di progettare ed implementare
opportunamente il sistema di modellamento finalizzato ad una determinata applicazione.
ENG
Successful students will be able to analyse a data driven modelling problem and the available data; to select a suited
pre-processing procedure; to design and to implement an appropriate modelling system for a given application.
5. PROGRAMMA
ITA
Machine Learning. Introduzione al modellamento data driven: soft computing, intelligenza computazionale.
Definizione dei problemi di clustering classificazione, modellamento non supervisionato, approssimazione funzionale,
predizione. Capacità di generalizzazione. Deduzione ed induzione. Principio di induzione su spazi normati. Modelli ed
algoritmi di apprendimento. La scelta di una metrica ed il preprocessamento dei dati.
Problemi di ottimizzazione. Condizioni di ottimalità. Regressione lineare: algoritmo LSE, RLSE. Algoritmi numerici
di ottimizzazione; algoritmi basati sulla discesa al gradiente. Metodo di Newton.
Principi di logica fuzzy: definizioni, operazioni elementari. Principio di induzione fuzzy. Regole fuzzy
Sistemi di classificazione: misure di prestazione e di sensibilità. Classificatore k-NN. Il neurone biologico ed il
sistema nervoso centrale. Perceptron. Reti Feedforward: Multi layer perceptron. Algoritmo Error Back Propagation.
Support Vector Machines.
Algoritmi di apprendimento automatici. Sensibilità rispetto ai parametri strutturali. Algoritmi costruttivi e di pruning.
Ottimizzazione della capacità di generalizzazione: cross-validation e Criterio del Rasoio di Occam.
Classificatori neurofuzzy Min-Max; algoritmo di apprendimento classico e regolarizzato. ARC; PARC; Principal
Component Analysis; Reti neuro-fuzzy generalizzate. GPARC.
Swarm Intelligence. Evolutionary Computation. Algoritmi genetici, Particle Swarm Optimization, Ant Colony
Optimization. Selezione automatica delle caratteristiche.
Ragionamento fuzzy. Modus ponens generalizzato; sistemi FIS; procedure di fuzzyficazione e defuzzyficazione.
Sistemi ANFIS. Algoritmi di training canonici. Algoritmi avanzati per la sintesi di reti ANFIS: clustering nello spazio
congiunto, clustering nello spazio degli iperpiani.
Problemi di predizione e cross-predizione; embedding basato su algoritmi genetici.
Applicazioni e casi di studio: modellamento e controllo dei flussi energetici nelle micro-grids, ottimizzazione e
controllo delle Smart Grids, classificazione di flussi di traffico TCP/IP.
Ricerca di pattern regolari ed estrazione di regole in grandi basi di dati (Big Data Analytics).
ENG
Introduction to Machine Learning and data driven modelling. Soft Computing, Computational Intelligence.
Basic data driven modelling problems: clustering, classification, unsupervised modelling, function approximation,
prediction. Generalization capability. Deduction and induction.
Induction inference principle over normed spaces. Models and training algorithms. Distance measures and basic
preprocessing procedures.
Optimization problems. Optimality conditions. Linear regression. LSE and RLSE algorithms. Numerical optimization
algorithms: steepest descent and Newton’s method.
Fuzzy logic principles. Fuzzy induction inference principle. Fuzzy Rules.
Classification systems: performance and sensitivity measures. K-NN Classification rule.
The biological neuron and the central nervous system.
Perceptron. Feedforward networks: Multi-layer perceptron. Error Back Propagation algorithm. Support Vector
Machines.
Automatic modeling systems. Structural parameter sensitivity. Constructive and pruning algorithms.
Generalization capability optimization: cross-validation and Ockham's razor criterion based techniques.
Min-Max neurofuzzy classifiers; standard and regularized training algorithm. ARC, PARC; Principal Component
Analysis; Generalized Min-Max neurofuzzy networks. GPARC.
Swarm Intelligence. Evolutionary Computation. Genetic algorithms. Particle Swarm Optimization, Ant Colony
Optimization. Automatic feature selection.
Fuzzy reasoning. Generalized modus ponens; FIS; fuzzyfication and e defuzzyfication. ANFIS. Basic and advanced
training algorithms: clustering in the joint input-output space, hyperplane clustering.
Outline of prediction and cross-prediction problems: embedding based on genetic algorithms.
Applications and case studies: micro-grids energy flows modelling and control, Smart Grids optimization and control,
classification of TCP/IP traffic flows.
Mining of frequent patterns and rule extraction in large data bases (Big Data Analytics).
6. MATERIALE DIDATTICO
 Rudolf Kruse, Christian Borgelt, Frank Klawonn, Christian Moewes, Matthias Steinbrecher, Pascal Held,
Computational Intelligence: a Methodological Introduction, Springer, 2013, DOI 10.1007/978-1-4471-5013-8
 Dispense e lucidi delle lezioni disponibili sul sito web http://infocom.uniroma1.it/rizzi/
(Lecture notes and learning materials available at http://infocom.uniroma1.it/rizzi/)
7. SITO WEB DI RIFERIMENTO
http://infocom.uniroma1.it/rizzi/