Riassunto analitico
Per alcuni decenni i ricercatori hanno cercato di capire come addestrare le Reti Neurali Artificiali su una sequenza di compiti senza dimenticare tutto ciò che è stato appreso in precedenza, questa metodologia di apprendimento è chiamata Continual Learning. Invece, l'approccio tipico al ML presuppone che tutti i dati siano sempre per effettuare l'addestramento del modello. Con l'approccio Continual Learning, la quantità di dati da memorizzare nei dispositivi di supporto sarebbe molto inferiore, poiché i vecchi dati non sono necessariamente disponibili. Il Continual Learning renderebbe anche l'apprendimento molto più dinamico, dato che il mondo reale cambia rapidamente e l'adattabilità è necessaria. L'obiettivo di questo lavoro è quello di valutare quanto bene un algoritmo AI non supervisionato possa ricordare i compiti appresi in sequenza e descrivere come si comporta la dimenticanza in questo caso, facendo apprendere i dati al modello in modo sequenziale e utilizzando tecniche come il replay dell'esperienza. Precisamente, l'obiettivo è quello di osservare l'impatto dell'ER sul problema della dimenticanza.
|
Abstract
For some decades researchers have been trying to understand how to train Artificial Neural Networks on a sequence of tasks without forgetting everything that was learned previously, this learning methodology is called Continual Learning. Instead, the typical approach to ML assumes that all data is always to carry out the training of the model. With the Continual Learning approach, the amount of data required to be stored in the supporting devices would be much less, as old data may not necessarily be available. Continual Learning would also make the learning much more dynamic as the real world is rapidly changing and adaptivity is needed. The objective of this work is to evaluate how well an unsupervised AI algorithm can remember tasks learned in a sequence and describe how the forgetting behaves in this case by having the model learn data sequentially and using techniques such as experience replay. Precisely, the goal is to observe the impact of the ER on the forgetting problem.
|
