Riassunto analitico
Negli ultimi anni, la quantità di dati generati ogni giorno è aumentata esponenzialmente, con centinaia di migliaia di immagini caricate quotidianamente su varie piattaforme. Diventa essenziale saper sfruttare questa abbondanza di dati per sviluppare sistemi che supportino gli esseri umani nelle attività quotidiane. Un compito rilevante è quello della classificazione delle immagini, che trova applicazioni diverse in vari ambiti, come la guida autonoma, la diagnosi medica e la sorveglianza di sicurezza. I progressi tecnologici nell'intelligenza artificiale sono stati molto consistenti di recente, grazie all'aumento delle capacità computazionali e della disponibilità di dati. Uno dei settori che ha tratto grande beneficio da questi miglioramenti è quello delle reti neurali profonde per la classificazione delle immagini. Solo pochi anni fa, era impensabile elaborare le grandi quantità di dati necessarie per addestrare un modello di deep learning per questo compito. Metodi tradizionali di classificazione delle immagini come YOLO, ResNet e i Vision Transformers (ViT) hanno dimostrato prestazioni impressionanti. YOLO è ottimizzato per il rilevamento di oggetti in tempo reale, ResNet per compiti di deep learning con connessioni residue e ViT per sfruttare le architetture dei transformer nei compiti visivi. Tuttavia, questi modelli presentano anche sfide significative, come l'elevato consumo di memoria, la complessità computazionale e la limitata adattabilità a nuovi compiti senza un esteso riaddestramento. L'area che trarrebbe maggior beneficio dallo sviluppo di sistemi di classificazione delle immagini più efficienti e adattabili è quella degli ambienti dinamici, dove arrivano continuamente nuovi dati, come nei veicoli autonomi o nelle banche dati di imaging medico in evoluzione. Oggi, questi sistemi richiedono spesso aggiornamenti e riaddestramenti frequenti per mantenere la loro accuratezza, il che può essere dispendioso in termini di risorse e richiedere molto tempo. L'obiettivo di questo lavoro è fornire un sistema di classificazione delle immagini capace di apprendimento continuo, mantenendo le prestazioni mentre si adatta a nuovi compiti e classi. L'approccio proposto sfrutta l'apprendimento incrementale generativo continuo (CGIL) con Modelli di Lingua Visiva (VLM) come CLIP, che incorpora capacità di apprendimento zero-shot e generazione di dati sintetici per mitigare l'oblio. Il framework CGIL utilizza la generazione di dati sintetici e l'adattamento dei prompt per integrare nuove conoscenze senza riaddestrare da zero. Questo sistema riduce i requisiti di memoria e computazionali utilizzando efficientemente modelli pre-addestrati e vettori contestuali. Per quanto ne sappiamo, questo è uno dei primi lavori ad applicare il framework CGIL alla classificazione delle immagini, concentrandosi sull'apprendimento continuo e sulle capacità zero-shot. Questo approccio mira a offrire una soluzione robusta, flessibile ed efficiente per ambienti dinamici, trasformando potenzialmente il modo in cui i sistemi di classificazione delle immagini sono sviluppati e implementati.
|
Abstract
In recent years, the amount of data generated every day has increased exponentially, with hundreds of thousands of images being uploaded to various platforms daily. Being able to leverage this abundance of data to develop systems that support humans in everyday activities has become essential. A relevant task is that of image classification, which has diverse applications across various domains, such as autonomous driving, medical diagnosis, and security surveillance. Technological advancements in artificial intelligence have been very consistent lately, due to the increase in computational capabilities and data availability. One of the areas that has greatly benefited from these improvements is deep neural networks for image classification. Just a few years ago, it was unthinkable to process the large amounts of data needed to train a deep learning model for this task. Traditional image classification methods like YOLO , ResNet, and Vision Transformers (ViT) have demonstrated impressive performance. YOLO is optimized for real-time object detection, ResNet for deep learning tasks with residual connections, and ViT for leveraging transformer architectures in visual tasks. However, these models also come with significant challenges, such as high memory footprint, computational complexity, and limited adaptability to new tasks without extensive retraining.
The area that would benefit most from developing more efficient and adaptable image classification systems is dynamic environments where new data continuously arrives, such as in autonomous vehicles or evolving medical imaging databases. Today, these systems often require frequent updates and retraining to maintain their accuracy, which can be resource-intensive and time-consuming. The objective of this work is to provide an image classification system capable of continual learning, maintaining performance while adapting to new tasks and classes. The proposed approach leverages Continual Generative Incremental Learning (CGIL) with Visual Language Models (VLM)like CLIP, which incorporates zero-shot learning capabilities and synthetic data generation to mitigate forgetting. The CGIL framework uses synthetic data generation and prompt tuning to integrate new knowledge without retraining from scratch. This system reduces the memory and computational requirements by efficiently utilizing pre-trained models and context vectors. To the best of our knowledge, this is one of the first works to apply the CGIL framework to image classification, focusing on continual learning and zero-shot capabilities. This approach aims to offer a robust, flexible, and efficient solution for dynamic environments, potentially transforming the way image classification systems are developed and deployed.
|
