Riassunto analitico
In questo lavoro si analizzano problemi ai minimi quadrati separabili, in cui le variabili possono essere divise in un sottoinsieme lineare e uno non lineare. Questo tipo di problemi sono stati trattati in letteratura con due diversi approcci: il metodo di Proiezione delle Variabili e quello della Minimizzazione Alternata. L'idea su cui entrambi i metodi si basano è di sfruttare la separabilità delle variabili per modificare il problema originale ed ottenere una nuova formulazione, più semplice e di dimensioni minori della prima. E' presentato un dettagliato confronto tra i due metodi, sottolineando i rispettivi pro e contro e per quali applicazioni la scelta di un approccio è preferibile all'altro. Un punto cruciale per entrambi i metodi, che rappresenta la loro maggiore differenza, è nel calcolo della matrice Jacobiana.
In particolare, ci siamo concentrati su problemi ai minimi quadrati separabili vincolati, dando particolare attenzione al caso di vincoli di non-negatività sulla variabile lineare. Questa scelta è motivata dall'applicazione all'ambito dell'imaging, dove le componenti del vettore delle incognite sono pixel, che si riferiscono ad una quantità fisica quindi devo essere reali e non-negativi. Come contributo originale, si è estesa la Proiezione delle Variabili al caso non-negativo ed si è proposta una nuova formula per il calcolo della matrice Jacobiana.
Per validare i risultati teorici, è proposta una applicazione alla blind deconvolution. In questi problemi, sono fornite misure di radiazioni (microonde, raggi-X, ultrasuoni, ecc.), emesse o trasmesse da un oggetto incognito (tipicamente un segnale o un'immagine bidimensionale), insieme a parziali informazioni (o nessuna) sull'apparato che fornisce i dati. Si devono quindi risolvere il problema non banale della ricostruzione dell'oggetto e contemporaneamente del modello che descrive la formazione dei dati. Una strategia diffusa per affrontare la blind deconvolution consiste nel passare ad una formulazione ai minimi quadrati, che abbia per incognite sia l'oggetto che il modello dipendente da parametri da stimare. A causa della severa mal posizione, la presenza di rumore sui dati misurati rende inutilizzabile la strategia di semplice inversione dei dati, mentre solo un accurato studio dell'instabilità congiunta alla scelta di opportune tecniche di regolarizzazione può portare ad ottenere una soluzione fisicamente significativa.
Se l'oggetto è l'incognita lineare e i parametri da cui dipende il modello sonole variabili non lineari, la blind deconvolution può essere formulata come un problema separabile e risolta con i metodi di Proiezione delle Variabili e Minimizzazione Alternata. Per tali problemi di larga scala, l'operatore che descrive il modello possiede tipicamente speciali caratteristiche e strutture, da sfruttare per una efficiente implementazione dei metodi iterativi e delle tecniche di regolarizzazione.
Una seconda differenza cruciale tra i due metodi è nel tipo di regolarizzazione che ammettono. Infatti, nella Proiezioni delle Variabili è consentita solo la siddetta regolarizzazione diretta, che consiste nell'incorporare informazioni a priori sulla soluzione attesa. Invece la Minimizzazione Alternata ammette anche la regolarizzazione iterativa, basata sul costruire iterativamente una successione di vettori che converge alla soluzione e sul fermare il procedimento iterativo prima che il rumore introduca artefatti sulla ricostruzione.
Sono proposti numerosi esperimenti numerici nell'ambito dell'imaging astronomico, dove la formulazione "blind" della deconvoluzione arriva da una modellizzazione parametrica dell'operatore di blurring o, nel caso di dati di Fourier, da incertezza sulle frequenze spaziali corrispondenti ai dati. Tutti i test condotti mostrano che la presenza di vincoli di non-negatività sull'approccio separabile di blind deconvolution proposto forniscono miglioramenti nella qualità dei risultati ottenuti.
|
Abstract
In this work we analyze separable least squares problems, where the variables can be partitioned into a linear subset and a nonlinear one. This kind of problems have been addressed in literature with two approaches: the Variable Projection and the Alternating Optimization. The basic idea on which both the methods are based is to exploit the separability of the variables in order to modify the original problem and obtain a new formulation, easier to solve and of smaller dimension than the previous. A detailed comparison of the two approaches is given, pointing out their respective pros and cons and the application for which an approach is more convenient than the other. A crucial issue for both methods, representing the main difference between them, is in the computation of the Jacobian matrix related to the objective function.
In particular, we focus on a constrained formulation of separable least squares, giving special attention to the case of nonnegative constraints imposed on the linear variable. This choice is motivated by the application of the methods to the imaging framework, where the entries of the unknown are pixels contents refering to a physical quantity, that thus must be real and nonnegative. Iterative projection methods are applied to solve the problem.
As original contribution, we extend the Variable Projection method to this nonnegative case and a new formula for the computation of the Jacobian matrix is proposed.
In order to validate all the theoretical results, an application to blind deconvolution is given. In this problems, some measured radiation (microwaves, photons, X-rays, ultrasound, etc.) emitted or transmitted by an unknown target is available, together with only partial (or any) information on the apparatus providing the data. Reconstructions of both the target and the model connecting the data with the target itself have therefore to be addressed contemporaneously, which represents a particularly tough issue when dealing with restoration problems. A common strategy to address the solution of a blind deconvolution problem involves a least squares formulation, where the unknown are both the target and a parametric version of the model. Due to the sever ill-posedness characterizing the problem, the presence of noise in the measured data makes any naive inversion strategy useless, and only an accurate study of the instability together with a choice of an appropriate regularization technique can lead to a physically meaningful result.
By considering the target as the linear unknown and the parameters describing the model as the nonlinear variables, blind deconvolution can be formulated as a separable problem and addressed with the Variable Projection and the Alternating Optimization methods. For such large scale problems, the operator describing the parametric model typically has special features and structure, that can be exploited for an efficient implementation of the iterative methods and the regularization techniques.
Another crucial difference between the two methods lays in the regularization techniques they admit. Specifically, for Variable Projection only direct regularization is allowed, that consists on incorporating further a priori information about the expected solution. On the other hand, Alternating Optimization admits also iterative regularization, based on iteratively building up a sequence of arrays that converges to the solution and by stopping the iterative procedure before the noise introduces artefacts on the reconstructions.
Numerical experiments in the astronomical imaging framework are given, where the "blind" formulation comes from a parametric model of the blurring operator or, when dealing with Fourier data, uncertanties on the spatial frequencies.
All the tests conducted show that the presence of nonnegative constraints on the proposed separable blind deconvolution approach provides some improvements in the reconstructions.
|
