Augmented interaction for custom-fit products by means of interaction devices at low costs

This Ph.D thesis refers to a research project that aims at developing an innovative platform to design lower limb prosthesis (both for below and above knee amputation) centered on the virtual model of the amputee and based on a computer-aided and knowledge-guided approach. The attention has been put on the modeling tool of the socket, which is the most critical component of the whole prosthesis. The main aim has been to redesign and develop a new prosthetic CAD tool, named SMA2 (Socket Modelling Assistant2) exploiting a low-cost IT technologies (e.g. hand/finger tracking devices) and making the user’s interaction as much as possible natural and similar to the hand-made manipulation. The research activities have been carried out in six phases as described in the following. First, limits and criticalities of the already available modeling tool (namely SMA) have been identified. To this end, the first version of SMA has been tested with Ortopedia Panini and the orthopedic research group of Salford University in Manchester with real case studies. Main criticalities were related to: (i) automatic reconstruction of the residuum geometric model starting from medical images, (ii) performance of virtual modeling tools to generate the socket shape, and (iii) interaction mainly based on traditional devices (e.g., mouse and keyboard). The second phase lead to the software reengineering of SMA according to the limits identified in the first phase. The software architecture has been re-designed adopting an object-oriented paradigm and its modularity permits to remove or add new features in a very simple way. The new modeling system, i.e. SMA2, has been totally implemented using open source Software Development Kit-SDK (e.g., Visualization ToolKit VTK, OpenCASCADE and Qt SDK) and based on low cost technology. It includes: • A new module to automatically reconstruct the 3D model of the residual limb from MRI images. In addition, a new procedure based on low-cost technology, such as Microsoft Kinect V2 sensor, has been identified to acquire the 3D external shape of the residuum. • An open source software library, named SimplyNURBS, for NURBS modeling and specifically used for the automatic reconstruction of the residuum 3D model from medical images. Even if, SimplyNURBS has been conceived for the prosthetic domain, it can be used to develop NURBS-based modeling tools for a range of applicative domains from health-care to clothing design. • A module for mesh editing to emulate the hand-made operations carried out by orthopedic technicians during traditional socket manufacturing process. In addition several virtual widgets have been implemented to make available virtual tools similar to the real ones used by the prosthetist, such as tape measure and pencil. • A Natural User Interface (NUI) to allow the interaction with the residuum and socket models using hand-tracking and haptic devices. • A module to generate the geometric models for additive manufacturing of the socket. The third phase concerned the study and design of augmented interaction with particular attention to the Natural User Interface (NUI) for the use of hand-tracking and haptic devices into SMA2. The NUI is based on the use of the Leap Motion device. A set of gestures, mainly iconic and suitable for the considered domain, has been identified taking into account ergonomic issues (e.g., arm posture) and ease of use. The modularity of SMA2 permits us to easily generate the software interface for each device for augmented interaction. To this end, a software module, named Tracking plug-in, has been developed to automatically generate the source code of software interfaces for managing the interaction with low cost hand-tracking devices (e.g., Leap Motion and Intel Gesture Camera) and replicate/emulate manual operations usually performed to design custom-fit products, such medical devices and garments. Regarding haptic rendering, two different devices have been considered, the Falcon Novint, and a haptic mouse developed in-house. In the fourth phase, additive manufacturing technologies have been investigated, in particular FDM one. 3D printing has been exploited in order to permit the creation of trial sockets in laboratory to evaluate the potentiality of SMA2. Furthermore, research activities have been done to study new ways to design the socket. An innovative way to build the socket has been developed based on multi-material 3D printing. Taking advantage of flexible material and multi-material print possibility, new 3D printers permit to create object with soft and hard parts. In this phase, issues about infill, materials and comfort have been faced and solved considering different compositions of materials to re-design the socket shape. In the fifth phase the implemented solution, integrated within the whole prosthesis design platform, has been tested with a transfemoral amputee. Following activities have been performed: • 3D acquisition of the residuum using MRI and commercial 3D scanning systems (low cost and professional). • Creation of the residual limb and socket geometry. • Multi-material 3D printing of the socket using FDM technology. • Gait analysis of the amputee wearing the socket using a markerless motion capture system. • Acquisition of contact pressure between residual limb and a trial socket by means of Teskan’s F-Socket System. Acquired data have been combined inside an ad-hoc developed application, which permits to simultaneously visualize pressure data on the 3D model of the residual lower limb and the animation of gait analysis. Results and feedback have been possible thanks to this application that permits to find correlation between several phases of the gait cycle and the pressure data at the same time. Reached results have been considered very interested and several tests have been planned in order to try the system in orthopedic laboratories in real cases. The reached results have been very useful to evaluate the quality of SMA2 as a future instruments that can be exploited for orthopedic technicians in order to create real socket for patients. The solution has the potentiality to begin a potential commercial product, which will be able to substitute the classic procedure for socket design. The sixth phase concerned the evolution of SMA2 as a Mixed Reality environment, named Virtual Orthopedic LABoratory (VOLAB). The proposed solution is based on low cost devices and open source libraries (e.g., OpenCL and VTK). In particular, the hardware architecture consists of three Microsoft Kinect v2 for human body tracking, the head mounted display Oculus Rift SDK 2 for 3D environment rendering, and the Leap Motion device for hand/fingers tracking. The software development has been based on the modular structure of SMA2 and dedicated modules have been developed to guarantee the communication among the devices. At present, two preliminary tests have been carried out: the first to verify real-time performance of the virtual environment and the second one to verify the augmented interaction with hands using SMA2 modeling tools. Achieved results are very promising but, highlighted some limitations of this first version of VOLAB and improvements are necessary. For example, the quality of the 3D real world reconstruction, especially as far as concern the residual limb, could be improved by using two HD-RGB cameras together the Oculus Rift. To conclude, the obtained results have been evaluated very interested and encouraging from the technical staff of orthopedic laboratory. SMA2 will made possible an important change of the process to design the socket of lower limb prosthesis, from a traditional hand-made manufacturing process to a totally virtual knowledge-guided process. The proposed solutions and results reached so far can be exploited in other industrial sectors where the final product heavily depends on the human body morphology. In fact, preliminary software development has been done to create a virtual environment for clothing design by starting from the basic modules exploited in SMA2.

La presente tesi di dottorato è stata sviluppata nell’ambito di un progetto di ricerca che ha come obiettivo lo sviluppo di un framework innovativo per la progettazione di protesi per arto inferiore (per amputazioni sia transfemorali sia transtibiali) che permetta di gestire l’intero processo in un unico ambiente integrato dove ciascuna attività è supportata in modo diretto dalla conoscenza di dominio specifica. L’attenzione è stata posta sullo sviluppo di un’applicazione per la progettazione dell’invaso, il componente più critico dell’intera protesi. L’obbiettivo principale del lavoro di tesi è stato, quindi, la reingegnerizzazione e lo sviluppo di un nuovo sistema CAD prostetico, denominato SMA2 (Socket Modelling Assistant2, basato sull’impiego di tecnologie innovative a basso costo, quali ad esempio periferiche per il tracciamento di mani e dita, per permettere l’interazione uomo-macchina il più naturale possibile. Le attività di ricerca sono state organizzate in sei fasi principali come segue. Durante la prima fase, i limiti e le criticità della prima versione del sistema di modellazione (denominato SMA) sono stati identificati. A tal fine, SMA è stato testato con il personale tecnicno dell’ortopedia Panini e con i ricercatori del gruppo di ricerca in ortopedia della Salford University di Manchester utilizzando casi di studio reali. Sono state identificate le seguenti criticità a: (i) difficoltà nella ricostruzione del modello 3D dell’arto amputato partendo da immagine mediche, (ii) prestazioni delle modalità di modellazione 3D dell’invaso non adeguate e (iii) interazione con l’ambiente virtuale basata esclusivamente su periferiche classiche come tastiera e mouse e non era possibile emulare le tipiche operazioni di modifica dell’invaso. La seconda fase ha riguardato la riprogettazione del sistema di modellazione SMA in funzione dei limiti identificati nella prima fase. L’architettura software è stata riprogettata seguendo i paradigmi della progettazione orientata agli oggetti e la sua modularità permette di rimuovere o aggiungere nuovi moduli in modo semplice. Il nuovo sistema di modellazione, SMA2, è stato totalmente implementato usando Software Development Kit (SDK) con licenza open-source (in particolare Visualization ToolKit VTK, OpenCASCADE e Qt SDK) e basato su tecnologia a basso costo. Il sistema comprende: • Un nuovo modulo per la ricostruzione automatica dell’arto residuo partendo da immagini MRI. In aggiunta, una nuova procedura basata su tecnologia a basso costo, come Microsoft Kinect v2, è stata identificata ed utilizzata per acquisire il modello 3D dell’arto residuo. • Una libreria software open-souce, denominata SimplyNURBS, per la modellazione di superfici NURBS e specificatamente utilizzata per la ricostruzione automatica dell’arto amputato partendo dalle imamgini MRI. Anche se SimplyNURBS è stata sviluppata nell’ambito della progettazione di protesi per arti inferiori, essa può essere usata all’interno di altre applicazioni, sia in ambito medico sia in ambito industriale per quei prodotti la cui modellazione richiede l’utilizzo di modelli NURBS, quali ad esempio capi di abbigliamento. • Un modulo per la modifica di mesh triangolari per emulare le operationi manuali effettuate dai tecnici ortopedici durante il processo di sviluppo prodotto dell’invaso. Inoltre, sono stati sviluppati strumenti di modellazione virtuali per simulare quelli utilizzati dal tecnico ortopedico, quali ad esempio il metro per misurare l’arto residuo o la matita per evidenziare le zone critiche dell’invaso. • Una Natural User Interface (NUI) che permette di interagire con i modelli dell’arto residuo e dell’invaso attraverso periferiche di hand-tracking. • Un modulo per generare il modello geometrico dell’invaso per la realizzazione dello stesso mediante tecnologie di produzione additive. La terza fase ha riguardato lo studio e la progettazione dell’interazione aumentata con particolare attenzione allo sviluppo di una Natural User Interface per l’uso di periferiche di hand-tracking e di force-feedback. La NUI è basata sull’uso della periferica di hand-tracking Leap Motion. Un insieme di gesti, principalmente iconici e adatti al dominio considerato, sono stati indentificati tenendo in considerazione vincoli ergonomici (per esempio, la postura delle braccia) e la facilità di utilizzo. La modularità di SMA2 ha permesso di generare in modo semplice un’interfaccia software per ogni dispositivo di hand-tracking preso in considerazione. Inoltre, è stato sviluppato un modulo software, denominato Tracking plug-in, che permette di generare in automatico il codice sorgente per la creazione di interfacce per l’interazione con dispositivi di hand-tracking, come ad esempio Leap Motion e Intel Gesture Camera. In questo modo è possibile replicare/emulare le operazioni che vengono eseguite durante la progettazione di prodotti custom-fit, quali protesi e capi di abbigliamento. Per quanto riguarda i dispositivi per l’interazione tattile, sono stati considerati il Novint Falcon e un mouse aptico sviluppato ad hoc. Durante la quarta fase, sono state studiate ed analizzate le tecnologie di Additive Manufacturing, ponendo particolare attenzione alla tecnologia FDM. Tale tecnologia è stata utilizzata per realizzare l’invaso di un paziente progettato con SMA2 e verificarne le potenzialità. Inoltre, sono state condotte attività di ricerca per valutare nuove modalità di progettazione dell’invaso. In particolare, è stata considerata la possibilità di progettare e realizzare l’invaso utilizzando una stampante FDM multi materiale. Sfuttando possibilità di utilizzare materiali flessibili e la stampa di oggetti con materiali diversi, è possibile realizzare un invaso composto da parti flessibili e parti più rigide. A tal fine sono stati presi in considerazione aspetti, quali le modalità di riempimento (infill) durante la stampa 3D, i materiali per la realizzazione delle diverse parti ed il Durante la quinta fase, il sistema implementato, integrato all’interno dell’intera piattaforma per la progettazione di protesi, è stato sperimentato con un paziente con amputazione transfermorale. Sono state svolte le seguenti attività: • Acquisizione dell’arto amputato mediante Risonanza Magnetica e sistemi commerciali di acquisizione 3D (sia a basso coste sia professionali). • Creazione della geometria 3D dell’arto residuo e dell’invaso. • Stampa 3D multi materiale dell’invaso utilizzando la tecnologia FDM. • Analisi della camminata dell’amputato mediante un sistema di acquisizione del movimento. • Acquisizione delle pressioni di contatto tra invaso e arto residuo mediante il sistema Teskan F-Socket System. Mediante un’applicazione sviluppata ad hoc, è stato possibile rimappare sul modello 3D dell’invaso i valori di pressione acquisiti mediante mappe di colore e simultaneamente visualizzare l’animazione della camminata acquisita. Questa applicazione permette di identificare eventuali correlazioni tra le differenti fasi del ciclo della camminata ed i valori di pressione acquisiti. I risultati raggiunti si sono rilevati d’interesse e sono stati pianificati ulteriori test per validare il sistema con altri pazienti. I risultati ottenuti hanno, inoltre permesso di valutare le potenzialità di SMA2 ed il suo impiego presso laboratori ortopedici. La soluzione ha il potenziale per diventare un prodotto commerciale e quindi sostituire la procedura manuale seguita per progettazione dell’invaso. La sesta fase ha riguardato l’evoluzione di SMA2 come ambiente di Mixed Reality. La soluzione proposta, denominata Virtual Othopedic Laboratory (VOLAB), è sempre basata su dispositivi a basso costo e librerie software open source (OpenCL e VTK). In particolare, l’architettura hardware comprende tre Microsoft Kinect v2 per il tracciamento del corpo umano, il sistema di visione 3D Oculus Rift SDK 2 per il rendering dell’ambiente virtuale ed il dispositivo Leap Motion per il tracciamento della mani/dita. Lo sviluppo software è basato sulla struttura modulare di SMA2 e moduli dedicati che sono stati sviluppati per garantire la comunicazione tra i vari dispositivi coinvolti. Attualmente, sono stati svolti due test preliminari: il primo per verificare le prestazioni real-time dell’ambiente virtuale ed il secondo per verificare l’interazione con i dispositivi di hand-tracking durante l’utilizzo degli strumenti di modellazione virtuale messi a disposizione da SMA2. I risultati ottenuti sono molto promettenti, ma sono necessari ulteriori miglioramenti. Per esempio, la qualità della ricostruzione dell’ambiente virtuale, in particolare del modello dell’arto residuo, potrebbe essere migliorata utilizzando due camere HD-RGB in aggiunta all’Oculus Rift. Per concludere, i risultati ottenuti sono stati considerati molto interessanti ed incoraggianti dallo staff tecnico dei laboratori ortopedici. SMA2 renderà possibile un importante cambiamento del modo di progettare un invaso per protesi d’arto inferiore, da un processo tradizionalmente manuale ad un nuovo processo basato su approccio virtuale e l’impiego di strumenti computer-aided. Le soluzioni proposte ed i risultati raggiunti possono essere utilizzati anche in altri settori industriali dove il prodotto finale dipende fortemente dalla morfologia del corpo umano. Infatti, sono stati sviluppati alcuni moduli software per la progettazioni di capi di abbigliamento partendo dai moduli base sviluppati per SMA2.