L'IA autonoma sta entrando sempre più rapidamente negli ambienti di lavoro. Tuttavia, la sua diffusione non dipenderà soltanto dalle prestazioni tecnologiche. Secondo lo studio Path to the Autonomous Workplace realizzato da TeamViewer, il vero fattore discriminante sarà la fiducia degli utenti. Un tema che riguarda direttamente anche chi progetta piattaforme elettroniche, sistemi embedded e infrastrutture digitali destinate all'industria.
In Italia il 71% degli intervistati utilizza l'intelligenza artificiale almeno una volta al giorno. Inoltre, il 66% valuta positivamente l'esperienza. Tuttavia, quando l'IA è chiamata a prendere decisioni in autonomia emergono maggiori resistenze. Ben il 62% preferisce infatti mantenere una supervisione umana, mentre solo il 7% si dichiara completamente favorevole a sistemi privi del cosiddetto human in the loop.
IA autonoma e progettazione dei sistemi
Per progettisti e sviluppatori il messaggio è chiaro. La nuova generazione di applicazioni dovrà integrare non solo algoritmi sempre più evoluti, ma anche meccanismi che rendano trasparenti le decisioni dell'intelligenza artificiale.
Secondo la ricerca, il 72% degli utenti accetta che l'IA operi autonomamente purché sia sempre possibile intervenire. Inoltre, gli intervistati chiedono notifiche prima delle modifiche più importanti, registri consultabili delle attività svolte, sistemi di rollback e solide garanzie per sicurezza e privacy.
Di conseguenza, funzionalità come la tracciabilità delle operazioni, il controllo degli accessi e la spiegabilità degli algoritmi diventano veri requisiti di progettazione, soprattutto nei sistemi destinati agli ambienti industriali.
L'IT apre la strada all'automazione
La ricerca evidenzia anche come il settore IT rappresenti il primo laboratorio dell'IA autonoma. Il 98% dei responsabili IT intervistati affiderebbe all'intelligenza artificiale almeno una delle proprie attività. Tra le principali figurano gli aggiornamenti software, la risoluzione dei problemi più comuni dei dispositivi e la gestione degli accessi ai sistemi.
Secondo TeamViewer, entro il 2030 quasi il 29% dei servizi del digital workplace potrebbe essere gestito completamente in autonomia. Parallelamente, oltre la metà delle aziende adotta già un approccio proattivo o predittivo nella gestione dell'infrastruttura IT.
La trasparenza come vantaggio competitivo
La ricerca evidenzia però un evidente "divario di fiducia". Il 60% dei lavoratori italiani verifica spesso o sempre i risultati prodotti dall'IA, dedicando mediamente quasi un'ora e mezza alla settimana a questo controllo. Inoltre, il 50% dichiara di non sapere sempre quando fidarsi delle risposte generate automaticamente.
Per questo motivo la prossima evoluzione dell'intelligenza artificiale non dipenderà soltanto da modelli più potenti. Sarà invece determinante progettare sistemi capaci di operare entro regole definite, documentare ogni decisione e coinvolgere l'utente quando necessario. Per chi sviluppa elettronica, software industriale e piattaforme digitali, la fiducia diventa così un elemento progettuale tanto importante quanto prestazioni, affidabilità e sicurezza.
