SafeWorld raccoglie 12,2 milioni di dollari per simulare milioni di incidenti virtuali prima che i robot guidati dall’IA avanzata entrino nelle nostre fabbriche e nelle nostre case.

Fino a oggi, il grande dibattito sulla sicurezza dell’Intelligenza Artificiale si è concentrato prevalentemente sui chatbot, sui rischi di allucinazione nei testi e sulla protezione dei dati personali. Cosa accade, però, quando i modelli di IA generativa ottengono un corpo fisico e iniziano a muoversi nello stesso spazio occupato dagli esseri umani?

L’emergere della cosiddetta Embodied AI (l’IA incarnata in bracci robotici, automi da magazzino e robot umanoidi) sposta il baricentro della sicurezza: il margine di errore non si calcola più in parole sbagliate o risposte inaccurate, ma in incolumità fisica delle persone.

Per rispondere a questa sfida nasce SafeWorld, startup californiana fondata da ricercatori provenienti dalle università di Stanford e Carnegie Mellon. La società è uscita dallo stato di riservatezza annunciando un round di finanziamento da 12,2 milioni di dollari guidato dai fondi a16z speedrun e Shine Capital.

Il dilemma della sicurezza fisica: perché i test tradizionali non bastano

I robot industriali del passato operavano seguendo istruzioni rigide, all’interno di percorsi prestabiliti e spesso segregati da gabbie di protezione. I nuovi robot guidati dall’IA generativa, al contrario, interpretano l’ambiente circostante in tempo reale per prendere decisioni autonome. Questa flessibilità elimina la rigidità del passato, ma introduce un elemento di imprevedibilità complesso da certificare.

I test fisici tradizionali presentano limiti strutturali evidenti:

Costi e tempi proibitivi: Verificare manualmente ogni singola anomalia (i cosiddetti edge cases) richiede anni di test sul campo.

Rischi inaccettabili per i collaudatori: Non è fattibile mettere a rischio l’incolumità di un operatore umano per testare la reazione del robot di fronte a cadute improvvise, ostacoli inaspettati o comportamenti errati.

La soluzione: testare la sicurezza con gli “umani digitali”

SafeWorld ha sviluppato un’architettura basata su piattaforme di simulazione 3D ad alta fedeltà popolate da umani digitali reattivi.

Attraverso scenari generati sia da istruzioni in linguaggio naturale (prompt) sia dai dati di navigazione reale dei robot, il software ricrea migliaia di varianti del comportamento umano: avatar con corporature, altezze e abbigliamenti differenti che corrono, si inginocchiano, inciampano o compiono movimenti repentini.

In questo modo, il robot viene sottoposto a milioni di stress-test virtuali, imparando a ricalcolare le traiettorie o ad arrestarsi tempestivamente prima di operare a contatto con lavoratori reali.

Tra fiducia psicologica, etica e responsabilità legale

L’adozione su larga scala della robotica collaborativa non dipenderà esclusivamente dalle performance tecniche dei macchinari, ma dalla fiducia psicologica dei lavoratori e dei consumatori. Sapere che un automa ha superato protocolli di simulazione indipendenti diventa un prerequisito indispensabile per superare la naturale diffidenza verso macchine fisicamente autonome.

Inoltre, l’evoluzione delle normative europee e internazionali (come le direttive sulla sicurezza delle macchine e l’AI Act) imporrà standard sempre più severi sulla responsabilità civile dei produttori in caso di incidenti sul lavoro. La sicurezza non può più essere concepita come un blocco rigido applicato a posteriori, ma deve strutturarsi come un modulo di intelligenza continuo capace di evolvere insieme al software del robot.