Qualcomm ha una diffusione stabile in esecuzione su un telefono Android

Gran parte dell'entusiasmo per l'IA è passato ai chatbot, ma la generazione di immagini con strumenti come Stable Diffusion rimane popolare. È stato ora dimostrato che Stable Diffusion funziona su un telefono Android, senza la necessità di server esterni.

Qualcomm ha mostrato alcune immagini generate da Stable Diffusion localmente su un telefono Android. Mentre sei stato in grado di cercare uno strumento di generazione di immagini, inserire un prompt e farlo generare sul cloud, questi vengono generati completamente localmente, utilizzando lo stack AI di Qualcomm e, ovviamente, l'hardware del tuo smartphone.

Può essere facile dimenticarlo poiché non ci accorgiamo davvero dei suoi usi, ma molti smartphone in questi giorni sono dotati di hardware di accelerazione AI dedicato. Qualcomm afferma che sta utilizzando il motore AI fornito con il SoC Snapdragon 8 Gen 2 per ottenere questi risultati. Basta digitare un prompt e Stable Diffusion genererà un'immagine per te che tenti di corrispondere strettamente a quel prompt.

Qualcomm ha dichiarato in un post sul blog: “abbiamo utilizzato il framework diretto di Qualcomm AI Engine per mappare la rete neurale in un programma che funziona in modo efficiente sul nostro hardware di destinazione. […] Il risultato di questa ottimizzazione full-stack è l'esecuzione di Stable Diffusion su uno smartphone in meno di 15 secondi per 20 passaggi di inferenza per generare un'immagine di 512 × 512 pixel: questa è l'inferenza più veloce su uno smartphone e paragonabile alla latenza del cloud.

Non puoi ancora utilizzare Stable Diffusion sul tuo telefono Android localmente: questa è solo una dimostrazione tecnica. Alla fine potrebbe trasformarsi in un'app disponibile al pubblico, ma Qualcomm non promette ancora nulla.

Fonte: Qualcomm