Negli ultimi mesi sento parlare sempre più spesso d’inferenza AI ‘on the edge, ma cosa significa davvero portare l’intelligenza artificiale sui nostri computer negli ufficio e non nel cloud?
Per questo motivo, da qualche settimana sto testando questo approccio con l’aiuto di open clawd e nei miei ghirigori sul web ho trovaro un test interessante spiegato in un ottimo tutorial di DataCamp: creare un Local Data Analyst combinando OpenClaw e Ollama.
Il risultato è una pipeline che puo’ analizzare un dataset, generare grafici e produrre report - un po basici ad onor del vero - ma tutto in locale e senza spendere uno scheo in token.
Peraltro, l’approccio è utile per lavorare con dati sensibili, mantenere privacy e sfruttare LLM moderni - nel mio caso un modello ollama che gira con meno di 16GB di RAM - direttamente sul proprio PC.
Il tutorial, che linko al primo commento, mostra come orchestrare task multi-step con OpenClaw, usare Ollama come motore LLM offline, creare una semplice interfaccia web per caricare file e ottenere analisi automatiche e infine integrare grafici, sintesi e tracciabilità del processo.
È un bel caso d’uso pratico per capire dove sta andando l’AI: più controllata, più privata e sempre più accessibile.
E tu, stai veramente giocherellando con l’AI oppure sei fermo al prompt engineering?
Commenti