Abbiamo passato tre anni a discutere se i dipendenti potessero mettere dati aziendali dentro ChatGPT, e abbiamo sbagliato.
Il problema che avremmo dovuto porci sarebbe stato invece: cosa succede quando dentro un’AI mettiamo qualcosa che non esiste ancora da nessun’altra parte?
Ad esempio: cosa succede se la usiamo per creare brevetti, formule chimiche, prove matematiche, analisi o qualsiasi cosa che ci dia un reale vantaggio competitivo sul mercato?
Il caso dei matematici e OpenAI
In questi giorni alcuni matematici stanno muovendo verso OpenAI accuse pesantissime: Tristan Buckmaster e Levent Alpöge stavano lavorando privatamente a problemi importanti di fluidodinamica matematica, utilizzando anche strumenti AI.
Poi OpenAI viene a sapere (in che modo?) che in quell’area potrebbe esserci stato un breakthrough ma non c’è ancora una pubblicazione e decide di mettere in campo un modello non disponibile al pubblico, migliaia di agenti e una quantità di capacità computazionale che un gruppo universitario semplicemente non possiede.
Pochi giorni dopo annuncia di aver risolto Navier-Stokes, uno dei Millennium Prize Problems.
Nel frattempo emerge un secondo caso. Andreas Thom e Gábor Kun lavoravano da anni sulla congettura di soficità di Gromov. Thom sostiene che conversazioni nelle quali lavoravano sul problema potrebbero essere finite nel processo che ha prodotto uno dei risultati matematici successivamente attribuiti ad Astra.
OpenAI contesta che i suoi ricercatori o agenti abbiano avuto accesso al lavoro privato di Buckmaster prima della pubblicazione, e non esistono oggi prove sufficienti per scrivere che OpenAI abbia rubato queste dimostrazioni.
Ma il danno è fatto. La fiducia è andata. E soprattutto: abbiamo imparato una cosa che non volevamo imparare.
La vostra azienda
Adesso dimenticate i matematici e pensate alla vostra azienda.
Ogni giorno consegniamo agli LLM:
- Strategie commerciali non ancora pubbliche
- Codice sorgente
- Contratti
- Business plan
- Roadmap di prodotto
- Analisi dei competitor
- Verbali delle riunioni
- Documentazione R&D
- Problemi tecnici irrisolti
E soprattutto una cosa molto più preziosa dei documenti: le domande che stiamo cercando di risolvere.
Come possiamo essere sicuri che un concorrente non benefici delle nostre ricerche perché queste hanno ‘involontariamente’ allenato il modello? Come possiamo evitare che se la cosa torni utile a un business parallelo di Altman e soci questi non ci rapinino?
Le domande che dovreste porvi
A questo punto non basta sapere che il mio documento non verrà mostrato a un altro utente. Voglio certezza di:
- Quali dati vengono conservati
- Quali finiscono nei log
- Quali possono essere utilizzati per model improvement
- Chi può accedervi
- Quali sistemi derivati possono beneficiarne
- Quali garanzie contrattuali esistono
- Come posso auditarlo
La domanda da farsi in questo momento non è se usare l’AI. Semmai: quali informazioni, se esfiltrate, potrebbero permettere a qualcuno con più capitale di arrivare alla nostra soluzione prima di noi?
Quelli non sono semplicemente dati. Sono proprietà intellettuale.
Come pensate di difenderla se questi sono i presupposti di Altman e scagnozzi?
🎵 Soundtrack: Trust Issues — The Weeknd
Ascolta su Spotify