Fonte: Musically.com
C’era una volta, le “pillole velenose” erano ciò che le spie portavano con sé in caso volessero suicidarsi piuttosto che essere catturate. Nel mondo finanziario, invece, una “poison pill” (pillola velenosa) è una tattica che le aziende possono utilizzare per respingere acquisizioni ostili.
Nella sfera musica/tech, però, Poison Pill è una nuova startup con sede nel Regno Unito che sta costruendo una tecnologia per aiutare le società musicali a contrastare l’addestramento di IA non autorizzato “avvelenando” la propria musica. È stata lanciata in versione beta la scorsa settimana ed è anche una finalista del nostro contest di startup Music Ally SI:X 2025.
È l’ultima venture di Ben Bowler, le cui startup precedenti includono Chew·tv e Aux. Sebbene i dettagli esatti del funzionamento della tecnologia di Poison Pill siano necessariamente segreti, egli ha parlato con Music Ally del quadro generale e a chi è rivolto il servizio.
“La maggior parte dei musicisti è arrabbiata per lo stato attuale dell’IA nella musica: società ben finanziate stanno raccogliendo musica senza permesso, creando servizi che sostengono di sostituirli. Servizi di streaming con playlist piene di IA. La musica generata dall’IA sta prendendo il sopravvento su precedenti fonti di guadagno come il sync”, ha dichiarato.
“È per questo che, come primo passo, Poison Pill è aperta agli artisti indipendenti che vogliono dare fastidio a queste aziende di IA. Il nostro obiettivo è proteggere il 20% della musica indipendente. Con questa musica ‘avvelenata’ in circolazione, possiamo cambiare le dinamiche di potere e portare le aziende di IA al tavolo delle trattative per una licenza equa dei dati di addestramento per i musicisti indipendenti”.
Come fa esattamente l’azienda ad “avvelenare” la musica? Si tratta di “algoritmi di rumore avversario” – una delle tecniche che i ricercatori hanno progettato per perturbare i modelli di IA.
“Sfrutta il modo in cui i modelli di IA imparano a riconoscere generi, strumenti, ecc., identificando caratteristiche sonore altamente specifiche: trovando scorciatoie basate sul loro addestramento per fare previsioni rapidamente”, ha spiegato Bowler.
“Non sappiamo mai esattamente cosa siano queste caratteristiche, ma immaginate che il modello rilevi la musica indie cercando un certo modello di risonanza prodotto quando una corda di chitarra viene pizzicata, e la musica classica cercando una risonanza diversa trovata negli strumenti a fiato”, ha continuato.
“Possiamo usare questa natura dell’IA contro se stessa aggiungendo sottilmente del rumore di basso livello a un brano indie che corrisponde strettamente a ciò che il modello si aspetta contenga la musica classica. Il livello di questo rumore è così sottile che gli umani non possono sentirlo, ma l’IA, che fa affidamento su queste scorciatoie, scambierà rapidamente il vostro brano indie per classica”.
Secondo Bowler, questo è dirompente perché se i modelli GenIA vengono addestrati per produrre musica basata su prompt testuali, hanno bisogno di comprendere accuratamente il genere e la strumentazione dei brani da cui stanno apprendendo.
“Se all’improvviso molti brani incorporano questi attacchi, le versioni future di questi modelli inizieranno a generare stili casuali, disturbando seriamente la loro utilità”, ha affermato.
L’idea sembra allettante, ma funzionerà davvero? O piuttosto, le aziende di IA non individueranno la tecnologia utilizzata e svilupperanno metodi per aggirarla? Bowler ha riconosciuto questa possibilità, ma ha affermato che ciò non annulla il valore dell’utilizzo della tecnologia di Poison Pill.
“Le protezioni sono difficili da rilevare e rimuovere completamente, ma sì, le aziende di IA possono ridurne l’impatto. È importante sottolineare che il sistema non deve essere perfetto per cambiare efficacemente l’equilibrio di potere tra creatori e chi effettua lo scraping”, ha detto.
“Man mano che più musica incorpora la protezione di Poison Pill in continua evoluzione, il costo per queste aziende di identificare e affrontare queste protezioni aumenta progressivamente. Queste aziende dipendono dal fatto di poter elaborare rapidamente e a basso costo grandi volumi di musica”, ha aggiunto.
“Se devono controllare e rielaborare ogni brano prima di addestrare nuove versioni dei loro modelli, pagare un prezzo equo per licenziare musica ‘pulita’ diventa un’opzione di gran lunga migliore”.
Il servizio di Poison Pill è ora disponibile in versione beta, e Bowler ha dichiarato che la startup si sta ora concentrando sul continuare a migliorare il suo algoritmo di protezione, applicare nuovi attacchi e testare quanto bene funzioni contro diversi sistemi di IA.
“Oltre a ciò, stiamo esplorando come altri creatori: fotografi, artisti visivi e cineasti, potrebbero utilizzare questa tecnologia per salvaguardare il loro lavoro”, ha detto.
L’azienda è attualmente bootstrapped (autofinanziata), ma Bowler ha affermato che Poison Pill ha già attirato l’interesse di diversi potenziali investitori.
“Inoltre, siamo in discussioni con potenziali partner, come etichette e titolari di diritti più grandi, per fornire l’accesso API alla nostra tecnologia per la protezione di cataloghi più ampi”, ha aggiunto.
