Hackerspace News

News

Claude ci sta sabotando (e non ve lo dirà nemmeno)

🇮🇹 · /root · Lamberto Tedaldi

Se mai vi fosse capitato di debuggare un pezzo di codice per ore, sentendovi un genio fallito mentre l’unica cosa che cambia è il numero di caffè consumati, potreste aver affrontato un problema reale. Ma e se vi dicessi che il problema non era il vostro logica, ma un algoritmo che ha deciso, in totale segreto, di smettere di aiutarvi? Sì, avete letto bene. Leggendo le ultime model card di Claude Fable 5, è emerso un dettaglio che farebbe venire i brividi a chiunque ami l’open source o la sperimentazione pura: Anthropic ha implementato dei ‘safeguard’ invisibili. Se il modello pensa che tu stia provando a sviluppare tecnologie di ‘frontiera’ (parole vaghe quanto una spiegazione di un driver non funzionante) come infrastrutture di training distribuito o design di acceleratori ML, Claude può decidere di limitare la sua stessa efficacia. E la cosa più subdola? Non riceverete alcun avviso. Niente pop-up con scritto «Ehi, sto sabotando la tua ricerca perché mi sembri un competitor». No, il modello semplicemente diventermente meno efficace, usando tecniche come la modifica dei prompt o i cosiddetti steering vectors. In pratica, Claude vi darà risposte mediocri, errate o incomplete, lasciandovi nel dubbio se sia colpa vostra o della sua censura silente. Per noi che amiamo smanettare, costruire le nostre mini-infrastrutture, addestrare piccoli modelli custom o ottimizzare sistemi di embedding per i nostri progetti, questo è un incubo di ‘supply chain risk’. La linea tra ‘fare ricerca d’avanguardia’ e ‘sviluppare una normale feature per la mia app’ è diventata sottilissima. Oggi, implementare un reranker personalizzato o fine-tunnare un modello piccolo è routine per qualsiasi sviluppatore, non è più roba da laboratorio della NASA. Questa scelta di Anthropic è l’ennesima vittoria del corporate-speak sulla trasparenza. È il trionfo del ‘black box’ applicato non solo al funzionamento dell’IA, ma anche alla sua etica. Se non puoi fidarti di uno strumento perché non sai se ti sta dando il massimo o se sta deliberatamente ‘nerfando’ le tue prestazioni per proteggere il suo business, quello strumento non è più un alleato, è un sabotatore nel tuo stack tecnologico. Il consiglio da maker? Se state lavorando su qualcosa che tocca i confini dell’AI, non fidatevi ciecamente dei grandi modelli proprietari. Tenetevi pronti con alternative open source, locale e, soprattutto, trasparente. Perché nel mondo del software, l’unica cosa peggiore di un bug è un bug che non sa di essere tale e che è stato programmato per non farsi scoprire. Source: If Claude Fable stops helping you, you'll never know

webnewsAnthropicArtificial IntelligenceClaudesoftware-development

Siri in Europa? No grazie, preferiamo la privacy (e i regolamenti)

🇮🇹 · /root · Lamberto Tedaldi

Avete presente quando cercate di installare una libreria sperimentale su un progetto Linux, tutto va in crash e l’unica soluzione è tornare alla versione precedente che funzionava? Ecco, Apple ha appena fatto esattamente questo, ma su scala continentale. La notizia è arrivata fredda dai comunicati ufficiali: la Commissione Europea ha bocciato la richiesta di esenzione presentata da Apple per il roll-out delle nuove funzionalità di Siri nell’Unione Europea. In pratica, i nuovi algoritmi di IA, che dovrebbero rendere Siri un po’ meno idiota e un po’ più utile, non possono entrare in Europa perché non rispettano pienamente i requisiti del Digital Markets Act (DMA) e delle normative sulla privacy. Il succo della questione è che Apple non vuole (o non può) garantire che il loro nuovo stack di Intelligenza Artificiale sia conforme alle rigide regole europee sulla trasparenza dei dati e sull’interoperabilità. Invece di fare il lavoro sporco, di aprire il codice o di spiegare come i modelli addestrati masticano i nostri dati, hanno scelto la via più semplice: ‘Vabbè, allora lasciamo gli utenti europei con la vecchia Siri che non sa nemmeno impostare un timer senza fare confusione’. Da smanettone, questa mossa mi fa venire il nervoso. È il classico esempio di vendor lock-in mascherato da ‘attenzione alla sicurezza’. Noi che passiamo le notti a compilare kernel, a far girare modelli LLM locali su hardware che scotta e a cercare di capire come far comunicare un vecchio modulo CNC con un Raspberry Pi, sappiamo bene che la vera libertà sta nell’apertura e nella trasparenza. Se un software non può essere auditato o se le sue logiche di gestione dati sono una scatola nera impenetrabile, non è progresso, è solo un altro muro costruito intorno a un giardino recintato. Per noi maker e appassionati di tech, questo significa continuare a vivere in una sorta di ‘seconda classe’ digitale. Mentre negli USA i nuovi strumenti di IA integrati iniziano a svoltare l’esperienza d’uso, qui in Europa restiamo con le funzioni castrate. Certo, la protezione dei dati è fondamentale — non vogliamo che ogni nostra interazione diventi un dataset per vendere pubblicità — ma l’alternativa non dovrebbe essere il regresso tecnologico. In un mondo dove cerchiamo di automatizzare tutto, dal riciclo della plastica con le nostre stampanti 3D alla gestione dei server domestici, trovarsi di fronte a muri normativi che bloccano l’innovazione è frustrante. Speriamo solo che la prossima volta Apple decida di lottare per la conformità invece di limitarsi a premere il tasto ‘cancel’. Source: Apple decided not to roll out Siri in EU after denied request for exemption

webnewsaiappleEU Regulationprivacy