Quanto possiamo fidarci della self-attention e quali sono i suoi limiti? - Autopsia di un LLM (parte quinta)
Come rendere la self-attention più efficiente e quali sono i suoi limiti? In questo articolo analizziamo KV cache, Grouped-Query Attention e FlashAttention, per poi affrontare causalità, logica, memoria, verità e sintassi nei moderni modelli linguistici.
/
Infrastrutture
Vedi tutto
ASML e la litografia del potere: dalle valvole di Robotron alla sovranità tecnologica europea
Un'unica azienda olandese costruisce le macchine senza le quali nessuno al mondo può fabbricare i microchip più avanzati. Dalla rincorsa tecnologica della Germania Est al Chips Act europeo
/
Tecnologie
Vedi tutto
Quanto possiamo fidarci della self-attention e quali sono i suoi limiti? - Autopsia di un LLM (parte quinta)
Come rendere la self-attention più efficiente e quali sono i suoi limiti? In questo articolo analizziamo KV cache, Grouped-Query Attention e FlashAttention, per poi affrontare causalità, logica, memoria, verità e sintassi nei moderni modelli linguistici.
/
Organizzazione
Vedi tutto
Persone
Vedi tutto
Il Cibernetico cambia logo, e anche un po' faccia
Da oggi Il Cibernetico ha un logo nuovo. Chi ci segue da un po' ricorda il vecchio: un ingranaggio verde con dentro un profilo umano pieno di circuiti. Ci piaceva, e in fondo ci piace ancora. Ma raccontava un progetto diverso da quello che siamo diventati.
I nostri autori
Vedi tutto
Alessandro Agrati
Direttore Editoriale - Classe 1979, laureato in Scienze Politiche alla Statale di Milano. Scrivo principalmente articoli riguardanti il rapporto tra tecnologia e fenomeni sociali nonché sulla storia dell' intelligence.
Tutti gli articoli
Edoardo Ferri
Direttore Responsabile - Consulente Tecnico Forense Appassionato di storia dei sistemi di sicurezza dei dati.
Tutti gli articoli
Marco Costantino
Informatico e appassionato di astronomia, lavora nel settore della Digital Health. Per Il Cibernetico segue l'evoluzione del mondo della tecnologia e delle criptovalute.
Tutti gli articoli
Giuseppe Principato
Classe 1988, diploma di Perito Informatico presso ITIS G. Ferraris.. Appassionato di Tecnologia e videogiochi. Forte interesse per il mondo del paranormale e quello che lo circonda.
Tutti gli articoli
