Luis Blanco https://luisblancohoyos.com/es/ Notes and experiments in machine learning quarto-1.10.18 Sun, 02 Aug 2026 07:00:00 GMT La mayoría de las cabezas de atención no hacen nada https://luisblancohoyos.com/es/posts/first-post/ He estado analizando un transformer de 6 capas. La entropía de atención se desploma después de la capa 4.

]]> interpretabilidad https://luisblancohoyos.com/es/posts/first-post/ Sun, 02 Aug 2026 07:00:00 GMT