PandoraLinux  
Download & InstallAIInside PandoraWallpapers
 
Notes AI
 
 
Consumo de RAM por los diferente escritorios:

KDE 1420
Gnome 1640
Cinnamon 1680
Budgie 1170
Mate 1270
Xfce 1260
 
Todos los escritorios consumen una cantidad de memoria elevada
debido al inicio de demonios de otros escritorios, estoy en ello.
 
Solucion a la falta de memoria:
ZRAM
Después de haber descartado la utilización de la partición de intercambio de Linux
en el disco interno ( si esta existe ), por razones de seguridad, probé la creación
 de una partición en el mismo disco de PandoraLinux y comprobé que se generaba
 un cuello de botella por el volumen de datos del motor y de los modelos.
 
PandoraLinux incluye ahora ZRAM, un compresor que crea una partición de intercambio
 (swap) de alta velocidad y comprimida dentro de la memoria RAM, ganando así
 entre un 40-50% de capacidad extra.

ZRAM está configurado para utilizar el 100% de la memoria disponible. Esto significa
 que un equipo con 8 GB de RAM rinde de manera equivalente a 11-12 GB, mientras
 que uno con 16 GB alcanza los 22-24 GB, escalando así de forma proporcional
 con cualquier cantidad de RAM.

  Esta ganancia de espacio se logra gracias a algoritmos de compresión en tiempo real
 integrados en el kernel de Linux. ZSTD ofrece una tasa de compresión muy superior
 ( cercana a un ratio de 2:1 o 3:1 ), permitiendo exprimir al máximo la memoria
disponible en procesadores modernos sin penalizar el rendimiento del sistema.

 A diferencia de los discos duros, ya sean HDD o SSD, la memoria RAM no tiene un límite
comercial de ciclos de escritura y lectura, es decir, no se degrada con el uso intensivo.
Esta técnica evita la utilización del disco interno, protegiendo así su equipo y los datos
almacenados en este. En contraprestación, se genera una carga extra en la CPU, pero
 con los procesadores de hoy en día, esta se encuentra entre un 2% y un 4% en los picos de uso.
 
Junto con la modificación de algunos parámetros del sistema y de Ollama, las funciones de AI
funcionan sin tener que recurrir a la ampliación de la memoria física.
 
Esto es posible debido simplemente a que el sistema envía a la unidad comprimida todo el
entorno gráfico, los demonios y todas las aplicaciones que se ejecutan en segundo plano,
incluidos los navegadores. Igualmente, recomiendo limitar el uso de otras aplicaciones
 pesadas cuando se trabaje con la AI, en especial de los navegadores con varias
pestañas abiertas, y barajar la posibilidad de utilizar opciones ligeras como
Falcon o Web ( GNOME Epiphany ).

Para comprobar el estado de la memoria nos podemos guiar del gráfico en la barra de
tareas, pero si ejecutamos el comando " sudo zramctl " en la terminal, obtendremos
 una visión más detallada del estado específico de la memoria comprimida.
 
Separador
 
Transcripción

El modelo Whisper está directamente integrado en Alpaca, en la sección" Preferencias > Audio ".
 Tiene varias versiones de la herramienta que utiliza para realizar la transcripción del audio,
 con diferentes pesos. PandoraLinux trae incorporadas las versiónes tiny, base, small y medium.

Dispone también de la versión large de 3 GB pero no he conseguido que funcione con 8 GB.
Si consigo hacer un poco de espacio también la incluiré para equipos con mas memoria.

Usando el modelo Whisper, podemos convertir archivos de audio en texto estructurado pero
cuando procesa un audio con dos voces, transcribe todo el texto de corrido en un solo
bloque. Por sí solo, no está diseñado para separar ni etiquetar quién habla. Si las personas
hablan a la vez, Whisper suele ignorar a una de ellas o mezclar las palabras de forma caótica.
Hay dos soluciones de código abierto disponibles. La primera es implementar WhisperX,
 pero los requisitos de hardware se disparan, la segunda tengo que evaluar
 si es compatible con PandoraLinux.

Yo lo he usado con el castellano. He transcrito archivos de 2 a 60 minutos con voces masculinas
 y femeninas, en diferentes calidades y formatos ( mp3, mp4, m4a y probaré otros ), todo con
éxito y sin errores. Cuanto mayor es la calidad del audio y menos ruido tenga de fondo ( como
 un fondo musical, por ejemplo ), se puede utilizar un " decodificador " más ligero, como small
 en lugar de medium, lo que ahorra tiempo de proceso.

Con los archivos musicales ha habido algunos errores.

Posteriormente, con el modelo Llama 3.2, he realizado traducciones y resúmenes
de los audios transcritos. He realizado algunos cambios menores,
pero el resultado ha sido satisfactorio.


 En inglés he transcrito archivos musicales y ha habido algunos pequeños errores.
También he transcrito archivos en japonés, pero todavía no he podido verificar el resultado.