![]() |
![]() ![]() ![]() ![]() |
![]() |
| Consumo de RAM por los diferente escritorios: | |
KDE 1420 Gnome 1480 Cinnamon 1500 Budgie 1170 Mate 1240 Xfce 1240 |
|
| Solucion a la falta de memoria: | |
![]() |
|
| Después de haber descartado la utilización de la
partición de intercambio de Linux en el disco interno ( si esta existe ), por razones de seguridad, probé la creación de una partición en el mismo disco de PandoraLinux y comprobé que se generaba un cuello de botella por el volumen de datos del motor y de los modelos. PandoraLinux incluye ahora ZRAM, un compresor que crea una partición de intercambio (swap) de alta velocidad y comprimida dentro de la memoria RAM, ganando así entre un 40-50% de capacidad extra. ZRAM está configurado para utilizar el 100% de la memoria disponible. Esto significa que un equipo con 8 GB de RAM rinde de manera equivalente a 11-12 GB, mientras que uno con 16 GB alcanza los 22-24 GB, escalando así de forma proporcional con cualquier cantidad de RAM. Esta ganancia de espacio se logra gracias a algoritmos de compresión en tiempo real integrados en el kernel de Linux. ZSTD ofrece una tasa de compresión muy superior ( cercana a un ratio de 2:1 o 3:1 ), permitiendo exprimir al máximo la memoria disponible en procesadores modernos sin penalizar el rendimiento del sistema. A diferencia de los discos duros, ya sean HDD o SSD, la memoria RAM no tiene un límite comercial de ciclos de escritura y lectura, es decir, no se degrada con el uso intensivo. Esta técnica evita la utilización del disco interno, protegiendo así su equipo y los datos almacenados en este. En contraprestación, se genera una carga extra en la CPU, pero con los procesadores de hoy en día, esta se encuentra entre un 2% y un 4% en los picos de uso. Junto con la modificación de algunos parámetros del sistema y de Ollama, las funciones de AI funcionan sin tener que recurrir a la ampliación de la memoria física. Esto es posible debido simplemente a que el sistema envía a la unidad comprimida todo el entorno gráfico, los demonios y todas las aplicaciones que se ejecutan en segundo plano, incluidos los navegadores. Igualmente, recomiendo limitar el uso de otras aplicaciones pesadas cuando se trabaje con la AI, en especial de los navegadores con varias pestañas abiertas, Para comprobar el estado de la memoria nos podemos guiar del gráfico en la barra de tareas, pero si ejecutamos el comando
" sudo zramctl " en la terminal, obtendremosuna visión más detallada del estado específico de la memoria comprimida. |
|
|
|
|
Anotaciones
![]() - He aumentado el tiempo de retención de la caché de Ollama de 5 a 240 minutos, porque Ollama la vacía automáticamente al recibir una nueva tarea. De esta forma, los datos de un resumen se mantienen disponibles para seguir trabajando con ellos sin necesidad de volver a procesar el texto principal. Esto es ideal para encadenar peticiones ( como extraer datos concretos ) o simplemente para poder tomarse un descanso sin perder el contexto. - He comprobado que en Alpaca, al realizar operaciones con texto, consumen menos memoria si se pegan directamente en el prompt en lugar de adjuntar el archivo original. - El reconocimiento de voz en directo a través del micrófono ( transcribir o chatear ) utiliza el 100 % de la CPU y, aunque deja memoria disponible, bloquea el procesador, lo que provoca saltos en el resultado. Pero le daré una vuelta por si existe alguna solución sin ampliar hardware. |
|
|
|
|
| Transcripción |
![]() |
|
El modelo Whisper está directamente integrado en Alpaca, en la sección " Preferencias > Audio ". Tiene varias versiones de la herramienta que utiliza para realizar la transcripción del audio, con diferentes pesos. PandoraLinux trae incorporada la versión medium. Usando el modelo Whisper, podemos convertir archivos de audio en texto pero cuando procesa un audio con dos voces, transcribe todo el texto de corrido en un solo bloque. Por sí solo, no está diseñado para separar ni etiquetar quién habla. Si las personas hablan a la vez, Whisper suele ignorar a una de ellas o mezclar las palabras de forma caótica. Hay dos soluciones de código abierto disponibles. La primera es implementar WhisperX, pero los requisitos de hardware se disparan, la segunda tengo que evaluar si es compatible con PandoraLinux. Yo lo he usado con el castellano. He transcrito archivos de 2 a 88 minutos ( 79000 caracteres ) con voces masculinas y femeninas, en diferentes calidades y formatos ( mp3, mp4, m4a y probaré otros ), todo con éxito y sin errores. Cuanto mayor calidad del audio y menos ruido tenga de fondo (como fondo musical, por ejemplo) mejor. Una buena opción es editar el audio antes de transcribirlo, lo he provado y funciona. Con los archivos musicales han habido errores, tanto en inglés como en castellano. También he transcrito archivos en japonés, pero todavía no he podido verificar el resultado. |
|
|
|
|
|
Resumenes & Traducción Con los modelos Llama 3.2 y Phi 4 mini he realizado traducciones y resúmenes de los audios transcritos. Y los resultados han sido satisfactorios. Resumenes Para resumir textos extensos en español, Llama 3.2 3B es mejor opción que Phi 4 mini 3.8B. Aunque ambos modelos son excelentes y comparten una ventana de contexto idéntica de 128k tokens (lo que les permite procesar libros enteros o documentos larguísimos), la diferencia crítica radica en el soporte nativo del idioma (entrenado específicamente en español entre sus 8 idiomas principales) y el entrenamiento del modelo. Cuando elegir Llama3.2 Naturalidad y Cohesión: Al tener el español como uno de sus idiomas oficiales de desarrollo, el resumen resultante mantendrá una gramática perfecta, conectores naturales y una riqueza de vocabulario superior en nuestro idioma. Menos "Spanglish": Los modelos de la familia Phi, al estar fuertemente entrenados con datos sintéticos y contenido web mayoritariamente en inglés, tienden a sufrir de más "olvidos" gramaticales o calcos sintácticos del inglés al procesar textos masivos en español. Capacidad de síntesis: Ha demostrado ser muy eficiente para la extracción de puntos clave, a preguntas concretas, como nombres o fechas. Cuándo elegir Phi4 mini Solo si el texto extenso que vas a resumir es un documento técnico, un manual de programación, un reporte financiero lleno de fórmulas o un texto científico o matemático complejo. Phi 4 mini tiene capacidades de lógica y razonamiento ligeramente superiores gracias a su entrenamiento enfocado en STEM, pero si es texto narrativo, legal, educativo o de cultura general, Llama 3.2 ganará en calidad de redacción en español. Traducción Phi-4 mini es, en términos generales, mejor modelo para traducir que Llama 3.2. La arquitectura de Phi-4 mini aprovecha un mayor número de parámetros y un entrenamiento masivo con datos sintéticos de alta calidad que le otorgan una ventaja en comprensión y razonamiento. Elige Microsoft Phi-4 mini si buscas la máxima fidelidad posible en el texto traducido, especialmente si el contenido incluye terminología técnica, científica o lógica matemática compleja, campos en los que este modelo destaca frente a Llama 3.2. Elige Meta Llama 3.2 si vas a realizar traducciones entre varios idiomas no angloparlantes (por ejemplo, del alemán al español o lenguas asiáticas). |
|
|
|
|
|
OCR con Terresact Lo he probado con recortes de periódicos y revistas, en castellano o inglés ( todos los idiomas están instalados ), acierta en un 99.9 %. ¡Impresionante! Igual que con el audio, las imágenes se pueden mejorar en lote, sobre todo el contraste. Detecta la orientación del texto y acepta varios formatos de imagen ( jpg, png, tiff, probaré otros ). Proporciona una salida automática en un archivo de texto por cada imagen procesada, así como salida en PDF y directa por terminal. Listar los idiomas instalados y disponibles: tesseract --list-langs Comando base: tesseract imagen.png salida -l spa También puede procesar imágenes en lote dentro de una carpeta que tengan la misma extensión con el siguiente comando. for img in *.png; do tesseract "$img" "${img%.*}"; done No detecta automaticamente el idioma del texto pero hay un truco con el siguiente comando. tesseract imagen.png salida -l spa+eng tesseract imagen.png salida -l eng+spa+fra procesará el texto buscando palabras en inglés, español y francés al mismo tiempo. |
|
|
|
|
![]() |
|