Páginas

Mostrando las entradas con la etiqueta Sistemas distribuidos y paralelos. Mostrar todas las entradas
Mostrando las entradas con la etiqueta Sistemas distribuidos y paralelos. Mostrar todas las entradas

jueves, 17 de mayo de 2012

[DISTRIBUIDOS Y PARALELOS] Redes de Petri


Una red de Petri representa un sistema cuando se asigna un significado o una interpretación a las plazas, transiciones y testigos.

La descripción de un sistema mediante una red de Petri se basa en dos conceptos:
  • Evento.
  • Condición.

Un evento es una acción que ejecuta el sistema. Se modela mediante una transición.

La realización de un evento depende del estado del sistema, que se describe mediante un conjunto de condiciones, que se modelan mediante las plazas.

Los arcos que conectan las transiciones y las plazas representan la dependencia entre los eventos y las condiciones. 

La verificación de una condición se representa situando un testigo dentro de la plaza que lo modela.

Una RdP marcada representa la coordinación entre eventos.

Las redes de Petri pueden describir fácilmente sistemas en los que se producen relaciones de paralelismo, exclusión mutua y sincronización entre procesos que ocurren en ellos.

Cuando varios procesos que se ejecutan en paralelo comparten información, es necesario garantizar que los accesos a la información común no se lleve a cabo simultáneamente para evitar problemas de interferencia que conduzcan a resultados erróneos.

Una solución a este problema es hacer mutuamente excluyentes las secciones críticas de los diferentes procesos encargadas de acceder a la información. En la figura, se muestra una RdP que resuelve este problema.


Ejemplo de Productor/Consumidor

Los procesos productor/consumidor involucran elementos de datos compartidos por ambos procesos y, en consecuencia, es necesario plantear tareas de sincronización entre ambas.

En las figuras, se muestran dos procesos de este tipo. El primero supone la existencia de un buffer infinito capaz de absorber la diferencia de velocidad entre el productor y el consumidor. El segundo limita la capacidad de este buffer a n unidades del producto.


Problema de la cena de los filosofos


Este es un problema de sincronización para la utilización compartida de recursos.

Supónganse un conjunto de cinco filósofos que se reúnen para cenar y filosofar. La comida es china y se presenta la dificultad de que a cada comensal sólo le han colocado un palillo.

Con el fin de cenar, llegan a la solución de que cada comensal puede utilizar el palillo del comensal que tiene a su izquierda, siempre que él tenga el suyo (no se lo haya cogido el de su izquierda) y el comensal de la derecha no estécomiendo.

En la figura, se muestra una red de Petri que representa la dinámica que sigue esta comida.


Proceso de lectura y escritura sobre un recurso común


Se supone que existen procesos de dos tipos: procesos de lectura y de escritura. Todos los procesos
comparten un recurso común sobre el que escriben y leen. Los procesos de lectura no modifican la
información y, en consecuencia, todos ellos son compatibles entre sí. Por el contrario, el proceso de
escritura modifica la información y, por tanto, es excluyente con cualquier otro proceso de lectura y de
escritura. Se pretende establecer el proceso de control que permita el acceso a todos y que no conduzca al
sistema a ningún bloqueo.

En  la figura (a), se muestra una solución para el caso de que el número de lectores que simultáneamente pueden acceder al recurso sea finito e igual a n.

En  la figura (b), se muestra una solución para el caso en que se considera que el número de lectores es indefinido y que todos ellos pueden acceder simultáneamente al recurso. En este caso, el problema de
control no tienen solución desde las redes de Petri ordinarias y es necesario acudir a redes de Petri con
arcos inhibidores.




[DISTRIBUIDOS Y PARALELOS] Más sobre grids - Globus Toolkit

La semana pasada hable un poco sobre lo que son los grids, sus características y aplicaciones; se había dicho que un grid es una red de meta-computacion, osea, capacidades computaionales superiores a las conocidas actuales. Junto con clustering, grid es otro paradigma de la computación distribuida, solo que el primero esta orientado a los servicios de computación local con una función concreta.

Middleware

“Middleware” es el software que organiza e integra los recursos en una grid.

El middleware está hecho con muchos programas (softwares) y contiene cientos de miles de líneas de código computacional. Una vez unido, este código automatiza todas las interacciones “máquina a máquina” (M2M) que crean una única grid computacional.

El middleware negocia de manera automática “acuerdos” mediante los cuales se intercambian los recursos; vale decir, acuerdos referidos al paso desde el proveedor de recursos de grid hacia el usuario de la grid. En estos “acuerdos”, algunos programas del middleware actúan como “agentes” y otros como “corredores de bolsa” (brokers).

Los programas agentes presentan “metadatos” (datos acerca de los datos) que describen a los usuarios, datos y recursos. Los programas brokers se encargan de las negociaciones M2M (Machine to Machine - Máquina a Máquina), requeridas para la autenticación y la autorización, y luego aclaran los “acuerdos” para acceder y pagar por los datos y recursos específicos.

Cuando se establece un acuerdo, el broker agenda las actividades computacionales y supervisa las transferencias de datos requeridas. Al mismo tiempo, agentes especializados en el “cuidado de la casa” optimizan los enrutamientos de la red y monitorean la calidad de servicio.

Y todo esto ocurre de manera automática, en apenas una fracción del tiempo que le llevaría a los humanos hacerlo de modo manual en sus computadoras.

Hay muchas otras capas dentro de la capa del middleware. Por ejemplo, el middleware incluye una capa de protocolos de recursos y conectividad, y una capa superior de servicios colectivos.

Los protocolos de recursos y conectividad manejan todas las transacciones de red “específicas para grid” que se desarrollan entre los computadores y los recursos de grid. Por ejemplo, los computadores contribuyendo en una grid específica deben reconocer los mensajes de grid relevantes e ignorar el resto. Esto se hace mediante protocolos de comunicación que permiten a los recursos comunicarse unos con otros, permitiendo el intercambio de datos, y protocolos de autenticación, que proveen mecanismos seguros para verificar la identidad de los usuarios y los recursos.

Los servicios colectivos también se basan en protocolos: protocolos de información que obtienen información acerca de la estructura y el estado de los recursos en la grid, y protocolos de manejo, que negocian el acceso a los recursos de un modo uniforme. Los servicios colectivos incluyen:

  • directorios de actualización de recursos disponibles,
  • recursos negociables (para aquellos que disfrutan de las negociaciones en la bolsa, se trata de las negociaciones entre aquellos que quieren “comprar” recursos y aquellos que quieren “vender”)
  • monitoreo y diagnóstico de problemas
  • réplica de datos para que múltiples copias puedan estar disponibles en diferentes locaciones para facilitar su uso
  • provisión de servicios de membresía/política para saber a quién se le ha permitido hacer qué y cuándo.

Globus Toolkit

Existen varias herramientas que permiten la creación y gestión de grids. Un ejemplo popular es Globus Toolkit. Éste es un conjunto de herramientas de software requeridas para la construcción de una grid, cubriendo mediciones de seguridad, localización de recursos, manejo de recursos, comunicaciones y más.

La herramienta Globus ha emergido como el estándar de facto para la capa intermedia (middleware) de la grid. Globus tiene recursos para manejar:
  • La gestión de recursos(Protocolo de Gestión de Recursos en Grid o Grid Resource Management Protocol)
  • Servicios de Información (Servicio de Descubrimiento y Monitorización o Monitoring and Discovery Service)
  • Gestión y Movimiento de Datos (Acceso Global al Almacenamiento Secundario, Global Access to secondary Storage y FTP en grid, GridFTP)
La mayoría de grids que se expanden sobre las comunidades académicas y de investigación de Globus Toolkit como núcleo de la capa intermedia.

Muchos de los grandes proyectos grid emplean Globus Toolkit, software desarrollado por Globus Alliance, un equipo inicialmente compuesto por el grupo de Ian Foster, en el Laboratorio Nacional Argonne, y por el de Carl Kesselman, en la Universidad de California del Sur en Los Ángeles (Estados Unidos).

Muchos de los protocolos y funciones definidas por Globus Toolkit son similares a aquellas que hoy operan para las redes y los almacenajes, pero han sido optimizadas para desarrollos específicos de grid.

Globus incluye programas como:
  • GRAM (Globus Resource Allocation Manager – Recurso Globus de Manejo de Asignación): se encarga de convertir las solicitudes de recursos en comandos que lo computadores locales puedan comprender.
  • GSI (Grid Security Infrastructure – Infraestructura de Seguridad Grid): autentifica a los usuarios y determina sus derechos de acceso.
  • MDS (Monitoring and Discovery Service - Servicio de Monitoreo y Descubrimiento): reúne información acerca de recursos tales como capacidad de procesamiento, capacidad de ancho de banda, tipo de almacenamiento y más.
  • GRIS (Grid Resource Information Centre – Centro de Recursos de Información Grid): recursos de consultas para sus actuales configuraciones, capacidades y status.
  • GIIS (Grid Index Information Service – Servicio de Índice de Información Grid): coordina arbitrariamente los servicios GRIS.
  • GridFTP (Grid File Transfer Protocol - Protocolo de Transferencia de Archivos Grid): provee un mecanismo de transferencia de datos de alto rendimiento, seguro y robusto.
  • Replica Catalog (Catálogo de Réplicas): provee la ubicación en la grid de las distintas réplicas de un grupo de datos determinado.
  • Replica Management system (Sistema de Manejo de Réplicas): maneja el Catálogo de Réplicas y el GridFTP, permitiendo a las aplicaciones crear y manejar réplicas de grandes grupos de datos.
Hay dos razones para el fortalecimiento y la popularidad de Globus Toolkit:
  1. Las grid necesitan soportar una amplia variedad de aplicaciones creadas de acuerdo a diferentes paradigmas de programación. En vez de proveer un modelo uniforme de programación para las aplicaciones grid, Globus Toolkit tiene un “acercamiento orientado al objeto”, proveyendo una bolsa de servicios para que los desarrolladores puedan escoger el servicio que mejor se adecua a sus necesidades. Además, las herramientas pueden introducirse de a una a la vez. Por ejemplo, una aplicación puede usar GRAM o GRIS sin tener que usar necesariamente Globus Security o los sistemas de manejo de réplicas.
  2. Globus Toolkit está disponible bajo acuerdo de licencia de “fuente abierta”, lo que significa que cualquiera el libre de utilizar o mejorar el software. Esto es similar a la World Wide Web y a los sistemas de operación Linux.

jueves, 10 de mayo de 2012

[DISTRIBUIDOS Y PARALELOS] Grids computacionales


Un problema donde tipicamente se necesita de una potencia de cálculo y almacenamiento es por ejemplo en el acelerador/colisionador de particulas, cada colisión genera 1 megabyte de informacion, y se generan 100 megabytes de información cada minuto de informacion no trivial. Un a comutadora comun solo puede tratar máximo 1 terabyte con la actual tecnología. A largo plazo, el acelerador generará 10 petabytes de información, aproximadamente 20 km de cd's completamente llenos de información.

La potencia de cálculo y el almacenamiento necesario para este problema es absolutamente inabordable en
un único nodo. Se ha estimado que harían falta 100.000 procesadores de ultimísima generación. A lo que el SERN solo dispone de 1000 procesadores con 1 petabyte de almacenamiento. Conseguir una mayor potencia de cálculo, almacenamiento, aprovechamiento de recursos, etc. combinando los recursos computacionales de varias organizaciones.


Esto, en esencia, es la Computación Grid, Un nuevo paradigma de computación distribuida propuesto por Ian Foster y Carl Kesselman a mediados de los 90.



La computación grid es una tecnología innovadora que permite utilizar de forma coordinada todo tipo de recursos (entre ellos cómputo, almacenamiento y aplicaciones específicas) que no están sujetos a un control centralizado. En este sentido es una nueva forma de computación distribuida, en la cual los recursos pueden ser heterogéneos (diferentes arquitecturas, supercomputadores, clusters...) y se encuentran conectados mediante redes de área extensa (por ejemplo Internet). Desarrollado en ámbitos científicos a principios de los años 1990, su entrada al mercado comercial siguiendo la idea de la llamada Utility computing supone una importante revolución.


Caracteristicas:


  • Capacidad de balanceo de sistemas: no habría necesidad de calcular la capacidad de los sistemas en función de los picos de trabajo, ya que la capacidad se puede reasignar desde la granja de recursos a donde se necesite;
  • Alta disponibilidad. con la nueva funcionalidad, si un servidor falla, se reasignan los servicios en los servidores restantes;
  • Reducción de costes: con esta arquitectura los servicios son gestionados por "granjas de recursos". Ya no es necesario disponer de "grandes servidores" y podremos hacer uso de componentes de bajo coste. Cada sistema puede ser configurado siguiendo el mismo patrón.
Desventajas:
  • Recursos heterogéneos: la computación grid debe ser capaz de poder manejar cualquier tipo de recurso que maneje el sistema, si no resultará totalmente inútil.
  • Descubrimiento, selección, reserva, asignación, gestión y monitorización de recursos son procesos que deben controlarse externamente y que influyen en el funcionamiento del grid.
  • Necesidad de desarrollo de aplicaciones para manejar el grid, así como desarrollo de modelos eficientes de uso.
  • Comunicación lenta y no uniforme.
  • Organizativos: dominios de administración, modelo de explotación y costes, política de seguridad...
  • Económicos: precio de los recursos, oferta/demanda...
Concepto de "La Grid"

Pronto, la red Internet podría quedar obsoleta. Ya están desarrollando otra red que será 10.000 veces más rápida que una conexión de banda ancha, y permitirá, por ejemplo, bajarse películas o mandar el catálogo completo con las canciones de los Rolling Stones de Gran Bretaña a Japón en cuestión de segundos.

Esta red, llamada The Grid, tuvo su origen en el mayor laboratorio de investigación en física de partículas a nivel mundial, conocido como CERN, en Suiza. David Britton, profesor de Física de la Universidad de Glasgow, uno de los líderes de la red, dijo que "esta tecnología revolucionará la sociedad". 

Britton sostuvo que este tipo de computación hará que "las futuras generaciones tengan la capacidad para colaborar y comunicarse que las personas mayores como yo no pueden imaginar". La idea de la futura red surgió siete años atrás, cuando los investigadores del CERN se dieron cuenta de que, con el acelerador de partículas que inaugurarán pronto, van a generar tan enorme cantidad de datos que la Internet de hoy podía colapsar.

El concepto de "La Grid" es aún un sueño, solo existen pequeñas grids en empresas o grupos, sin embargo La Grid abarca el uso de todas las computadoras conectadas a una red o pequeñas subgrids.

La grid sin duda sería una herramienta tan poderosa como lo es la internet, pero mucho más rápida, sin embargo el uso de este paradigma, cambiaría algunas cosas.

Sería un servicio más caro que el internet actual, pero tendriamos accesibilidad a una capacidad de cálculo impresionante. Existirían usuarios que controlan el "nucleo" de la grid. Estos usuarios autorizados van a tener acceso a una computadora global capaz de hacer cálculos hasta ahora impensados. Por ejemplo, en medicina podría servir para almacenar bases de datos radiográficos y otros estudios; y luego, a través de métodos de procesamiento de imágenes y de estadísticas, poder dar un mejor diagnóstico a un usuario que les presenta un caso.

[DISTRIBUIDOS Y PARALELOS] 14th week

This time I tried an aplication named Geekbench, a benchmarking aplication. Also I made in the same post a review about the topic.

Link to the post.


  • The nomination is for Pedrito, he made the same that me xD but he made his own benchmarking software.

[DISTRIBUIDOS Y PARALELOS] Benchmarks

Un benchmark es un conjunto de procedimientos para evaluar el rendimiento de una computadora. Hay cuatro categorías generales de pruebas de comparación:
  • Pruebas aplicaciones-base (application-based) las ejecuta y las cronometra.
  • Pruebas playback (playback test), las cuales usan llamadas al sistema durante actividades especificas de una aplicación(Ej.: Llamados a gráficos o uso del disco) y las ejecuta aisladamente.
  • Prueba sintética (synthetic test) , la cual enlaza actividades de la aplicación en subsistemas específicos.
  • Prueba de inspección (inspection tests), la cual no intenta imitar la actividad de la aplicación, sino que las ejecuta directamente en los subsistemas específicos.
Los test de aplicaciones base entregan la mejor forma de medir el rendimiento completo de el sistema en el mundo real.

Donde sea factible la tecnología playback le da la manera mas real de medir subsistemas individuales en aislación.

Los test Synthetic continúan en el estado de medición del rendimiento es por eso que winbench usa las pruebas de procesadores.

Los test de inspección tienen su lugar verificando el comportamiento libre de fallas y midiendo rendimiento operación por operación.
Los benchmark tienen las siguientes funcionalidades:
  • Comprobar si las especificaciones de los componentes están dentro del margen propio del mismo
  • Maximizar el rendimiento con un presupuesto dado
  • Minimizar costos manteniendo un nivel maximo de rendimiento
  • Obtener la mejor relación costo/beneficio (con un presupuesto o unas exigencias dadas)

Tipos de benchmark

Sintéticos vs Aplicaciones
  • Sintéticos: están especialmente diseñadas para medir el rendimiento de un componente individual de un ordenador, normalmente llevando el componente escogido a su máxima capacidad.
  • Aplicaciones: herramientas basadas en aplicaciones reales, simulan una carga de trabajo para medir el comportamiento global del equipo.

Bajo nivel vs Alto nivel
  • Test de Bajo nivel: Miden directamente el rendimiento de los componentes Ejemplo: el reloj de la CPU, los tiempos de la DRAM y de la caché SRAM, tiempo de acceso medio al disco duro, latencia, tiempo de cambio de pista, etc.
  • Test de Alto nivel: Están más enfocados a medir el rendimiento de la combinación componente/controlador/SO de un aspecto específico del sistema, como por ejemplo el rendimiento de E/S con ficheros, o el rendimiento de una determinada combinación de componentes/controlador/SO/aplicación.

Dhrystone
Dhrystone es una medida de rendimiento de la CPU en entero, expresado en Millones de instrucciones por segundo(MIPS).

El Dhrystone benchmark es ampliamente usado en la industria de las computadoras como una medida de rendimiento. El Dhrystone es un benchmark sintético, diseñado para contener ejemplos representativos de las operaciones normalmente requeridas por las aplicaciones. Estas no calculan el resultado de ningún tipo, pero hacen enlaces de complicadas secuencias de instrucciones usadas por las aplicaciones.

El Dhrystone estándar , fue originalmente diseñado para un único ambiente (single-threaded), manteniendo alguno de sus datos en variables estáticas globales. El resultado del Dhrystone es determinado por el tiempo que toma la medición para ejecutar esta secuencia de instrucciones .

Dhrystone no tiene suficiente código de programa o acceso suficiente a las locaciones de memoria para simular la actividad de la mayoría de los programas reales. Su lugar de trabajo de código y datos puede generalmente ser mantenido en el cache de la CPU, con lo cual resulta con un alto rendimiento.

Whetstone

Whetstone es una medida de rendimiento de la CPU en punto flotante, expresado en Millones de operaciones de punto flotante por segundo (MFLOPS).

El Whetstone benchmark es ampliamente usado en la industria de la computación como una medida de rendimiento.

El Whetstone estándar, fue originalmente diseñado para un ambiente único, manteniendo alguno de sus datos en variables estáticas globales .

La aritmética del punto flotante es la mas significativa en programas que requieren FPU . Estos son en su mayoría ingeniería científica, de estadísticas, y programas de ayuda de diseño en computación. Es también un pequeño componente en hoja de cálculo, dibujo y pintado de programas. (Aunque la hoja de calculo trabaja con números también tiene una mejor presentación en pantalla.) Los programas procesadores de texto típicamente no hacen ningún computo en punto flotante. El Whetstone hace mucha aritmética del punto flotante un poco de acceso de memoria, y un poco la aritmética del entero.

Ejemplo

Ahora se muestra un ejemplo de una aplicación de benchmarking, Geekbech (de pago), disponible para varios sistemas operativos. Esta aplicación se centra en medir el rendimiento del CPU, en este caso procesador y memoria. Es importante cerrar todas las aplicaciones para un mejor funcionamiento.

Al correr la aplicación aparece una ventana como la que sigue:


Se selecciona la arquitectura del procesador, por default aparecerá en la arquitectura de 32 bits, que es la versión gratuita, pero lo recomendable es utilizar la de 64 si se dispone de un procesador de este tipo. Se da clic en "Run Benchmarks"

Una vez terminados los benchmarks, Geekbench automáticamente sube los resultados a su página. Los resultados de mi prueba pueden ser vistos desde este link.

El primer benchmark es el de rendimiento de CPU en enteros (Dhrystone):


El segundo benchmark es el de rendimiento de CPU en punto flotante (Whetstone):


El tercer benchmark es el de rendimiento memoria (Memory benchmark):


El cuarto benchmark es el de rendimiento de transmisión (Streaming benchmark):


Otros benchmarks

Aparte de los anteriores, existen otros tipos que se enfocan en la medición y pruebas de otros componentes o ya sea la combinación de estos.

Algunos ejemplos de otros benchmarks son:

  • Consumo de energía
  • Cumplimiento con estándares ambientales, contenido de materiales y manejo del final del ciclo de vida del producto
  • Disipación de calor
  • De Juguete: detectar y medir componentes básicos de un computador
  • Redes
  • Reducción de ruido
  • Trabajo compartido: mide el rendimiento en las modernas tecnologías de distribución de procesos
  • Servidores
  • Soporte técnico

jueves, 3 de mayo de 2012

[DISTRIBUIDOS Y PARALELOS] 13th week

This time I made 2 blog entries.

The first one, talking about vectorial processors that are part of the supercomputers, and the second one talking about supercomputers.

[DISTRIBUIDOS Y PARALELOS] Supercomputación y aplicaciones

Las supercomputadoras fueron introducidas en la década de los sesenta y fueron diseñadas principalmente por Seymour Cray en la compañía Control Data Corporation (CDC), la cual dominó el mercado durante esa época, hasta que Cray dejó CDC para formar su propia empresa, Cray Research. Con esta nueva empresa siguió dominando el mercado con sus nuevos diseños, obteniendo el podio más alto en supercómputo durante cinco años consecutivos (1985-1990).

De principio a mediados de los años ochenta se vieron máquinas con un modesto número de procesadores vectoriales trabajando en paralelo, lo cual se convirtió en un estándar. El número típico de procesadores estaba en el rango de 4 a 16. En la última parte de los años ochenta y principios de los noventa, la atención cambió de procesadores vectoriales a sistemas de procesadores masivamente paralelos con miles de CPU ordinarios. En la actualidad, diseños paralelos están basados en microprocesadores de clase servidor que están disponibles actualmente. Ejemplos de tales procesadores son PowerPC, Opteron o Xeon, y la mayoría de las supercomputadoras modernos son hoy en día clústeres de computadores altamente afinadas usando procesadores comunes combinados con interconexiones especiales.

Supercomputación

Tecnología ampliamente usada en diferentes áreas de investigación.

Las simulaciones permiten conocer de antemano el resultado de ciertos experimentos. A menudo se necesitan equipos de altas prestaciones, que no están al alcance del investigador.

La supercomputación hace posibles esas ejecuciones, ayudando a predecir el desarrollo de ciertas áreas de la ciencia y su influencia en la forma de vivir del ser humano.

Algunas investigaciones requieren resolver matrices numéricas altamente pobladas:
  • Secuenciación genética.
  • Modelado de la propagación de impulsos eléctricos a través de las paredes del corazón.
Los supercomputadores y las técnicas de computación de altas prestaciones son la vía para que los investigadores puedan desarrollar herramientas y metodologías que permitan resolver los paradigmas de sus investigaciones.

Paradigmas de programación

Programación secuencial:

Cuando en un problema sólo participan operaciones, entradas y salidas se la denomina una estructura secuencial.
  • Manera tradicional de resolver los problemas problemas.
Programación paralela y distribuida:
  • Recursos utilizados simultáneamente para resolver problemas específicos.
  • Instrucciones ejecutadas en computadoras multinucleo.
  • Problema dividido en partes independientes que son ejecutadas paralelamente en cada unidad de proceso.
Caracteristicas de una supercomputadora
  • Las principales son:
  • Velocidad de Proceso: miles de millones de instrucciones de coma flotante por segundo.
  • Usuarios a la vez: hasta miles, en entorno de redes amplias.
  • Tamaño: requieren instalaciones especiales y aire acondicionado industrial.
  • Dificultad de uso: solo para especialistas.
  • Clientes usuales: grandes centros de investigación.
  • Penetración social: prácticamente nula.
  • Impacto social: muy importante en el ámbito de la investigación, ya que provee cálculos a alta velocidad de procesamiento, permitiendo, por ejemplo, calcular en secuencia el genoma humano, número Pi, desarrollar cálculos de problemas físicos dejando un margen de error muy bajo, etc.
  • Parques instalados: menos de un millar en todo el mundo.
  • Costo: hasta decenas de millones de dólares cada una de ellas.
Las supercomputadoras se utilizan para abordar problemas muy complejos o que no pueden realizarse en del mundo físico bien sea porque son peligrosos, involucran cosas increíblemente pequeñas o increíblemente grandes. A continuación damos algunos ejemplos:
  • Mediante el uso de supercomputadoras, los investigadores modelan el clima pasado y el clima actual y predicen el clima futuro .
  • Los astrónomos y los científicos del espacio utilizan las supercomputadoras para estudiar el Sol y el clima espacial.
  • Los científicos usan supercomputadoras para simular de qué manera un tsunami podría afectar una determinada costa o ciudad.
  • Las supercomputadoras se utilizan para simular explosiones de supernovas en el espacio.
  • Las supercomputadoras se utilizan para probar la aerodinámica de los más recientes aviones militares.
  • Las supercomputadoras se están utilizando para modelar cómo se doblan las proteínas y cómo ese plegamiento puede afectar a la gente que sufre la enfermedad de Alzheimer, la fibrosis enquistada y muchos tipos de cáncer.
  • Las supercomputadoras se utilizan para modelar explosiones nucleares, limitando la necesidad de verdaderas pruebas nucleares.




[DISTRIBUIDOS Y PARALELOS] Procesadores vectoriales y SIMD

Un procesador vectorial es un diseño de CPU capaz de ejecutar operaciones matemáticas sobre múltiples datos de forma simultánea, en contraste con los procesadores escalares, capaces de manejar sólo un dato cada vez.

La gran mayoría de las CPUs de hoy en día son escalares o superescalares. Los procesadores vectoriales son muy comunes en el área de la computación científica, formando la base de la mayor parte de los supercomputadores durante los años 80 y 90. Sin embargo, parece claro que la mejora de la tecnología y de los diseños de procesadores van a acabar con el uso de procesadores vectoriales como procesadores de propósito general. IBM, Toshiba y Sony han anunciado el procesador Cell, que está formado en parte por procesadores vectoriales.

Casi todas las CPUs de hoy en día incluyen algunas instrucciones de procesamiento de tipo vectorial, conocidas como SIMD. En particular, las consolas de videojuegos y las tarjetas gráficas hacen un uso intensivo de este tipo de procesamiento.

Los procesadores vectoriales proporcionan operaciones de alto nivel que trabajan sobre vectores.

Una máquina vectorial consta de una unidad escalar segmentada y una unidad vectorial. La unidad vectorial dispone de M registros vectoriales de N elementos y de unidades funcionales vectoriales (de suma/resta, multiplicación, división, de carga/almacenamiento, etc) que trabajan sobre los registros vectoriales, y un conjunto de registros escalares.

Una operación vectorial equivale a un bucle completo que procesaría los N elementos del registro vectorial.


Elementos de la arquitectura

Regustros vectoriales:
  • contienen los operandos vectoriales en máquinas de registros
  • no existen si la máquina es memoria-memoria
  • valores típicos de componentes son 64 o 128
  • deben tener al menos 2 puertos de lectura y uno de escritura

Unidades funcionales vectoriales:
  • ejecutan las operaciones vectoriales
  • están segmentadas, y suelen tener latencia 1
  • una unidad de control vigila las dependencias
Unidad de carga y almacenamiento:
  • gestiona transferencias de vectores desde/a memoria
  • puede estar segmentada
  • también puede ocuparse de los datos escalares
Registros escalares:
  • contienen los operandos escalares
  • se usan en operaciones vectoriales y para calcular direcciones
  • se necesitan varios puertos de lectura y escritura
Unidades funcionales escalares:
  • pueden existir para operaciones específicamente escalares
  • pueden no existir si para operaciones escalares se usan las unidades vectoriales


Ventajas
  • Proporcionan gran aprovechamiento del paralelismo de datos con un control relativamente sencillo.
  • Una única instrucción específica ejecuta una gran unidad de trabajo, reduciendo la necesidad de ancho de banda de instrucciones.
  • Optimizan el uso de la memoria con accesos predecibles que se pueden solapar.
  • Eliminan dependencias de control e instrucciones de comprobación y contabilidad.

Sistema de memoria

En lasmáquinas vectoriales, los accesos no son a datos individuales, sino a colecciones de ellos.

La distribución de estos datos en memoria sigue una ecuación generalmente sencilla. Por ejemplo, una matriz almacenada por filas:
  • leer un vector-fila es leer posiciones de memoria consecutivas
  • leer un vector-columna es leer posiciones distanciadas en Q, donde Q es el número de elementos de una fila
El sistema de mempria se diseña de forma que:
  • se puedan realizar accesos a varios elementos a la vez
  • el tiempo de inicio del acceso sea sólo para el primer elemento
Se utilizan principalmente dos opciones:
  • memoria entrelazada (generalmente de orden inferior, con factor de entrelazado palabra)
  • bancos de memoria independientes
La memoria entrelazada tiene un diseño más sencillo y menos costoso, pero menos flexible.

La memoria en bancos independientes es más costosa (cada banco necesita su bus), pero más flexible.

Se puede pensar en soluciones intermedias: memoria en bancos independientes con bus compartido por todos los bancos.


Vectorización del código
Hay varios requizitos para poder vectorizar el código:
  1. que no haya dependencias de datos (por ejemplo, las hay en el cálculo de la suma de las componentes de un vector)
  2. que el programa esté expresado de una forma que permita su vectorización (al compilador)
La calidad del compilador tamién es importante. Hay compiladores que son capaces de detectar más fácilmentecódigo vectorizable que otros.


SIMD

En computación, SIMD es una técnica empleada para conseguir paralelismo a nivel de datos.

Los repertorios SIMD consisten en instrucciones que aplican una misma operación sobre un conjunto más o menos grande de datos. Es una organización que influye muchas unidades de procesamiento bajo la supervisión de una unidad de control común. Es decir, una única unidad de control despacha las instrucciones a diferentes unidades de procesamiento. Todos los procesadores reciben la misma instrucción de la unidad de control, pero operan sobre diferentes conjuntos de datos. Es decir la misma instrucción es ejecutada de manera síncrona por todas las unidades de procesamiento.

Las máquinas SIMD plantean otra forma de aprovechar el paralelismo en los datos. 

Ejecutan la misma instrucción sobre datos distintos de forma simultánea.

Constan de un aray de elementos de proceso (ALUs) que son controlados (en cuanto a la operación que realizan y los datos que usan) por un módulo de control del array.

Existe también un procesador escalar, para las operaciones SISD.

Los elementos del proceso están unidos por una red de interconexión.

El módulo de control recibe información (presente en el programa) sobre:

  • la instrucción que hay que ejecutar.
  • el estado de la red de interconexión (por si los datos de los EP no se encuentran en su memoria)
Transmite la operación que hay que realizar y la localización de los operandos a los elementos de proceso.

Configura la red de interconexión según convenga.


En ese momento, los EPs ejecutan la instrucción.

El programa debe:

  • especificar las instrucciones que son para ejecutar en modo SIMD y las que son escalares.
  • especificar la distribución de los datos en las memorias.
  • especificar la configuración de la red en cada instante.
Si la memoria es compartida:
  • los datos no son locales a cada elemento de proceso.
  • el número de módulo de memoria no tiene por qué coincidir con el de elementos de proceso.
  • el resto de las caracteristicas son parecidas.
Es posible combinar las caracteristicas de una máquina vectorial y de una SIMD.

El diseño sería básicamente el de una máquina vectorial que tiene unidades funcionales repetidas.

Las unidades funcionales estarían conectadas como los elementos de proceso de una máquina SIMD, para poder trabajar de forma simultanea.

lunes, 30 de abril de 2012

[DISTRIBUIDOS Y PARALELOS] 12th week

This time I look for information to the next topic. This is the link to the wiki.

My nomination is for Gaby and her post about parallel programming in Xbox 360, and Cecy for her post about the dining philosophers problem.

jueves, 19 de abril de 2012

[DISTRIBUIDOS Y PARALELOS] 11th week

This week I've been looking for information about failover.

I posted information about that in this blog entry.

Also I found information about high-availability clusters and I posted in this page some information about them.

My nomination...










... for now.

lunes, 16 de abril de 2012

[DISTRIBUIDOS Y PARALELOS] Fiabilidad y tolerancia de fallos


Fallos de funcionamiento:

Se originan en: especificaciones inadecuadas, errores de diseño de software, averias en el hardware o interferencias en las comunicaciones.

Conceptos básicos

Fiabilidad (reliability) de un sistema es la medida de conformidad en base a una especificacion autorizada.

Avería (failure) es una desviación del comportamiento del sistema, estas se manifiestan en el comportamiento externo, pero son el resultado de errores internos del sistema.

Las causas de estos errores son llamados fallos (faults).

Un fallo puede probocar varios errores y averias, algo conocido como fallo encadenado.


Los fallos pueden ser:

  • Transitorios: desaparecen con el paso del tiempo.
  • Permanentes: se necesita reparar manualmente.
  • Intermitentes: fallos transitorios que ocurren de vez en cuando.

Prevención y tolerancia de fallos.

Para aumentar la fiabilidad del sistema se tienen dos formas:

  • Prevención de fallos: Evitar la introducción de fallos al sistema antes de que se ponga en funcionamiento.
  • Tolerancia de fallos: Se trata de conseguir que el sistema continúe aunque ocurran fallos.
  • Para la prevención de fallos hay dos etapas.
  • Evitar fallos: Se trata de impedir que se introduzcan fallos durante la construcción del sistema.
  • Eliminación de fallos: Consiste en encontrar y eliminar los fallos que se producen en el sistema una vez construido.

Las tecnicas para evitar fallos son:

Hardware:

  • Utilización de componentes fiables
  • Técnicas rigurosas de montaje de subsistemas
  • Apantallamiento de hardware

Software:

  • Especificación de requisitos rigurosa o formal
  • Métodos de diseño comprobados
  • Lenguajes con abstracción de datos y modularidad
  • Utilización de entornos de desarrollo con computador (CASE) adecuados para gestionar los componentes

Para la eliminación de fallos tambien hay técnicas:

Comprobaciones:

  • Revisiones de diseño
  • Verificación de programas – Inspección de código

Pruebas (tests):

Son necesarias, pero tienen problemas:

  • No pueden ser nunca exhaustivas
  • Sólo sirven para mostrar que hay errores, no que no los hay » a menudo es imposible reproducir las condiciones reales
  • Los errores de especificación no se detectan

Existen grados de tolerancia a fallos:

Tolerancia completa (fail operational): El sistema sigue funcionando, al menos durante un tiempo, sin
perder funcionalidad ni prestaciones

Degradación aceptable (fail soft, graceful degradation): El sistema sigue funcionando con una pérdida parcial de funcionalidad o prestaciones hasta la reparación del fallo

Parada segura (fail safe): El sistema se detiene en un estado que asegura la integridad del
entorno hasta que se repare el fallo

En todo caso, estos dependen de la aplicación.

La tolerancia a fallos se basa en la redundanica.

Existen dos tipos de redundancia en hardware; la estática y la dinámica.

La primera (estática) tiene sus componentes redundantes siempre activos y enmascaran los fallos.

La dinámica activa sus componentes solo cuando hay un fallo detectado, basada en la detección y recuperación de estos.

Para software existen tambien redundancia estática y dinámica.

En este caso la estática es la programación con N versiones. ¿Que es la programación de N versiones? N programas desarrollados independientemente con una misma especificación sin interacciones entre los equipos de desarrollo.



La dinámica utiliza varias etapas: detección, evaluación, recuperación y reparación de fallos, los bloques de recuperación proporcionan recuperación hacia atrás, las excepciones lo hacen hacia adelante. Las etapas son de la siguiente manera.


1. Detección de errores

  • No se puede hacer nada hasta que se detecta un error 

2. Evaluación y confinamiento de los daños

  • Diagnosis: averiguar hasta dónde ha llegado la información errónea 

3. Recuperación de errores

  • Llevar el sistema a un estado correcto, desde el que pueda seguir funcionando (tal vez con funcionalidad parcial)

4. Reparación de fallos

  • Aunque el sistema funcione, el fallo puede persistir y hay que repararlo


jueves, 29 de marzo de 2012

[DISTRIBUIDOS Y PARALELOS] Contribution

In this week I found a distribuited programming language called Orca. Link to the wiki.

Also I read about replication and consistency last 2 days.

miércoles, 29 de febrero de 2012

jueves, 16 de febrero de 2012

[DISTRIBUIDOS Y PARALELOS] Third week

This week I was reading more about threads, this time about synchronization:

I was triyng to use mutex (locks) in some codes using threading.Lock from python.

Also there is threading.Semaphore() and threading.Condition()

I updated the page I did last week with this information.

Link to the page

This week I'll nominate to Cecilia for her mergesort python program using both secuential and parallel ways.
I'll also nominate Gabriela because I found her post very useful

jueves, 9 de febrero de 2012

[DISTRIBUIDOS Y PARALELOS] Second week

This week I tried to modify the code of mergesort in python to make it work with threads, but I found it a little hard.

At the first try, the results were:


One instruction was executed as many times as I had defined threads.

In this link I explain how to work with threads an two diferent ways of execution of them.

jueves, 2 de febrero de 2012

[DISTRIBUIDOS Y PARALELOS] Fisrt week

In this first week I tried to execute mergesort algorithm in python.

So I looked for information about the algorithm in some pages and I found this:


First I tried some implementations where I divided a list in pairs and comparing the elements in each list generated from the original list.

I failed. Becouse I only got a sublist order, but not the full list.

So I looked again for more information and then I made this code:


This code works fine, and I tried to implement threads, but it's a little hard.