Recommended
More Related Content
What's hot
What's hot (20)
More from icebeam7
More from icebeam7 (17)
Recently uploaded
Recently uploaded (20)
Sustainable AI con Azure Machine Learning.pptx
- 1. Sustainable AI con Azure Machine Learning
- 3. Agenda
- 4. Inteligencia Artificial, Machine Learning y Deep Learning
- 11. Hacia una IA sostenible con Azure Machine Learning https://techcommunity.microsoft.com/t5/green-tech-blog/charting-the-path-towards-sustainable-ai-with-azure-machine/ba-p/2866923
- 17. Gracias
Editor's Notes
- Los científicos de datos no contaban con un acceso fácil o confiable a herramientas que les permitan considerar los costos (incluido el consumo de energía y el costo computacional) de un modelo junto con sus métricas, como el rendimiento y la precisión. Para abordar esto, existe un campo emergente llamado ”Green AI" que enfatiza la eficiencia energética y el ahorro de costos en todo el ciclo de vida del ML. El desarrollo sostenible y la aplicación del ML deben tener en cuenta los costos ocultos, como los energéticos, computacionales y eventualmente ambientales. El primer paso en Green AI es proporcionar una línea de base de medición de costos a los clientes, que incluye costos energéticos y computacionales. A continuación, tácticas de Green AI ayudan a mitigar estos costos en todo el ciclo de vida del ML. Azure Machine Learning está impulsando esto con asociaciones continuas con Allen Institute for AI y Green Software Foundation. La IA Sostenible es un esfuerzo hacia una IA responsable en la que somos conscientes de cuántos recursos y energía consumen nuestros experimentos de IA, ML y DL.
- La IA implica la construcción de modelos mediante el "entrenamiento" en conjuntos de datos y la derivación de predicciones ("inferencias") mediante la ejecución de estos modelos en nuevos puntos de datos. El DL con frecuencia requiere hardware especializado y puede consumir grandes cantidades de energía si no se usa de manera eficiente. Las GPU brindan una aceleración significativa y ganancias de rendimiento, pero consumen mucha energía.
- Azure Machine Learning es una plataforma que proporciona una amplia gama de experiencias productivas y permite a los desarrolladores y científicos de datos crear, entrenar e implementar machine learning.
- El uso de tácticas de machine learning que sean energéticamente eficientes ayudan a los científicos de datos a utilizar sus recursos computacionales en la nube de manera más efectiva y ahorrar costos. Al desarrollar modelos, hay un punto en el que el costo marginal comienza a aumentar exponencialmente más rápido que el rendimiento del modelo. Microsoft es pionera en tecnologías avanzadas como la refrigeración líquida y los centros de datos submarinos para hacer que su hardware sea más eficiente, pero también es imperativo crear soluciones basadas en software para reducir el consumo de energía. Para impulsar la eficiencia de la infraestructura y ayudar con la administración y el monitoreo de los dispositivos GPU, se proporcionan nuevas métricas de recursos
- To view the GPU energy cost of training workloads on Azure Machine Learning compute, customers can now use Azure Machine Learning Studio to find their most energetically expensive ML workloads.
- In the new Azure Machine Learning Studio monitoring tab, customers can view resource metrics and detailed energy consumption information, such as CPU/GPU utilization, GPU memory usage, and total GPU energy usage. The visualization capabilities provide a time-series energy profile for each node.