Intel anunció que se unirá al nuevo grupo de trabajo MLCommons AI Safety (AIS) junto con expertos en inteligencia artificial (IA) de la industria y el mundo académico. Como miembro fundador, Intel contribuirá con su experiencia y conocimiento para ayudar a crear una plataforma flexible para los análisis de referencia que miden la seguridad y los factores de riesgo de las herramientas y modelos de IA.
«Intel se ha comprometido a hacer que la IA avance de manera responsable y a hacerla accesible a todos. Desarrollamos innovaciones en hardware y software para permitir que el ecosistema construya IA confiable”, mencionó Deepak Patil, vicepresidente corporativo y gerente general de Soluciones de IA para centros de datos. “Debido a la presencia generalizada y constante de modelos de lenguaje grandes, es fundamental colaborar en todo el entorno para abordar las preocupaciones de seguridad en el desarrollo y la puesta en marcha de la IA”.
¿Por qué es importante?
La capacitación responsable y el despliegue de grandes modelos lingüísticos (LLM) y herramientas son de suma importancia para ayudar a mitigar los riesgos sociales que plantean estas poderosas tecnologías. Intel ha reconocido desde hace tiempo la importancia de las implicaciones éticas y de derechos humanos asociadas con el desarrollo de la tecnología, especialmente la IA.
Este grupo de trabajo proporcionará un sistema de clasificación de seguridad para evaluar el riesgo que presentan las nuevas tecnologías de IA de rápida evolución. La participación de Intel en el grupo de trabajo AIS es el compromiso más reciente en los esfuerzos de la compañía por promover de manera responsable las tecnologías de IA.
El reto: AI Safety Working Group
El grupo de trabajo de seguridad de IA está organizado por MLCommons con la participación de un grupo multidisciplinario de expertos en IA. El grupo desarrollará una plataforma y un conjunto de pruebas de colaboradores para respaldar los puntos de referencia de seguridad de IA para diversos casos de uso.
La compañía planea compartir los hallazgos de seguridad de la IA y las mejores prácticas y procesos para el desarrollo responsable, como equipos rojos y pruebas de seguridad. La lista completa de los miembros participantes se puede encontrar en el sitio web de MLCommons.
Intel compartirá sus procesos de revisión multidisciplinarios que utilizan internamente para desarrollar modelos y herramientas de IA con el grupo de trabajo de AIS para ayudar a establecer un conjunto común de mejores prácticas y puntos de referencia para evaluar el desarrollo seguro y la implementación de una herramienta generativa de IA que aproveche los LLM.
