Puntuación de modelos de IA: Endor Labs lanza una herramienta de evaluación

laboratorios endor Ya estamos empezando a calificar los modelos de IA en función de su seguridad, popularidad, calidad y actividad.

Esta característica única, llamada Endor Scoring of AI Models, está diseñada para simplificar el proceso de identificación de los modelos de AI de código abierto más seguros disponibles en Hugging Face, una plataforma para compartir modelos de lenguaje grandes (LLM), modelos de aprendizaje automático y otras plataformas de modelos. . Modelos y conjuntos de datos de IA de código abierto, proporcionando puntuaciones simples.

La noticia llega cuando los desarrolladores recurren cada vez más a plataformas como Hugging Face en busca de modelos de IA ya preparados, lo que refleja la disponibilidad temprana del software de código abierto (OSS). Esta nueva versión mejora la gobernanza de la IA al permitir a los desarrolladores “comenzar desde cero” con modelos de IA, un objetivo que hasta ahora ha sido difícil de alcanzar.

"Nuestra misión siempre ha sido proteger todo aquello de lo que depende su código, y los modelos de IA son la próxima gran frontera en esta misión crítica", dijo Varun Badhwar, cofundador y director ejecutivo de Endor Labs.

“Cada organización está experimentando con modelos de IA, ya sea impulsando una aplicación específica o creando un negocio completo basado en IA. La seguridad debe seguir el ritmo, y esta es una oportunidad única para comenzar a limpiar y evitar riesgos futuros y altos costos de mantenimiento”.

Brecha en la gobernanza de la IA: el 95% de las empresas aún no ha implementado un marco

George Apostolopoulos, ingeniero fundador de Endor Labs, añadió: “Todo el mundo está experimentando con modelos de IA en este momento. Algunos equipos están creando negocios completamente nuevos basados ​​en IA, mientras que otros están buscando formas de poner la etiqueta 'impulsado por humanos' en sus productos. . Etiqueta "impulsada por la inteligencia". Una cosa es segura: sus desarrolladores están utilizando modelos de inteligencia artificial".

Sin embargo, esta comodidad no está exenta de riesgos. Apostolopoulos advirtió que la situación actual es similar al "salvaje oeste", donde la gente se aferra a modelos que se adaptan a sus necesidades sin considerar las vulnerabilidades potenciales.

El enfoque de Endor Labs trata los modelos de IA como dependencias dentro de la cadena de suministro de software.

"Nuestra misión en Endor Labs es 'proteger todo aquello de lo que depende su código'", dijo Apostolopoulos. Esta perspectiva permite a las organizaciones aplicar métodos de evaluación de riesgos similares a los modelos de IA como lo harían con otros componentes de código abierto.

La herramienta de Endor para calificar modelos de IA se centra en varias áreas de riesgo clave:

La inteligencia artificial se encuentra con Blockchain y datos descentralizados

• Vulnerabilidades de seguridad: Los modelos previamente entrenados pueden ocultar códigos maliciosos o vulnerabilidades en los pesos del modelo, lo que puede generar vulnerabilidades de seguridad cuando se integran en un entorno organizacional.

• Cuestiones legales y de licencia: Cumplir con los términos de la licencia es fundamental, especialmente dado el complejo linaje de modelos de IA y sus conjuntos de entrenamiento.

• Riesgo operacional: La dependencia de modelos previamente entrenados crea un gráfico complejo que puede resultar difícil de gestionar y proteger.

Para abordar estos problemas, la herramienta de evaluación de Endor Labs realiza 50 comprobaciones listas para usar en el modelo de inteligencia artificial de Hugging Face. El sistema genera una "Puntuación Endor" basada en factores como la cantidad de mantenedores, patrocinio corporativo, frecuencia de lanzamiento y vulnerabilidades conocidas.

Los factores positivos en el sistema de puntuación del modelo de IA incluyen el uso de un formato de ponderación seguro, la presencia de información de licencia y altas métricas de descarga y participación. Los aspectos negativos incluyen documentación incompleta, falta de datos de rendimiento y uso de formatos de peso inseguros.

Una característica clave de Endor Scores es su enfoque fácil de usar. Los desarrolladores no necesitan conocer nombres de modelos específicos; pueden comenzar su búsqueda con una pregunta general, como "¿Qué modelos puedo usar para clasificar emociones?" Proporciona puntuaciones claras, clasificando los aspectos positivos y negativos de cada modelo, permitiendo a los desarrolladores elegir la opción más adecuada según sus necesidades.

“A sus equipos se les pregunta todos los días sobre la IA y buscan modelos que puedan utilizar para acelerar la innovación”, señaló Apostolopoulos. "Trabajar con Endor Labs para evaluar modelos de IA de código abierto puede ayudarle a garantizar que el modelo que utiliza cumpla con sus expectativas y sea seguro de usar".

(fotografía: Elemento5 digital)

Ver también: China Telecom entrena un modelo de IA con 1 billón de parámetros en chips nacionales

¿Quiere aprender más sobre inteligencia artificial y big data de la mano de los líderes de la industria? Controlar Expo Inteligencia Artificial y Big Data Celebrada en Amsterdam, California y Londres. El evento integral se lleva a cabo al mismo tiempo que otros eventos importantes, incluidos Conferencia de automatización inteligente, brockx, semana de transformación digitaly Expo Ciberseguridad y Nube.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

Etiqueta: ai, inteligencia artificial, laboratorio endor, evaluación, aprendizaje automático, evaluación de modelos, modelo, puntuación