Cisco: proteger a las empresas en la era de la inteligencia artificial

A medida que la inteligencia artificial se integra cada vez más en las operaciones comerciales, surgen nuevos problemas y amenazas de seguridad a un ritmo sin precedentes, que superan las capacidades de las soluciones de ciberseguridad tradicionales.

Hay mucho en juego y el impacto podría ser significativo. Según Cisco Índice de preparación para la inteligencia artificial 2024solo el 29% de las organizaciones encuestadas se sienten totalmente capaces de detectar y prevenir la manipulación no autorizada de la tecnología de IA.

Validación continua del modelo

DJ Sampath, director de plataforma y software de IA ciscodijo: “Cuando hablamos de validación de modelos, no es algo que se realiza una sola vez, ¿verdad?

"Entonces, cuando ves cambios en los modelos, si estás haciendo algún tipo de ajuste o ves que comienzan a surgir nuevos ataques que requieren el aprendizaje del modelo, aprendemos constantemente toda esta información y revalidamos los modelos. para ver dónde están esos modelos. ¿Cómo se comportan bajo estos nuevos ataques que descubrimos?

"Otro punto muy importante es que contamos con un equipo de investigación de amenazas muy avanzado que estudia constantemente estos ataques de IA y comprende cómo mejorarlos aún más. De hecho, estamos trabajando internamente en la contribución de organizaciones de estándares como MITRE, OWASP y NIST al trabajo. grupo."

L'Oréal: uso de IA generativa para hacer cosméticos sostenibles

Además de prevenir resultados dañinos, Cisco también aborda las vulnerabilidades de los modelos de IA a influencias externas maliciosas que podrían alterar su comportamiento. Estos riesgos incluyen ataques de inyección instantánea, jailbreak y envenenamiento de datos de entrenamiento, cada uno de los cuales requiere precauciones rigurosas.

La evolución trae nuevas complejidades

Frank Dickson, vicepresidente del grupo, seguridad y confianza centro de datos internacionalofreciendo su opinión sobre la evolución de la ciberseguridad a lo largo del tiempo y lo que significan los avances en inteligencia artificial para la industria.

“La primera macrotendencia fue que pasamos del entorno local a la nube, lo que introdujo un nuevo conjunto de problemas que teníamos que resolver. Luego, a medida que las aplicaciones pasaron de monolitos a microservicios, vimos un nuevo conjunto de problemas.

"La incorporación de IA y LL.M.... lo mismo, un montón de nuevos conjuntos de problemas".

A medida que las aplicaciones se vuelven multimodelo, aumenta la complejidad de la seguridad de la IA. Las vulnerabilidades pueden ocurrir en todos los niveles, desde modelos hasta aplicaciones, involucrando a diferentes partes interesadas, como desarrolladores, usuarios finales y proveedores.

Competencia de chips de IA chino-estadounidense: el primer aterrizaje de ganancias de Cambrian

"Una vez que una aplicación pasa de las instalaciones a la nube, permanece allí. Sí, desarrollamos aplicaciones en múltiples nubes, pero una vez que colocas la aplicación en AWS, Azure o GCP, no saltas entre estos diferentes entornos de nube cada vez. mes, cada trimestre, cada semana, ¿verdad?

“Una vez que pasas del desarrollo de aplicaciones monolíticas a microservicios, permaneces allí. Una vez que colocas una aplicación en Kubernetes, no vuelves a otras aplicaciones.

"Lo importante a tener en cuenta cuando buscas obtener tu LL.M. son los cambios de modelo. Cuando hablamos de cambios de modelo, no es una revisión... tal vez esta semana [developers are] Con Anthropic, la próxima semana podrán usar Gemini.

"Son completamente diferentes y los vectores de amenaza de cada modelo son completamente diferentes. Todos tienen sus fortalezas y todos sus enormes debilidades".

A diferencia de las medidas de seguridad tradicionales integradas en modelos individuales, Cisco tiene Defensa de inteligencia artificial. La solución se optimiza automáticamente y aprovecha los algoritmos de aprendizaje automático patentados de Cisco para identificar los problemas de seguridad de la IA en evolución, informados por la inteligencia de amenazas de Cisco Talos.

Adaptarse a la nueva normalidad

Jeetu Patel, vicepresidente ejecutivo y director de productos de Cisco, compartió su opinión de que los grandes avances siempre parecen revolucionarios durante un corto período de tiempo, pero pronto se sienten normales.

"Sabes, Waymo es el coche autónomo de Google. Entras allí, no hay nadie en el coche y te lleva del punto A al punto B. Se siente increíble, como si estuviéramos viviendo en el futuro. Número dos La tercera vez empiezas a quejarte de los asientos.

"Aunque nos hemos acostumbrado muy rápidamente a la IA y ChatGPT en los últimos años, creo que cualquier avance importante se sentirá como un progreso extraordinario durante un corto período de tiempo. Luego habrá una normalización y todos empezarán a acostumbrarse". ".

Patel cree que la inteligencia artificial general también se estandarizará. Sin embargo, señaló, "no se puede subestimar el progreso que estos modelos están comenzando a lograr" y los tipos de casos de uso que finalmente desbloquearán.

“Nadie pensó que tendríamos al alcance de la mano un teléfono inteligente con más potencia informática que una computadora central y que podríamos hacer miles de cosas con él en cualquier momento, y ahora es solo otra forma de vida. Mi hija de 14 años no lo hace. Ni siquiera pienso en esto.

"Debemos asegurarnos de que nuestra empresa pueda adaptarse rápidamente a esto".

Ver también: Sam Altman de OpenAI: Trabajar hacia la superinteligencia es "afortunado y humillante"

¿Quiere aprender más sobre inteligencia artificial y big data de la mano de los líderes de la industria? Controlar Expo Inteligencia Artificial y Big Data Celebrada en Amsterdam, California y Londres. El evento integral se lleva a cabo al mismo tiempo que otros eventos importantes, incluidos Conferencia de automatización inteligente, brockx, semana de transformación digitaly Expo Ciberseguridad y Nube.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

Etiqueta: ciberseguridad, cisco, defensa de inteligencia artificial, lagunas, desenvolvimiento, dj sampath, empresa, frank dixon, idc, inteligencia artificial, inteligencia artificial, jeetu patel, llm, modelo, modelo de lenguaje grande, seguridad de la información, seguridad de la información