La inteligencia artificial se ha convertido en una herramienta cada vez más importante para la ciberseguridad. Gracias a su capacidad para detectar fallos con rapidez, puede ayudar a identificar vulnerabilidades que a veces pasan desapercibidas. Con este objetivo se ha creado Claude Mythos, el modelo de IA desarrollado por Anthropic con un enfoque específico en seguridad informática.

Mythos ha conseguido identificar vulnerabilidades en distintos sistemas operativos y navegadores web, incluidos fallos con más de una década de antigüedad que hasta ahora habían pasado inadvertidos. Ahora cómo en toda inteligencia artificial, es importante ser conscientes de que las IAs son herramientas poderosas y útiles, es crucial utilizarlas con precaución y tener en cuenta los riesgos sobre los posibles usos malintencionados.

Identificar vulnerabilidades

La Inteligencia Artificial es una rama de la informática que se ocupa del desarrollo de «agentes inteligentes», es decir, sistemas que pueden percibir su entorno y tomar decisiones para alcanzar sus objetivos.

  • Percepción: El primer paso para que una IA funcione es percibir su entorno, por ejemplo, mediante sensores como cámaras, micrófonos o sensores de movimiento.
  • Procesamiento: Una vez que la IA ha percibido su entorno, necesita procesar la información. Esto se hace utilizando algoritmos y modelos matemáticos.
  • Toma de decisiones: Cuando la IA ha procesado la información, necesita tomar una decisión. Mediante reglas predefinidas o mediante aprendizaje automático.
  • Acción: Por último, la IA necesita actuar sobre su decisión. Esto puede hacerse de muchas maneras, por ejemplo, mediante el control de dispositivos físicos o mediante la comunicación con otros sistemas.

Por ahora, Mythos se encuentra restringida a un pequeño grupo de empresas, organismos reguladores y gobiernos. Asimismo, se realiza en condiciones de absoluta confidencialidad.

Anthropic mantiene una estrategia de despliegue controlado, centrada en identificar y corregir el mayor número posible de vulnerabilidades en sistemas críticos antes de planear una adopción más amplia.

Lo más importante es usar la inteligencia artificial responsablemente. Para saber más sobre el tema, te esperamos en el curso «Inteligencia artificial, ChatGPT y sus alternativas» de KZgunea