Diseñan un virus que altera el funcionamiento de redes neuronales

Los trabajos con redes neuronales están entre los más activos y prometedores de la Inteligencia Artificial. Mediante técnicas de retroalimentación en el aprendizaje, es decir acumulación de resultados que permiten afinar el comportamiento de la red, es posible crear sistemas que aprendan a reaccionar ante los estímulos. Cuatro estudiantes de la universidad de Chongqing en China acaba de publicar un estudio en el que proponen un método para “hackear” este tipo de circuitos lógicos.

La premisa de las redes neuronales que es la respuesta al problema está en el diseño del circuito y no en la programación de interminables listas de instrucciones. De esta forma, si queremos crear un sistema de visión artificial diseñado para reconocer caras, podemos optar por “programar” todas las instrucciones necesarias para identificar, o “enseñar” a una red neuronal a que reconozca caras en base a su experiencia. Esto se consigue mediante el ajuste interno de una serie de parámetro en cada nodo de la red neuronal que ajusta su respuesta (valores de salida) a los estímulos que recibe (valores de entrada).

El problema es que cuando conseguimos que las redes neuronales hagan este tipo de trabajo no sabemos cómo lo consiguen. El ajuste de parámetros es bastante automático y no responde a las acciones de un técnico, sino a la mecánica interna de los nodos de la red. En consecuencia, la propuesta de estos cuatro estudiantes es insertar en los nodos de la red un elemento adicional que observa los patrones de entrada para que alterar la respuesta de la red en determinadas circunstancias.

Esto se conoce como “Principio de Caja Negra”. Sabemos lo que ocurre (la respuesta de la red) pero no sabemos por qué ocurre (el funcionamiento de la red). En consonancia, la presencia de un virus troyano que altere su funcionamiento puede pasar totalmente desapercibida hasta que sea demasiado tarde. El trabajo incluye dos ejemplos de cómo conseguir este tipo de ataques de forma efectiva y, al parecer, no es demasiado complicado.

Más información: Outer Places.