Esta Doctora en Ingeniería en Informática y profesora asociada de la Facultad de Ingeniería y Ciencias UAI, se especializa en la ingeniería de software para el desarrollo y despliegue responsable de sistemas inteligentes utilizando principalmente Inteligencia Artificial responsable.

Por estos días, está en coordinación con otras investigadoras y profesionales chilenas para el evento “Trusted AI 2024”, la Primera Jornada de Trabajo de Inteligencia Artificial Confiable para capacitar a más mujeres en el desarrollo de proyectos y sistemas dignos de confianza humana que respeten los derechos humanos; evento que también ofrece un curso para que niñas entre 8 y 12 años aprendan de Inteligencia Artficial.

La inteligencia artificial responsable se basa en cinco principios clave según la Organización para la Cooperación Económica y Desarrollo en IA (OECD, por sus siglas en inglés): (1) crecimiento inclusivo, desarrollo sostenible y bienestar; (2) derechos humanos y valores democráticos, incluyendo equidad y privacidad; (3) transparencia y explicabilidad; (4) robustez, seguridad y protección; y (5) responsabilidad auditable.

Romina Torres lleva más de 20 años trabajando en el desarrollo de sistemas inteligentes y actualmente trabaja principalmente en los principios 3 y 4 de la inteligencia artificial, responsable en colaboración con la línea de investigación cinco del Centro Nacional de Inteligencia (IA centrada en las personas), la cual se enfoca en nuevas tecnologías para un uso justo, seguro y transparente de la IA en la sociedad, así como en metodologías para evaluar su impacto.

A la pregunta de si las mujeres son minoría en estas áreas, Romina responde “las estadísticas dicen que lo somos, pero no me gusta comentarlo porque siento que tiende a marcar aún más esa diferencia. Pero sí puedo señalar que se está avanzando en materia de inclusión de más mujeres en diversos temas, así es que seremos cada vez más”.

Actualmente, la académica lidera dos proyectos importantes en esta área. El primero es un proyecto Fondecyt, centrado en la investigación fundamental para detectar amenazas persistentes avanzadas (APT). El segundo es un proyecto Fondef de Investigación Tecnológica, recientemente adjudicado con el apoyo de la unidad de investigación e innovación de la Facultad de Ingeniería y Ciencias, que busca escalar un software basado en los avances de la investigación del proyecto anterior, en colaboración con analistas de ciberseguridad, para crear una herramienta que explique las razones de por qué se detectó un ataque o APT.

Inteligencia Artificial para mejorar la ciberseguridad

En el mundo de la ciberseguridad, nos enfrentamos a una paradoja intrigante: la necesidad de utilizar inteligencia artificial (IA) para desarrollar herramientas avanzadas que protejan nuestros sistemas, mientras que al mismo tiempo debemos implementar medidas de ciberseguridad para mitigar las vulnerabilidades inherentes a la propia IA. Estas amenazas han sido visibilizadas por diferentes investigadores y organizaciones, entre ellas OWASP, que da a conocer los “top 10” de las vulnerabilidades que tienen los sistemas web, las aplicaciones móviles, sistemas ciberfísicos, entre otros y ahora sistemas que utilizan inteligencia artificial, tanto de aprendizaje automático como de modelos grandes de lenguaje.

“Aún más paradójico es que principios como la explicabilidad y transparencia en los sistemas de IA pueden, abrir nuevas vías para ataques cibernéticos. Es crucial encontrar un equilibrio entre la necesidad de explicabilidad y la protección contra vulnerabilidades que afecten la seguridad o privacidad. Es decir, crear herramientas efectivas, comprensibles para el usuario final, pero seguras a la vez para este” indica la académica.

La explicabilidad de los modelos de IA podrían facilitar ataques de inferencia de membresía, donde los atacantes determinan si un dato específico fue utilizado para entrenar el modelo, comprometiendo así la privacidad de los datos.

Centro Nacional de Ciberseguridad descentralizado

Romina comenta que “la madurez de las Capacidades de Ciberseguridad de Chile ya ha sido evaluada en dos ocasiones por el modelo de Oxford; aunque hoy estamos expectantes, de la próxima evaluación debido a que la actualización del modelo de evaluación considera un nuevo factor, que es el que considera como parte de las capacidades de un país la Investigación e Innovación que se realiza en materias de ciberseguridad”.

La académica fue la chair de la submesa de investigación avanzada en ciberseguridad de la comisión del futuro del Senado de Chile, donde en el capítulo “Construyendo la Ciberseguridad en Chile”, destacaron dos iniciativas prioritarias: el Centro Nacional de Investigación en Ciberseguridad y el Centro de Escalamiento y Nuevos Negocios en torno a los resultados de investigación en ciberseguridad.

Estas iniciativas buscan aumentar la madurez en I+D en ciberseguridad, alineándose justamente con el pilar 5 - de la responsabilidad auditable - de nuestra Política Nacional de Ciberseguridad 2023-2028. “Pero no debemos desconocer las capacidades existentes y probablemente seguir modelos como el de España donde la Red de Excelencia Nacional de Investigación en Ciberseguridad (RENIC) integra centros de investigación preexistentes de una manera no centralizada”, señala Torres.

En esta línea, el “informe de I+D en ciberseguridad” publicado por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (MinCiencia) destaca las investigaciones realizadas en Chile en los últimos diez años. Este informe evalúa el estado actual y el futuro potencial en el campo de la ciberseguridad, identificando áreas clave que requieren atención prioritaria y fomento por parte de las políticas públicas: Criptografía postcuántica, Desarrollo seguro de sistemas ciberfísicos, Sinergia bidireccional entre IA y ciberseguridad y Educación”.

Investigación en Ciberseguridad y Ciberseguridad para los investigadores

Las universidades no están libres de ataques cibernéticos. El artículo de Bongiovanni, I. (2019), titulado "The least secure places in the universe? A systematic literature review on information security management in higher education" publicado en Computers & Security, realiza una exhaustiva revisión de diversas brechas de seguridad en reconocidas universidades alrededor del mundo.

Esto es preocupante, ya que mucha de la investigación realizada en las universidades es fundamental para el desarrollo de tecnologías importantes para la humanidad.

Finalmente, la profesora Romina Torres que es vicepresidenta del consorcio SARSec, creado en mayo de este año entre Argentina, Brasil, Chile y Perú, destaca la importancia de proteger la investigación académica. Dicho consorcio, capacitado por Sandia Labs de Estados Unidos, se enfoca en un tema que a menudo pasa desapercibido: cómo proteger la investigación y a quienes la realizan.

Torres señala, “aquí se aborda todo lo relacionado con propiedad intelectual, seguridad y privacidad de datos”. De hecho en agosto, integrantes de este consorcio fueron capacitados en la herramienta hecha con IA, risktool. Y en octubre, la Universidad Adolfo Ibáñez, en conjunto con la University of Albany de Estados Unidos, llevará a cabo un taller colaborativo de un día, tanto en Viña del Mar como en Santiago, dirigido a investigadores de la industria y la academia, donde se utilizarán técnicas de gamificación para enseñar cómo proteger la investigación frente a ataques cibernéticos.

Proyectos profesora Romina Torres

Facultad de Ingeniería y Ciencias