Encuentros UCN: experto analizó los riesgos de la inteligencia artificial

Las alertas públicas de parte de ejecutivos de las principales empresas tecnológicas sobre los peligros del acelerado desarrollo de la inteligencia artificial (IA) y el análisis en cuanto a si esta tecnología constituye una amenaza real para la sociedad, fueron los temas abordados en un nuevo capítulo de Encuentros UCN, el espacio de conversación en formato podcast elaborado por la Universidad Católica del Norte (UCN).

El programa, producido por la Dirección de Comunicaciones del plantel, contó en esta oportunidad con la participación del Dr. Brian Keith Norambuena, académico del plantel y director del Centro de Innovación en Inteligencia Artificial para la Región de Antofagasta (CIARA) de la UCN, quien entregó una perspectiva analítica sobre las alertas globales, la ciberseguridad, el escenario geopolítico y los desafíos éticos de esta herramienta.

Durante la entrevista, el Dr. Keith sostuvo que las advertencias sobre el riesgo de la IA deben interpretarse con cautela. A su juicio, existe una combinación entre preocupaciones técnicas legítimas e intereses comerciales de las empresas para posicionar sus productos, sobredimensionar sus capacidades o influir en futuras regulaciones que favorezcan su dominio en el mercado. “A lo largo de la historia de la inteligencia artificial, desde la década de 1950, han existido ciclos de sobreventa que provocaron los llamados ‘inviernos de la IA’, al no cumplirse las promesas formuladas. Aunque hoy presenciamos una disrupción tecnológica indiscutible en la sociedad, es fundamental separar las estrategias de marketing de la sinceridad técnica antes de caer en alarmismos”, sostuvo el experto.

CIBERSEGURIDAD

Al abordar las amenazas concretas, el especialista caracterizó a la IA como una tecnología de doble uso. En el ámbito de la ciberseguridad, los mismos modelos diseñados para fortalecer y proteger sistemas informáticos pueden ser utilizados por actores maliciosos para perpetrar ataques, lo que genera una “carrera armamentista” continua entre defensores y atacantes sin un ganador definitivo.

Asimismo, el académico analizó la rivalidad geopolítica entre Estados Unidos y China. Mientras el modelo estadounidense está impulsado principalmente por corporaciones privadas con sistemas de código cerrado, en China el desarrollo es promovido por el Estado y destaca por liberar los parámetros de sus modelos, lo que facilita la auditoría y revisión técnica de sus algoritmos.

Respecto a la gobernanza de la IA, el Dr. Keith descartó los escenarios apocalípticos de ciencia ficción sobre una pérdida de control autónomo o autoconciencia por parte de las máquinas. Argumentó que el riesgo principal está en la forma en que los seres humanos utilicen estas herramientas en su propio desmedro.

Para abordar estos desafíos, propuso -por ejemplo- avanzar hacia acuerdos internacionales de regulación, tomando como referencia los tratados de no proliferación de armas nucleares. Asimismo, enfatizó un principio ético esencial para la toma de decisiones: “Los sistemas de IA pueden recomendar acciones o procesar volúmenes masivos de información, pero la responsabilidad ética y legal de las decisiones debe recaer siempre en las personas. La supervisión y validación humana son indispensables para prevenir errores de gravedad”.

La nueva edición de Encuentros UCN puede revisarse en este enlace.