Con la inquietante predicción de un responsable de seguridad de Anthropic, que estima en más del 10% la probabilidad de que la inteligencia artificial conduzca a la extinción humana en la próxima década, se subrayó la urgencia de revisar las estrategias de protección de datos, infraestructura y servicios esenciales ante la aceleración de amenazas ya existentes. Este desafío involucra desde la detección de vulnerabilidades hasta la definición de controles sobre sistemas automatizados y el intercambio de información frente a incidentes.
Durante dos días y a través de más de 20 paneles, el Digi Americas LATAM CISO Summit, llevado a cabo en Cancún, reunió a ex jefes de Estado, expertos tecnológicos, directores de ciberseguridad y funcionarios públicos para analizar el impacto de la inteligencia artificial en los riesgos digitales y las respuestas de empresas y gobiernos. Los temas discutidos incluyeron el phishing, la suplantación de identidad, la cadena de suministro, la soberanía digital, el riesgo para datos críticos de los países y la colaboración internacional.
En este contexto, los expositores destacaron la importancia de reafirmar principios esenciales de seguridad: identificar activos críticos, restringir privilegios, clasificar datos, controlar identidades y garantizar visibilidad de la superficie de ataque. Además, la implementación de herramientas generativas y agentes autónomos plantea interrogantes sobre el acceso a la información, los permisos de cada usuario y el rol que pueden desempeñar los procesos automatizados en la toma de decisiones.
La cadena de suministro constituyó una de las preocupaciones principales. La dependencia de proveedores, plataformas en la nube, desarrolladores externos y sistemas interconectados amplía los riesgos más allá de los límites de cada organización. Los panelistas señalaron que la evaluación de terceros debe ir más allá de certificaciones o auditorías, requiriendo monitoreo continuo, identificación de dependencias y planes de contingencia ante la posible insolvencia de un proveedor clave.
También se coincidió en que la ciberseguridad debe integrarse desde la etapa de diseño de productos, procesos e infraestructura, evitando relegar esta preocupación a momentos posteriores. En sectores como finanzas, salud, energía, transporte y administración pública, esta visión está vinculada a la resiliencia operativa, que prepara a las organizaciones para manejar incidentes, recuperar capacidades y asegurar la continuidad del servicio.
La cooperación entre empresas, gobiernos, reguladores y equipos técnicos fue otro aspecto central del evento. Los ataques se nutren de vulnerabilidades comunes y se propagan entre países y sectores. Por ello, los asistentes abogaron por reglas claras, el intercambio de información y capacidades técnicas coordinadas. Con el aumento de la velocidad de las amenazas debido a la inteligencia artificial, se enfatizó que las respuestas deben ser colectivas, involucrando desde altos directivos hasta usuarios finales.
Se presentaron casos ilustrativos sobre cómo los modelos recientes de inteligencia artificial han reducido los costos y acelerado las modalidades de fraude digital. Se mencionó que, por alrededor de diez dólares, es posible enviar mil correos electrónicos de phishing redactados de manera convincente y personalizados para distintos idiomas, lo que facilita las campañas de engaño y suplantación de identidad.
Asimismo, se alertó sobre herramientas que son capaces de replicar voces a partir de tan solo 15 segundos de audio, lo que puede utilizarse para simular llamadas de familiares o directivos para solicitar transferencias de dinero o información sensible. Los expertos sugirieron establecer una “palabra de seguridad” con seres queridos para evitar fraudes telefónicos mediante inteligencia artificial.
Uno de los oradores destacados fue el expresidente de Estonia, Toomas Hendrik Ilves, quien argumentó que la discusión sobre la modernización del Estado ha adquirido una nueva dimensión a raíz del avance de la inteligencia artificial y la dependencia de proveedores tecnológicos extranjeros. “En esta nueva era, la idea de soberanía digital y el rápido desarrollo de la inteligencia artificial han modificado notablemente el panorama en comparación con hace un año y medio”, comunicó.
Ilves advirtió sobre la posibilidad de que servicios tecnológicos sean interrumpidos desde Estados Unidos y cómo la expansión de la inteligencia artificial agéntica transforma el escenario para los gobiernos. “Es un mundo nuevo respecto a hace apenas dos años”, sostuvo, defendiendo la urgencia de que los países desarrollemos infraestructuras y capacidades propias.
El exjefe de Estado también subrayó la necesidad de proteger la información crítica ante conflictos, ciberataques y desastres naturales, recordando que Japón perdió parte de sus registros nacionales tras el accidente nuclear de Fukushima. Este antecedente motivó a Estonia a crear un sistema de respaldo externo: “No podemos permitir la pérdida de nuestros datos nacionales críticos”, resumió.
En este marco, mencionó la creación de una embajada de datos en Luxemburgo, donde Estonia mantiene copias sincronizadas de registros esenciales bajo un régimen de extraterritorialidad diplomática. La iniciativa abarca información relacionada con la identidad de los ciudadanos, registros fiscales y datos de salud, entre otros sistemas estatales.
En lo que respecta a la implementación de la IA en la administración pública, Ilves indicó que Estonia inició este año un programa para integrar esta tecnología en diferentes sectores del Gobierno y la economía. “Estamos otorgando una identidad propia a todos los agentes. La finalidad es aumentar la rendición de cuentas: saber quién hace qué”, enfatizó.
Otro destacado disertante, el ex presidente de Colombia, Iván Duque, comentó que los riesgos vinculados a la inteligencia artificial y los ataques digitales deben ser considerados desde el ángulo económico y de la seguridad estatal. “Mi mayor preocupación es que debemos entender que la seguridad digital es un asunto macroeconómico. Es esencial comprender el impacto que tiene a nivel global y el daño económico que puede causar en un país específico”, apuntó.
Duque también advirtió sobre el incremento de los ataques en la región: “En América Latina, en los últimos cinco años, los ciberataques han aumentado más de tres o cuatro veces en varios países, y la cantidad de personas investigadas o juzgadas ni siquiera se registra”.
Sostuvo que es necesaria una conducción política centralizada, capaz de coordinar acciones entre organismos públicos. “La gobernanza, en mi opinión, debe ser de arriba hacia abajo. Necesitamos jefes de Estado que integren a sus oficinas a directores de tecnología, tal como hicimos en Colombia, para crear un marco de gobernanza que alinee al Estado en la búsqueda de seguridad digital”, destacó.
Desde su perspectiva, la expansión de las amenazas tecnológicas exige que los gobiernos incorporen la ciberseguridad en sus políticas públicas y en la protección de la actividad económica.
A su vez, el director del Centro Nacional de Ciberseguridad (CNC) de Argentina, Ariel Waissbein, planteó que la regulación no puede frenar el avance tecnológico. “Incluso si hay legislación, no se pueden impedir ciertos cambios tecnológicos”, señaló, al referirse a la inteligencia artificial.
En este sentido, el funcionario nacional expresó que el desafío para los gobiernos radica en establecer condiciones de seguridad para su adopción, buscando mitigar amenazas sin obstaculizar la innovación. Consideró que las normativas deberían tener un amplio alcance y capacidad de adaptación frente a un entorno tecnológico que evoluciona rápidamente.
Waissbein también resaltó la importancia de la coordinación entre el Estado, el sector privado y organismos internacionales. Aseguró que la implementación de políticas requiere generar confianza, educar sobre las amenazas y detectar medidas rápidas para avanzar en conjunto. “La cooperación internacional es fundamental”, subrayó, ya que permite conocer los problemas que enfrentan otros países y las soluciones que desarrollan, facilitando la creación de proyectos específicos para responder a desafíos comunes.
Participaron también senadores y diputados de varias naciones de la región, como México, Colombia, Brasil y Uruguay, quienes coincidieron en la necesidad de mejorar los marcos regulatorios para fortalecer la ciberseguridad en sus respectivos países.
Recientemente, la inteligencia artificial ocupó un lugar central en el debate mediático internacional, tras los comentarios de Evan Hubinger, un responsable de un equipo de seguridad de Anthropic, quien afirmó que “de verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”.
Hubinger destacó que su empresa “aún no tiene un plan para resolver la alineación de una superinteligencia”, y que ni siquiera hay certeza de que logre desarrollarlo, refiriéndose a la necesidad de que una inteligencia artificial actúe conforme a los valores de sus creadores.
Sus declaraciones resonaron tanto en los paneles como en los pasillos del Digi Americas LATAM CISO Summit. La mayoría de los participantes minimizaron el alarmismo de Hubinger, descartando la idea de que la IA esté “fuera de control”. “Es un título sensacionalista”, sentenció un ejecutivo de una compañía estadounidense de ciberseguridad en conversación informal, postura respaldada por muchos de los jefes de seguridad y funcionarios presentes, aunque algunos adoptaron un enfoque más cauteloso, sin descartar totalmente la posibilidad de una “superinteligencia” capaz de superar las habilidades humanas en tareas cognitivas como el razonamiento, la investigación científica y la toma de decisiones.
