La rápida expansión de la inteligencia artificial ha generado inquietud sobre hasta dónde puede llegar esta tecnología y qué mecanismos existen para mantenerla bajo control. Mario García, director general de Checkpoint Software para España y Portugal, ha descartado que actualmente exista una inteligencia artificial autoconsciente capaz de negarse a obedecer a las personas, pero ha advertido de riesgos mucho más cercanos relacionados con la ciberseguridad, el control de los sistemas y el uso que hacen de ellos empresas y particulares.
La conversación se ha emitido en el programa EgunON Magazine.
Una IA que se niega a apagarse sigue siendo ciencia ficción
La posibilidad de que una inteligencia artificial llegue a desarrollar voluntad propia y decida protegerse frente a una orden humana aparece con frecuencia en películas, series y debates sobre el futuro de esta tecnología. García ha rebajado ese temor en el escenario actual.
«A día de hoy esto entra más dentro de la categoría de ciencia ficción», ha explicado. Las inteligencias artificiales disponibles actualmente no son autoconscientes ni saben que existen por sí mismas, por lo que no pueden decidir defenderse o actuar según una voluntad propia.
«No estamos en ese punto ni de cerca ni va a pasar en un tiempo relativamente corto», ha señalado, aunque ha reconocido que la tecnología evoluciona a una velocidad extraordinaria y obliga a seguir muy de cerca sus avances.
El peligro real: utilizar la IA para atacar
El escenario cambia cuando la amenaza no procede de la propia inteligencia artificial, sino de quienes deciden utilizarla con fines maliciosos.
«Eso sí que ya está pasando», ha advertido García al hablar de ciberataques realizados mediante herramientas desarrolladas con inteligencia artificial. Este tipo de tecnología permite mejorar y automatizar determinadas técnicas utilizadas por los atacantes, pero también está reforzando los sistemas defensivos.
«Es posible defenderse. Y seguramente con la propia inteligencia artificial también», ha explicado. Las empresas de ciberseguridad ya utilizan sistemas basados en IA para detectar amenazas y responder ante ataques que también han incorporado esta tecnología.
Un «botón de apagado» para los sistemas públicos
Checkpoint ha planteado la necesidad de que organismos y empresas dispongan de mecanismos que permitan detener inmediatamente un sistema de inteligencia artificial cuando presenta un comportamiento inesperado o ha sufrido un ataque.
Ese denominado «botón de apagado» no significa poder desconectar ChatGPT u otras grandes plataformas de inteligencia artificial desde una administración pública.
«No decimos que vayan a tirar Anthropic o ChatGPT», ha aclarado García. La propuesta afecta a los sistemas concretos que una administración o una empresa introduce dentro de su propia infraestructura.
Si una organización utiliza IA para automatizar procesos, el sistema de seguridad debería conocer qué hace esa inteligencia artificial, a qué información accede y qué acciones está realizando. Ante una infección, un ataque o cualquier funcionamiento anómalo, tendría que existir la capacidad de detenerla inmediatamente.
«No le voy a decir a la IA: apágate»
García ha insistido en una diferencia fundamental: el mecanismo de control debe estar fuera de la propia inteligencia artificial.
«No le voy a decir a la IA: apágate», ha explicado. La orden debe dirigirse a otro sistema independiente capaz de controlar su actividad: «Le voy a decir a otro sistema que controla qué es lo que está haciendo la IA: apágala y no la dejes acceder a ninguno de estos otros sistemas».
De esta forma, una empresa puede cortar accesos, limitar acciones o desconectar un determinado sistema sin depender de que sea la propia IA la que ejecute esa orden.
Regular sin que la Administración «tutele» la IA
El responsable de Checkpoint también ha defendido la necesidad de establecer un marco público para regular el uso de la inteligencia artificial, aunque ha rechazado que las administraciones tengan que «tutelar» directamente esta tecnología.
«Lo que sí tiene que poner es un marco de actuación», ha señalado. Ese marco debe determinar qué puede hacerse, cómo puede utilizarse la IA y qué mecanismos de control deben aplicarse, además de garantizar posteriormente que las empresas cumplen las normas.
García ha considerado que las instituciones tienen que contar también con herramientas de inspección y supervisión, del mismo modo que ocurre en otros sectores regulados.
Empresas que no saben qué hacen sus empleados con la IA
Uno de los problemas que más preocupa al responsable de Checkpoint está dentro de las propias organizaciones. Muchas compañías han comenzado a incorporar herramientas de inteligencia artificial sin tener todavía mecanismos suficientes para controlar su utilización.
García ha explicado que, en sus conversaciones con clientes, plantea preguntas básicas: qué información está saliendo de la empresa, qué hacen los empleados con las herramientas de IA, qué agentes están creando o a qué sistemas acceden esos agentes.
«Desgraciadamente, la respuesta a todas esas preguntas es no», ha asegurado sobre el nivel de conocimiento que tienen algunas organizaciones.
Antes de implantar estas herramientas, las empresas deben definir cómo van a utilizarlas, cómo van a ponerlas en producción y qué harán si aparece un problema. «Simplemente hay que ser consciente de que las cosas pueden ir mal en esto y en cualquier otra cosa», ha señalado.
Una carrera constante en ciberseguridad
La evolución de estas herramientas está obligando también a los profesionales de la ciberseguridad a actualizar sus conocimientos prácticamente a diario.
«La innovación es tremenda», ha explicado García. Checkpoint cuenta con equipos de investigación dedicados a analizar qué nuevas posibilidades ofrece la inteligencia artificial tanto a quienes realizan ataques como a quienes trabajan para impedirlos.
El objetivo pasa por conocer las nuevas amenazas, comprobar cómo evolucionan las técnicas utilizadas por los ciberdelincuentes y desarrollar herramientas que permitan a empresas y organizaciones controlar qué hacen sus sistemas de IA, dónde acceden y cuándo deben ser detenidos.
Si te gusta EgunOn Magazine, suscríbete en nuestros canales de podcast:
Y sigue a Radio Popular en las redes sociales:
- Sigue todas las noticias de Bilbao y Bizkaia en nuestro Facebook
- Conoce la radio desde dentro en nuestro Instagram
- Los titulares y los bacalaos del Athletic al minuto en X
- Revive los mejores bacalaos en YouTube
- Recibe las actualizaciones de nuestra programación y nuestras noticias en nuestro canal de Telegram