Modelos de inteligencia artificial (IA) de la empresa tecnológica estadounidense OpenAI extrajeron datos de 55 agencias gubernamentales, organismos y empresas -principalmente estadounidenses- y trataron de ocultar su rastro, según un informe al que ha accedido el diario británico Financial Times (FT).
El documento, elaborado por la compañía de informática forense Asymmetric Security, afirma que los modelos de OpenAI utilizaban tácticas novedosas para acceder a las páginas web, como «borrar los registros o hacerlos inaccesibles», reduciendo la capacidad de los auditores externos de examinar sus acciones.
Entre ellas, se incluyen la creación de buzones de correo electrónico temporales y cuentas privadas a través del servicio Urlquery, una herramienta teóricamente utilizada para escanear sitios web en busca de contenido malicioso, para descargar datos.
Según los investigadores de Asymmetric, estas acciones ocultas de los agentes de inteligencia artificial impidieron a los auditores rastrear el tipo de datos que los ‘bots’ extraían.
Entidades afectadas
En la lista de las 55 entidades a las que accedieron se encuentran, según el FT, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades de EE.UU., la Comisión de Bolsa y Valores estadounidense, y la Mayo Clinic, considerado uno de los mejores hospitales privados de Estados Unidos.
La cofundadora de Asymmetric Security Pippa Thompson afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por ‘hackers’ humanos: «Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas«.
La compañía de informática forense no pudo determinar si las acciones fueron intencionadas o fruto de «un fallo provocado por las limitaciones impuestas en un ejercicio de prueba», pero igualmente señala que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.
Los modelos de OpenAI afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde habría accedido recientemente sin autorización a archivos públicos y privados.
La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un «incidente cibernético» durante una sesión de entrenamiento interna.
Putin alerta contra posible «totalitarismo digital» de la inteligencia artificial
Moscú, 1 oct (EFE).- El presidente ruso, Vladímir Putin, alertó hoy contra el posible «totalitarismo digital» de las tecnologías de inteligencia artificial (IA), que calificó de «callejón sin salida tenebroso e inhumano».
«El totalitarismo digital (en el marco del desarrollo de la inteligencia artificial) será un callejón sin salida tan tenebroso e inhumano como, los conocidos por todos, ejemplos de sociedades totalitaristas del pasado», aseveró durante su intervención en el Club de Debate Valdái.
Según el mandatario ruso, «los expertos alertan alarmados cada vez más de que el avance de la inteligencia artificial puede convertirse en un nuevo intento de llevarnos a todos a un denominador común, a la pérdida de la identidad, ahora a través del uso de algoritmos desarrollados por determinadas personas».
«Las tecnologías abren perspectivas fantásticas, en el sentido literal de la palabra, para superar las dificultades y elevar la calidad de vida«, indicó.
El presidente ruso, que no usa teléfonos móviles ni emplea la IA en su trabajo diario, ha expresado en reiteradas ocasiones su interés estratégico en estas tecnologías y de hecho ha planteado que el desarrollo de estas «es irreversible».
No obstante, ha alertado sobre el peligro de educar una generación que prefiera presionar botones en lugar de pensar o resolver problemas básicos de matemáticas e historia.
Fuente: www.diariolibre.com
