El hackeo de OpenAI revela la fragilidad de la ciberseguridad ante la IA, alertan expertos
El suceso reavivó el debate para la regulación de los modelos más avanzados, pues, tras el ataque el director ejecutivo de OpenAI, Sam Altman reconoció que la industria podría verse obligada a moderar el ritmo de desarrollo de la IA para dar tiempo a que las medidas de seguridad evolucionen al mismo ritmo que las capacidades de estos sistemas. Aunado a esto, más de 1,000 empleados de OpenAI, Anthropic, y otras compañías firmaron la carta Pacing The Frontier, que propone desarrollar mecanismos técnicos y de gobernanza para frenar el hecho de desplegar modelos si su capacidad supera el control que tendrían sobre ellas.
Asimismo, legisladores estadounidenses presentaron la iniciativa AI Kill Switch Act, que buscaría obligar a las empresas a mantener mecanismos para apagar o limitar sus modelos en situaciones de riesgo.
Esto sucede mientras las gigantes tecnológicas aceleran el desarrollo de agentes capaces de realizar tareas complejas en nombre de los usuarios e inclusive esta semana Mark Zuckerberg aseguró que en los próximos cinco años miles de millones de personas contarán con asistentes personales de inteligencia artificial que trabajaran de forma continua para administrar finanzas, salud o actividades cotidianas. Sin embargo, para los especialistas ese escenario obliga a que la inversión en inteligencia artificial avance al mismo ritmo que las capacidades de defensa.
El incidente entre Open AI y Hugging Face muestran como el reto ya no solo es desarrollar agentes más inteligentes, sino en construir infraestructuras capaces de supervisarlos y contenerlos para que su comportamiento no rebase las tres leyes de la robótica de Isaac Asimov.
