Líderes de Anthropic, Google y OpenAI piden freno a la IA por “riesgo de que aceleré más allá de nuestra comprensión”

OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.

“Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad”, dijo Altman en el podcast “Invest like the best”, publicado el martes.

“Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo sobre el cibertataque que tuvo efectos en otras cuatro plataformas y no solo en Hugging Face, como se había mencionado inicialmente.

De acuerdo con un nuevo informe de la propia OpenAI, las demás plataformas que sufrieron el ataque fue una intermediaria para preparar el ataque contra Hugging Face, mientras que la otra fue una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI.

Amodei, de Anthropic, celebró que cada vez existe más consenso en torno a ralentizar el desarrollo de la IA para dar tiempo a la sociedad de prepararse y subrayó que se necesitan herramientas técnicas y mecanismos de gobernanza para controlar el ritmo de avance de forma proactiva cuando sea necesario.

Por otra parte, Demis Hassabis, de DeepMind, propuso la creación de un organismo internacional de normalización desde donde sea posible desarrollar reglas aplicables a todos los modelos de IA de próxima generación, algo que recibió el apoyo de empresarios como Elon Musk y Satya Nadella, entre otros.

Con información de AFP.