El CEO que desarrolla una rival de ChatGPT ahora pide “bajar el ritmo” de la IA
¿Quién es Dario Amodei y qué es Anthropic?
Amodei tiene 12 años trabajando en inteligencia artificial y es uno de los fundadores de Anthropic, compañía estadounidense especializada en el desarrollo de modelos de inteligencia artificial.
La empresa es conocida por Claude, un asistente de IA con el que los usuarios pueden conversar, escribir textos, analizar información, programar y realizar otras tareas.
No se debe detener la IA
En su opinión, la tecnología podría contribuir a curar buena parte de las principales enfermedades durante los próximos cinco a 10 años, acelerar el crecimiento económico y ampliar las capacidades de las personas.
Amodei cuenta que su padre murió de una enfermedad que fue curada pocos años después y que él mismo sobrevivió a un cáncer que, 50 años atrás, no habría podido ser tratado de la misma manera.
Por lo que estos avances muestran lo que una tecnología puede hacer por la humanidad, pero esa misma capacidad es la que vuelve más graves los riesgos.
Entre ellos está la posibilidad de perder el control sobre sistemas de IA, su utilización para ataques cibernéticos, su uso en bioterrorismo y las consecuencias económicas que podrían producir cambios demasiado rápidos.
La solución que propone es no competir solamente por quién desarrolla la IA más rápido, sino por quién consigue hacerla avanzar sin dejar atrás la seguridad.
El problema es que la IA ya ayuda a desarrollar más IA
Uno de los motivos que llevaron a Amodei a cambiar su postura es lo que denomina “recursive self-improvement”, o mejora recursiva.
Esto implica que conforme los modelos se vuelven más capaces, también pueden ayudar a los investigadores e ingenieros a desarrollar la siguiente generación de sistemas.
Amodei sostiene que esta dinámica se ha acelerado durante los últimos meses y que está ocurriendo en distintas empresas, incluida Anthropic.
Apunta que el riesgo es que el ritmo de avance termine superando la capacidad de las compañías para entender, probar y controlar los sistemas.
