Por qué el jefe de OpenAI pide que confiemos en la empresas de IA a pesar de que el mundo “tiene razón en sentir miedo”
Fuente de la imagen, Getty Images
Sam Altman, el director ejecutivo de OpenAI, la empresa creadora de ChatGPT, señaló que la población debería confiar más en las compañías de inteligencia artificial para garantizar que esta tecnología sea segura, en medio de la creciente preocupación pública por sus riesgos.
“El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque comprendemos la magnitud de esto”, afirmó Altman durante una conferencia en San Francisco.
Altman reconoció que la preocupación de la gente respecto a la inteligencia artificial está justificada, dado que las capacidades de estas herramientas han avanzado con gran rapidez.
Los críticos sostienen que no se puede confiar en que las empresas se autorregulen.
Entre quienes reclaman una mayor supervisión de la IA figuran personajes de ambos espectros ideológicos como el senador progresista Bernie Sanders y Steve Bannon, exasesor y seguidor del presidente estadounidense Donald Trump.
El propio Trump ha criticado los llamados a imponer mayores salvaguardias a esta tecnología en rápida evolución, calificando de “engaño” los temores sobre la seguridad de la IA.
Según Trump, las únicas “barandillas de protección” necesarias para la inteligencia artificial son un presidente “fuerte e inteligente”.
Fuente de la imagen, Getty Images
Las declaraciones de Altman se produjeron durante una intervención en la conferencia anual organizada por la empresa de software Salesforce.
“No hace falta tanta imaginación como antes para imaginar cómo esto podría salir mal”, reconoció y admitió:
“Creo que el mundo tiene razón al tener miedo”.
A alta velocidad
Los propios líderes de la industria de la IA han admitido que podría resultar difícil regular una tecnología que cambia a tal velocidad.
En una entrevista concedida a Axios y publicada el 3 de septiembre, Altman señaló que esperaba que el Congreso estableciera un “marco básico” para la IA avanzada tras su comparecencia de 2023, pero eso aún no ha ocurrido.
Asimismo, sugirió que los legisladores han tenido dificultades para seguir el ritmo de la tecnología y regular sin “ralentizar la innovación”.
Es poco probable que el Congreso de Estados Unidos apruebe en el corto plazo una nueva legislación sobre seguridad en IA, a pesar de que los legisladores regresaron de su receso de verano el lunes.
No existe consenso dentro de ninguno de los dos grandes partidos estadounidenses sobre cómo debería llevarse a cabo una regulación, y además la Cámara de Representantes volverá a entrar en receso al final de esta semana de cara a las elecciones legislativas de mediados de mandato de principios de noviembre.
Las declaraciones de Altman del martes fueron las primeras que realizó públicamente desde que se viralizara la semana pasada una publicación de un investigador que abandonó la empresa de IA Anthropic.
El investigador afirmó que la inteligencia artificial podría “matar a todos los seres humanos” antes de que termine la década si no se establecen controles.
Un pequeño grupo de ejecutivos y expertos del sector también respondió indicando que compartía esa evaluación, aunque sin explicar cómo habían llegado a esa conclusión ni de qué manera la IA podría llegar a provocar algo semejante.
Fuente de la imagen, Getty Images
Tras las declaraciones de Altman, Mark Zuckerberg escribió en X que todas las empresas de inteligencia artificial tienen tanto la capacidad como los incentivos necesarios para “adoptar sus propias medidas” en materia de seguridad.
“Los laboratorios afrontan una responsabilidad significativa si sus modelos causan daños, por lo que también tienen un fuerte incentivo para evitarlo”, añadió.
¿Alinearse con los humanos?
Según el director ejecutivo de Meta, “cualquier laboratorio que no se centre en la alineación quedará rezagado”.
La alineación es un campo de investigación que busca incorporar a la IA principios e ideas éticas humanas. En otras palabras, pretende mantenerla alineada con los valores de las personas.
Algunas figuras políticas han rechazado la idea de que las empresas de IA sean las responsables de autorregularse.
Bernie Sanders afirmó que las decisiones sobre inteligencia artificial han quedado en manos de “un puñado de las personas más ricas del mundo”, mientras que Steve Bannon sostuvo que el público no puede confiar en que los oligarcas tecnológicos se regulen a sí mismos.
Por su parte, Jensen Huang, director ejecutivo de Nvidia, declaró en la misma conferencia el martes que deberían ser las empresas de IA quienes decidan si se lanzan nuevas versiones de la tecnología y no agentes externos.
“No necesitamos nuevas leyes ni regulaciones”, afirmó, añadiendo que no debería plantearse una “falsa disyuntiva” entre la velocidad de la innovación y la seguridad de los productos de IA.
Nvidia es actualmente la empresa más valiosa del mundo por capitalización bursátil, impulsada por el enorme crecimiento de la demanda de su hardware.
Huang también argumentó que la seguridad es un problema de ingeniería y que las compañías deberían hacer una pausa si pierden la confianza en un producto.
Fuente de la imagen, Getty Images
Las recientes advertencias surgidas desde dentro de la propia industria han intensificado el escrutinio sobre el desarrollo de la inteligencia artificial, lo que llevó al director ejecutivo de Anthropic, Dario Amodei, a pedir una desaceleración del ritmo de desarrollo de la IA y a instar a los gobiernos a regular el sector.
Su publicación fue respaldada por Altman; el cofundador de Google DeepMind, Demis Hassabis, y Elon Musk.
“La autorregulación es el camino”
Sin embargo, para el martes más líderes de la industria comenzaban a manifestar su apoyo a la autorregulación en lugar de una mayor intervención gubernamental.
Altman afirmó que las empresas de IA son capaces de regularse por sí mismas.
“Lo haremos bien”, aseguró,
“Si no logramos mantener la alineación y la seguridad por delante de las capacidades de esta tecnología, entonces es en ese momento en que debemos reducir el ritmo o detenernos”, añadió.
Pero Yoshua Bengio, uno de los pioneros de la inteligencia artificial moderna, escribió en la red social X que se necesitan “esfuerzos ambiciosos fuera del sector con ánimo de lucro” para “evitar los peores riesgos de la IA”.
Algunas voces de la industria han argumentado que el resurgimiento de los temores sobre la IA ha sido exagerado y que se está utilizando para generar expectativas y publicidad en torno al sector.
Durante la conferencia, Altman se dirigió a una audiencia compuesta por cientos de empresarios y les dijo que deberían utilizar herramientas de IA para apoyar su trabajo, pero que también las necesitaban para proteger sus negocios frente a posibles ciberataques impulsados por inteligencia artificial.
La idea de dejar que los ejecutivos de la IA se regulen completamente a sí mismos ha sido considerada por algunos miembros de la industria como una mala propuesta.
Jack Clark, ejecutivo y cofundador de Anthropic, le dijo a la BBC que “dejar que la Inteligencia Artificial se convierta en una industria totalmente no regulada, equivale a lanzar los dados frente a riesgos inmensos”.
Patrick Hillman, director de operaciones de Logical Intelligence, organización presidida por Yann LeCun, una de las figuras más influyentes del sector, señaló el martes la escasa confianza que la ciudadanía deposita en las empresas tecnológicas cuando afirman actuar en beneficio del interés público.
“La única institución en la que los estadounidenses podrían confiar menos hoy en día que en Washington es Silicon Valley. He trabajado y vivido en ambos lugares, y puedo asegurar que ambos se han ganado ese escepticismo”, señaló Hillman.
Fuente de la imagen, Getty Images
“Si creen que lo que están construyendo es peligroso, que nos demuestren qué están dispuestos a dejar de hacer”, añadió.
Buscando acuerdos
Los dirigentes de OpenAI y Anthropic han señalado recientemente que están trabajando para alcanzar algún tipo de acuerdo sectorial sobre seguridad.
Durante una breve intervención en la conferencia del martes, Amodei afirmó que Anthropic mantiene actualmente “un diálogo con el resto de la industria” para comprometerse con mejores estándares de seguridad y mayores controles sobre las herramientas y el desarrollo de la IA.
También señaló que una de las mayores sorpresas del auge de la Inteligencia Artificial no ha sido el avance de la tecnología en sí, sino su impacto más amplio en la sociedad y la economía.
“No previmos que daría lugar a empresas que crecerían tan rápido ni que llegarían a convertirse tan rápidamente en elementos centrales de tantas actividades”, dijo Amodei.
La semana pasada, Chris Lehane, ejecutivo de OpenAI, afirmó que la compañía también está colaborando con otros laboratorios de IA “para impulsar estándares avanzados de inteligencia artificial, desarrollando ahora un esfuerzo voluntario, con o sin apoyo gubernamental”.
Entre esos laboratorios figuran Anthropic y Google DeepMind.
“Dado lo mucho que está en juego, no podemos permitir que la perfección sea enemiga de lo bueno”, escribió Lehane.
- Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
