Microsoft advierte que la IA sin control podría dar lugar a una “especie no humana” que compita con las personas
Fuente de la imagen, Getty Images
El responsable de inteligencia artificial de Microsoft ha advertido que, sin salvaguardias adecuadas, el desarrollo de esta tecnología podría dar lugar a la aparición de una nueva “especie de silicio” capaz de competir con los humanos.
Mustafa Suleyman criticó que la empresa rival Anthropic está tratando a la IA como si fuera humana, un enfoque que calificó de “equivocado” y que, en su opinión, podría conducir a la creación de sistemas que la humanidad no pueda controlar.
En declaraciones al programa Today de la BBC, el directivo afirmó que es “razonable” que exista preocupación en torno a la inteligencia artificial, aunque subrayó que también hay “medidas muy prácticas que podemos tomar” para mantenerla bajo control.
Sus palabras se suman a una creciente serie de advertencias desde la propia industria tecnológica sobre los posibles riesgos asociados al rápido avance de la IA.
La BBC se ha puesto en contacto con Anthropic para solicitar comentarios.
En su entrrevista con el programa Today de la BBC, Suleyman advirtió este jueves sobre los riesgos de que las empresas continúen desarrollando sistemas de inteligencia artificial capaces de fijar sus propios objetivos, generar ingresos y poseer activos.
Advirtió que eso sería “sembrar esencialmente una nueva especie de silicio”, que “podría competir con los humanos por los recursos, más allá de cualquier preocupación o ‘afecto’ por la humanidad”.
Las declaraciones del directivo se producen después de que, a principios de esta semana, publicara un ensayo en el que cuestiona el enfoque de Anthropic para entrenar su modelo de IA, Claude, aunque elogió a su director ejecutivo, Dario Amodei, y a su equipo como “personas intelectualmente honestas”.
Fuente de la imagen, Bloomberg via Getty Images
En ese texto, Suleyman criticó a la empresa por atribuir cualidades humanas a sus sistemas —una práctica conocida como antropomorfización—, que, según argumentó, puede dar la impresión de que Claude tiene deseos, valores o una identidad propios.
También advirtió de que las empresas tecnológicas corren el riesgo de crear sistemas “imposibles” de controlar si tratan a la IA como si fuera un ser humano.
“Las IA no son conscientes”, escribió.
“No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones propias”.
“Son máquinas diseñadas para completar secuencias, internamente vacías, que siguen instrucciones y persiguen objetivos definidos por humanos”.
“No debemos tomar decisiones a la ligera”
El directivo de Microsoft afirmó que es necesaria una mayor transparencia en torno a cómo se entrenan y evalúan los sistemas de inteligencia artificial.
Según explicó, esto implica un escrutinio independiente del comportamiento de los sistemas, así como el desarrollo de herramientas más eficaces para supervisarlos y mantenerlos bajo control.
“No debemos tomar decisiones a la ligera, sin ser plenamente conscientes de sus consecuencias, de las que luego podamos arrepentirnos profundamente”, escribió.
Por su parte, Wendy Hall, profesora de Informática en la Universidad de Southampton, calificó sus declaraciones como “el tipo de conversación que necesitamos tener a nivel internacional”.
La experta las contrastó con lo que describió como el “histrionismo” de algunas empresas de IA que, en su opinión, solo sirve para “asustar a todo el mundo”.
Superinteligencia “humanista”
El debate sobre cuánta autonomía deberían tener los sistemas de inteligencia artificial divide cada vez más a la industria.
En declaraciones a la BBC con motivo de una próxima cumbre sobre IA, Suleyman pidió mayor “alineación” para desarrollar tecnologías que permanezcan “subordinadas” a la humanidad.
La alineación es un campo que busca integrar principios y valores humanos en los sistemas de IA, con el objetivo de que su comportamiento se mantenga en consonancia con ellos.
“Creo que la buena noticia es que todos los seres humanos tenemos un interés común en garantizar que los sistemas que creamos y utilizamos en todo el mundo, en todas las naciones, sean seguros, controlables y estén subordinados a la humanidad”, afirmó.
“Todos deben estar alineados”.
Microsoft creó su propio equipo de superinteligencia en octubre de 2025.
Al igual que su rival Anthropic, está intensificando sus esfuerzos en el desarrollo de IA avanzada.
Las declaraciones de Suleyman reflejan el borrador inicial del Código de Conducta de Microsoft para una IA humanista, un “manual de capacitación” publicado esta semana que detalla cómo la empresa está desarrollando sus sistemas y plantea la idea de una “superinteligencia humanista”.
Según el documento, se trata de “una IA muy avanzada que siempre trabaja para las personas, se mantiene dentro de límites definidos y permanece bajo control humano”.
La visión de Microsoft sobre una IA “humanista” pone de relieve uno de los principales desafíos de esta tecnología: cómo hacerla más potente sin perder de vista los valores a los que está destinada a servir.
Información adicional de Henry Moore.
Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.
- Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
