Quién diseña la inteligencia artificial del futuro (y por qué siguen faltando mujeres)
Durante los dos últimos años, la conversación sobre la inteligencia artificial ha girado casi siempre alrededor de la misma pregunta: quién y cómo la utiliza. Hemos hablado de ChatGPT en las aulas, de estudiantes que hacen los deberes con ayuda de un chatbot, de profesores que intentan adaptarse a una tecnología que evoluciona a un ritmo vertiginoso y de empresas que buscan aprender a sacarle partido. La IA ha dejado de ser una promesa para convertirse en una herramienta cotidiana.
Sin embargo, el debate sobre la inteligencia artificial ya no gira solo alrededor de su uso, sino sobre quién aprenderá a construirla. Porque quienes desarrollen los modelos del futuro decidirán también con qué datos se entrenan, qué problemas intentan resolver o qué límites deben respetar.
“No basta con que los estudiantes sepan utilizar la inteligencia artificial; tienen que comprender cómo funciona, cuestionarla y ser capaces de crear con ella”. Así resume Fran García del Pozo, responsable de CodeAI en España, el cambio que está viviendo la educación. Esa forma de relacionarse con la tecnología —más crítica, más creativa y menos limitada al simple uso— es lo que en CodeAI denominan fluidez digital. Ya no se trata únicamente de enseñar a manejar una herramienta, sino de preparar a quienes algún día tomarán decisiones sobre ella.
Ese cambio de perspectiva es precisamente el que trata de explicar El futuro de la IA también lo escriben ellas, un informe elaborado por Deloitte, CodeAI y la Fundación Princesa de Girona. El trabajo parte de una constatación: mientras la brecha entre hombres y mujeres en el uso de herramientas de inteligencia artificial empieza a reducirse, ellas siguen siendo una minoría en los estudios que conducen a desarrollar esta tecnología, en los equipos que la crean y en los puestos desde los que se decide hacia dónde evolucionará.
“Ya no es suficiente preguntarnos quién utiliza la inteligencia artificial; debemos preguntarnos quién la diseña, quién decide con qué datos se entrena y quién la gobierna”. Para Ana Torrens, presidenta de Deloitte, ese es el verdadero cambio de conversación. Porque, si la inteligencia artificial está llamada a influir cada vez más en la educación, la sanidad, el empleo o la relación con las administraciones públicas, la cuestión deja de ser exclusivamente tecnológica. También tiene que ver con quién participa —y quién queda fuera— de las decisiones que acabarán afectando a toda la sociedad.
La IA no empieza en Silicon Valley
Sería fácil pensar que la brecha de género en la inteligencia artificial empieza cuando llega el momento de elegir una carrera universitaria. O cuando una empresa decide a quién incorpora a un equipo de desarrollo. Sin embargo, el recorrido comienza mucho antes. Empieza en la infancia, cuando niñas y niños descubren qué les interesa, qué creen que se les da bien, sobre todo, qué futuros sienten que también pueden ser los suyos.
“Hay que abrir oportunidades y encender chispas”. Sandra Camós, responsable de programas educativos de la Fundación Princesa de Girona, resume así la filosofía con la que trabajan. “Siempre podemos ampliar la mirada, fomentar la curiosidad y enseñar a las niñas y a los niños que el talento no tiene límites”, afirma. La cuestión no es convencer a nadie de que estudie una carrera tecnológica, sino conseguir que cualquier estudiante pueda llegar a imaginar ese futuro como una posibilidad real.
Ese proceso rara vez responde a un momento concreto. Se va construyendo poco a poco: en los referentes que encuentran dentro y fuera del aula, en las expectativas que perciben de sus familias y de sus profesores o en las experiencias que les hacen descubrir que la tecnología también puede ser un espacio para ellos. Por eso las investigaciones sitúan el origen de la brecha mucho antes de la universidad: el interés por el pensamiento computacional apenas presenta diferencias durante la Educación Infantil, pero la distancia empieza a abrirse en Primaria y se acentúa durante la Secundaria.
Para Camós, todo ese proceso depende en buena medida del profesorado. “Quienes tienen que ser la palanca son los docentes. Si no están formados, si no están preparados y tienen miedo no solo a utilizar la inteligencia artificial, sino también a conocerla, comprenderla y ser competentes, es muy difícil”, advierte. Más que incorporar una herramienta nueva al aula, sostiene, el reto consiste en que los profesores puedan acompañar al alumnado en un entorno tecnológico que evoluciona a gran velocidad.
La universidad, sostiene Torrens, no es el lugar donde nace esa brecha; es donde ya se hace visible. La menor presencia femenina en el desarrollo de la inteligencia artificial “no empieza en el mercado laboral ni en la universidad”. Empieza mucho antes, “en la forma en la que niñas y niños se relacionan con la tecnología, en los mensajes que reciben, en los referentes que ven y en las expectativas que se proyectan sobre ellos”.
El cambio empieza por quien enseña
“La educación es el mayor tesoro que tiene cualquier país”, recuerda Camós, convencida de que cualquier conversación sobre inteligencia artificial acaba conduciendo, tarde o temprano, a esa idea. Si el objetivo es que más niñas y jóvenes lleguen algún día a desarrollar esta tecnología, el primer paso no consiste en esperar a que elijan una carrera universitaria, sino en preparar a quienes las acompañarán durante todo ese recorrido: los docentes. “Si queremos una buena educación, tenemos que invertir en ellos”, sostiene.
Esa convicción llevó a la Fundación Princesa de Girona a empezar por donde, a primera vista, parecía menos evidente: las facultades de Educación. Camós recuerda que muchos estudiantes de Magisterio recibían con cierta incredulidad la propuesta de aprender programación o inteligencia artificial. “Nos miraban como diciendo: ‘¿Pero esta mujer está loca? ¿Yo, que voy a ser maestro de Infantil o de Primaria, tengo que aprender a programar?’”. Sin embargo, esa percepción cambiaba conforme avanzaba aquella formación inicial de 28 horas. Descubrían que no se trataba de aprender un lenguaje informático, sino de incorporar nuevas herramientas para enseñar, despertar la curiosidad y ayudar a los alumnos a resolver problemas reales.
Durante años, el gran objetivo fue acercar la programación a millones de estudiantes. Hoy, sostiene García del Pozo, ese reto se ha quedado corto. La inteligencia artificial ha cambiado tan deprisa el escenario educativo que ya no basta con aprender un lenguaje de programación. “La IA programa, sí, pero esto ya no va de eso. Va de todo lo que puedes hacer con ella”, resume. Por eso habla de “humanidad aumentada”: una tecnología que amplía las capacidades de las personas, en lugar de sustituirlas, y que obliga a preparar a los estudiantes para profesiones que, en muchos casos, todavía ni siquiera existen. Ese cambio de paradigma explica también la evolución de Code.org hacia CodeAI, un nombre que intenta reflejar una misión mucho más amplia que enseñar a programar.
Pero esa transformación difícilmente llegará a las aulas si los propios docentes sienten que avanzan a ciegas. La última edición de TALIS, el estudio internacional de la OCDE sobre profesorado, sitúa precisamente ahí uno de los principales desafíos: una amplia mayoría de los docentes reconoce que necesita más preparación para integrar la inteligencia artificial en su práctica educativa. Esa realidad refuerza una idea en la que insisten tanto Camós como García del Pozo: antes de preparar al alumnado para convivir con la IA, hay que preparar a quienes tendrán la responsabilidad de enseñarla.
Esa misma idea explica por qué la Fundación y CodeAI decidieron llevar buena parte de su trabajo a las escuelas rurales. No porque allí hubiera menos tecnología, sino porque esos centros llevan años haciendo algo que hoy reclama todo el sistema educativo: adaptar continuamente la enseñanza a alumnos con necesidades (y edades) distintas, trabajar por proyectos, conectar el aprendizaje con el entorno y convertir la comunidad en parte del aula. “La innovación allí no es un lujo; muchas veces es una necesidad”, viene a sostener Camós. En ese contexto, la IA deja de presentarse como un fin en sí mismo para convertirse en una herramienta más al servicio de una forma de enseñar que ya ponía a los estudiantes en el centro mucho antes de que existiera ChatGPT.
“Al final”, concluye García del Pozo, “ya no estamos formando solo a quienes desarrollarán inteligencia artificial”. Estamos formando a la generación que convivirá con ella, la cuestionará, decidirá cuándo utilizarla y cuándo no hacerlo. Y eso deja de ser un reto exclusivo de ingenieros o especialistas en tecnología para convertirse en una responsabilidad compartida por toda la educación.
La diversidad también mejora la IA
La inteligencia artificial aprenderá cada vez más sobre nosotros. Ayudará a diagnosticar enfermedades, recomendará contenidos educativos, participará en procesos de selección de personal o facilitará la relación con las administraciones públicas. Pero, antes de hacer todo eso, alguien habrá decidido con qué datos se entrena, qué problemas intenta resolver y qué preguntas merece la pena hacerse. Ahí es donde Torrens sitúa una parte esencial del debate. “Desde el punto de vista empresarial nos recuerda que estamos en un contexto de escasez de talento y que debemos aprovecharlo al 100%”. Dejar fuera a una parte de ese talento, sostiene, no es solo una cuestión de igualdad; también limita la capacidad de construir una inteligencia artificial mejor.
“La diversidad cambia las preguntas desde el principio”, resume Torrens., cuando cambian las preguntas, también cambian las respuestas. Por eso sostiene que incorporar más mujeres al desarrollo de la inteligencia artificial no es solo una cuestión de equidad. También es una forma de enriquecer la innovación y construir tecnologías capaces de responder a una sociedad mucho más diversa.
Un ejemplo ayuda a entenderlo. Una herramienta de inteligencia artificial para educación puede ser técnicamente impecable, sin embargo, resultar poco útil dentro de un aula si en su diseño solo participan perfiles tecnológicos. “Necesitamos también docentes, pedagogos, especialistas en protección de menores, familias.”. Cuantas más experiencias y conocimientos confluyan en ese proceso, más posibilidades habrá de desarrollar herramientas capaces de responder a situaciones reales y no solo a problemas teóricos.
Los casos conocidos de algoritmos que reprodujeron sesgos de género o de sistemas de reconocimiento facial que ofrecían peores resultados para determinados colectivos demostraron que el problema no estaba únicamente en la tecnología. También estaba en los datos utilizados para entrenarla y en las decisiones humanas que habían acompañado todo el proceso. Por eso, para Torrens, la gobernanza de la inteligencia artificial “no es solo una cuestión técnica o regulatoria; es también una cuestión de confianza”. Una confianza que, concluye, solo puede construirse cuando la sociedad “se reconoce en quienes toman las decisiones”.
