Firmar principios es fácil; hacerlos cumplir es otra cosa. Esta semana, la gobernanza ética de la inteligencia artificial dejó de ser un debate abstracto: representantes de casi 200 países se reunieron para discutir cómo convertir buenas intenciones en reglas que de verdad obliguen a gobiernos y empresas.
Qué se está cocinando en Riad
Desde este lunes, ministros, expertos y líderes tecnológicos de todo el mundo participan en el cuarto Foro Global sobre la Ética de la Inteligencia Artificial de la UNESCO, un encuentro de cuatro días celebrado en Riad y coorganizado por la UNESCO con socios internacionales. El lema lo resume: “Transformar la cooperación global para la gobernanza ética de la IA”. No se trata de redactar otra lista de buenos deseos, sino de darle fuerza legal y práctica a acuerdos que hasta ahora eran, sobre todo, voluntarios.
El telón de fondo es tenso. La discusión sobre cómo regular la inteligencia artificial choca con la carrera por su dominio entre las grandes potencias, y esta misma semana la ONU alertó sobre los peligros de una IA capaz de actuar por su cuenta, advirtiendo que las fallas de sistemas autónomos podrían paralizar servicios esenciales, interrumpir comunicaciones y debilitar instituciones democráticas. En ese clima, pasar de los principios a las reglas deja de ser un tecnicismo: es la diferencia entre gobernar la tecnología o correr detrás de ella.
Del principio al deber: el vacío que hay que llenar
En 2021, casi todos los países del mundo adoptaron la Recomendación sobre la Ética de la IA de la UNESCO, el primer marco global en la materia. El problema es que una recomendación orienta, pero no obliga: ningún gobierno enfrenta consecuencias si la ignora. Ahí está el nudo ético de fondo. ¿De qué sirve un consenso internacional si cada actor decide cuándo y cómo cumplirlo?
Hay dos lecturas legítimas. Quienes empujan por reglas vinculantes sostienen que, sin obligaciones claras, la ética se vuelve marketing. Quienes piden cautela advierten que unas normas apresuradas podrían frenar la innovación o quedar obsoletas frente a una tecnología que cambia cada mes. Los acuerdos internacionales sobre inteligencia artificial viven precisamente en esa tensión: demasiado laxos, no protegen; demasiado rígidos, no se sostienen.
La discusión no es solo diplomática. Detrás de cada palabra —“transparencia”, “supervisión”, “rendición de cuentas”— hay decisiones muy concretas: quién audita a un algoritmo que decide sobre personas, qué pasa cuando falla y a quién se reclama. Un principio sin mecanismo de cumplimiento es una promesa, y las promesas no protegen derechos. Por eso el verdadero termómetro del foro no serán los discursos, sino si los países salen con compromisos verificables o con otra declaración elegante.
Por qué la gobernanza ética de la IA llega hasta tu institución
Puede sonar lejano —cumbres, ministros, comunicados—, pero la gobernanza ética de la inteligencia artificial baja hasta el aula. Los mismos principios que se debaten en Riad (transparencia, supervisión humana, equidad, protección de datos) son los que deberían guiar cómo una escuela decide qué herramientas de IA usa, con qué reglas y bajo qué límites. La Recomendación de la UNESCO, de hecho, interpela de forma directa a los sistemas educativos: pide formar en pensamiento crítico y en un uso responsable de estas tecnologías.
Una institución educativa es, a su escala, un espacio de gobernanza: define políticas, forma a su gente y rinde cuentas. Y como insistimos en EthiaLab, la decisión final debe seguir siendo humana. Traducir los grandes marcos —UNESCO, OCDE— a lineamientos concretos es la diferencia entre reaccionar con miedo y actuar con criterio. Un buen primer paso es saber dónde está parada tu institución hoy.
Para reflexionar
La ética no vive solo en los tratados internacionales: se prueba en cada decisión cotidiana, desde una cumbre en Riad hasta la política de uso de IA de una secundaria. La pregunta que deja esta semana es incómoda y necesaria: ¿esperamos a que alguien nos obligue, o empezamos a gobernar el uso de la IA por convicción?
