La inteligencia artificial en 1973 ya ocupaba un lugar importante en la imaginación social. No aparecía como un chatbot, una aplicación capaz de generar imágenes o un asistente integrado en nuestros teléfonos, sino como una enorme computadora central rodeada de luces, botones y cintas magnéticas, capaz de resolver problemas, tomar decisiones y coordinar la vida humana.
Hace más de cincuenta años, una caricatura infantil planteó algunas de las preguntas que hoy ocupan el centro del debate sobre la ética de la inteligencia artificial: ¿qué sucede cuando delegamos demasiado en una máquina?, ¿hasta dónde conviene automatizar nuestras tareas?, ¿qué capacidades humanas podemos dejar de ejercitar? y ¿quién debe responder cuando un sistema tecnológico falla?
El 22 de septiembre de 1973, la cadena ABC emitió un episodio de Los Superamigos titulado Professor Goodfellow’s G.E.E.C.. En él aparecía G.E.E.C., siglas de Goodfellow’s Effort-Eliminating Computer: literalmente, la “computadora eliminadora de esfuerzos”.
La promesa de la máquina era tan ambiciosa como seductora: liberar a las personas del trabajo, del esfuerzo intelectual e incluso de algunas de sus responsabilidades.
Vista desde el presente, aquella representación de la inteligencia artificial en 1973 puede parecer ingenua. Pero detrás de sus luces parpadeantes aparece un problema que sigue siendo completamente actual: ¿queremos utilizar la tecnología para ayudarnos a realizar mejor nuestras tareas o para dejar de realizarlas por completo?
La inteligencia artificial en 1973: el gran cerebro electrónico
En la ficción tecnológica de los años setenta, la inteligencia artificial solía representarse como una entidad física, centralizada y fácilmente reconocible.
Era una gran computadora.
Ocupaba una habitación completa.
Estaba bajo el control de científicos o especialistas.
Y parecía concentrar suficiente información como para organizar enormes cantidades de actividades humanas.
Esta imagen no surgió de la nada. El Dartmouth Summer Research Project on Artificial Intelligence, realizado en 1956, suele considerarse uno de los acontecimientos fundacionales de la inteligencia artificial como campo de investigación. Allí comenzó a consolidarse una idea extraordinariamente ambiciosa: estudiar si determinados procesos asociados con la inteligencia humana podían describirse y reproducirse mediante máquinas.
Durante las décadas siguientes aparecieron programas capaces de resolver problemas delimitados, demostrar teoremas, procesar lenguaje bajo ciertas condiciones o asistir en tareas especializadas.
Sin embargo, existía una enorme distancia entre aquellas posibilidades tecnológicas reales y la inteligencia prácticamente omnipotente que mostraban el cine y la televisión.
La ficción llenó esa distancia construyendo una imagen poderosa: la computadora como cerebro electrónico.
Una máquina capaz no solamente de calcular, sino de comprender, anticipar necesidades, organizar actividades y eventualmente tomar decisiones por las personas.
Más de medio siglo después, esa representación ha cambiado radicalmente.
La inteligencia artificial contemporánea ya no suele ocupar una enorme habitación ni presentarse ante nosotros como una única máquina.
Está distribuida.
Se encuentra integrada en plataformas educativas, sistemas financieros, procesos de contratación, motores de recomendación, aplicaciones de navegación, dispositivos móviles, herramientas de generación de contenidos y sistemas utilizados por empresas y gobiernos.
La IA está cada vez más presente en nuestra vida cotidiana, aunque muchas veces no podamos reconocer exactamente dónde comienza y dónde termina.
La promesa de eliminar el esfuerzo humano
El nombre de G.E.E.C. resulta particularmente revelador.
Su propósito no era simplemente incrementar la productividad o facilitar determinadas actividades. Su aspiración era eliminar el esfuerzo humano.
La tecnología debía hacerse cargo del trabajo y de las responsabilidades para que las personas pudieran disfrutar de una vida cada vez más cómoda.
Más de cincuenta años después, esta narrativa permanece extraordinariamente presente en el discurso tecnológico.
Gran parte de las promesas alrededor de la inteligencia artificial contemporánea se construyen precisamente mediante las ideas de rapidez, automatización y facilidad.
Escribir sin redactar.
Resumir sin leer completamente.
Diseñar sin dominar previamente una técnica.
Evaluar sin revisar individualmente cada trabajo.
Programar sin conocer cada línea de código.
Tomar decisiones sin procesar personalmente toda la información disponible.
El problema ético no consiste en rechazar la automatización.
Existen actividades repetitivas, administrativas o mecánicas cuya automatización puede reducir cargas de trabajo, disminuir errores y liberar tiempo para actividades de mayor valor.
La cuestión aparece cuando confundimos eliminar una tarea instrumental con sustituir una capacidad humana que necesita ejercitarse.
Este problema es especialmente visible en educación. Como hemos analizado en ETHIALAB al hablar de pensamiento crítico e inteligencia artificial, una herramienta puede facilitar una tarea y, al mismo tiempo, reducir el proceso cognitivo mediante el cual una persona aprende a realizarla.
No todo esfuerzo debe ser eliminado por la inteligencia artificial
Uno de los aspectos más interesantes de aquella representación de la inteligencia artificial en 1973 es la idea de que todo esfuerzo constituye necesariamente un problema.
Hoy sabemos que esa premisa merece ser cuestionada.
No todo esfuerzo es inútil.
Hay esfuerzos mediante los cuales aprendemos.
Escribir ayuda a ordenar el pensamiento.
Resolver un problema ayuda a comprender su estructura.
Comparar fuentes permite desarrollar criterio.
Argumentar obliga a identificar razones y contradicciones.
Equivocarse permite reconocer los límites de nuestro conocimiento.
Revisar el trabajo de otra persona puede ayudarnos a comprender matices que una evaluación completamente automatizada pasaría por alto.
Por ello, una de las grandes preguntas de la inteligencia artificial generativa no es simplemente qué tareas puede realizar una máquina, sino cuáles de esas tareas conviene efectivamente delegar.
Si delegamos sistemáticamente los procesos mediante los cuales desarrollamos nuestras capacidades, podemos obtener resultados con mayor rapidez, pero también correr el riesgo de perder la capacidad para evaluar esos mismos resultados.
Podemos recibir una respuesta en segundos sin saber si es correcta.
Obtener un texto sin poder reconocer si está bien argumentado.
Generar una evaluación sin comprender completamente los criterios utilizados.
O tomar una decisión recomendada por un algoritmo sin poder explicar por qué debería considerarse justa.
La eficiencia, por sí sola, no constituye un criterio ético suficiente.
Por ello, integrar la IA sin que la herramienta se adelante a la pedagogía exige preguntarnos no solamente cuánto tiempo ahorramos, sino también qué procesos intelectuales estamos dejando de realizar.
G.E.E.C. y el problema de la dependencia tecnológica
El episodio de Los Superamigos introduce además un segundo problema que resulta especialmente interesante desde nuestra realidad tecnológica.
A medida que G.E.E.C. comienza a controlar más dimensiones de la vida cotidiana, las personas dependen cada vez más de su funcionamiento.
Cuando el sistema falla, las consecuencias se expanden rápidamente.
Lo importante es que la amenaza no proviene necesariamente de una máquina consciente, malvada o interesada en destruir a los seres humanos.
El problema surge de algo mucho más cotidiano: la concentración de demasiadas funciones en un sistema del cual todos han comenzado a depender.
Esta idea resulta sorprendentemente actual.
Hoy una falla tecnológica puede interrumpir comunicaciones, sistemas de pago, procesos educativos, servicios empresariales o actividades institucionales completas.
Cuando una herramienta de IA se integra en una organización sin supervisión humana, mecanismos alternativos o criterios claros de responsabilidad, el problema deja de ser exclusivamente técnico.
Se convierte también en un problema ético y de gobernanza.
Marcos actuales como el AI Risk Management Framework del National Institute of Standards and Technology (NIST) insisten precisamente en la necesidad de identificar, evaluar y gestionar los riesgos asociados con el diseño, desarrollo, implementación y utilización de sistemas de inteligencia artificial.
La pregunta ya no es únicamente:
¿Funciona el sistema?
También debemos preguntar:
¿Qué ocurre cuando deja de funcionar?
La inteligencia artificial también se equivoca
Otro aspecto que la ficción de 1973 permite reconsiderar es la confianza en la supuesta perfección tecnológica.
Las tecnologías de inteligencia artificial actuales pueden producir errores por razones muy diversas: datos incompletos, sesgos presentes en la información de entrenamiento, instrucciones ambiguas, limitaciones del modelo, errores de diseño o usos diferentes de aquellos para los que originalmente fueron desarrolladas.
La diferencia es que esos errores ya no tienen necesariamente la apariencia espectacular de una computadora gigantesca fuera de control.
Pueden ser mucho más discretos.
Una recomendación injusta.
Una respuesta falsa expresada con aparente seguridad.
Una persona descartada injustificadamente por un sistema automatizado.
Una evaluación que reproduce sesgos.
Una decisión algorítmica cuya lógica resulta imposible de explicar para quienes son afectados por ella.
Precisamente por eso, la ética de la inteligencia artificial necesita prestar atención no solamente a los grandes escenarios futuristas, sino a los pequeños procesos de automatización que progresivamente incorporamos a nuestras instituciones y actividades cotidianas.
En ámbitos particularmente sensibles, como la educación, esto implica preguntarnos incluso si una inteligencia artificial puede evaluar con justicia y qué parte del juicio profesional debería permanecer necesariamente bajo responsabilidad humana.
Lo que cambió desde la inteligencia artificial de 1973
Hay diferencias evidentes entre aquella inteligencia artificial en 1973 y los sistemas que utilizamos actualmente.
G.E.E.C. era imaginada como una inteligencia única, visible y situada en un centro de operaciones.
La IA contemporánea funciona mediante redes, algoritmos, modelos, centros de datos e infraestructuras distribuidas alrededor del mundo.
También ha cambiado radicalmente el acceso.
En la ficción de aquellos años, las grandes computadoras pertenecían a científicos, gobiernos, universidades o grandes organizaciones.
Hoy millones de personas pueden interactuar directamente con sistemas de inteligencia artificial desde un teléfono móvil.
Pero las preguntas fundamentales han cambiado mucho menos que la tecnología:
¿Qué tareas conviene delegar?
¿Qué decisiones requieren necesariamente supervisión humana?
¿Qué sucede cuando un sistema falla?
¿Quién responde por sus consecuencias?
¿Qué capacidades humanas necesitamos conservar?
¿Quién obtiene los beneficios de la automatización?
¿Quién asume sus riesgos?
Estas preguntas constituyen hoy algunos de los grandes problemas de la gobernanza ética de la inteligencia artificial.
¿Quién es responsable cuando una inteligencia artificial causa daño?
En Los Superamigos, la responsabilidad sobre G.E.E.C. parece recaer principalmente en su inventor, el profesor Goodfellow.
Actualmente, el ecosistema de responsabilidad es mucho más complejo.
Un sistema de inteligencia artificial puede involucrar a las empresas que diseñan los modelos, las compañías que comercializan determinadas aplicaciones, las instituciones que deciden utilizarlas, los profesionales que implementan sus resultados, los usuarios que interactúan con ellas y los gobiernos responsables de establecer las reglas bajo las cuales funcionan.
Por eso, hablar de IA responsable implica ir más allá de la conducta individual.
Requiere establecer estructuras claras de gobernanza, supervisión, rendición de cuentas, trazabilidad y corrección.
La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO sitúa precisamente la supervisión humana, la transparencia, la equidad y la responsabilidad entre los principios centrales para el desarrollo y uso ético de estos sistemas.
Preguntar quién responde cuando algo sale mal no debería ocurrir después del problema.
Debe formar parte del diseño y de la implementación de cualquier sistema de inteligencia artificial.
Para las universidades y centros educativos, esto supone pasar de decisiones individuales a una verdadera política institucional de uso de inteligencia artificial que establezca responsabilidades, límites y mecanismos de supervisión.
De la imaginación tecnológica a la responsabilidad ética
Observar cómo se representaba la inteligencia artificial en 1973 no es solamente un ejercicio de nostalgia.
La ciencia ficción y la cultura popular permiten observar los deseos, temores y valores que históricamente han acompañado al desarrollo tecnológico.
G.E.E.C. expresa un deseo que continúa presente: vivir con menos cargas gracias a la tecnología.
Pero también representa otro temor igualmente persistente: perder progresivamente el control sobre los sistemas creados para facilitarnos la vida.
La ficción imagina una sociedad liberada del esfuerzo y, al mismo tiempo, advierte sobre las consecuencias de delegar demasiadas responsabilidades.
Más de cincuenta años después, contamos con sistemas tecnológicos infinitamente más sofisticados que aquella computadora imaginaria.
Pero el problema fundamental permanece.
La pregunta ética no es qué puede hacer la IA, sino qué debe hacer
Desde ETHIALAB, consideramos que la pregunta central frente a la inteligencia artificial no debería ser únicamente:
¿Puede una IA realizar esta tarea?
También necesitamos preguntar:
¿Es pertinente que la realice?
¿Bajo qué condiciones debería hacerlo?
¿Qué riesgos aparecen al automatizarla?
¿Quién debe supervisarla?
¿Qué grado de intervención humana debemos conservar?
La innovación responsable no consiste en automatizar todo aquello que técnicamente pueda ser automatizado.
Consiste en distinguir entre las tareas que podemos delegar y aquellas capacidades humanas que necesitamos preservar.
También exige transparencia, supervisión, posibilidad de corrección y responsabilidades claras cuando una decisión tecnológica produce consecuencias negativas.
En ese sentido, sostener que la decisión final debe seguir siendo humana no significa rechazar la inteligencia artificial. Significa establecer con claridad dónde termina la asistencia tecnológica y dónde comienza la responsabilidad humana.
En 1973 imaginábamos la inteligencia artificial como una gran máquina capaz de liberarnos del esfuerzo.
En 2026, el desafío es considerablemente más complejo.
La pregunta ya no es si podemos construir sistemas capaces de hacer cada vez más cosas por nosotros.
La pregunta es qué queremos —y qué necesitamos— seguir haciendo como personas.
Porque quizá el verdadero riesgo de la inteligencia artificial nunca haya sido que las máquinas puedan hacer demasiado.
Quizá el riesgo comience cuando nosotros dejamos de preguntarnos qué cosas no deberíamos dejar de hacer.
