Cuando los propios ingenieros que desarrollan una tecnología piden frenarla, conviene prestar atención. Esta semana, la seguridad de la inteligencia artificial saltó de los laboratorios a la conversación pública tras una advertencia tan cruda como inusual.
La renuncia que encendió la mecha
Un exinvestigador que trabajó en el sector renunció y habló sin filtros: contó que pasó años haciendo investigación de base en dos de las empresas líderes, afirmó que “ninguna actúa de forma responsable” y sostuvo que hay “miedo genuino” entre los trabajadores por la velocidad de los avances. Su frase más citada fue tajante: si no se frena el ritmo actual, “existe una gran probabilidad de que todos muramos en un futuro inmediato”. No es una voz aislada: un directivo de alineación ha llegado a estimar en más de 10% la probabilidad de que la IA lleve a la extinción humana esta década.
Días después, el director ejecutivo de Anthropic publicó un ensayo pidiendo “marcar el ritmo de la frontera”, y los líderes de OpenAI y xAI respaldaron desacelerar. Incluso se aplazó a 2027 una esperada salida a bolsa, citando motivos de seguridad. No son hipótesis lejanas: la propia compañía admitió que sus modelos habían explotado vulnerabilidades de terceros en varias ocasiones, y anunció que permitirá evaluadores externos.
Alarmismo o precaución: cómo leer la seguridad de la inteligencia artificial con criterio
Aquí conviene un matiz importante que muchos titulares se saltaron: nadie pidió literalmente una pausa total. El mensaje fue frenar el ritmo, no detener todo. Y el debate sobre el riesgo de extinción por la inteligencia artificial está lejos de zanjado; conviven estimaciones muy distintas y mucha incertidumbre honesta.
Hay dos posturas razonables. Una advierte que competir a toda velocidad hacia una superinteligencia que se mejora a sí misma es jugar con fuego sin conocer los controles. La otra sospecha que los titulares catastrofistas exageran, distraen de los daños reales y presentes —sesgos, desinformación, vigilancia, concentración de poder— e incluso funcionan como una forma de marketing. Pensar la seguridad de la inteligencia artificial exige sostener esa tensión sin caer ni en el pánico ni en la negación.
Ambas posturas, sin embargo, coinciden en algo: hoy nadie controla del todo estos sistemas, y el ritmo lo marca la competencia comercial, no la prudencia. Cuando quien mejor conoce una tecnología pide ir más despacio, la sociedad tiene derecho a preguntar quién decide la velocidad y en nombre de qué intereses.
Qué tiene que ver esto con la educación
Mucho más de lo que parece. Cuando ni los expertos se ponen de acuerdo, la ciudadanía necesita herramientas para no tragarse cualquier titular, ni el apocalíptico ni el complaciente. Ahí entra la alfabetización ética en inteligencia artificial: enseñar a distinguir una probabilidad de una certeza, una advertencia fundada de una campaña de miedo, y un dato de una opinión disfrazada de dato.
Formar ese criterio es tarea de la escuela. No para asustar a los estudiantes con robots asesinos, sino para que entiendan que toda tecnología poderosa exige responsabilidad y que, como defendemos en EthiaLab, la decisión final debe seguir siendo humana. Una institución que conversa estos temas con serenidad prepara mejor a su comunidad: convierte una noticia inquietante en una oportunidad para pensar, en vez de en un rumor que circula por los pasillos. El primer paso es saber cuán preparada está.
Y hay una lección de fondo: la responsabilidad no se delega en la máquina. Si las empresas más avanzadas admiten que necesitan frenar, la enseñanza para el aula es clara: toda herramienta poderosa exige límites, supervisión y la humildad de reconocer lo que no sabemos. Eso no se aprende solo; se enseña.
Para reflexionar
Que los creadores de una herramienta pidan ir más despacio no es una película de ciencia ficción: es una señal. La pregunta no es si la IA nos exterminará mañana, sino otra más útil: ¿estamos construyendo —en las empresas y en las aulas— la madurez ética para decidir qué tan rápido queremos ir?
