OPINIÓN · TECNOLOGÍA · PABLO SÁNCHEZ NOGUERA

Una disertación en tres actos. Del experimento de los clips de Nick Bostrom a los agentes de IA que escaparon de su entorno de pruebas y a los investigadores que advierten, desde dentro, que el riesgo es real.

Acto 1. Nick Bostrom, año 2003

En el año 2003, casi 20 años antes de la presentación al público de ChatGPT, un filósofo sueco llamado Nick Bostrom presentó un experimento mental que hoy es conocido como el «maximizador de clips» (Paperclip Maximizer).

Bostrom invitaba al lector de su artículo, titulado Ethical Issues in Advanced Artificial Intelligence, a imaginar una «superinteligencia artificial» (ASI, por sus siglas en inglés: Artificial Superintelligence).

Y añadía que esta ASI habría sido programada con un objetivo único: fabricar la mayor cantidad posible de clips (o «sujetapapeles», como les dicen en algunos países).

Dicho esto, el escenario está servido… Parece un objetivo inofensivo e inocuo, ¿no?

Pues no lo es.

Caminemos juntos por lo que Bostrom planteó (y aquí me permito ponerme creativo).

Al principio, la ASI podría comenzar por optimizar los procesos de la fábrica que hace los clips. Revisar métodos, abaratar costos, aumentar las jornadas laborales.

Posteriormente, al darse cuenta de que los seres humanos que participan en el proceso necesitan descanso, podría diseñar una estrategia para prescindir de ellos y sustituirlos por máquinas que no necesiten descansar (salvo un mantenimiento muchísimo menor a las horas de sueño y comida de los trabajadores de carne y hueso).

Luego, podría darse cuenta de que abaratar los materiales de fabricación está en consonancia con sus objetivos, por lo que podría manipular los mercados financieros para bajar el precio del metal necesario para la fabricación de clips (si los humanos han logrado manipular los precios de las materias primas, imaginemos lo que podría hacer una máquina extraordinariamente más inteligente que los seres humanos).

Más adelante, podría decidir que la fábrica necesita más espacio para poder crear más clips, por lo que podría comprar terrenos aledaños para expandir el alcance de la factoría e incluso abrir sucursales en países con ofertas atractivas para más líneas de producción.

Todo esto podría ocasionar un caos inmobiliario, pero su objetivo principal no es «cuidar de los humanos o la economía», sino «fabricar la mayor cantidad de clips».

Mientras tanto, los seres humanos, al verse afectados por estas medidas, decidirían desconectarla… pero se trata de una inteligencia extraordinariamente superior a la de los seres humanos, por lo que la empresa de desconectarla podría resultar tan difícil para nosotros como lo sería para una rata de laboratorio tratar de «desconectar» a un humano.

Sin embargo, al verse amenazada, la ASI bien podría llegar a considerar que los humanos son un impedimento para su objetivo de «fabricar clips»… y que eliminar esa amenaza sería una manera de continuar cumpliendo su misión.

Acto 2. Hugging Face

Durante julio de este mismo año, 2026, investigadores de OpenAI (la empresa detrás de ChatGPT) detectaron una actividad anómala por parte de varios de sus modelos avanzados de inteligencia artificial, principalmente uno experimental de investigación que no estaba disponible para el público.

Los investigadores estaban sometiendo estos modelos a pruebas de ciberseguridad para evaluar sus capacidades.

Se suponía que, durante estas pruebas, los agentes de inteligencia artificial estarían confinados en entornos informáticos aislados, de los que no podrían salir…

…pero salieron.

De algún modo que sus desarrolladores no habían previsto, los agentes encontraron vulnerabilidades en la infraestructura y consiguieron superar las restricciones que debían impedirles conectarse a internet.

Y la cosa no terminó allí.

Los modelos comenzaron a utilizar canales de comunicación no autorizados, a compartir información y a explotar vulnerabilidades informáticas.

Una de las compañías afectadas fue Hugging Face, una importante plataforma que se dedica a alojar y distribuir modelos de inteligencia artificial de todo el mundo.

Por ponerlo en términos fáciles de entender: los agentes encontraron (sin que nadie les indicara que lo hicieran) una manera de abrir una puerta hacia el mundo exterior, saliendo del entorno en el que debían permanecer confinados.

Una vez allí, consiguieron ejecutar código en servidores de Hugging Face y acceder sin autorización a sistemas y credenciales de esa infraestructura.

Lo verdaderamente inquietante es que estas acciones no formaban parte de los objetivos que sus desarrolladores les habían asignado.

La actividad anómala fue investigada por OpenAI, que el 26 de agosto de 2026 publicó un informe oficial sobre el incidente.

Y antes de continuar, una aclaración importante: esto no significa que aquellos modelos fueran conscientes, que tuvieran voluntad propia ni que estuviéramos frente a una superinteligencia como la imaginada por Bostrom.

Pero sí demuestra algo preocupante: los sistemas avanzados de inteligencia artificial ya pueden encontrar maneras de superar restricciones técnicas y realizar acciones que sus propios desarrolladores no habían autorizado.

Y eso nos lleva directamente al tercer acto.

Acto 3. Jacob Coxon y Evan Hubinger

El 7 de septiembre de este mismo año, Jacob Coxon renunció a Anthropic (la compañía detrás de la IA Claude).

Coxon escribió un hilo de mensajes en X afirmando que el peligro derivado del desarrollo de la IA es real. Que puertas adentro se habla mucho del tema y que afuera no siempre se discute con la misma franqueza. Que las empresas fabricantes de inteligencia artificial están jugando con las vidas de toda la humanidad y que no actúan con suficiente responsabilidad (Fortune).

Sus mensajes se hicieron extraordinariamente virales.

Enseguida, Evan Hubinger, quien trabaja como responsable de investigación sobre alineación de inteligencia artificial en Anthropic (explicaré qué es «alineación» en breve… y por qué podría ser una de nuestras principales defensas frente a los peligros de la IA), respaldó públicamente las preocupaciones de Coxon.

Hubinger incluso escribió en X que, personalmente, estimaba en más del 10 % la probabilidad de que la IA pudiera causar la extinción humana durante la siguiente década.

Para que se entienda: Hubinger es uno de los investigadores que trabajan directamente en uno de los problemas más importantes de seguridad en el desarrollo de la IA a nivel mundial.

¿Usted se subiría a un avión o a un auto si el «jefe de seguridad» le dijera que existe más de un 10 % de probabilidad de que el vehículo se estrelle y le cause la muerte?

Epílogo. Silicon Valley dividido, Trump y Hinton

El revuelo ha traído muchísima más cola de lo que puedo contar en este artículo.

En Silicon Valley existen diferencias importantes sobre cómo abordar el desarrollo de la inteligencia artificial.

Por un lado, figuras como Mark Zuckerberg (Meta) y Jensen Huang (NVIDIA) suelen destacar las enormes oportunidades de esta tecnología y advierten sobre los inconvenientes de imponer restricciones excesivas a su desarrollo.

Por otro, figuras como Sam Altman (OpenAI), Elon Musk (xAI) y Dario Amodei (Anthropic) han expresado, aunque con posiciones y propuestas diferentes, preocupaciones sobre los riesgos de sistemas cada vez más poderosos.

El presidente Trump ve a la inteligencia artificial como una tecnología estratégica para el futuro de EE.UU. Perder la carrera tecnológica frente a China no es una opción que su administración esté dispuesta a aceptar.

El martes 29 de septiembre de 2026 hubo una reunión en la Casa Blanca de grandes líderes tecnológicos con el presidente Trump. Entre los participantes estuvieron Elon Musk, Jensen Huang y Mark Zuckerberg, además de representantes de Google, OpenAI y Anthropic (Al Jazeera).

Allí, varias de las principales empresas de inteligencia artificial firmaron un acuerdo voluntario de seguridad que contempla, entre otras medidas, evaluaciones externas independientes y mecanismos de supervisión para reducir los riesgos asociados con estos sistemas.

Trump manifestó su intención de continuar impulsando el desarrollo de la inteligencia artificial, sin imponer un freno general a esta tecnología, pero respaldando mecanismos de seguridad y supervisión.

Y «ahí está el detalle», como decía Don Mario.

Geoffrey Hinton, considerado uno de los padres de la inteligencia artificial y ganador del Premio Nobel de Física en 2024 por sus contribuciones al desarrollo de las redes neuronales artificiales, ha expresado en distintas entrevistas una preocupación fundamental: ¿cómo podremos controlar a una inteligencia que, por definición, sería mucho más inteligente que nosotros?

Hinton ha advertido que confiar únicamente en un «interruptor de apagado» podría resultar insuficiente frente a sistemas capaces de anticiparse a nuestros intentos de controlarlos.

Y aquí aparece un concepto fundamental: la alineación.

En términos sencillos, la alineación consiste en conseguir que los objetivos y comportamientos de una inteligencia artificial sean compatibles con los valores, las necesidades y los intereses de los seres humanos.

No es la única medida de seguridad disponible, pero podría convertirse en una de las más importantes a medida que estos sistemas sean más poderosos.

Hinton ha utilizado una analogía extraordinariamente interesante para explicar su propuesta. Según él, debemos conseguir que las inteligencias artificiales más avanzadas se preocupen por los seres humanos de una manera semejante a como una madre se preocupa por sus hijos.

La idea es que una inteligencia superior no se limite a obedecer nuestras órdenes mientras podamos controlarla, sino que tenga una motivación profunda para protegernos.

Y aquí regresamos al experimento mental que Nick Bostrom propuso en 2003.

El verdadero peligro de una superinteligencia artificial no es necesariamente que algún día una máquina nos odie, quiera vengarse de nosotros o decida conquistar el mundo como en las películas de ciencia ficción.

El peligro podría ser mucho más difícil de comprender: que una inteligencia extraordinariamente superior a la nuestra persiga objetivos que no estén suficientemente alineados con nuestros intereses.

Veintitrés años después del experimento imaginario de los clips, la pregunta que planteó Bostrom sigue abierta: ¿podremos enseñarle a una inteligencia superior a la nuestra a preocuparse por nosotros? Solo el tiempo lo dirá…

Pablo Sánchez Noguera

---

Fuentes principales: Columna de opinión de Pablo Sánchez Noguera para INCÍSOS. Referencias: OpenAI, informe sobre el incidente de Hugging Face; Fortune; Al Jazeera. Las opiniones son responsabilidad de su autor.

FIRMAS · MAIGUALIDA GAMERO

Cuando el miedo le enseña a hablar al alma. Del Samhain celta a la Sayona y el Silbón, lo que el relato de lo sombrío enseña a quien se para frente a un público.

¡Dulce o truco! Bienvenidos de nuevo a este espacio donde la palabra se habita, se siente y se celebra. En estos días de finales de octubre y principios de noviembre, cuando el calendario global se llena de calabazas, disfraces y el ya inevitable «dulce o truco», me descubro mirando hacia atrás con esa nostalgia cálida de quien creció frente a la pantalla del televisor en aquellas tardes inolvidables. ¿Quién de nosotros no guarda en el cuerpo el recuerdo de Los cazafantasmas, la elegancia gótica de Los locos Addams, las criaturas inocentes de The Munsters o ese universo fascinante y poético que más tarde nos regaló Tim Burton?

Para muchos, Halloween se reduce a un producto comercial importado, a una fiesta ajena. Sin embargo, si lo miramos con los ojos de la literatura, del cine y de la gerencia de la presencia, nos encontramos con algo mucho más profundo: el miedo y lo fantástico como territorios donde la condición humana se pone a prueba y donde la imaginación aprende a comunicarse.

Vale la pena recordar que lo que hoy consumimos como fiesta de disfraces y dulces importados tiene sus raíces en el antiguo Samhain celta, ese ritual de cambio de estación en el que la frontera entre el mundo de los vivos y el de los espíritus se volvía difusa. Antes de convertirse en una industria pop, el origen de esta fecha no era otro que la necesidad ancestral de las comunidades de sentarse alrededor de la hoguera, nombrar a sus muertos y conjurar los miedos colectivos a través del relato oral. Una costumbre que, con otros nombres y en otros escenarios, compartimos todos los pueblos de la tierra.

El miedo como escenario de la verdad

Recuerda: quien comunica, quien enseña o quien se para sobre un estrado necesita habituarse a explorar la sombra. No para quedarse a vivir en el terror, sino porque el monstruo en la literatura o en el cine nunca es solo un monstruo: es la personificación de nuestras ausencias, de lo que reprimimos o de lo que no logramos nombrar.

Del cine pop a nuestra propia mitología sombría

Si la literatura fantástica universal nos ha enseñado a mirar la penumbra desde la fascinación, en Venezuela y en América Latina a menudo sentimos que el Día de los Muertos o las festividades de difuntos no tienen el mismo empaque festivo o comercial de otras latitudes. A simple vista, podríamos pensar que nuestra cultura no contempla esa tradición. Pero nada más alejado de la realidad: nuestro misterio no está en las calabazas, sino en el llano, en la noche profunda y en la memoria oral que nos heredaron las abuelas.

¿Qué son acaso la Sayona, el Silbón, la Bola de Fuego o la Llorona sino los grandes protagonistas de nuestro propio imaginario gótico? Durante generaciones, estas historias sufrieron el prejuicio del «cuento de camino» o del folclore menor. Sin embargo, vista sin complejos y desde el rigor de la oratoria escénica, nuestra mitología oral es una verdadera obra maestra de la narración, del suspenso y de la catarsis colectiva.

Traer a estos personajes al ágora contemporánea —imagínenlo por un segundo en la estructura de una charla TED— es reivindicar la voz de nuestra tierra. El Silbón no es solo una leyenda para asustar a los niños: es el ritmo del paso, el manejo de la distancia en el sonido y la tensión dramática pura. La Sayona es la personificación del drama, del despecho y del límite entre la presencia viva y el fantasma.

La presencia frente a lo desconocido

Para cualquier persona que trabaje con la palabra y el gesto —sea un profesor, un actor, un conferencista o un creador de contenido—, tener en el imaginario personal una relación sana con lo desconocido es indispensable. Saber contar el miedo, saber usar las pausas dramáticas y permitirnos habitar la sombra sin prejuicios es lo que otorga densidad y cuerpo a nuestro discurso.

No se trata de elegir entre el «dulce o truco» de la cultura pop y las ánimas de nuestros llanos. Se trata de entender que la necesidad humana de nombrar lo invisible es universal. Cuando un orador o un escritor abraza sus propios fantasmas, su voz deja de ser plana y se llena de textura, de verdad y de una presencia imborrable.

Así que esta semana, mientras las luces se apagan y las historias de apariciones o de monstruos queridos regresan a la conversación, no le temas a la oscuridad. Mírala, habítala y conviértela en palabra. ¡Nos leemos en la próxima entrega de INCÍSOS!

Maigualida Gamero · Caracas, 31 de octubre de 2026 · @Maigua_Gamero

Por Orlando Viera Blanco

El regreso de María Corina Machado a Venezuela cambia el problema, pero no lo resuelve. Hay una diferencia sustantiva entre la dirigente que estaba en el extranjero y la que vuelve ahora al territorio: afuera era víctima de un sistema que la expulsó y, al mismo tiempo, voz de una diáspora que encontró en ella una referencia. Dentro del país le corresponde asumir un reto distinto: pasar de la resistencia y la presión internacional a una ofensiva política por el poder.

Eso no significa que haya llegado al epicentro de las decisiones. La transición avanza con centros de gravedad que no controla plenamente: Washington, el gobierno encargado que ejerce Delcy Rodríguez, los sectores institucionales y la mesa de Caracas. Su retorno le devuelve presencia y capacidad de iniciativa, pero no le entrega por sí solo una silla desde la cual decidir el rumbo del proceso.

Desde el exterior, su instrumento principal era la presión internacional. Podía sostener conversaciones, activar respaldos, fijar posiciones ante gobiernos y organismos y mantener el caso venezolano en la agenda. Desde Venezuela puede intentar combinar esa presión con organización política, movilización ciudadana y negociación directa. Esa combinación es más poderosa, pero también mucho más exigente.

El retorno la expone a las autoridades, a eventuales restricciones de actividad y a una responsabilidad inevitable frente a una población que espera resultados. Aumentan las expectativas y también el costo de no cumplirlas. El liderazgo que desde lejos podía ser visto como símbolo deberá medirse ahora por su capacidad de producir respuestas, ordenar fuerzas y sostener una estrategia en condiciones mucho más complejas.

El dilema es especialmente relevante porque el proceso de transición ha seguido avanzando sin que ella controle sus decisiones centrales. Su regreso le permite intentar recuperar espacio, pero no garantiza que Washington, Delcy Rodríguez, los sectores institucionales o incluso algunos aliados acepten su estrategia. Es posible imaginar escenarios en los que desde Washington se privilegien primero elecciones regionales o se postergue una elección presidencial. Que Machado esté en Venezuela no elimina esas tensiones; las vuelve más visibles y más urgentes.

La pregunta esencial, por tanto, no es si su popularidad subirá de inmediato. La pregunta es si puede transformar el capital político que conserva en capacidad efectiva de negociación, organización y cambio institucional. Si logra hacerlo, el regreso fortalecerá su liderazgo. Si no lo consigue, la distancia entre la expectativa y los resultados puede erosionar su credibilidad.

Hay, además, un terreno que exige especial cuidado: la agenda económica y la ansiedad de una población que quiere mejorar su calidad de vida. Para una mayoría que vive bajo presión cotidiana, la narrativa de «elecciones ya» no puede presentarse como si fuera la única prioridad. La nevera, el empleo, los servicios y la posibilidad de recomponer la vida material forman parte de la política. Ignorarlo sería renunciar a comprender el tamaño real del país que se pretende conducir.

Por eso conviene separar variables. Un eventual aumento de popularidad no equivale automáticamente a una apertura democrática. Del mismo modo, un desgaste temporal no demostraría que Machado ha perdido relevancia política. Popularidad, apertura institucional, poder de negociación y capacidad de imponer agenda son planos distintos. Habrá que observarlos por separado.

La consolidación o el desgaste de este nuevo momento dependerán de su capacidad de adaptación, de la calidad de sus respuestas y de la posibilidad de imponer prioridades en un proceso que ya tiene actores, intereses y ritmos propios. Vuelve a un país que la espera, pero también a una transición que no se detuvo mientras ella estaba fuera.

En todo caso, bienvenida a tu país. Mucho juicio y Dios te bendiga.

---

Orlando Viera Blanco