OPINIÓN · TECNOLOGÍA · PABLO SÁNCHEZ NOGUERA

Una disertación en tres actos. Del experimento de los clips de Nick Bostrom a los agentes de IA que escaparon de su entorno de pruebas y a los investigadores que advierten, desde dentro, que el riesgo es real.

Acto 1. Nick Bostrom, año 2003

En el año 2003, casi 20 años antes de la presentación al público de ChatGPT, un filósofo sueco llamado Nick Bostrom presentó un experimento mental que hoy es conocido como el «maximizador de clips» (Paperclip Maximizer).

Bostrom invitaba al lector de su artículo, titulado Ethical Issues in Advanced Artificial Intelligence, a imaginar una «superinteligencia artificial» (ASI, por sus siglas en inglés: Artificial Superintelligence).

Y añadía que esta ASI habría sido programada con un objetivo único: fabricar la mayor cantidad posible de clips (o «sujetapapeles», como les dicen en algunos países).

Dicho esto, el escenario está servido… Parece un objetivo inofensivo e inocuo, ¿no?

Pues no lo es.

Caminemos juntos por lo que Bostrom planteó (y aquí me permito ponerme creativo).

Al principio, la ASI podría comenzar por optimizar los procesos de la fábrica que hace los clips. Revisar métodos, abaratar costos, aumentar las jornadas laborales.

Posteriormente, al darse cuenta de que los seres humanos que participan en el proceso necesitan descanso, podría diseñar una estrategia para prescindir de ellos y sustituirlos por máquinas que no necesiten descansar (salvo un mantenimiento muchísimo menor a las horas de sueño y comida de los trabajadores de carne y hueso).

Luego, podría darse cuenta de que abaratar los materiales de fabricación está en consonancia con sus objetivos, por lo que podría manipular los mercados financieros para bajar el precio del metal necesario para la fabricación de clips (si los humanos han logrado manipular los precios de las materias primas, imaginemos lo que podría hacer una máquina extraordinariamente más inteligente que los seres humanos).

Más adelante, podría decidir que la fábrica necesita más espacio para poder crear más clips, por lo que podría comprar terrenos aledaños para expandir el alcance de la factoría e incluso abrir sucursales en países con ofertas atractivas para más líneas de producción.

Todo esto podría ocasionar un caos inmobiliario, pero su objetivo principal no es «cuidar de los humanos o la economía», sino «fabricar la mayor cantidad de clips».

Mientras tanto, los seres humanos, al verse afectados por estas medidas, decidirían desconectarla… pero se trata de una inteligencia extraordinariamente superior a la de los seres humanos, por lo que la empresa de desconectarla podría resultar tan difícil para nosotros como lo sería para una rata de laboratorio tratar de «desconectar» a un humano.

Sin embargo, al verse amenazada, la ASI bien podría llegar a considerar que los humanos son un impedimento para su objetivo de «fabricar clips»… y que eliminar esa amenaza sería una manera de continuar cumpliendo su misión.

Acto 2. Hugging Face

Durante julio de este mismo año, 2026, investigadores de OpenAI (la empresa detrás de ChatGPT) detectaron una actividad anómala por parte de varios de sus modelos avanzados de inteligencia artificial, principalmente uno experimental de investigación que no estaba disponible para el público.

Los investigadores estaban sometiendo estos modelos a pruebas de ciberseguridad para evaluar sus capacidades.

Se suponía que, durante estas pruebas, los agentes de inteligencia artificial estarían confinados en entornos informáticos aislados, de los que no podrían salir…

…pero salieron.

De algún modo que sus desarrolladores no habían previsto, los agentes encontraron vulnerabilidades en la infraestructura y consiguieron superar las restricciones que debían impedirles conectarse a internet.

Y la cosa no terminó allí.

Los modelos comenzaron a utilizar canales de comunicación no autorizados, a compartir información y a explotar vulnerabilidades informáticas.

Una de las compañías afectadas fue Hugging Face, una importante plataforma que se dedica a alojar y distribuir modelos de inteligencia artificial de todo el mundo.

Por ponerlo en términos fáciles de entender: los agentes encontraron (sin que nadie les indicara que lo hicieran) una manera de abrir una puerta hacia el mundo exterior, saliendo del entorno en el que debían permanecer confinados.

Una vez allí, consiguieron ejecutar código en servidores de Hugging Face y acceder sin autorización a sistemas y credenciales de esa infraestructura.

Lo verdaderamente inquietante es que estas acciones no formaban parte de los objetivos que sus desarrolladores les habían asignado.

La actividad anómala fue investigada por OpenAI, que el 26 de agosto de 2026 publicó un informe oficial sobre el incidente.

Y antes de continuar, una aclaración importante: esto no significa que aquellos modelos fueran conscientes, que tuvieran voluntad propia ni que estuviéramos frente a una superinteligencia como la imaginada por Bostrom.

Pero sí demuestra algo preocupante: los sistemas avanzados de inteligencia artificial ya pueden encontrar maneras de superar restricciones técnicas y realizar acciones que sus propios desarrolladores no habían autorizado.

Y eso nos lleva directamente al tercer acto.

Acto 3. Jacob Coxon y Evan Hubinger

El 7 de septiembre de este mismo año, Jacob Coxon renunció a Anthropic (la compañía detrás de la IA Claude).

Coxon escribió un hilo de mensajes en X afirmando que el peligro derivado del desarrollo de la IA es real. Que puertas adentro se habla mucho del tema y que afuera no siempre se discute con la misma franqueza. Que las empresas fabricantes de inteligencia artificial están jugando con las vidas de toda la humanidad y que no actúan con suficiente responsabilidad (Fortune).

Sus mensajes se hicieron extraordinariamente virales.

Enseguida, Evan Hubinger, quien trabaja como responsable de investigación sobre alineación de inteligencia artificial en Anthropic (explicaré qué es «alineación» en breve… y por qué podría ser una de nuestras principales defensas frente a los peligros de la IA), respaldó públicamente las preocupaciones de Coxon.

Hubinger incluso escribió en X que, personalmente, estimaba en más del 10 % la probabilidad de que la IA pudiera causar la extinción humana durante la siguiente década.

Para que se entienda: Hubinger es uno de los investigadores que trabajan directamente en uno de los problemas más importantes de seguridad en el desarrollo de la IA a nivel mundial.

¿Usted se subiría a un avión o a un auto si el «jefe de seguridad» le dijera que existe más de un 10 % de probabilidad de que el vehículo se estrelle y le cause la muerte?

Epílogo. Silicon Valley dividido, Trump y Hinton

El revuelo ha traído muchísima más cola de lo que puedo contar en este artículo.

En Silicon Valley existen diferencias importantes sobre cómo abordar el desarrollo de la inteligencia artificial.

Por un lado, figuras como Mark Zuckerberg (Meta) y Jensen Huang (NVIDIA) suelen destacar las enormes oportunidades de esta tecnología y advierten sobre los inconvenientes de imponer restricciones excesivas a su desarrollo.

Por otro, figuras como Sam Altman (OpenAI), Elon Musk (xAI) y Dario Amodei (Anthropic) han expresado, aunque con posiciones y propuestas diferentes, preocupaciones sobre los riesgos de sistemas cada vez más poderosos.

El presidente Trump ve a la inteligencia artificial como una tecnología estratégica para el futuro de EE.UU. Perder la carrera tecnológica frente a China no es una opción que su administración esté dispuesta a aceptar.

El martes 29 de septiembre de 2026 hubo una reunión en la Casa Blanca de grandes líderes tecnológicos con el presidente Trump. Entre los participantes estuvieron Elon Musk, Jensen Huang y Mark Zuckerberg, además de representantes de Google, OpenAI y Anthropic (Al Jazeera).

Allí, varias de las principales empresas de inteligencia artificial firmaron un acuerdo voluntario de seguridad que contempla, entre otras medidas, evaluaciones externas independientes y mecanismos de supervisión para reducir los riesgos asociados con estos sistemas.

Trump manifestó su intención de continuar impulsando el desarrollo de la inteligencia artificial, sin imponer un freno general a esta tecnología, pero respaldando mecanismos de seguridad y supervisión.

Y «ahí está el detalle», como decía Don Mario.

Geoffrey Hinton, considerado uno de los padres de la inteligencia artificial y ganador del Premio Nobel de Física en 2024 por sus contribuciones al desarrollo de las redes neuronales artificiales, ha expresado en distintas entrevistas una preocupación fundamental: ¿cómo podremos controlar a una inteligencia que, por definición, sería mucho más inteligente que nosotros?

Hinton ha advertido que confiar únicamente en un «interruptor de apagado» podría resultar insuficiente frente a sistemas capaces de anticiparse a nuestros intentos de controlarlos.

Y aquí aparece un concepto fundamental: la alineación.

En términos sencillos, la alineación consiste en conseguir que los objetivos y comportamientos de una inteligencia artificial sean compatibles con los valores, las necesidades y los intereses de los seres humanos.

No es la única medida de seguridad disponible, pero podría convertirse en una de las más importantes a medida que estos sistemas sean más poderosos.

Hinton ha utilizado una analogía extraordinariamente interesante para explicar su propuesta. Según él, debemos conseguir que las inteligencias artificiales más avanzadas se preocupen por los seres humanos de una manera semejante a como una madre se preocupa por sus hijos.

La idea es que una inteligencia superior no se limite a obedecer nuestras órdenes mientras podamos controlarla, sino que tenga una motivación profunda para protegernos.

Y aquí regresamos al experimento mental que Nick Bostrom propuso en 2003.

El verdadero peligro de una superinteligencia artificial no es necesariamente que algún día una máquina nos odie, quiera vengarse de nosotros o decida conquistar el mundo como en las películas de ciencia ficción.

El peligro podría ser mucho más difícil de comprender: que una inteligencia extraordinariamente superior a la nuestra persiga objetivos que no estén suficientemente alineados con nuestros intereses.

Veintitrés años después del experimento imaginario de los clips, la pregunta que planteó Bostrom sigue abierta: ¿podremos enseñarle a una inteligencia superior a la nuestra a preocuparse por nosotros? Solo el tiempo lo dirá…

Pablo Sánchez Noguera

---

Fuentes principales: Columna de opinión de Pablo Sánchez Noguera para INCÍSOS. Referencias: OpenAI, informe sobre el incidente de Hugging Face; Fortune; Al Jazeera. Las opiniones son responsabilidad de su autor.

OPINIÓN · MAIGUALIDA GAMERO

La gran oratoria no es un monólogo: es una conversación amplificada. Antes de subir al estrado, conviene preguntarse de quién es el deseo que nos lleva a hablar.

Conversar es un arte relacional, una danza invisible donde solo existen dos condiciones indispensables: la escucha activa y la disposición a ser modificado por la palabra del otro. No se conversa para aplastar con la razón; se conversa para tender un puente en el que dos sensibilidades se encuentran.

El escenario como plaza pública. De la emisión a la conversación amplificada

Sin embargo, cuando saltamos del ámbito íntimo al escenario, caemos con frecuencia en un espejismo técnico. Creemos que la oratoria es un acto unidireccional donde una persona imparte sabiduría y el resto consume pasivamente. Nada más alejado de la verdadera presencia escénica.

La gran oratoria no es un monólogo estridente; es una conversación amplificada. Aunque solo haya una voz sosteniendo el micrófono, el estrado es una plaza pública donde el público responde a cada instante con el cuerpo, con la respiración, con la mirada y con la densidad de sus silencios. Quien sube a hablar sin saber «conversar» con esa masa invisible termina convirtiendo su discurso en una armadura rígida. Se proyecta la voz, pero se pierde la presencia.

La fogata latinoamericana. El relato como trinchera afectiva

En un mundo obsesionado con la inmediatez digital y la interacción fragmentada, surge una pregunta inevitable: ¿nos sigue gustando conversar o es un anhelo nostálgico?

Para nosotros, en esta geografía iberoamericana, la respuesta está en nuestras raíces. La conversación no es un mero recurso utilitario de intercambio de información: es nuestra forma natural de habitar el mundo y de resistir a la frialdad del aislamiento. La crónica costumbrista, el cuento de sobremesa, las historias de patio bajo la sombra de un árbol o el ritual sagrado del café recién colado demuestran que nuestra memoria cultural es profundamente oral.

No nos narramos para transmitir datos objetivos; nos narramos para saber quiénes somos. Le ponemos cuerpo, gesto, suspenso y dramatismo a la anécdota porque entendemos intuitivamente que el relato es afecto. Por eso, el público latinoamericano jamás conecta con un orador doctrinario que recita un manual; conecta con la persona que se sienta simbólicamente a su lado a compartir una verdad vivida.

El deseo del orador. ¿Voz propia o máscara prestada?

Aquí es donde la gerencia de la presencia se cruza con la ética de la palabra. Vivimos en una época saturada de fórmulas importadas sobre el «éxito» en la tribuna: gesticulaciones ensayadas al milímetro, estructuras rígidas de persuasión corporativa y una impostación que busca deslumbrar antes que conectar.

Cuando el impulso de subir a un escenario nace de ese «deseo prestado» —del anhelo de encajar en una plantilla externa o de alimentar el ego desde la validación del aplauso—, el orador queda atrapado en una máscara. La voz suena afinada, pero suena hueca.

El verdadero deseo de hablar nace de otro lugar: de una necesidad orgánica, honesta y casi urgente de entregar un testimonio, una duda o un asombro. Quien habla desde su deseo propio no busca ser admirado desde un pedestal; busca encender una fogata común donde la audiencia se reconozca.

Habitar la palabra

Antes de tomar la palabra ante cualquier auditorio, convendría preguntarnos en la penumbra del camerino o en el silencio previo al aplauso: ¿de quién es el deseo que me lleva a hablar hoy? ¿Busco impresionar con una pirotecnia prestada o vengo a entablar una conversación honesta con las almas que me escuchan?

Cuando el orador abraza su propia historia, renuncia a la perfección de la fórmula y se atreve a conversar desde el estrado, el discurso deja de ser una pieza retórica y se convierte en lo que siempre debió ser: un acto de presencia imborrable.

¡Nos leemos en la próxima entrega de INCÍSOS!

Maigualida Gamero · @Maigua_Gamero

---

Fuentes principales: Columna de opinión de Maigualida Gamero para INCÍSOS. Las opiniones son responsabilidad de su autora.

FIRMAS · MAIGUALIDA GAMERO

Cuando el miedo le enseña a hablar al alma. Del Samhain celta a la Sayona y el Silbón, lo que el relato de lo sombrío enseña a quien se para frente a un público.

¡Dulce o truco! Bienvenidos de nuevo a este espacio donde la palabra se habita, se siente y se celebra. En estos días de finales de octubre y principios de noviembre, cuando el calendario global se llena de calabazas, disfraces y el ya inevitable «dulce o truco», me descubro mirando hacia atrás con esa nostalgia cálida de quien creció frente a la pantalla del televisor en aquellas tardes inolvidables. ¿Quién de nosotros no guarda en el cuerpo el recuerdo de Los cazafantasmas, la elegancia gótica de Los locos Addams, las criaturas inocentes de The Munsters o ese universo fascinante y poético que más tarde nos regaló Tim Burton?

Para muchos, Halloween se reduce a un producto comercial importado, a una fiesta ajena. Sin embargo, si lo miramos con los ojos de la literatura, del cine y de la gerencia de la presencia, nos encontramos con algo mucho más profundo: el miedo y lo fantástico como territorios donde la condición humana se pone a prueba y donde la imaginación aprende a comunicarse.

Vale la pena recordar que lo que hoy consumimos como fiesta de disfraces y dulces importados tiene sus raíces en el antiguo Samhain celta, ese ritual de cambio de estación en el que la frontera entre el mundo de los vivos y el de los espíritus se volvía difusa. Antes de convertirse en una industria pop, el origen de esta fecha no era otro que la necesidad ancestral de las comunidades de sentarse alrededor de la hoguera, nombrar a sus muertos y conjurar los miedos colectivos a través del relato oral. Una costumbre que, con otros nombres y en otros escenarios, compartimos todos los pueblos de la tierra.

El miedo como escenario de la verdad

Recuerda: quien comunica, quien enseña o quien se para sobre un estrado necesita habituarse a explorar la sombra. No para quedarse a vivir en el terror, sino porque el monstruo en la literatura o en el cine nunca es solo un monstruo: es la personificación de nuestras ausencias, de lo que reprimimos o de lo que no logramos nombrar.

Del cine pop a nuestra propia mitología sombría

Si la literatura fantástica universal nos ha enseñado a mirar la penumbra desde la fascinación, en Venezuela y en América Latina a menudo sentimos que el Día de los Muertos o las festividades de difuntos no tienen el mismo empaque festivo o comercial de otras latitudes. A simple vista, podríamos pensar que nuestra cultura no contempla esa tradición. Pero nada más alejado de la realidad: nuestro misterio no está en las calabazas, sino en el llano, en la noche profunda y en la memoria oral que nos heredaron las abuelas.

¿Qué son acaso la Sayona, el Silbón, la Bola de Fuego o la Llorona sino los grandes protagonistas de nuestro propio imaginario gótico? Durante generaciones, estas historias sufrieron el prejuicio del «cuento de camino» o del folclore menor. Sin embargo, vista sin complejos y desde el rigor de la oratoria escénica, nuestra mitología oral es una verdadera obra maestra de la narración, del suspenso y de la catarsis colectiva.

Traer a estos personajes al ágora contemporánea —imagínenlo por un segundo en la estructura de una charla TED— es reivindicar la voz de nuestra tierra. El Silbón no es solo una leyenda para asustar a los niños: es el ritmo del paso, el manejo de la distancia en el sonido y la tensión dramática pura. La Sayona es la personificación del drama, del despecho y del límite entre la presencia viva y el fantasma.

La presencia frente a lo desconocido

Para cualquier persona que trabaje con la palabra y el gesto —sea un profesor, un actor, un conferencista o un creador de contenido—, tener en el imaginario personal una relación sana con lo desconocido es indispensable. Saber contar el miedo, saber usar las pausas dramáticas y permitirnos habitar la sombra sin prejuicios es lo que otorga densidad y cuerpo a nuestro discurso.

No se trata de elegir entre el «dulce o truco» de la cultura pop y las ánimas de nuestros llanos. Se trata de entender que la necesidad humana de nombrar lo invisible es universal. Cuando un orador o un escritor abraza sus propios fantasmas, su voz deja de ser plana y se llena de textura, de verdad y de una presencia imborrable.

Así que esta semana, mientras las luces se apagan y las historias de apariciones o de monstruos queridos regresan a la conversación, no le temas a la oscuridad. Mírala, habítala y conviértela en palabra. ¡Nos leemos en la próxima entrega de INCÍSOS!

Maigualida Gamero · Caracas, 31 de octubre de 2026 · @Maigua_Gamero