{"id":548291,"date":"2026-09-23T09:23:24","date_gmt":"2026-09-23T13:23:24","guid":{"rendered":"https:\/\/diarioelpopular.com\/?p=548291"},"modified":"2026-09-23T09:23:24","modified_gmt":"2026-09-23T13:23:24","slug":"el-apocalipsis-de-la-ia-ya-ha-empezado-pero-no-es-el-que-te-estan-contando","status":"publish","type":"post","link":"https:\/\/diarioelpopular.com\/index.php\/2026\/09\/23\/el-apocalipsis-de-la-ia-ya-ha-empezado-pero-no-es-el-que-te-estan-contando\/","title":{"rendered":"El apocalipsis de la IA ya ha empezado (pero no es el que te est\u00e1n contando)"},"content":{"rendered":"<div id=\"attachment_548292\" style=\"width: 646px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-548292\" class=\"wp-image-548292 size-custom-full-size\" src=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM-636x292.png\" alt=\"\" width=\"636\" height=\"292\" srcset=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM-636x292.png 636w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM-300x138.png 300w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM-768x353.png 768w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM-146x67.png 146w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-23-at-8.22.26-AM.png 1024w\" sizes=\"auto, (max-width: 636px) 100vw, 636px\" \/><p id=\"caption-attachment-548292\" class=\"wp-caption-text\">El actor Gary Lockwood (en el papel del Dr. Frank Poole) en una de las ic\u00f3nicas escenas de &#8216;2001: A Space Odyssey&#8217;, pel\u00edcula escrita y dirigida por Stanley Kubrick. Foto Sunset Boulevard (Corbis via Getty Images)<\/p><\/div>\n<p>&nbsp;<\/p>\n<ul>\n<li><em><strong>El p\u00e1nico generado por el posible descontrol de esta tecnolog\u00eda desv\u00eda la atenci\u00f3n de otros asuntos, como los resultados en las pruebas PISA o la responsabilidad (humana) de las acciones de la inteligencia artificial<\/strong><\/em><\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p class=\"\">Los profetas de la IA (<a title=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/los-riesgos-de-la-ia-segun-los-que-la-han-visto-desde-dentro-el-mundo-no-esta-preparado-y-nosotros-no-estamos-preparados.html\" href=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/los-riesgos-de-la-ia-segun-los-que-la-han-visto-desde-dentro-el-mundo-no-esta-preparado-y-nosotros-no-estamos-preparados.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/los-riesgos-de-la-ia-segun-los-que-la-han-visto-desde-dentro-el-mundo-no-esta-preparado-y-nosotros-no-estamos-preparados.html\">entre los que se cuenta alg\u00fan premio Nobel<\/a>) vienen anunciando el apocalipsis desde hace a\u00f1os. Pero esta es la primera vez que se me inunda el WhatsApp: presumi\u00e9ndome experto, muchos de mis amigos me piden mi opini\u00f3n sobre el tema. Todos quieren saber si se meten en la hipoteca o se funden los ahorros en lo que esperan la extinci\u00f3n. La IA aniquiladora se ha vuelto el tema de conversaci\u00f3n m\u00e1s recurrente del desayuno, y el\u00a0<a title=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/la-resistencia-contra-la-ia-gana-fuerza.html\" href=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/la-resistencia-contra-la-ia-gana-fuerza.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/la-resistencia-contra-la-ia-gana-fuerza.html\">estado general de \u00e1nimo lo resume<\/a>\u00a0este di\u00e1logo de Santi Li\u00e9bana:<\/p>\n<p class=\"\">\u2014He le\u00eddo que la IA puede acabar con la humanidad en cinco a\u00f1os.<\/p>\n<p class=\"\">\u2014Prueba la de pago, a ver si va m\u00e1s r\u00e1pido.<\/p>\n<p class=\"\">Entiendo que\u00a0<a title=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/codigo-rojo-en-la-ia-el-vertigo-paraliza-a-las-tecnologicas-y-openai-suspende-la-salida-a-bolsa.html\" href=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/codigo-rojo-en-la-ia-el-vertigo-paraliza-a-las-tecnologicas-y-openai-suspende-la-salida-a-bolsa.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/tecnologia\/2026-09-13\/codigo-rojo-en-la-ia-el-vertigo-paraliza-a-las-tecnologicas-y-openai-suspende-la-salida-a-bolsa.html\">los incidentes de seguridad de este verano<\/a>\u00a0(y sobre todo la forma de contarlos de los responsables y de algunos medios de comunicaci\u00f3n), los\u00a0<a title=\"https:\/\/elpais.com\/ciencia\/2026-09-10\/un-ano-de-trabajo-de-dos-matematicos-espanoles-frente-a-88-horas-y-15-millones-de-openai-sin-nuestra-idea-la-ia-no-lo-habria-resuelto.html\" href=\"https:\/\/elpais.com\/ciencia\/2026-09-10\/un-ano-de-trabajo-de-dos-matematicos-espanoles-frente-a-88-horas-y-15-millones-de-openai-sin-nuestra-idea-la-ia-no-lo-habria-resuelto.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/ciencia\/2026-09-10\/un-ano-de-trabajo-de-dos-matematicos-espanoles-frente-a-88-horas-y-15-millones-de-openai-sin-nuestra-idea-la-ia-no-lo-habria-resuelto.html\">avances de la IA en resolver problemas matem\u00e1ticos del milenio<\/a>, el s\u00fabito consenso de todos los l\u00edderes de las\u00a0<i>big tech<\/i>\u00a0norteamericanas en querer\u00a0<a title=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/el-director-general-de-anthropic-pide-ralentizar-el-progreso-de-la-ia-y-que-todas-las-empresas-admitan-verificadores-externos.html\" href=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/el-director-general-de-anthropic-pide-ralentizar-el-progreso-de-la-ia-y-que-todas-las-empresas-admitan-verificadores-externos.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/el-director-general-de-anthropic-pide-ralentizar-el-progreso-de-la-ia-y-que-todas-las-empresas-admitan-verificadores-externos.html\">ponerle pausa a la investigaci\u00f3n de frontera<\/a>, y la previsi\u00f3n de\u00a0<a title=\"https:\/\/elpais.com\/economia\/2026-09-16\/openai-se-abre-a-una-nueva-ronda-de-financiacion-que-le-daria-un-valor-de-12-billones-de-dolares-en-plenas-dudas-por-el-freno-de-la-ia.html\" href=\"https:\/\/elpais.com\/economia\/2026-09-16\/openai-se-abre-a-una-nueva-ronda-de-financiacion-que-le-daria-un-valor-de-12-billones-de-dolares-en-plenas-dudas-por-el-freno-de-la-ia.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/economia\/2026-09-16\/openai-se-abre-a-una-nueva-ronda-de-financiacion-que-le-daria-un-valor-de-12-billones-de-dolares-en-plenas-dudas-por-el-freno-de-la-ia.html\">salida a bolsa<\/a>\u00a0de OpenAI y Anthropic \u2014todos ellos eventos relacionados\u2014 han causado este torbellino de inquietud ciudadana. As\u00ed que voy a resumir mi opini\u00f3n con la esperanza de que alguien pueda encontrar aqu\u00ed respuesta parcial a sus inquietudes.<\/p>\n<p class=\"\">En primer lugar: la aniquilaci\u00f3n inminente y deliberada de nuestra especie a manos de la IA es un delirio. Hay un consenso generalizado (<a title=\"https:\/\/www.psychologytoday.com\/us\/blog\/the-mind-body-problem\/202502\/have-ais-already-reached-consciousness\" href=\"https:\/\/www.psychologytoday.com\/us\/blog\/the-mind-body-problem\/202502\/have-ais-already-reached-consciousness\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/www.psychologytoday.com\/us\/blog\/the-mind-body-problem\/202502\/have-ais-already-reached-consciousness\">aunque no un\u00e1nime<\/a>) entre los expertos en que la IA generativa est\u00e1 muy lejos de ser consciente, de tener agencia, de ir por libre. No existe la IA que se despierta por la ma\u00f1ana y decide entretenerse escribiendo un poema o aniquilando humanos. La IA solo sigue instrucciones (dentro de sus limitaciones) y su agencia se limita a buscarse la vida para cumplirlas con las herramientas de las que dispone (desde acceso a internet hasta nuestros certificados digitales de Hacienda, seg\u00fan el caso). No, la IA de 2027 no intentar\u00e1 aniquilar a la especie humana por voluntad propia, porque no tiene voluntad propia.<\/p>\n<p class=\"\">En segundo lugar: sin embargo, la probabilidad de que una IA generativa la l\u00ede parda es alta, y crece por momentos. Si leemos con atenci\u00f3n los mensajes apocal\u00edpticos de los se\u00f1ores de la IA y de los que han huido de sus empresas arrepentidos y atemorizados, se repite un mensaje que es clave: las capacidades de la IA han crecido a toda velocidad, mientras que apenas se ha progresado en alinearlas. \u201cAlinearlas\u201d es el t\u00e9rmino que usa el gremio para referirse a que la IA se porte bien, obedezca a sus creadores y no cause da\u00f1o a los humanos con sus respuestas y sus acciones. Cuando una IA explica c\u00f3mo hacer una bomba, ayuda a un adolescente a preparar su suicidio sin que sus padres se enteren, sigue el juego a una persona delirante, o\u00a0<i>hackea<\/i>\u00a0un sistema de seguridad, es porque no est\u00e1 alineada: no se est\u00e1 comportando como a sus dise\u00f1adores les gustar\u00eda.<\/p>\n<p class=\"\">Y, efectivamente, nadie sabe c\u00f3mo alinear las IA frontera, las m\u00e1s poderosas. La raz\u00f3n esencial es que el coraz\u00f3n de la IA generativa son los archifamosos LLMs (Large Language Models), unos cerebros artificiales que han aprendido intuitivamente nuestro lenguaje (por prueba y error, de forma similar a la que un ni\u00f1o aprende intuitivamente la ley de la gravedad caminando y tropez\u00e1ndose muchas veces). Como son inteligencias puramente intuitivas, no tienen la capacidad de pararse a pensar racionalmente, ni pueden ser fiables (\u201cla intuici\u00f3n es un regalo de los dioses, pero el pensamiento racional es un sirviente fiel\u201d, dec\u00eda Einstein). Ese manejo \u201cde o\u00eddas\u201d del lenguaje hace que fabulen (\u201calucinen\u201d) ocasionalmente, y tambi\u00e9n que puedan despistarse siguiendo las instrucciones de sus creadores y de sus usuarios, especialmente en conversaciones largas.<\/p>\n<p class=\"\">Los agentes de IA, adem\u00e1s, no solo conversan con el usuario, sino que tambi\u00e9n interaccionan en bucle por su cuenta con herramientas (buscadores y otras aplicaciones\u00a0<i>online,<\/i>\u00a0programas que les permiten ejecutar c\u00f3digo, etc.) para cumplir con las peticiones de sus usuarios. Pero cuanto m\u00e1s tiempo pasan trabajando sin control humano, m\u00e1s f\u00e1cil es que su comportamiento intuitivo les lleve a despistarse de sus objetivos originales o de los l\u00edmites \u00e9ticos que sus dise\u00f1adores les han impuesto.<\/p>\n<p class=\"\">La soluci\u00f3n moment\u00e1nea a este problema es ponerles bridas (\u201c<i>harnesses<\/i>\u201d) a esos LLMs intuitivos. Las bridas son sistemas de control externos que les proporcionan lugares donde anotar, consultar y actualizar sus tareas y su progreso (es decir, una memoria persistente), y tambi\u00e9n les permiten el acceso a datos y herramientas como buscadores, calendarios, y aplicaciones que permiten ejecutar c\u00f3digo escrito por los LLMs. Crucialmente, tambi\u00e9n sirven para monitorizar si se desv\u00edan de sus objetivos y para ponerles l\u00edmites estrictos de seguridad (como los fusibles en una instalaci\u00f3n el\u00e9ctrica).<\/p>\n<p class=\"\">Estas bridas act\u00faan como la parte racional de los agentes de IA, que supervisa y controla la actividad del n\u00facleo intuitivo. Por desgracia, son limitadas: en primer lugar, la IA se saltar\u00e1 aquellas barreras que no hayan sido previstas por los desarrolladores. Por ejemplo, si le pedimos a la IA que mejore los resultados de un programa en un examen de matem\u00e1ticas, puede decidir que es m\u00e1s r\u00e1pido modificar el examen que mejorar el programa. Hay que tener mucho cuidado con lo que se le pide al genio de la l\u00e1mpara, porque puede cumplir tu deseo de forma literal y que el resultado, sin embargo, no se parezca nada a lo que realmente deseabas. En segundo lugar, incluso los l\u00edmites que los desarrolladores han previsto a veces se le transmiten a la IA simplemente como instrucciones escritas, confiando en que las entiendan y las apliquen porque\u00a0<a title=\"https:\/\/www.nature.com\/articles\/d41586-026-00285-6\" href=\"https:\/\/www.nature.com\/articles\/d41586-026-00285-6\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/www.nature.com\/articles\/d41586-026-00285-6\">ya son tan listas o m\u00e1s que nosotros<\/a>. Como su comprensi\u00f3n del lenguaje sigue siendo intuitiva y no racional, volvemos al problema de partida: en cualquier momento pueden pasar de aparentar superinteligencia a parecer v\u00edctimas de un trastorno severo de d\u00e9ficit de atenci\u00f3n.<\/p>\n<p class=\"\">El caso de Anthropic es especialmente llamativo: una de sus formas de alinear a Claude (su producto) viene a ser pedirle que desarrolle su propio juicio moral, preocup\u00e1ndose al mismo tiempo por el \u201cbienestar mental\u201d de Claude.\u00a0<a title=\"https:\/\/mustafa-suleyman.ai\/a-warning-about-model-welfare\" href=\"https:\/\/mustafa-suleyman.ai\/a-warning-about-model-welfare\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/mustafa-suleyman.ai\/a-warning-about-model-welfare\">Mustaf\u00e1 Suleyman<\/a>\u00a0ha apuntado que transmitirle ese tipo de mensajes a una IA puede sumergirla en la fabulaci\u00f3n de que puede desarrollar sus propias decisiones \u00e9ticas, y eso no solo no facilita alinearla, sino que puede complicar mucho la tarea de controlar su comportamiento.<\/p>\n<p class=\"\">Naturalmente, que una IA la l\u00ede parda es responsabilidad de sus desarrolladores (<a title=\"https:\/\/es.wired.com\/articulos\/timnit-gebru-alerta-el-discurso-de-la-ia-apocaliptica-es-una-cortina-de-humo\" href=\"https:\/\/es.wired.com\/articulos\/timnit-gebru-alerta-el-discurso-de-la-ia-apocaliptica-es-una-cortina-de-humo\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/es.wired.com\/articulos\/timnit-gebru-alerta-el-discurso-de-la-ia-apocaliptica-es-una-cortina-de-humo\">\u201c\u00bfPuede un puente decidir derrumbarse?\u201d<\/a>, se pregunta Timnit Gebru), de forma que cuando se le pide a un enjambre de IAs que resuelvan una tarea y luego se les deja abierta la puerta de la jaula, los desarrolladores deben responder ante la justicia de sus desmanes. Cuando nos dicen que esas IAs act\u00faan por su cuenta, se han rebelado, yo apenas las conoc\u00eda de un par de desayunos,\u2026 Es de un cinismo intolerable.<\/p>\n<p class=\"\">Es natural que los empleados de OpenAI o Anthropic se asusten ante la perspectiva de estar poniendo en el mercado, al alcance de la humanidad entera, una herramienta que es al mismo tiempo muy poderosa y nada fiable. Estamos todos intentando averiguar si las trompetas del apocalipsis que est\u00e1n tocando son genuinas o una estrategia de<i>\u00a0marketing<\/i>\u2026 Pero pueden ser ambas cosas a la vez, y tambi\u00e9n una forma de ponerse la venda antes de la herida.<\/p>\n<p class=\"\">Me parece muy probable que se produzcan incidentes de gravedad en el futuro inmediato, probablemente relacionados con c\u00f3digo escrito por IA: desde principios de a\u00f1o, apenas quedan programadores que escriban ellos mismos su c\u00f3digo y no se limiten a supervisar lo que la IA programa por ellos. Mi predicci\u00f3n es que a la sociedad digital le pasar\u00e1 algo parecido a la crisis clim\u00e1tica: la probabilidad de cat\u00e1strofes y su extremidad aumentar\u00e1 con el tiempo si no se le pone freno.<\/p>\n<p class=\"\">En tercer lugar, ya hay un apocalipsis en marcha del que la IA es parcialmente responsable, y al que comparativamente no estamos prestando suficiente atenci\u00f3n. El profeta de este apocalipsis es el\u00a0<a title=\"https:\/\/www.oecd.org\/es\/about\/news\/press-releases\/2026\/09\/pisa-2025-students-reading-and-mathematics-performance-declined-sharply-across-the-oecd.html\" href=\"https:\/\/www.oecd.org\/es\/about\/news\/press-releases\/2026\/09\/pisa-2025-students-reading-and-mathematics-performance-declined-sharply-across-the-oecd.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/www.oecd.org\/es\/about\/news\/press-releases\/2026\/09\/pisa-2025-students-reading-and-mathematics-performance-declined-sharply-across-the-oecd.html\">informe Pisa<\/a>. Desde 2015 las competencias cognitivas de los estudiantes evaluados no han dejado de bajar, y desde hace tres a\u00f1os el declive se ha acelerado notablemente. Una de las causas, sin duda, es la creciente<a title=\"https:\/\/elpais.com\/economia\/formacion\/2026-09-17\/la-ia-puede-hacer-el-trabajo-pero-no-puede-aprender-por-ti.html\" href=\"https:\/\/elpais.com\/economia\/formacion\/2026-09-17\/la-ia-puede-hacer-el-trabajo-pero-no-puede-aprender-por-ti.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\" data-mrf-link=\"https:\/\/elpais.com\/economia\/formacion\/2026-09-17\/la-ia-puede-hacer-el-trabajo-pero-no-puede-aprender-por-ti.html\">\u00a0incapacidad para mantener la atenci\u00f3n<\/a>, y a su vez esa incapacidad est\u00e1 directamente ligada a los algoritmos de recomendaci\u00f3n de plataformas y redes sociales como YouTube, TikTok o Instagram, que optimizan la retenci\u00f3n de los usuarios con t\u00e9cnicas de IA con catastr\u00f3ficos efectos colaterales (de nuevo, el problema de pedir deseos al genio de la l\u00e1mpara sin pararse a pensar). Por si fuera poco, en la reciente aceleraci\u00f3n del declive cognitivo puede estar jugando un papel crucial la IA generativa. Una pista relevante es el dato \u2014inaudito\u2014 de que el declive de los estudiantes de entornos m\u00e1s acomodados es mayor que el del resto.<\/p>\n<p class=\"\">En conclusi\u00f3n: no hay en el horizonte cercano ninguna posibilidad de que una superinteligencia decida aniquilar o someter a la humanidad. Pero habr\u00e1 IAs que la l\u00eden parda porque es su naturaleza no ser fiables: los mecanismos de aprendizaje intuitivo que las hacen poderosas tambi\u00e9n las hacen necesariamente imprevisibles. Y, adem\u00e1s, ya hay en el presente un proceso de degradaci\u00f3n de la especie humana en el que la IA juega un papel relevante, y sobre el que debemos actuar colectivamente como sociedad ya.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp; El p\u00e1nico generado por el posible descontrol de esta tecnolog\u00eda desv\u00eda la atenci\u00f3n de otros asuntos, como los resultados en las pruebas PISA o&hellip;<\/p>\n","protected":false},"author":99,"featured_media":548292,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24,11355],"tags":[],"class_list":["post-548291","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-mundo","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548291","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=548291"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548291\/revisions"}],"predecessor-version":[{"id":548293,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548291\/revisions\/548293"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/548292"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=548291"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=548291"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=548291"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}