{"id":548087,"date":"2026-09-15T11:26:16","date_gmt":"2026-09-15T15:26:16","guid":{"rendered":"https:\/\/diarioelpopular.com\/?p=548087"},"modified":"2026-09-15T11:26:16","modified_gmt":"2026-09-15T15:26:16","slug":"vamos-a-morir-todos-o-es-solo-teatro-argumentos-contra-el-apocalipsis-de-la-ia","status":"publish","type":"post","link":"https:\/\/diarioelpopular.com\/index.php\/2026\/09\/15\/vamos-a-morir-todos-o-es-solo-teatro-argumentos-contra-el-apocalipsis-de-la-ia\/","title":{"rendered":"\u00bfVamos a morir todos o es solo teatro? Argumentos contra el apocalipsis de la IA"},"content":{"rendered":"<div id=\"attachment_548088\" style=\"width: 1210px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-548088\" class=\"wp-image-548088 size-custom-big-size\" src=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-1200x789.png\" alt=\"\" width=\"1200\" height=\"789\" srcset=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-1200x789.png 1200w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-300x197.png 300w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-768x505.png 768w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-85x55.png 85w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-1536x1010.png 1536w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-636x418.png 636w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM-111x73.png 111w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2026\/09\/Screen-Shot-2026-09-15-at-10.24.45-AM.png 1024w\" sizes=\"auto, (max-width: 1200px) 100vw, 1200px\" \/><p id=\"caption-attachment-548088\" class=\"wp-caption-text\">Jornada inaugural de la feria IFA en Berl\u00edn, Alemania, el 4 de septiembre. Foto HANNIBAL HANSCHKE (EFE)<\/p><\/div>\n<p>&nbsp;<\/p>\n<ul>\n<li><em><strong>Algunos expertos creen que no hay ninguna prueba cient\u00edfica que invite a pensar que esta tecnolog\u00eda podr\u00eda provocar la extinci\u00f3n, y que sostener eso puede obedecer a intereses muy concretos<\/strong><\/em><\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p class=\"\">El miedo a la inteligencia artificial (IA) se ha instalado con fuerza en el debate p\u00fablico.<\/p>\n<p class=\"\">En los \u00faltimos d\u00edas se ha hablado de \u201cposible extinci\u00f3n\u201d de la humanidad, de que esta tecnolog\u00eda puede resultar \u201cincontrolable\u201d y de que\u00a0<a title=\"https:\/\/elpais.com\/tecnologia\/2026-09-14\/los-gigantes-de-la-ia-quieren-someterse-a-sus-propias-reglas-para-hacer-frente-a-los-escenarios-apocalipticos.html\" href=\"https:\/\/elpais.com\/tecnologia\/2026-09-14\/los-gigantes-de-la-ia-quieren-someterse-a-sus-propias-reglas-para-hacer-frente-a-los-escenarios-apocalipticos.html\" target=\"_self\" rel=\"\" data-link-track-dtm=\"\">la propia industria \u2014y no las autoridades\u2014 debe autorregularse<\/a>\u00a0para contener sus avances. Estos sistemas son ya muy potentes y, visto el ritmo de crecimiento,\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-09-12\/los-riesgos-de-la-ia-segun-los-que-la-han-visto-desde-dentro-el-mundo-no-esta-preparado-y-nosotros-no-estamos-preparados.html\" rel=\"\" data-link-track-dtm=\"\">nadie sabe hasta d\u00f3nde podr\u00edan llegar<\/a>\u00a0en los pr\u00f3ximos a\u00f1os o meses.<\/p>\n<p class=\"\">Pero, de la misma forma que\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-05-23\/catastrofistas-contra-aceleracionistas-la-ia-acabara-con-el-mundo-o-lo-salvara.html\" rel=\"\" data-link-track-dtm=\"\">hay quien alerta de los peligros de esta tecnolog\u00eda<\/a>, otros expertos argumentan que se est\u00e1n exagerando las capacidades de estos sistemas. O que la industria est\u00e1 usando el miedo at\u00e1vico a estos avances como cortina de humo para tapar sus consecuencias negativas reales: desde los\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-07-28\/amigos-digitales-con-ia-la-nueva-amenaza-para-la-salud-mental-de-los-adolescentes.html\" rel=\"\" data-link-track-dtm=\"\">problemas relacionados con la salud mental<\/a>\u00a0que implica para algunos usuarios hasta el desaf\u00edo en el \u00e1mbito educativo o laboral que plantea la IA, pasando por la contaminaci\u00f3n y el consumo de agua y energ\u00eda asociado a los centros de datos en los que se apoya o por las armas aut\u00f3nomas que ya matan a humanos en varios escenarios b\u00e9licos.<\/p>\n<p class=\"\">\u00bfVamos a morir todos o no hay nada que temer?<\/p>\n<h2 class=\"\">El contexto<\/h2>\n<p class=\"\">La semana pasada fue fren\u00e9tica en el mundillo de la IA. El martes por la noche, OpenAI anunci\u00f3 \u2014<a href=\"https:\/\/elpais.com\/ciencia\/2026-09-10\/un-ano-de-trabajo-de-dos-matematicos-espanoles-frente-a-88-horas-y-15-millones-de-openai-sin-nuestra-idea-la-ia-no-lo-habria-resuelto.html\" rel=\"\" data-link-track-dtm=\"\">entre acusaciones de plagio<\/a>\u2014 que uno de sus modelos\u00a0<a href=\"https:\/\/elpais.com\/ciencia\/2026-09-09\/el-anuncio-de-openai-de-que-ha-resuelto-uno-de-los-mayores-enigmas-matematicos-de-la-historia-desata-acusaciones-de-plagio.html\" rel=\"\" data-link-track-dtm=\"\">hab\u00eda logrado resolver uno de los siete\u00a0<i>problemas del milenio<\/i><\/a>, los retos matem\u00e1ticos m\u00e1s complejos que se conocen. Ese mismo d\u00eda,\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-09-09\/un-investigador-de-anthropic-dimite-porque-asegura-que-la-ia-puede-matarnos-antes-de-2030.html\" rel=\"\" data-link-track-dtm=\"\">un ingeniero de Anthropic present\u00f3 su dimisi\u00f3n<\/a>\u00a0para no contribuir con su trabajo a la posible extinci\u00f3n de la humanidad: la IA \u201cpuede matarnos antes de 2030\u201d, dijo. Anthropic anunci\u00f3 el viernes que hab\u00eda parado\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-09-10\/anthropic-alerta-de-que-ha-frenado-posibles-intentos-de-crear-armas-biologicas-con-su-ia.html\" rel=\"\" data-link-track-dtm=\"\">posibles intentos de desarrollar armas qu\u00edmicas con sus modelos de IA<\/a>, y se filtr\u00f3 que Ir\u00e1n los habr\u00eda usado para seleccionar objetivos en su guerra contra EE UU.<\/p>\n<p class=\"\">Y el fin de semana lleg\u00f3 la bomba: el m\u00e1ximo responsable de Anthropic, Dario Amodei, public\u00f3 el s\u00e1bado un ensayo en el que pide que se ralentice sustancialmente el desarrollo de la IA y que las desarrolladoras de esta tecnolog\u00eda se sometan a un proceso de monitorizaci\u00f3n externa. Sam Altman, su contraparte en OpenAI, estuvo de acuerdo con Amodei. El domingo se mostraron tambi\u00e9n favorables a ralentizar el ritmo de investigaci\u00f3n Demis Hassabis, el jefe de IA de Google, y hasta Elon Musk, due\u00f1o de xAI. El presidente Trump, por su parte, cree que no hay que atarse las alas: ve la carrera de la IA como una guerra contra China que hay que ganar a toda costa.<\/p>\n<p class=\"\">Este carrusel de noticias se ha producido en un contexto muy particular. Tanto OpenAI como Anthropic\u00a0<a href=\"https:\/\/elpais.com\/economia\/2026-06-01\/anthropic-se-adelanta-a-openai-y-registra-la-solicitud-para-su-multimillonaria-salida-a-bolsa.html\" rel=\"\" data-link-track-dtm=\"\">est\u00e1n preparando su salida a Bolsa<\/a>, que se prev\u00e9 hist\u00f3rica. Para calentarla, ambas compa\u00f1\u00edas est\u00e1n haciendo equilibrios en los \u00faltimos meses con sus anuncios para demostrar que sus productos son potent\u00edsimos y muy avanzados, pero que a la vez no presentan riesgos innecesarios para la humanidad. Hab\u00edan conseguido ambas cosas hasta ahora.<\/p>\n<p class=\"\">Este verano, tanto OpenAI como Anthropic han asegurado que algunos de\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-07-31\/anthropic-anuncia-que-sus-programas-de-ia-tambien-hackearon-por-su-cuenta-tres-empresas-tras-el-incidente-de-openai.html\" rel=\"\" data-link-track-dtm=\"\">sus modelos supuestamente \u201cse descontrolaron\u201d para\u00a0<i>hackear<\/i>\u00a0terceras empresas<\/a>, aunque m\u00e1s tarde se vio que esos ataques formaban parte de las instrucciones que se les hab\u00eda dado. El brit\u00e1nico Instituto de Seguridad de la IA (AISI) report\u00f3 que un sistema aut\u00f3nomo de IA hab\u00eda creado falsas identidades para manipular a personas durante unos ejercicios; en ese caso, el sistema ten\u00eda acceso a internet y\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-08-05\/reino-unido-eleva-la-alerta-tras-descubrir-conductas-peligrosas-en-la-ia-de-anthropic-y-openai-es-el-primer-engano-dirigido-a-una-persona-real.html\" rel=\"\" data-link-track-dtm=\"\">se encontr\u00f3 un error en la configuraci\u00f3n<\/a>\u00a0que hizo que los agentes se saltaran algunos de los l\u00edmites que se les hab\u00edan puesto.<\/p>\n<h2 class=\"\">\u00bfY si no es para tanto?<\/h2>\n<p class=\"\">Uno de los principales argumentos esgrimidos contra quienes creen que la IA puede traer el apocalipsis es que se trata de un mecanismo de distracci\u00f3n de la propia industria para que los pa\u00edses no decidan regular los efectos que ya tiene en la sociedad. \u201cEsta narrativa del dios-m\u00e1quina tiene como objetivo distraernos\u201d, ha dicho estos d\u00edas Timnit Gebru, quien fuera investigadora jefa en Google de los sesgos de los modelos de lenguaje y a la que despidieron en 2020 antes de publicar un informe muy duro con la compa\u00f1\u00eda.<\/p>\n<p class=\"\">Cuando un puente se derrumba, dice Gebru, lo que quieres saber es qui\u00e9n lo construy\u00f3 para que no vuelva a suceder, no si ese puente era consciente o quer\u00eda colapsar. \u00bfQui\u00e9n le dio los permisos necesarios, c\u00f3mo pas\u00f3 las pruebas pertinentes? \u201cCuando te preguntas por el derrumbe del puente en s\u00ed, te has desviado del tema\u201d, sostiene. \u201cMuchos de los escenarios [de apocalipsis IA] parecen consistir en que le pides a la m\u00e1quina que se optimice para alguna otra tarea y, a continuaci\u00f3n, la m\u00e1quina decide que la forma de alcanzar ese objetivo es acabar con toda la poblaci\u00f3n mundial. \u00bfTambi\u00e9n te hipnotiza para que no la desenchufes?\u201d, se pregunta.<\/p>\n<p class=\"\">Ha contribuido tambi\u00e9n a la alarma social la antropomorfizaci\u00f3n de la IA. Ram\u00f3n L\u00f3pez de M\u00e1ntaras, fundador del Instituto de Investigaci\u00f3n en IA del CSIC, lleva a\u00f1os advirtiendo de que el vocabulario, en este tema, es capital. \u201cLa manera de describir estos incidentes importa porque las met\u00e1foras influyen en la percepci\u00f3n social de la IA y en las pol\u00edticas p\u00fablicas. Hablar de m\u00e1quinas que \u2018escapan\u2019, \u2018se descontrolan\u2019 o \u2018conspiran\u2019 favorece la idea de una IA que adquiere voluntad propia y puede llevar a diagnosticar mal el problema\u201d, se\u00f1ala. Por lo que sabemos hasta ahora sobre\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2026-07-22\/un-nuevo-modelo-de-openai-provoca-un-ataque-sin-precedentes-contra-otra-plataforma-de-inteligencia-artificial.html\" rel=\"\" data-link-track-dtm=\"\">los incidentes de ciberseguridad de este verano<\/a>, lo que sucedi\u00f3 no fue que las m\u00e1quinas se rebelaran, sino que unos sistemas de IA cada vez m\u00e1s potentes hicieron exactamente lo que se les pidi\u00f3: utilizar rutas de ataque complejas para obtener soluciones a sus tareas, aunque no de la forma que hab\u00edan previsto los ingenieros de OpenAI.<\/p>\n<p class=\"\">Una de las cosas que se dijo, por ejemplo, es que \u201cenjambres\u201d de agentes de IA se hab\u00edan coordinado para llevar a cabo ataques. \u201cEs bastante normal que programas inform\u00e1ticos independientes trabajen juntos compartiendo informaci\u00f3n. Eso constituye, de hecho, una parte esencial de los m\u00e9todos de computaci\u00f3n distribuida en los que se basan los grandes sistemas de\u00a0<i>software<\/i>\u201d, opina\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2024-03-30\/melanie-mitchell-la-inteligencia-artificial-despegara-cuando-se-inserte-en-robots-que-experimenten-el-mundo-como-los-ninos.html\" rel=\"\" data-link-track-dtm=\"\">Melanie Mitchell, catedr\u00e1tica Davis de Complejidad en el Instituto de Santa Fe<\/a>\u00a0y profesora en la Universidad Estatal de Portland.<\/p>\n<p class=\"\">\u201c\u00bfPerdi\u00f3 OpenAI el control de estos modelos? No, podr\u00eda haber desactivado estos modelos en cualquier momento. \u00bfSe \u2018escaparon\u2019 estos modelos? No, son programas inform\u00e1ticos que siempre estuvieron ejecut\u00e1ndose en los servidores de OpenAI\u201d, escribe Mitchell. \u201cIgual que un\u00a0<i>hacker\u00a0<\/i>encarcelado al que se le da un ordenador, estos modelos encontraron una forma de acceder a internet que les permiti\u00f3 piratear otras redes inform\u00e1ticas. \u00bfFormaron estos agentes un \u2018enjambre\u2019 que \u2018se desat\u00f3\u2019? No, pero los agentes s\u00ed crearon colectivamente un notable sistema de mensajer\u00eda que, presumiblemente, ayud\u00f3 a descubrir c\u00f3mo atacar la red de Hugging Face\u201d, explica.<\/p>\n<p class=\"\">Algunos sostienen tambi\u00e9n que se est\u00e1n exagerando las capacidades de los modelos de frontera, los m\u00e1s punteros de la actualidad. Es el caso de Yann LeCun, premio Turing (considerado el Nobel de la inform\u00e1tica). El exjefe de IA de Meta reaccion\u00f3 este fin de semana a las intenciones de Amodei, de Anthropic, de ralentizar el ritmo de los avances de la IA: \u201cBien. Dario ya afirmaba en 2019 que GPT2 era demasiado peligroso para ser de c\u00f3digo abierto. Me burl\u00e9 de ellos entonces. Todos deber\u00edan burlarse de ellos ahora\u201d.<\/p>\n<p class=\"\">Sobre las proclamas de que el mundo podr\u00eda acabarse en 2030, muchos observadores reclaman a quienes las lanzan que se publiquen los argumentos cient\u00edficos que respaldan tales afirmaciones. Pero eso no es lo mismo que decir que la IA es inocua. \u201cAbsurdo: Los humanos se extinguir\u00e1n en cinco a\u00f1os. Igualmente absurdo: Todo va a salir bien. Las dos narrativas m\u00e1s dominantes est\u00e1n completamente equivocadas\u201d, dijo este lunes en redes sociales el emprendedor tecnol\u00f3gico y\u00a0<a href=\"https:\/\/elpais.com\/tecnologia\/2024-11-12\/gary-marcus-investigador-en-ia-el-futuro-de-la-inteligencia-artificial-es-mas-oscuro-con-trump-en-la-casa-blanca.html\" rel=\"\" data-link-track-dtm=\"\">analista de IA Gary Marcus<\/a>. Su postura encapsula lo que opinan muchos expertos: estamos ante algo muy grande que lo cambiar\u00e1 todo, aunque nadie sabe cu\u00e1ndo ni hasta qu\u00e9 punto.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp; Algunos expertos creen que no hay ninguna prueba cient\u00edfica que invite a pensar que esta tecnolog\u00eda podr\u00eda provocar la extinci\u00f3n, y que sostener eso&hellip;<\/p>\n","protected":false},"author":99,"featured_media":548088,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11356,24],"tags":[],"class_list":["post-548087","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-mundo"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548087","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=548087"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548087\/revisions"}],"predecessor-version":[{"id":548089,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/548087\/revisions\/548089"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/548088"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=548087"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=548087"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=548087"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}