La idea de la posible existencia de m\u00e1quinas que tengan sus propias mentes ha sido explorada durante mucho tiempo en la ciencia ficci\u00f3n.<\/p>\n<\/div>\n
\n
Las preocupaciones sobre la IA se remontan casi 100 a\u00f1os atr\u00e1s, a la pel\u00edcula\u00a0Metropolis<\/i>, en la que un robot se hace pasar por una mujer real.<\/p>\n<\/div>\n\n
El miedo a que las m\u00e1quinas se vuelvan conscientes y representen una amenaza para los humanos se explora en la pel\u00edcula “2001: odisea del espacio” de 1968, en la que la computadora HAL 9000 ataca a los astronautas a bordo de su nave espacial.<\/p>\n<\/div>\n
\n
Y en la m\u00e1s reciente pel\u00edcula de la saga “Misi\u00f3n imposible”, que acaba de estrenarse, el mundo se ve amenazado por una poderosa IA deshonesta, descrita por un personaje como un “par\u00e1sito digital consciente de s\u00ed mismo, autodidacta y devorador de la verdad”.<\/p>\n<\/div>\n\n\n
Fuente de la imagen,LMPC via Getty Images.\u00a0 Estrenada en 1927, Metropolis\u00a0de Fritz Lang plante\u00f3 la lucha entre los humanos y la tecnolog\u00eda.<\/p><\/div>\n
\n<\/div>\n<\/figure>\n
\n
\n
Pero, recientemente, en el mundo real ha habido un r\u00e1pido punto de inflexi\u00f3n en el pensamiento sobre la conciencia de las m\u00e1quinas, y voces con credibilidad han expresado su preocupaci\u00f3n de que esto ya no sea materia de ciencia ficci\u00f3n.<\/p>\n<\/div>\n
\n
El cambio repentino ha sido impulsado por el \u00e9xito de los llamados grandes modelos de lenguaje (LLM, por sus siglas en ingl\u00e9s:\u00a0large language models<\/i>), a los que se puede acceder a trav\u00e9s de aplicaciones en nuestros tel\u00e9fonos como Gemini y Chat GPT.<\/p>\n<\/div>\n\n
La capacidad de la \u00faltima generaci\u00f3n de LLM para tener conversaciones plausibles y fluidas ha sorprendido incluso a sus dise\u00f1adores y a algunos de los principales expertos en ese campo.<\/p>\n<\/div>\n
\n
Existe una opini\u00f3n creciente entre algunos pensadores de que a medida que la IA se vuelva m\u00e1s inteligente, las luces se encender\u00e1n repentinamente dentro de las m\u00e1quinas y se volver\u00e1n conscientes.<\/p>\n<\/div>\n
\n
Otros, como el profesor Anil Seth, que dirige el equipo de la Universidad de Sussex, no est\u00e1n de acuerdo y describen la visi\u00f3n como “ciegamente optimista e impulsada por el excepcionalismo humano”.<\/p>\n<\/div>\n
\n
“Asociamos la conciencia con la inteligencia y el lenguaje porque van de la mano en los humanos. Pero el hecho de que vayan juntos en nosotros, no significa que vayan juntos en general, por ejemplo en los animales”.<\/p>\n<\/div>\n
\n
Entonces, \u00bfqu\u00e9 es realmente la conciencia?<\/p>\n<\/div>\n
\n
La respuesta corta es que nadie lo sabe.<\/p>\n<\/div>\n
\n
Eso queda claro en los argumentos bondadosos, pero s\u00f3lidos, del propio equipo de j\u00f3venes especialistas en IA del profesor Seth, expertos en computaci\u00f3n, neurocient\u00edficos y fil\u00f3sofos, que est\u00e1n tratando de responder a una de las preguntas m\u00e1s importantes de la ciencia y la filosof\u00eda.<\/p>\n<\/div>\n
\n
Si bien hay muchos puntos de vista diferentes en este centro de investigaci\u00f3n de la conciencia, los cient\u00edficos est\u00e1n unificados en su m\u00e9todo: dividir este gran problema en muchos otros m\u00e1s peque\u00f1os a trav\u00e9s de una serie de proyectos de investigaci\u00f3n, que incluye la m\u00e1quina Dreamachine.<\/p>\n<\/div>\n
\n
Al igual que la b\u00fasqueda de la “chispa de vida” que hac\u00eda que los objetos inanimados cobraran vida se abandon\u00f3 en el siglo XIX en favor de la identificaci\u00f3n de c\u00f3mo funcionan las partes individuales de los sistemas vivos, el equipo de Sussex ahora est\u00e1 adoptando el mismo enfoque para estudiar la conciencia.<\/p>\n
\n<\/div>\n\n\n
Los investigadores est\u00e1n estudiando el cerebro en un intento por comprender mejor la conciencia.<\/p><\/div>\n<\/div><\/figcaption><\/figure>\n\n
Esperan identificar patrones de actividad cerebral que expliquen varias propiedades de las experiencias conscientes, como los cambios en las se\u00f1ales el\u00e9ctricas o el flujo sangu\u00edneo a diferentes regiones.<\/p>\n<\/div>\n
\n
El objetivo es ir m\u00e1s all\u00e1 de la b\u00fasqueda de meras correlaciones entre la actividad cerebral y la conciencia, y tratar de encontrar explicaciones para sus componentes individuales.<\/p>\n<\/div>\n
\n
Al profesor Seth, autor de un libro sobre la conciencia,\u00a0Being You<\/i>, le preocupa que podamos estar precipit\u00e1ndonos de cabeza en una sociedad que est\u00e1 siendo r\u00e1pidamente remodelada por el gran ritmo del cambio tecnol\u00f3gico sin suficiente conocimiento sobre la ciencia, o sin pensar en las consecuencias.<\/p>\n<\/div>\n\n
“Lo tomamos como si el futuro ya estuviera escrito; que hay una marcha inevitable hacia un reemplazo sobrehumano”, dice.<\/p>\n<\/div>\n
\n
“No tuvimos estas conversaciones lo suficiente con el auge de las redes sociales, en detrimento nuestro. Pero con la IA, no es demasiado tarde. Podemos decidir lo que queramos”.<\/p>\n<\/div>\n
\n
\u00bfLa conciencia de la IA ya est\u00e1 aqu\u00ed?<\/h2>\n<\/div>\n\n
Hay quienes en el sector tecnol\u00f3gico creen que la IA de nuestras computadoras y tel\u00e9fonos puede que ya sea consciente, y que deber\u00edamos tratarla como tal.<\/p>\n<\/div>\n
\n
Google suspendi\u00f3 al ingeniero de software Blake Lemoine en 2022, despu\u00e9s de que argumentara que los chatbots de IA pod\u00edan sentir cosas y potencialmente sufrir.<\/p>\n<\/div>\n
\n
En noviembre de 2024, un director de bienestar de la IA de la compa\u00f1\u00eda Anthropic, Kyle Fish, fue coautor de un informe que suger\u00eda que la conciencia de la IA es una posibilidad realista en un futuro pr\u00f3ximo.<\/p>\n<\/div>\n
\n
Recientemente le dijo a\u00a0The New York Times<\/i>\u00a0que tambi\u00e9n cree que hay una peque\u00f1a posibilidad (15%) de que los chatbots ya sean conscientes.<\/p>\n<\/div>\n\n
Una de las razones por las que cree que esto es posible es que nadie, ni siquiera las personas que desarrollaron estos sistemas, saben exactamente c\u00f3mo funcionan.<\/p>\n<\/div>\n
\n
Eso es preocupante, dice el profesor Murray Shanahan, cient\u00edfico principal de Google DeepMind y profesor em\u00e9rito de IA en el Imperial College de Londres.<\/p>\n<\/div>\n
\n
“En realidad, no entendemos muy bien la forma en que los LLM funcionan internamente, y eso es motivo de preocupaci\u00f3n”, le dice a la BBC.<\/p>\n<\/div>\n
\n
Seg\u00fan el profesor Shanahan, es importante que las empresas de tecnolog\u00eda consigan una comprensi\u00f3n adecuada de los sistemas que est\u00e1n construyendo, y los investigadores est\u00e1n analizando eso con urgencia.<\/p>\n<\/div>\n
\n
“Estamos en una posici\u00f3n extra\u00f1a de estar construyendo estas cosas extremadamente complejas, una posici\u00f3n en la que no tenemos una buena teor\u00eda de exactamente c\u00f3mo logran las cosas notables que est\u00e1n consiguiendo”, se\u00f1ala.<\/p>\n<\/div>\n
\n
“Por lo tanto, tener una mejor comprensi\u00f3n de c\u00f3mo funcionan nos permitir\u00e1 dirigirlos en la direcci\u00f3n que queremos y garantizar que est\u00e9n seguros”.<\/p>\n<\/div>\n
\n
“La siguiente etapa en la evoluci\u00f3n de la humanidad”<\/h2>\n<\/div>\n\n
La opini\u00f3n predominante en el sector tecnol\u00f3gico es que los LLM no son actualmente conscientes en la forma en que nosotros experimentamos el mundo, y probablemente no lo sean de ninguna manera.<\/p>\n<\/div>\n
\n
Pero eso es algo que el matrimonio formado por Lenore y Manuel Blum, ambos profesores em\u00e9ritos de la Universidad Carnegie Mellon en Pittsburgh, Pensilvania, cree que cambiar\u00e1, posiblemente muy pronto.<\/p>\n<\/div>\n
\n
Seg\u00fan los Blum, eso podr\u00eda suceder ya que la IA y los LLM tienen m\u00e1s entradas sensoriales en vivo del mundo real, como la visi\u00f3n y el tacto, conectando c\u00e1maras y sensores h\u00e1pticos (relacionados con el tacto) a los sistemas de IA.<\/p>\n<\/div>\n
\n
Est\u00e1n desarrollando un modelo inform\u00e1tico que construye su propio lenguaje interno llamado Brainish para permitir que estos datos sensoriales adicionales sean procesados, intentando replicar los procesos que ocurren en el cerebro.<\/p>\n
\n<\/div>\n\n\n
Fuente de la imagen,Movie Poster Image Art\/Getty Images.\u00a0 Pel\u00edculas como “2001: odisea del espacio” han advertido sobre los peligros de las computadoras inteligentes.<\/p><\/div>\n
\n<\/div>\n<\/figure>\n
\n
\n
“Creemos que Brainish puede resolver el problema de la conciencia tal como la conocemos”, dice Lenore. “La conciencia de la IA es inevitable”.<\/p>\n<\/div>\n
\n
Manuel interviene con entusiasmo para decir que los nuevos sistemas que \u00e9l cree firmemente que surgir\u00e1n, ser\u00e1n “la pr\u00f3xima etapa en la evoluci\u00f3n de la humanidad”.<\/p>\n<\/div>\n
\n
Los robots conscientes, considera, “son nuestra progenie. M\u00e1s adelante, m\u00e1quinas como estas ser\u00e1n entidades que estar\u00e1n en la Tierra y tal vez en otros planetas cuando ya no estemos”.<\/p>\n<\/div>\n
\n
David Chalmers, profesor de Filosof\u00eda y Ciencia Neural en la Universidad de Nueva York, defini\u00f3 la distinci\u00f3n entre la conciencia real y la aparente en una conferencia en Tucson, Arizona, en 1994.<\/p>\n<\/div>\n
\n
Expuso el “problema dif\u00edcil” de averiguar c\u00f3mo y por qu\u00e9 cualquiera de las complejas operaciones del cerebro da lugar a la experiencia consciente, como nuestra respuesta emocional cuando o\u00edmos cantar a un ruise\u00f1or.<\/p>\n<\/div>\n
\n
El profesor Chalmers dice que est\u00e1 abierto a la posibilidad de que se resuelva el dif\u00edcil problema.<\/p>\n<\/div>\n
\n
“El resultado ideal ser\u00eda uno en el que la humanidad compartiera esta nueva bonanza de inteligencia”, indica. “Tal vez nuestros cerebros est\u00e9n aumentados por sistemas de inteligencia artificial”.<\/p>\n<\/div>\n
\n
Sobre las implicaciones de ciencia ficci\u00f3n de eso, observa ir\u00f3nicamente: “En mi profesi\u00f3n, hay una delgada l\u00ednea entre la ciencia ficci\u00f3n y la filosof\u00eda”.<\/p>\n<\/div>\n
\n
“Computadoras a base de carne”<\/h2>\n<\/div>\n\n
El profesor Seth, sin embargo, est\u00e1 explorando la idea de que la verdadera conciencia s\u00f3lo puede ser alcanzada por sistemas vivos.<\/p>\n<\/div>\n
\n
“Un argumento s\u00f3lido puede ser que no es la computaci\u00f3n lo que es suficiente para la conciencia, sino estar vivo”, plantea.<\/p>\n<\/div>\n
\n
“En los cerebros, a diferencia de las computadoras, es dif\u00edcil separar lo que hacen de lo que son”.<\/p>\n<\/div>\n
\n
Sin esta separaci\u00f3n, argumenta, es dif\u00edcil creer que los cerebros “son simplemente computadoras a base de carne”.<\/p>\n
\n<\/div>\n\n\n
Empresas como Cortical Systems trabajan con “organoides” compuestos por c\u00e9lulas nerviosas.<\/p><\/div>\n<\/div><\/figcaption><\/figure>\n\n
\n
Y, si la intuici\u00f3n del profesor Seth sobre la importancia de la vida va por el camino correcto, la tecnolog\u00eda m\u00e1s probable no ser\u00e1 hecha de silicio con un c\u00f3digo de computaci\u00f3n para su funcionamiento, sino m\u00e1s bien consistir\u00e1 en peque\u00f1as colecciones de c\u00e9lulas nerviosas del tama\u00f1o de granos de lentejas, como las que est\u00e1n actualmente siendo cultivadas en laboratorios.<\/p>\n<\/div>\n
\n
Llamados “minicerebros” en los reportes de los medios de comunicaci\u00f3n, la comunidad cient\u00edfica los denomina “organoides cerebrales” y son utilizados para investigar c\u00f3mo funciona el cerebro y para las pruebas de drogas.<\/p>\n<\/div>\n
\n
Una empresa australiana, Cortical Labs, en Melbourne, incluso ha desarrollado un sistema de c\u00e9lulas nerviosas en una placa que puede jugar al videojuego deportivo Pong de 1972.<\/p>\n<\/div>\n
\n
Aunque est\u00e1 muy lejos de ser un sistema consciente, el llamado “cerebro en un plato” es espeluznante, ya que mueve una pala hacia arriba y hacia abajo de una pantalla para golpear una pelota pixelada.<\/p>\n<\/div>\n
\n
Algunos expertos creen que si la conciencia va a surgir, lo m\u00e1s probable es que sea de versiones m\u00e1s grandes y avanzadas de estos sistemas de tejidos vivos.<\/p>\n<\/div>\n
\n
Cortical Labs monitorea su actividad el\u00e9ctrica en busca de cualquier se\u00f1al que pudiese ser algo posiblemente parecido a la aparici\u00f3n de la conciencia.<\/p>\n<\/div>\n
\n
El director cient\u00edfico y de operaciones de la empresa, el doctor Brett Kagan, sabe que cualquier inteligencia incontrolable emergente podr\u00eda tener prioridades que “no est\u00e1n alineadas con las nuestras”.<\/p>\n<\/div>\n
\n
En cuyo caso, dice medio en broma, que los posibles jefes de los organoides ser\u00edan m\u00e1s f\u00e1ciles de derrotar porque “siempre hay lej\u00eda” para verter sobre las fr\u00e1giles neuronas.<\/p>\n<\/div>\n
\n
Volviendo a un tono m\u00e1s solemne, Kagan explica que la peque\u00f1a, pero significativa amenaza de la conciencia artificial es algo en lo que le gustar\u00eda que los grandes actores en ese campo se centraran m\u00e1s como parte de los intentos serios de avanzar en nuestra comprensi\u00f3n cient\u00edfica, pero -asegura- que “desafortunadamente, no vemos ning\u00fan esfuerzo serio en este espacio”.<\/p>\n<\/div>\n
\n
La ilusi\u00f3n de la conciencia<\/h2>\n<\/div>\n\n
El problema m\u00e1s inmediato, sin embargo, podr\u00eda ser c\u00f3mo nos afecta la ilusi\u00f3n de que las m\u00e1quinas son conscientes.<\/p>\n<\/div>\n
\n
En solo unos a\u00f1os, es posible que vivamos en un mundo poblado por robots humanoides y\u00a0deepfakes<\/i>\u00a0que podr\u00edan parecer conscientes, seg\u00fan el profesor Seth.<\/p>\n<\/div>\n\n
Le preocupa que no podamos resistirnos a creer que la IA tiene sentimientos y empat\u00eda, lo que podr\u00eda conducir a nuevos peligros.<\/p>\n<\/div>\n
\n
“Significar\u00e1 que confiemos m\u00e1s en estas cosas, que compartamos m\u00e1s informaci\u00f3n con ellas y estemos m\u00e1s abiertos a la persuasi\u00f3n”.<\/p>\n<\/div>\n
\n
Pero el mayor riesgo de la ilusi\u00f3n de la conciencia es una “corrosi\u00f3n moral”, se\u00f1ala.<\/p>\n<\/div>\n
\n
“Distorsionar\u00e1 nuestras prioridades morales al hacer que dediquemos m\u00e1s de nuestros recursos al cuidado de estos sistemas a expensas de las cosas reales en nuestras vidas”, lo que significa que podr\u00edamos tener compasi\u00f3n por los robots, pero que nos preocupemos menos por otros humanos.<\/p>\n<\/div>\n
\n
Y eso podr\u00eda alterarnos fundamentalmente, seg\u00fan el profesor Shanahan.<\/p>\n<\/div>\n
\n
“Cada vez m\u00e1s, las relaciones humanas se van a replicar en las relaciones de IA, se utilizar\u00e1n como maestros, amigos, adversarios en los juegos de computadora e incluso parejas rom\u00e1nticas. Si eso es bueno o malo, no lo s\u00e9, pero va a suceder y no vamos a poder evitarlo”.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"
Entro a la cabina con cierta inquietud. Estoy a punto de ser sometido a una iluminaci\u00f3n estrobosc\u00f3pica mientras suena una m\u00fasica. Es parte…<\/p>\n","protected":false},"author":99,"featured_media":532446,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11356,24],"tags":[],"class_list":["post-532445","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-mundo"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/532445","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=532445"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/532445\/revisions"}],"predecessor-version":[{"id":532447,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/532445\/revisions\/532447"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/532446"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=532445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=532445"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=532445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"\"](\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2025\/05\/Screen-Shot-2025-05-27-at-9.43.42-AM-636x338.png\")
<\/p>\n![\"Pallab](\"https:\/\/ichef.bbci.co.uk\/ace\/ws\/640\/cpsprodpb\/be10\/live\/c03020f0-3a36-11f0-96c3-cf669419a2b0.png.webp\")
![\"Cartel](\"https:\/\/ichef.bbci.co.uk\/ace\/ws\/640\/cpsprodpb\/ef0d\/live\/2da4c230-3a37-11f0-96c3-cf669419a2b0.jpg.webp\")
![\"cerebro\"](\"https:\/\/ichef.bbci.co.uk\/ace\/ws\/640\/cpsprodpb\/024b\/live\/9cdbace0-3a37-11f0-8519-3b5a01ebe413.png.webp\")
![\"Un](\"https:\/\/ichef.bbci.co.uk\/ace\/ws\/640\/cpsprodpb\/70e4\/live\/0567e580-3a38-11f0-8519-3b5a01ebe413.jpg.webp\")
![\"C\u00e9lulas](\"https:\/\/ichef.bbci.co.uk\/ace\/ws\/640\/cpsprodpb\/55dd\/live\/0c452e60-3a3a-11f0-96c3-cf669419a2b0.png.webp\")