{"id":510324,"date":"2023-05-03T11:08:14","date_gmt":"2023-05-03T15:08:14","guid":{"rendered":"https:\/\/diarioelpopular.com\/?p=510324"},"modified":"2023-05-03T11:08:14","modified_gmt":"2023-05-03T15:08:14","slug":"geoffrey-hinton-padrino-de-la-inteligencia-artificial-en-este-momento-los-sistemas-de-ia-no-son-mas-inteligentes-que-nosotros-pero-creo-que-pronto-lo-seran","status":"publish","type":"post","link":"https:\/\/diarioelpopular.com\/index.php\/2023\/05\/03\/geoffrey-hinton-padrino-de-la-inteligencia-artificial-en-este-momento-los-sistemas-de-ia-no-son-mas-inteligentes-que-nosotros-pero-creo-que-pronto-lo-seran\/","title":{"rendered":"Geoffrey Hinton, “padrino de la inteligencia artificial”: “En este momento los sistemas de IA no son m\u00e1s inteligentes que nosotros, pero creo que pronto lo ser\u00e1n”"},"content":{"rendered":"

\"\"<\/p>\n

Geoffrey Hinton advirti\u00f3 sobre el riesgo de que la IA caiga en manos de “malos actores”.<\/em><\/h5>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

\n
    \n
  • Geoffrey Hinton es conocido como “el padrino de la inteligencia artificial”.<\/b><\/em><\/li>\n<\/ul>\n

    \n<\/div>\n

    \n

    Fue pionero en la investigaci\u00f3n de redes neuronales y aprendizaje profundo, que allan\u00f3 el camino para el desarrollo de sistemas actuales de Inteligencia Artificial (IA) como ChatGPT.<\/p>\n<\/div>\n

    \n

    En esta \u00e1rea tecnol\u00f3gica, las redes neuronales son sistemas similares al cerebro humano por la forma en que aprenden y procesan la informaci\u00f3n. Permiten que los sistemas de IA aprendan de la experiencia, como lo har\u00eda una persona. Esto se llama aprendizaje profundo.<\/p>\n<\/div>\n

    \n

    Despu\u00e9s de renunciar a su trabajo en Google, el inform\u00e1tico brit\u00e1nico-canadiense se atrevi\u00f3 a cuestionar p\u00fablicamente la actual carrera entre compa\u00f1\u00edas tecnol\u00f3gicas para desarrollar productos de IA.<\/p>\n<\/div>\n

    \n

    Hinton, de 75 a\u00f1os, asegura que\u00a0esta tecnolog\u00eda amenaza a la humanidad porque funciona mejor que el cerebro humano y nadie puede garantizar que podr\u00e1 ser controlada.<\/p>\n<\/div>\n

    <\/div>\n
    \n

    A corto plazo, advierte de tres peligros: la creaci\u00f3n de contenido digital cuya veracidad ser\u00e1 imposible de comprobar para el “usuario promedio”, el reemplazo de trabajadores en una amplia gama de oficios y que los sistemas de IA se conviertan un d\u00eda en armas aut\u00f3nomas, especies de “robots asesinos”.<\/p>\n<\/div>\n

    \n

    Hinton dijo que los chatbots podr\u00edan superar pronto el nivel de informaci\u00f3n que contiene un cerebro humano, avances que cree que son “bastante aterradores”.<\/p>\n

    \n<\/div>\n

    \n
    \n
    \n
    \n
    \n
    \n
    \"Un<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>
    \n
    Un cerebro humano digital, hecho de redes interconectadas.<\/em><\/h5>\n<\/figcaption><\/figure>\n

     <\/p>\n

    \n
    \n
    <\/div>\n<\/div>\n<\/figure>\n<\/div>\n
    \n

    \u00bfPor qu\u00e9 tom\u00f3 la decisi\u00f3n de renunciar a Google y hacer estas cr\u00edticas contra el desarrollo de la IA?<\/b><\/p>\n<\/div>\n

    \n

    Hab\u00eda varias razones. Una es que tengo 75 a\u00f1os, as\u00ed que es hora de retirarme.<\/p>\n<\/div>\n

    \n

    Otra raz\u00f3n es que quiero decir algunas cosas buenas sobre Google y son m\u00e1s cre\u00edbles si no trabajo para ellos.<\/p>\n<\/div>\n

    \n

    Y por \u00faltimo, quer\u00eda tener la libertad de hablar sobre los peligros de la IA sin preocuparme por el impacto que pueda tener en Google.<\/p>\n<\/div>\n

    \n

    Usted dijo que Google actu\u00f3 de manera muy responsable. \u00bfHabr\u00eda sido m\u00e1s efectivo su mensaje si hubiera estado dentro de la compa\u00f1\u00eda, con la capacidad de dirigir las decisiones?<\/b><\/p>\n<\/div>\n

    \n

    Pens\u00e9 eso por un tiempo y puede ser cierto. Pero creo que ahora puedo hablar libremente sobre cu\u00e1les podr\u00edan ser los peligros y algunos de ellos son bastante aterradores.<\/p>\n<\/div>\n

    \n

    Lo importante es que muchos buenos cient\u00edficos han trabajado en el tema de c\u00f3mo podemos controlar estas cosas si llegan a ser m\u00e1s inteligentes que nosotros.<\/p>\n<\/div>\n

    \n

    \u00bfConf\u00eda en las empresas de tecnolog\u00eda para avanzar sobre estos temas con responsabilidad?<\/b><\/p>\n<\/div>\n

    \n

    Creo que un problema es que Microsoft decidi\u00f3 poner uno de estos chatbots avanzados en (el buscador) Bing y en otros productos y Google no tiene m\u00e1s remedio que responder a eso. No puede simplemente sentarse y no competir con Microsoft.<\/p>\n<\/div>\n

    \n

    Antes de eso, Google estaba a la cabeza de la IA y opt\u00f3 por no publicar estas cosas debido a todos los peligros. Los usaron internamente para mejorar la b\u00fasqueda, pero en realidad no los dieron a conocer al p\u00fablico, a pesar de que ten\u00edan chatbots, debido a los peligros potenciales.<\/p>\n<\/div>\n

    \n

    Creo que Google ha sido responsable en ese sentido. Pero s\u00f3lo puedes hacer eso cuando est\u00e1s a la cabeza. Si est\u00e1s compitiendo con la compa\u00f1\u00eda que est\u00e1 usando estas cosas, tambi\u00e9n tienes que usarlas.<\/p>\n

    \n<\/div>\n

    \n
    \n
    \n
    \n
    \n
    \n
    \"Logos<\/div>\n<\/div>\n

    \n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n<\/div>\n

    \n

    \n

    Microsoft no lleg\u00f3 a esta tecnolog\u00eda por su cuenta. Usted ha sido parte de la investigaci\u00f3n que condujo a este desarrollo durante a\u00f1os. \u00bfQui\u00e9n es responsable de que la IA haya alcanzado el punto donde est\u00e1 ahora?<\/b><\/p>\n<\/div>\n

    \n

    Somos cient\u00edficos. Estamos explorando lo que sucede cuando entrenamos grandes redes neuronales de computadoras y por eso terminamos aqu\u00ed.<\/p>\n<\/div>\n

    \n

    Es una de esas cosas que no hay forma de que la gente no vaya a explorar. El problema es que ahora que descubrimos que funciona mejor de lo que esper\u00e1bamos hace unos a\u00f1os, \u00bfqu\u00e9 hacemos para mitigar los riesgos a largo plazo? Cosas m\u00e1s inteligentes que nosotros tomando el control.<\/p>\n<\/div>\n

    \n

    Hablemos de esos riesgos. Usted dijo que le preocupan los malos actores. \u00bfQu\u00e9 es lo que m\u00e1s le inquieta con respecto a c\u00f3mo se podr\u00eda utilizar esta tecnolog\u00eda?<\/b><\/p>\n<\/div>\n

    \n

    Se ha hablado mucho sobre la posibilidad de producir autom\u00e1ticamente textos con informaci\u00f3n falsa. Se pueden crear herramientas muy efectivas que permitan a l\u00edderes autoritarios manipular a sus electores, por ejemplo.<\/p>\n<\/div>\n

    \n

    Pero quiero hablar en particular del riesgo existencial de lo que sucede cuando estas cosas se vuelven m\u00e1s inteligentes que nosotros. Recientemente llegu\u00e9 a la conclusi\u00f3n de que el tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos.<\/p>\n<\/div>\n

    \n

    Somos sistemas biol\u00f3gicos y estos son sistemas digitales. La gran diferencia con los sistemas digitales es que tienes muchas copias del mismo conjunto, del mismo modelo del mundo, y todas estas copias pueden aprender por separado pero comparten su conocimiento al instante.<\/p>\n<\/div>\n

    \n

    Es como si tuvi\u00e9ramos 10.000 personas y cada vez que una aprende algo, todas las dem\u00e1s lo aprenden autom\u00e1ticamente. As\u00ed es como estos sistemas logran saber mucho m\u00e1s que el resto.<\/p>\n

    \n<\/div>\n

    \n
    \n
    \n
    \n
    \n
    \n
    \"DeepMind<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>
    \n
    Las redes neronales se usan para ense\u00f1ar a las m\u00e1quinas a jugar y competir con humanos.<\/em><\/h5>\n<\/figcaption><\/figure>\n

     <\/p>\n

    \n
    \n
    <\/div>\n<\/div>\n<\/figure>\n<\/div>\n
    \n

    Ha dicho que no sabemos exactamente c\u00f3mo funciona el cerebro humano. \u00bfC\u00f3mo podemos estar seguros de que lo que acaba de describir eclipsa a la inteligencia humana?<\/b><\/p>\n<\/div>\n

    \n

    No lo sabemos. En este momento lo que estamos viendo son cosas como que Chat GPT-4 eclipsa a una persona en la cantidad de conocimiento general.<\/p>\n<\/div>\n

    \n

    En t\u00e9rminos de razonamiento no es tan bueno, todav\u00eda no hace un razonamiento simple, pero dado el ritmo de progreso, presumimos que las cosas mejoren bastante r\u00e1pido. As\u00ed que tenemos que preocuparnos por eso.<\/p>\n<\/div>\n

    \n

    En este momento (los sistemas de IA) no son m\u00e1s inteligentes que nosotros, pero creo que pronto lo ser\u00e1n.<\/p>\n<\/div>\n

    \n

    \u00bfQu\u00e9 pasa con las oportunidades que ofrece esta tecnolog\u00eda? Por ejemplo, para detectar enfermedades mejor que lo que pueden hacer los m\u00e9dicos humanos.<\/b><\/p>\n<\/div>\n

    \n

    Esa es una de las razones por las que he estado trabajando en IA tanto tiempo, porque va a ser extremadamente beneficioso para cosas como esa.<\/p>\n<\/div>\n

    \n

    La capacidad de estos grandes chatbots de saber mucho m\u00e1s que nadie los har\u00eda mejores que el m\u00e9dico de familia est\u00e1ndar. Ser\u00edan como un m\u00e9dico que ha visto a diez millones de pacientes y probablemente est\u00e9 viendo a muchos con los mismos problemas por los que t\u00fa acudes al m\u00e9dico.<\/p>\n<\/div>\n

    \n

    \u00bfCu\u00e1l es el equilibrio entre el riesgo y el beneficio?<\/b><\/p>\n<\/div>\n

    \n

    A corto plazo, creo que obtenemos muchos m\u00e1s beneficios que riesgos. No creo que debamos dejar de desarrollar estas cosas (…) Ver sus usos puede ser muy beneficioso y eso alentar\u00e1 a las personas a seguir desarroll\u00e1ndola.<\/p>\n<\/div>\n

    \n

    Pero debemos pensar detenidamente en c\u00f3mo podemos desarrollarla sin que pueda ser controlada.<\/p>\n

    \n<\/div>\n

    \n
    \n
    \n
    \n
    \n
    \"Personas<\/div>\n

    \n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n

    \n

    \n

    Algunos de sus antiguos alumnos y expertos en la industria di<\/b>cen<\/b>\u00a0que los riesgos que est\u00e1 describiendo son hipot\u00e9ticos. \u00bfD\u00f3nde estamos ahora? \u00bfHemos ido ya demasiado lejos con esta tecnolog\u00eda?<\/b><\/p>\n<\/div>\n

    \n

    No lo sabemos. Creo que si dejas de desarrollarla ahora, este riesgo existencial se mitigar\u00eda. No creo que las cosas permanezcan como est\u00e1n. Obviamente vamos a desarrollar mucho m\u00e1s porque (estos sistemas) son muy \u00fatiles. Y luego tenemos que preocuparnos por lo que va a pasar.<\/p>\n<\/div>\n

    \n

    Hago esta reflexi\u00f3n p\u00fablicamente para alentar a las personas a pensar muy en serio sobre lo que van a hacer para asegurarse de que si desarrollamos cosas m\u00e1s inteligentes que nosotros, esas cosas no tomen el control.<\/p>\n<\/div>\n

    \n

    \u00bfPodr\u00eda darnos una idea, quiz\u00e1s no a corto pero s\u00ed a m\u00e1s largo plazo, de c\u00f3mo podr\u00eda verse la IA dentro de nuestras vidas?<\/b><\/p>\n<\/div>\n

    \n

    Me refiero a este como el peor de los casos, el escenario de la pesadilla. Puedes imaginar, por ejemplo, a alg\u00fan mal actor como (Vladimir) Putin decidiendo dar a los robots la capacidad de crear sus propios subobjetivos.<\/p>\n<\/div>\n

    \n

    \u00bfQu\u00e9 significa esto? Tengo un objetivo, por ejemplo, llegar al aeropuerto. Luego debo configurar el subobjetivo de conseguir un taxi, por lo que mi subobjetivo es llamar a un Uber.<\/p>\n<\/div>\n

    \n

    La capacidad de crear subobjetivos hace que los agentes sean mucho m\u00e1s efectivos. As\u00ed que le dar\u00e1s a los soldados robots la capacidad de crear subobjetivos. Pero una vez que haces eso, entonces pueden crear subobjetivos como “necesito obtener m\u00e1s poder”, porque si obtienen m\u00e1s poder, podr\u00e1n lograr mejor sus objetivos.<\/p>\n<\/div>\n

    \n

    Ves esto incluso en beb\u00e9s con sus madres. La madre le da al beb\u00e9 la cuchara para que se alimente solo. El beb\u00e9 deja caer la cuchara al suelo para que la madre la recoja y se la devuelva. El beb\u00e9 vuelve a dejarla caer al suelo para ver si logra que la madre la recoja de nuevo. Intenta controlar a su madre.<\/p>\n<\/div>\n

    \n

    Estas son empresas privadas en competencia por trabajar\u00a0<\/b>co<\/b>n esta tecnolog\u00eda. \u00bfQu\u00e9 pueden hacer las autoridades para cambiar la direcci\u00f3n de los acontecimientos si hay un problema?<\/b><\/p>\n<\/div>\n

    \n

    Soy un experto en la ciencia, no en pol\u00edtica. Lo que diga sobre esto no proviene de una experticia, pero debe haber algo que puedan hacer. Tiene que ser el gobierno el que desarrolle (esta tecnolog\u00eda) con mucha reflexi\u00f3n sobre c\u00f3mo detenerla si se rebela.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

    Geoffrey Hinton advirti\u00f3 sobre el riesgo de que la IA caiga en manos de “malos actores”.       Geoffrey Hinton es conocido como “el…<\/p>\n","protected":false},"author":99,"featured_media":510325,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11356,24],"tags":[],"class_list":["post-510324","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-mundo"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510324","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=510324"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510324\/revisions"}],"predecessor-version":[{"id":510326,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510324\/revisions\/510326"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/510325"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=510324"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=510324"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=510324"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}