![\"\"](\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/04\/129417996_gettyimages-1471444504.webp_-636x358.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
– Los desarrolladores de inteligencia artificial (IA) de Google se encontraron hace poco con la misteriosa “caja negra”.<\/b><\/em><\/p>\n \n<\/div>\n Unos ingenieros estaban trabajando en un software de IA que, de manera inesperada,\u00a0adquiri\u00f3 la habilidad de entender un nuevo idioma.<\/p>\n<\/div>\n “Descubrimos que con muy pocas indicaciones en bengal\u00ed, ahora puede traducir todo el bengal\u00ed”, cont\u00f3 James Maneka, el jefe de la divisi\u00f3n de IA de Google, en la reciente emisi\u00f3n del programa\u00a060 Minutes<\/i>, de la cadena CBS.<\/p>\n<\/div>\n Al comentar al respecto, el director ejecutivo de Google, Sundar Pichai, dijo que esta capacidad de los programas de IA de generar habilidades u ofrecer respuestas de manera inesperada\u00a0es lo que los expertos llaman la “caja negra”.<\/p>\n<\/div>\n “No lo entiendes del todo. No puedes decir muy bien por qu\u00e9 [el robot] dijo esto o por qu\u00e9 se equivoc\u00f3 en esto otro. Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ah\u00ed es donde estamos hasta ahora”, se\u00f1al\u00f3.<\/p>\n<\/div>\n El desarrollo de la inteligencia artificial se ha acelerado en los \u00faltimos a\u00f1os. Las grandes firmas tecnol\u00f3gicas est\u00e1n invirtiendo importantes sumas para generar\u00a0chatbots como Bard, de Google, o ChatGPT, de OpenAi y Microsoft.\u00a0M\u00e1s recientemente el multimillonario\u00a0Elon Musk\u00a0anunci\u00f3 que entrar\u00eda a esta carrera.<\/p>\n<\/div>\n <\/p>\n Al mismo tiempo, expertos en AI han se\u00f1alado que puede haber riesgos si la tecnolog\u00eda no es controlada por sus desarrolladores, como el que adquieran habilidades para las que no fueron instruidas.<\/p>\n<\/div>\n En este \u00faltimo escenario es en donde habita la caja negra.<\/p>\n<\/div>\n La idea de la caja negra es la parte opuesta a lo que los expertos en IA llaman caja blanca.<\/p>\n<\/div>\n Ian Hogarth, cofundador de la empresa tecnol\u00f3gica Plural y autor del libro\u00a0The Status of AI Reports<\/i>, explica a la BBC que cuando los desarrolladores de software crean un programa de manera “tradicional”, las l\u00edneas de c\u00f3digo que introducen\u00a0se reflejan claramente en el resultado\u00a0que arroja el software.<\/p>\n<\/div>\n “A veces la gente lo describe como una caja blanca”, se\u00f1ala.<\/p>\n<\/div>\n “Pero en la IA, los sistemas son realmente muy diferentes. Est\u00e1n m\u00e1s cerca de una caja negra en muchos sentidos,\u00a0pues\u00a0no entiendes realmente lo que sucede dentro”, a\u00f1ade.<\/p>\n<\/div>\n Y es que los programadores no esperan que arrojen resultados tan creativos.<\/p>\n<\/div>\n “Me gusta pensar que las cultivamos. Esa es la mejor idea que he o\u00eddo sobre c\u00f3mo construimos estos sistemas hoy en d\u00eda. Y lo dif\u00edcil es que, a medida que las desarrollamos, se producen grandes saltos bruscos en sus capacidades”, explica.<\/p>\n<\/div>\n \n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n<\/div>\n \n A diferencia de la programaci\u00f3n de software m\u00e1s tradicional, basada en la implementaci\u00f3n de instrucciones para obtener un resultado, en el desarrollo de IA los ingenieros trabajan para conseguir\u00a0un sistema que imite las “redes neuronales”\u00a0de la inteligencia humana.<\/p>\n<\/div>\n Esto involucra una gran cantidad de procesadores interconectados que pueden\u00a0manejar grandes cantidades de datos, detectar patrones entre millones de variables\u00a0utilizando el aprendizaje autom\u00e1tico y, m\u00e1s importante,\u00a0autoadaptarse\u00a0en respuesta a lo que est\u00e1n haciendo.<\/p>\n<\/div>\n David Stern, gerente de investigaci\u00f3n cuantitativa en G-Research, una empresa de tecnolog\u00eda que utiliza el aprendizaje autom\u00e1tico para predecir precios en los mercados financieros, advierte que “el progreso m\u00e1s r\u00e1pido en la investigaci\u00f3n de IA en los \u00faltimos a\u00f1os ha implicado un enfoque de caja negra cada vez m\u00e1s basado en datos”.<\/p>\n<\/div>\n “En el enfoque de red neuronal que es tendencia en la actualidad, este procedimiento de entrenamiento determina la configuraci\u00f3n de millones de par\u00e1metros internos que interact\u00faan de manera compleja y son muy dif\u00edciles de explicar y aplicar ingenier\u00eda inversa”, se\u00f1al\u00f3 a la BBC.<\/p>\n<\/div>\n Otra tendencia es el “aprendizaje de refuerzo profundo” en el que un “dise\u00f1ador simplemente especifica los objetivos de comportamiento del sistema y este aprende autom\u00e1ticamente interactuando directamente con el entorno”, expone.<\/p>\n<\/div>\n “Esto da como resultado un sistema que es a\u00fan m\u00e1s dif\u00edcil de entender”.<\/p>\n<\/div>\n Ian Hogarth hace notar que, aunque los nuevos chatbots como Bard y ChatGPT parecen una ser tecnolog\u00eda surgida muy recientemente, en realidad son producto de una d\u00e9cada de investigaci\u00f3n y desarrollo.<\/p>\n<\/div>\n “Si nos remontamos a 2012 y comparamos los sistemas que est\u00e1bamos creando entonces y los sistemas que estamos creando ahora, hemos aumentado de manera muy consistente la cantidad de datos y la potencia de c\u00e1lculo en el desarrollo de los modelos de IA”, explic\u00f3 a la BBC.<\/p>\n<\/div>\n “Hemos aumentado la cantidad de potencia de c\u00e1lculo consumida por estos modelos en aproximadamente 100 millones en la \u00faltima d\u00e9cada. As\u00ed que,\u00a0aunque en la pr\u00e1ctica ChatGPT parezca que surgi\u00f3 de la nada para la mayor\u00eda de las personas, esta es una tendencia de muy larga data que continuar\u00e1”.<\/p>\n<\/div>\n \n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n \n Las nuevas capacidades de robots que se han dado a conocer recientemente han generado cuestionamientos sobre las diversas formas en las que tendr\u00e1n influencia en la sociedad, desde los impactos en el mercado laboral hasta el control de procesos de seguridad p\u00fablica o el \u00e1mbito militar.<\/p>\n<\/div>\n En el programa de\u00a060 Minutes<\/i>, el director ejecutivo de Google fue cuestionado sobre el hecho de que los ingenieros no comprendan por completo c\u00f3mo pasan cosas en la caja negra, pero a\u00fan as\u00ed ya est\u00e9n funcionando chatbots como Bard.<\/p>\n<\/div>\n “Perm\u00edtanme decirlo de esta manera: tampoco creo que entendamos completamente c\u00f3mo funciona la mente humana”, respondi\u00f3 Sundar Pichai, quien considera que la llegada progresiva de la IA a la sociedad\u00a0es una manera de acostumbrarse a ella.<\/p>\n<\/div>\n “Creo que en el desarrollo de esto debe incluirse no solo a ingenieros, sino tambi\u00e9n a cient\u00edficos sociales, especialistas en \u00e9tica, fil\u00f3sofos, etc\u00e9tera. Y tenemos que ser muy reflexivos. Estas son las cosas que la sociedad necesita resolver a medida que avanzamos.\u00a0No le corresponde a una empresa decidir”, se\u00f1al\u00f3 a 60 Minutes.<\/p>\n<\/div>\n Ian Hogarth tambi\u00e9n considera que la IA terminar\u00e1 por tocar la vida de la gente y es necesario un di\u00e1logo abierto sobre sus impactos.<\/p>\n<\/div>\n “Creo que tiene un potencial notable para transformar todos los aspectos de nuestras vidas. En cierto modo, es quiz\u00e1s la tecnolog\u00eda actual m\u00e1s poderosa. Lo principal es que deber\u00edamos tener un debate mucho m\u00e1s p\u00fablico sobre la rapidez con la que progresan estos sistemas y lo diferentes que son de las generaciones anteriores de software”, concluye.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":" – Los desarrolladores de inteligencia artificial (IA) de Google se encontraron hace poco con la misteriosa “caja negra”. Unos ingenieros estaban trabajando en un…<\/p>\n","protected":false},"author":99,"featured_media":510043,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24,11355],"tags":[],"class_list":["post-510042","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-mundo","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510042","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=510042"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510042\/revisions"}],"predecessor-version":[{"id":510044,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/510042\/revisions\/510044"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/510043"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=510042"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=510042"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=510042"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n<\/div>\n\n\n\n\n\n\n![\"Una](\"https:\/\/ichef.bbci.co.uk\/news\/640\/cpsprodpb\/0B98\/production\/_129086920_gettyimages-1249047528.jpg\")
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>Bard ofrece respuestas a preguntas o instrucciones que le d\u00e9 el usuario, al igual que otros chatbots como ChatGPT.<\/em><\/h5>\n<\/figcaption><\/figure>\n
\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n\n\n\nLa caja blanca<\/h2>\n<\/div>\n
\n\n\n\n\n\n\n\n\n\n\n![\"Personas](\"https:\/\/ichef.bbci.co.uk\/news\/640\/cpsprodpb\/0051\/production\/_129418000_gettyimages-616902766.jpg\")
<\/div>\n\n\n\n\n\n\n\n\u00bfDebe preocuparnos?<\/h2>\n<\/div>\n
\n\n\n\n\n\n\n![\"Logos](\"https:\/\/ichef.bbci.co.uk\/news\/640\/cpsprodpb\/59B8\/production\/_129086922_gettyimages-1246879766.jpg\")
<\/div>\n\n\n\n\n\n\n