{"id":511191,"date":"2023-06-30T08:48:21","date_gmt":"2023-06-30T12:48:21","guid":{"rendered":"https:\/\/diarioelpopular.com\/?p=511191"},"modified":"2023-06-30T08:48:21","modified_gmt":"2023-06-30T12:48:21","slug":"el-padrino-de-la-ia-comparte-6-formas-en-que-la-tecnologia-podria-danar-a-los-humanos","status":"publish","type":"post","link":"https:\/\/diarioelpopular.com\/index.php\/2023\/06\/30\/el-padrino-de-la-ia-comparte-6-formas-en-que-la-tecnologia-podria-danar-a-los-humanos\/","title":{"rendered":"&#8216;El padrino de la IA&#8217; comparte 6 formas en que la tecnolog\u00eda podr\u00eda da\u00f1ar a los humanos"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-custom-full-size wp-image-511192\" src=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM-636x392.png\" alt=\"\" width=\"636\" height=\"392\" srcset=\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM-636x392.png 636w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM-300x185.png 300w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM-768x474.png 768w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM-118x73.png 118w, https:\/\/diarioelpopular.com\/wp-content\/uploads\/2023\/06\/Screen-Shot-2023-06-30-at-8.47.45-AM.png 1024w\" sizes=\"auto, (max-width: 636px) 100vw, 636px\" \/><\/p>\n<p>&nbsp;<\/p>\n<ul>\n<li><em><strong>Los avances en torno a la tecnolog\u00eda de inteligencia artificial est\u00e1n empujando al mundo a &#8220;un per\u00edodo de gran incertidumbre&#8221;, seg\u00fan el pionero de la IA Geoffrey Hinton. A medida que la tecnolog\u00eda se vuelve m\u00e1s inteligente, el &#8220;padrino de la IA&#8221; destaca seis da\u00f1os que puede representar para los humanos.<\/strong><\/em><\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p>Mientras hablaba en la conferencia tecnol\u00f3gica Collision de este a\u00f1o en Toronto, Hinton explic\u00f3 que parte del peligro en torno al uso de IA se deriva de la posibilidad de que pueda desarrollar un deseo de controlar a otros.<\/p>\n<p>\u201cTenemos que tomarnos en serio la posibilidad de que si llegan a ser m\u00e1s inteligentes que nosotros, lo que parece bastante probable, y tienen objetivos propios, lo que parece bastante probable, es posible que desarrollen el objetivo de tomar el control\u201d, dijo Hinton. \u201cSi hacen eso, estamos en problemas\u201d.<\/p>\n<p>El psic\u00f3logo cognitivo e inform\u00e1tico renunci\u00f3 a Google a principios de este a\u00f1o para hablar m\u00e1s abiertamente sobre los peligros potenciales de la IA. Hinton ha estado expresando sus preocupaciones durante meses, ya que la tecnolog\u00eda de inteligencia artificial se ha vuelto m\u00e1s accesible para el p\u00fablico a trav\u00e9s de herramientas como ChatGPT.<\/p>\n<p>El uso del chatbot de IA se ha disparado desde su lanzamiento en noviembre de 2022. Desarrollada por OpenAI, una empresa de investigaci\u00f3n de inteligencia artificial, la herramienta es capaz de imitar una conversaci\u00f3n similar a la humana en respuesta a las indicaciones enviadas por los usuarios. Como modelo de lenguaje grande, ChatGPT digiere cantidades sustanciales de datos en forma de texto y proporciona respuestas basadas en la informaci\u00f3n que ha ingerido.<\/p>\n<p>Pero adem\u00e1s de plantear cuestiones \u00e9ticas relacionadas con el plagio y la divulgaci\u00f3n de informaci\u00f3n personal, ChatGPT tambi\u00e9n ha producido resultados ofensivos y tendenciosos.<\/p>\n<p>Hinton ocup\u00f3 el centro del escenario en la conferencia y habl\u00f3 con cientos de asistentes, algunos de los cuales se sentaron en el suelo despu\u00e9s de que los asientos se llenaran r\u00e1pidamente. M\u00e1s de 40 000 personas de todo el mundo acudieron a Toronto para la conferencia tecnol\u00f3gica Collision de este a\u00f1o, y casi todas las charlas se refirieron a las amplias implicaciones de la IA.<\/p>\n<p>En su conversaci\u00f3n con Nick Thompson, CEO de The Atlantic, Hinton dijo que los modelos de lenguaje extenso \u201ctodav\u00eda no pueden igualar\u201d el razonamiento humano, aunque se est\u00e1n acercando. Cuando Thompson pregunt\u00f3 si hay algo que los humanos puedan hacer que un gran modelo de lenguaje no pueda replicar en el futuro, Hinton respondi\u00f3 con un &#8220;No&#8221;.<\/p>\n<p>\u201cSolo somos una m\u00e1quina\u2026 somos solo una gran red neuronal\u201d, dijo el cient\u00edfico brit\u00e1nico-canadiense. \u201cNo hay ninguna raz\u00f3n por la que una red neuronal artificial no pueda hacer todo lo que nosotros podemos hacer\u201d.<\/p>\n<p>Otro &#8220;padrino de la IA&#8221;, el cient\u00edfico inform\u00e1tico Yann LeCun, comparti\u00f3 su punto de vista sobre la inteligencia artificial en la conferencia Viva Technology en Par\u00eds a principios de este mes, y la describi\u00f3 como &#8220;intr\u00ednsecamente buena&#8221;.<\/p>\n<p>Hinton, LeCun y Yoshua Bengio ganaron el A.M. Premio Turing, conocido como el Premio Nobel de computaci\u00f3n, en 2018.<\/p>\n<p>\u201cEl efecto de la IA es hacer que las personas sean m\u00e1s inteligentes\u201d, dijo LeCun el 14 de junio. \u201cPuedes pensar en la IA como un amplificador de la inteligencia humana y cuando las personas son m\u00e1s inteligentes, suceden mejores cosas\u201d.<\/p>\n<p>Sin embargo, Hinton se muestra esc\u00e9ptico de que la IA dise\u00f1ada con buenas intenciones prevalezca sobre la tecnolog\u00eda desarrollada por malos actores.<\/p>\n<p>\u201cNo estoy convencido de que la IA buena que est\u00e1 tratando de evitar que la IA mala obtenga el control gane\u201d, dijo.<\/p>\n<p>A continuaci\u00f3n se presentan seis peligros clave que la IA puede representar para los humanos, seg\u00fan Hinton:<\/p>\n<p><em><strong>1. SESGO Y DISCRIMINACI\u00d3N<\/strong><\/em><br \/>\nAl entrenar con conjuntos de datos sesgados, la tecnolog\u00eda de IA y los modelos de lenguaje extenso como ChatGPT son capaces de producir respuestas igualmente sesgadas, dijo Hinton.<\/p>\n<p>Por ejemplo, una publicaci\u00f3n de un usuario de Twitter en diciembre de 2022 muestra que el chatbot escribi\u00f3 un c\u00f3digo que dec\u00eda que solo los hombres blancos o asi\u00e1ticos ser\u00edan buenos cient\u00edficos, una respuesta que se habr\u00eda derivado de los datos con los que se entren\u00f3. La respuesta de ChatGPT al aviso se ha actualizado desde entonces y OpenAI ha dicho que est\u00e1 trabajando para reducir los sesgos en el sistema de la herramienta.<\/p>\n<p>A pesar de estos desaf\u00edos, Hinton dijo que es relativamente f\u00e1cil limitar el potencial de sesgo y discriminaci\u00f3n congelando el comportamiento exhibido por esta tecnolog\u00eda, analiz\u00e1ndolo y ajustando los par\u00e1metros para corregirlo.<\/p>\n<p><em><strong>2. ROBOTS DE BATALLA<\/strong><\/em><br \/>\nLa idea de que las fuerzas armadas de todo el mundo produzcan armas aut\u00f3nomas letales, como robots de combate, es realista, dijo Hinton.<\/p>\n<p>\u201cLos departamentos de defensa los van a construir y no veo c\u00f3mo puedes evitar que lo hagan\u201d, dijo.<\/p>\n<p>Puede ser \u00fatil desarrollar un tratado similar a las Convenciones de Ginebra para establecer est\u00e1ndares legales internacionales sobre la prohibici\u00f3n del uso de este tipo de tecnolog\u00eda, dijo Hinton. Pero tal acuerdo debe desarrollarse m\u00e1s temprano que tarde, dijo.<\/p>\n<p>El mes pasado, una conferencia de pa\u00edses detr\u00e1s de una Convenci\u00f3n sobre Ciertas Armas Convencionales se reuni\u00f3 para discutir sistemas letales de armas aut\u00f3nomas. Sin embargo, despu\u00e9s de 10 a\u00f1os de deliberaci\u00f3n, a\u00fan no existen leyes y reglamentos internacionales sobre el uso de estos sistemas de armas.<\/p>\n<p>A pesar de esto, es probable que dicha tecnolog\u00eda contin\u00fae desarroll\u00e1ndose. En cuanto a la guerra en curso en Ucrania, el ministro de transformaci\u00f3n digital del pa\u00eds, Mykhailo Fedorov, dijo que los drones asesinos totalmente aut\u00f3nomos eran &#8220;un pr\u00f3ximo paso l\u00f3gico e inevitable&#8221; en el desarrollo de armas, seg\u00fan The Associated Press.<\/p>\n<p><em><strong>3. DESEMPLEO<\/strong><\/em><br \/>\nEl desarrollo de grandes modelos de lenguaje ayudar\u00e1 a aumentar la productividad entre los empleados y, en algunos casos, puede reemplazar los trabajos de las personas que producen texto, dijo Hinton.<\/p>\n<p>Otros expertos tambi\u00e9n han compartido sus preocupaciones sobre el potencial de la IA para reemplazar el trabajo humano en el mercado laboral. Pero es m\u00e1s probable que los empleadores usen IA para reemplazar tareas individuales en lugar de trabajos completos, dijo Anil Verma, profesor em\u00e9rito de relaciones industriales y gesti\u00f3n de recursos humanos en la Escuela de Administraci\u00f3n Rotman de la Universidad de Toronto.<\/p>\n<p>Adem\u00e1s, la adopci\u00f3n de esta tecnolog\u00eda ocurrir\u00e1 \u201cgradualmente\u201d, dijo Verma, quien se especializa en el impacto de la IA y las tecnolog\u00edas digitales en las habilidades y los trabajos.<\/p>\n<p>\u201cCon el tiempo, se perder\u00e1n algunos puestos de trabajo, como ha sucedido con cualquier otra ola de tecnolog\u00eda\u201d, dijo Verma a CTVNews.ca en una entrevista telef\u00f3nica el 24 de mayo. \u201cPero sucedi\u00f3 a un ritmo que pudimos ajustar y adaptar. .\u201d<\/p>\n<p>Si bien algunos pueden tener la esperanza de que la IA ayude a generar empleo en nuevos campos, Hinton dijo que no est\u00e1 seguro de si la tecnolog\u00eda crear\u00e1 m\u00e1s empleos de los que eliminar\u00e1.<\/p>\n<p>Su recomendaci\u00f3n para los j\u00f3venes es seguir carreras en \u00e1reas como la plomer\u00eda.<\/p>\n<p>\u201cLos trabajos que van a sobrevivir a la IA durante mucho tiempo son trabajos en los que tienes que ser muy adaptable y f\u00edsicamente h\u00e1bil\u201d, dijo. \u201c[La destreza manual] todav\u00eda es dif\u00edcil [de replicar]\u201d.<\/p>\n<p><em><strong>4. C\u00c1MARAS DE ECO<\/strong><\/em><br \/>\nUn problema que ha existido antes del desarrollo de grandes modelos de lenguaje y es probable que contin\u00fae es el establecimiento de c\u00e1maras de eco en l\u00ednea, dijo Hinton. Son entornos donde los usuarios entran en contacto con creencias o ideas similares a las suyas. Como resultado, estas perspectivas se refuerzan mientras que otras opiniones no son consideradas.<\/p>\n<p>Puede haber programas con algoritmos que usen IA que hayan sido entrenados en la emoci\u00f3n humana para exponer a los usuarios a cierto tipo de contenido, dijo Hinton. Mencion\u00f3 el ejemplo de las grandes empresas que alimentan a los usuarios con contenido que los &#8220;indigna&#8221; para tratar de alentarlos a hacer clic.<\/p>\n<p>Es una pregunta abierta si la IA podr\u00eda usarse para resolver este problema o empeorarlo, dijo Hinton.<\/p>\n<p><em><strong>5. RIESGO EXISTENCIAL<\/strong><\/em><br \/>\nFinalmente, Hinton tambi\u00e9n expres\u00f3 su preocupaci\u00f3n por la amenaza que la IA puede representar para la existencia de la humanidad. Si esta tecnolog\u00eda se vuelve mucho m\u00e1s inteligente que los humanos y es capaz de manipularlos, podr\u00eda hacerse cargo, dijo Hinton. Los seres humanos tienen un fuerte impulso incorporado de obtener el control, y este es un rasgo que la IA tambi\u00e9n podr\u00e1 desarrollar, dijo Hinton.<\/p>\n<p>\u201cCuanto m\u00e1s control tengas, m\u00e1s f\u00e1cil ser\u00e1 lograr las cosas\u201d, dijo. \u201cCreo que la IA tambi\u00e9n podr\u00e1 derivar eso. Es bueno tener el control para poder lograr otras metas\u201d.<\/p>\n<p>Es posible que los humanos no puedan dominar este deseo de control o regular la IA que puede tener malas intenciones, dijo Hinton. Esto podr\u00eda contribuir a la extinci\u00f3n o desaparici\u00f3n de la humanidad. Si bien algunos pueden ver esto como una broma o un ejemplo de alarmismo, Hinton no est\u00e1 de acuerdo.<\/p>\n<p>\u201cNo es solo ciencia ficci\u00f3n\u201d, dijo. \u201cEs un riesgo real en el que debemos pensar y debemos descubrir de antemano c\u00f3mo enfrentarlo\u201d.<\/p>\n<p><em><strong>6. NOTICIAS FALSAS<\/strong><\/em><br \/>\nAI tambi\u00e9n tiene la capacidad de difundir noticias falsas, dijo Hinton. Como resultado, es importante marcar la informaci\u00f3n que es falsa como tal para evitar la desinformaci\u00f3n, dijo.<\/p>\n<p>Hinton se\u00f1al\u00f3 a los gobiernos que han tipificado como delito el uso o la retenci\u00f3n de dinero falsificado a sabiendas, y dijo que se deber\u00eda hacer algo similar con el contenido generado por IA que es deliberadamente enga\u00f1oso. Sin embargo, dijo que no est\u00e1 seguro de si este tipo de enfoque es posible.<\/p>\n<p><em><strong>\u00bfSE PUEDE HACER ALGO PARA AYUDAR?<\/strong><\/em><br \/>\nHinton dijo que no tiene idea de c\u00f3mo hacer que la IA sea m\u00e1s probable que sea una fuerza para el bien que para el mal. Pero antes de que esta tecnolog\u00eda se vuelva incre\u00edblemente inteligente, inst\u00f3 a los desarrolladores a trabajar para comprender c\u00f3mo la IA podr\u00eda fallar o tratar de dominar a los humanos.<\/p>\n<p>Las empresas que desarrollan tecnolog\u00eda de IA tambi\u00e9n deber\u00edan poner m\u00e1s recursos para evitar que la IA se haga cargo en lugar de simplemente mejorar la tecnolog\u00eda, dijo.<\/p>\n<p>\u201cDeber\u00edamos preocuparnos seriamente por mitigar todos los efectos secundarios negativos de [IA]\u201d, dijo.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp; Los avances en torno a la tecnolog\u00eda de inteligencia artificial est\u00e1n empujando al mundo a &#8220;un per\u00edodo de gran incertidumbre&#8221;, seg\u00fan el pionero de&hellip;<\/p>\n","protected":false},"author":99,"featured_media":511192,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21,11355],"tags":[],"class_list":["post-511191","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-canada","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/511191","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=511191"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/511191\/revisions"}],"predecessor-version":[{"id":511193,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/511191\/revisions\/511193"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media\/511192"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=511191"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=511191"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=511191"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}