¿La IA representa un “riesgo de extinción” para los humanos? Fundadores, los expertos dicen que sí

¿La IA representa un “riesgo de extinción” para los humanos? Fundadores, los expertos dicen que sí

• Científicos y líderes de la industria tecnológica, incluidos ejecutivos de alto nivel de Microsoft y Google, emitieron una nueva advertencia sobre los peligros que la inteligencia artificial representa para la humanidad.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, dice el comunicado publicado en línea.

Sam Altman, director ejecutivo del fabricante de ChatGPT, OpenAI, y Geoffrey Hinton, un científico informático conocido como el padrino de la inteligencia artificial, se encontraban entre los cientos de figuras destacadas que firmaron la declaración, que se publicó en el sitio web del Centro para la Seguridad de la IA.

Las preocupaciones sobre los sistemas de inteligencia artificial que superan a los humanos y se vuelven locos se han intensificado con el surgimiento de una nueva generación de chatbots de IA altamente capaces como ChatGPT.

La última advertencia fue intencionalmente sucinta, solo una oración, para abarcar una amplia coalición de científicos que podrían no estar de acuerdo sobre los riesgos más probables o las mejores soluciones para prevenirlos, dijo Dan Hendrycks, director ejecutivo del Center for Seguridad de la IA.

“Hay una variedad de personas de todas las mejores universidades en varios campos diferentes que están preocupadas por esto y piensan que es una prioridad mundial”, dijo Hendrycks. “Así que tuvimos que hacer que la gente saliera del clóset, por así decirlo, sobre este tema, porque muchos hablaban en silencio entre sí”.

Más de 1000 investigadores y tecnólogos, incluido Elon Musk, habían firmado una carta mucho más larga a principios de este año pidiendo una pausa de seis meses en el desarrollo de la IA porque, dijeron, plantea “riesgos profundos para la sociedad y la humanidad”.

Los países de todo el mundo se esfuerzan por elaborar regulaciones para la tecnología en desarrollo, y la Unión Europea está abriendo camino con su Ley de IA que se espera que se apruebe a finales de este año.