Ottawa presenta un nuevo código de conducta de Inteligencia Artificial 

Ottawa presenta un nuevo código de conducta de Inteligencia Artificial 

• Las empresas que trabajan con IA en Canadá recibirán un nuevo código de conducta voluntario sobre cómo se utiliza y desarrolla la inteligencia artificial generativa avanzada en este país.

OTTAWA.- Y si bien ya ha habido apoyo de la comunidad empresarial, también se plantea la preocupación de que podría sofocar la innovación y la capacidad de competir con empresas con sede fuera de Canadá.

La inteligencia artificial generativa avanzada a menudo se refiere a los tipos de IA que pueden producir contenido. ChatGPT es un ejemplo popular, pero la mayoría de los sistemas que generan audio, video, imágenes o texto también contarían.

Las empresas que firman el código aceptan múltiples principios, incluido el de que sus sistemas de inteligencia artificial sean transparentes sobre dónde y cómo se utiliza la información que recopilan, y que existen métodos para abordar posibles sesgos en un sistema.

Además, aceptan el monitoreo humano de los sistemas de IA y que los desarrolladores que crean sistemas de IA generativos para uso público creen sistemas para que cualquier cosa generada por su sistema pueda ser detectada.

“Creo que si le preguntas a la gente en la calle, querrán que tomemos medidas ahora para asegurarnos de que tenemos medidas específicas que las empresas pueden tomar ahora para generar confianza en sus productos de IA”, dijo el Ministro de Industria, François-Philippe Champagne, en una conferencia centrada en IA en Montreal.

Legislaciones como el proyecto de ley C-27, que actualizaría la legislación sobre privacidad y agregaría reglas que rijan la inteligencia artificial, todavía está tramitándose en el Parlamento.

Por lo tanto, el código voluntario brindaría otro método para que el gobierno federal establezca reglas para que las empresas fabriquen productos en los que la gente pueda confiar incluso antes de usarlos, o incluso si optan por usarlos.

BlackBerry y Telus entre los firmantes
La empresa de tecnología canadiense BlackBerry, que utiliza IA generativa en productos de ciberseguridad, es uno de los signatarios iniciales del código voluntario.

Según el director de tecnología de la compañía, la idea es asegurarse de que haya confianza en un producto de IA incluso antes de usarlo, y eso es un pequeño cambio cultural para algunos.

“La gente siempre utiliza teléfonos móviles, ordenadores y redes, y luego tratamos de generar confianza después del hecho”, dijo Charles Egan en una entrevista con CBC News.

“Creo que la IA, especialmente la IA generativa, tiene un potencial fantástico… así que si implementamos algunas pautas, podemos disfrutar de los beneficios y reducir algunos de los peligros potenciales de esta explosión de IA generativa que todos estamos experimentando”, dijo Egan.

Egan señaló que una ventaja que él y su empresa ven en el código de conducta canadiense es que impone requisitos principalmente a los desarrolladores de IA, y cree que esto significa muchas menos restricciones para los consumidores que desean comprar o utilizar tecnología de IA generativa.

“Si la autopista no tuviera direcciones y semáforos, las cosas serían un caos. Y creo que así es como lo veo yo y BlackBerry lo ve en términos de tratar de generar confianza en este mundo de la IA”, dijo Egan.

El código de conducta es un ‘paso’
A pesar de que el código es voluntario, la abogada Carole Piovesan dijo que es parte de un creciente ecosistema de regulación y medidas legales en Canadá.

“Este es un paso en el proceso para introducir algún tipo de medidas más aplicables”, dijo Piovesan, quien explicó que existen “preocupaciones inmediatas” a medida que la IA generativa como ChatGPT o los generadores de imágenes se vuelven cada vez más populares.

Según Piovesan, el gobierno federal está utilizando el código voluntario para complementar y tender un puente entre las normas obligatorias que aún se están elaborando o aprobando como ley.

Las medidas de Canadá también se equipararán a las de Estados Unidos y la Unión Europea, en opinión de Piovesan.

“Lo que Canadá está haciendo en términos de regular la inteligencia artificial es tratar de ser consistente con otras jurisdicciones como la UE y los EE.UU. La UE está muy cerca de aprobar una ley bastante prescriptiva llamada Ley de Inteligencia Artificial de la UE”, dijo.

Preocupaciones por una influencia “sofocante” de la industria
Sin embargo, otras empresas en Canadá han expresado preocupación por el código, a pesar de su naturaleza voluntaria actual.

El CEO de Shopify criticó la iniciativa del gobierno sobre X, antes conocido como Twitter.

Tobi Lütke escribió que no apoyará el código de conducta.

“No necesitamos más árbitros en Canadá. Necesitamos más constructores. Dejemos que otros países regulen mientras nosotros tomamos el camino más valiente y decimos ‘vengan a construir aquí'”.

Y también hay sentimientos encontrados entre otros miembros de la industria canadiense.

“¿Es algo importante incluirlo, especialmente cuando se trata de datos del consumidor, privacidad y ciberseguridad? Sí”, dijo Jeff MacPherson, cofundador de XAgency AI.

“Pero también hay un aspecto de que [tiene] la capacidad de sofocar el crecimiento de la industria”, dijo MacPherson a CBC News.

XAgency AI desarrolla tecnologías privadas de IA generativa en campos como la automatización empresarial y el marketing. Aún no ha firmado el código de conducta; MacPherson dijo que el equipo está esperando ver qué sucede con él y cómo evoluciona la industria con el código implementado.

Una de sus preocupaciones es que reglas diferentes o más estrictas en Canadá puedan dificultar la competencia, citando algunas regulaciones tecnológicas europeas en otros sectores no relacionados con la inteligencia artificial que resultan en que las empresas opten por no ofrecer servicios allí.

“Puede poner a los canadienses en desventaja”, afirmó. “Hay muchas de estas grandes empresas de tecnología y cuando se implementan estas regulaciones… simplemente no permiten que las tecnologías se utilicen dentro del país”.