![\"Coches](\"https:\/\/diarioelpopular.com\/wp-content\/uploads\/2018\/03\/1521204443_913487_1521211044_noticia_normal_recorte1.jpg\")
<\/a>Coches y peatones comparten la calzada en Detroit, en los a\u00f1os veinte.<\/p><\/div>\n
LORENA JAUME-PALAS\u00cd<\/a><\/p>\n La idea de una sociedad automatizada, plagada de robots tanto en el hogar como en el trabajo, fue una de las utop\u00edas \u2014y distop\u00edas\u2014 con las que reaccion\u00f3 la literatura a la introducci\u00f3n de los sistemas de automatizaci\u00f3n. A principios del siglo XX, el uso de autom\u00f3viles y sem\u00e1foros populariz\u00f3 la automatizaci\u00f3n a pie de calle. Desde entonces, el n\u00famero de m\u00e1quinas y procesos autom\u00e1ticos en nuestras vidas ha aumentado exponencialmente: las lavadoras, los cajeros autom\u00e1ticos, el enfoque de las lentes de una c\u00e1mara de fotos, las puertas, el lavado de coches, el termostato\u2026 Y el temor inicial que en su d\u00eda despertaron ha dejado paso a una sensaci\u00f3n de rutina. La automatizaci\u00f3n es tan corriente, que ni siquiera nos percatamos cuando nos topamos con ella.<\/p>\n Estas mismas cuestiones fueron precisamente objeto de debate en los tribunales de diversos pa\u00edses tras la comercializaci\u00f3n del autom\u00f3vil a principios del siglo XX. El hecho de que las mismas incertidumbres y preguntas surgidas con la introducci\u00f3n de un nuevo medio de transporte resurjan un siglo despu\u00e9s con la llegada de la IA, requiere de una revisi\u00f3n del debate de anta\u00f1o. Desde el punto de vista normativo, tres aspectos merecen nuestra atenci\u00f3n.<\/p>\n 1. La tecnolog\u00eda s\u00f3lo parece inteligente y humana cuando su uso no es corriente<\/strong><\/p>\n La comercializaci\u00f3n de los coches fue en su d\u00eda anhelada por todas las capas sociales. El autom\u00f3vil como medio de transporte promet\u00eda un futuro de eficiencia e higiene en ciudades con calles infestadas de heces equinas. En cuesti\u00f3n de pocos a\u00f1os se dio un vuelco de 180 grados y los coches se convirtieron en una nueva plaga urbana. En los a\u00f1os veinte las manifestaciones en protesta por la inseguridad en las calles eran comunes: desfilaban chatarras de accidentes reales, con maniqu\u00edes ensangrentados y satan\u00e1s como conductor. Las ciudades de Washington y Nueva York organizaron manifestaciones con 10.000 ni\u00f1os vestidos de fantasmas, simbolizando el n\u00famero anual de muertos en accidentes de tr\u00e1fico.<\/p>\n La IA deber\u00eda darnos tanto miedo como la estad\u00edstica. Una m\u00e1quina es incapaz de tener ambiciones o intereses, de enga\u00f1ar o de mentir<\/p>\n<\/div>\n<\/div>\n<\/section>\n En pocos a\u00f1os el coche se convirti\u00f3 en objeto de un debate \u00e9tico fundamental que lleg\u00f3 hasta los juzgados. La audiencia provincial de Georgia, por ejemplo, mantuvo un intenso debate acerca del car\u00e1cter moral del autom\u00f3vil. En su veredicto, la audiencia conclu\u00eda que si bien dichos veh\u00edculos no son mal\u00e9volos, \u201cdeben ser clasificados como animales salvajes peligrosos\u201d. Por ello deb\u00edan aplicarse las leyes vigentes para la tenencia de animales ex\u00f3ticos.<\/p>\n Obviamente, con el paso del tiempo, el contacto y familiarizaci\u00f3n con los nuevos veh\u00edculos de transporte debilitaron las teor\u00edas humanizantes que atribu\u00edan a las m\u00e1quinas motivos e intenciones diab\u00f3licas. El debate \u00e9tico y legal volvi\u00f3 a centrarse en el comportamiento del ser humano delante y detr\u00e1s del volante.<\/p>\n Ese aspecto de la discusi\u00f3n, de car\u00e1cter filos\u00f3fico a primera vista, tuvo una clara consecuencia a nivel jur\u00eddico. Se descart\u00f3 as\u00ed la existencia de una responsabilidad por parte de la m\u00e1quina como si esta fuera una entidad inteligente. Retrospectivamente, lo contrario no s\u00f3lo resultar\u00eda rid\u00edculo, sino que habr\u00eda supuesto un reto para la \u00e9tica y el derecho a la hora de crear normas y sanciones que fuesen viables tanto para seres humanos como para m\u00e1quinas.<\/p>\n El debate en torno a la inteligencia artificial en este aspecto tiene las mismas implicaciones y requiere plantear las mismas consecuencias jur\u00eddicas y \u00e9ticas. \u00bfTiene el robot intenciones que justificar\u00edan la creaci\u00f3n de una entidad jur\u00eddica propia? \u00bfEn qu\u00e9 modo recaer\u00eda la responsabilidad en la m\u00e1quina exculpando a todo ser humano? \u00bfC\u00f3mo se podr\u00eda implementar una sanci\u00f3n a una m\u00e1quina?<\/p>\n La inteligencia artificial y sus m\u00e9todos de an\u00e1lisis estad\u00edsticos no encierran en s\u00ed una voluntad propia. La inteligencia artificial no es inteligente. Por ello es incapaz de tener ambiciones e intereses propios y enga\u00f1ar o mentir. En otras palabras, la inteligencia artificial nos deber\u00eda dar tanto miedo como la estad\u00edstica. Eso no significa que sea inocua. La inteligencia artificial y sus algoritmos no son neutrales, sino el reflejo de las intenciones y el sesgo involuntario del equipo de programadores, cient\u00edficos de datos y entidades envueltas en la implementaci\u00f3n de esa tecnolog\u00eda.<\/p>\n Con la IA se pueden establecer protocolos muy transparentes que permitan determinar las modificaciones que han sido efectuadas por personas, independientemente de cu\u00e1n complejos sean los algoritmos con los que opera esta tecnolog\u00eda. No hay motivo alguno por el que resulte necesario crear una entidad jur\u00eddica espec\u00edfica para la inteligencia artificial. La propia tecnolog\u00eda permite atribuir la responsabilidad por fallo o abuso a una persona determinada con m\u00e1s claridad y facilidad que antes.<\/p>\n El\u00a0conductor<\/em>\u00a0que maneja la inteligencia artificial y el\u00a0peat\u00f3n<\/em>\u00a0expuesto a ese tr\u00e1fico, pueden ser identificados.<\/p>\n 2. La \u00e9tica y la ley deben ser neutrales frente a la tecnolog\u00eda<\/strong><\/p>\n Volviendo a los dilemas que gener\u00f3 la llegada de los coches hace un siglo, en aquel momento fue crucial enfocar el debate (\u00e9tico y legal) en el ser humano para poder formular leyes y normas pr\u00e1cticas y aplicables. No obstante, la creaci\u00f3n de un sistema legal y normativo que adjudicara derechos y obligaciones s\u00f3lo pod\u00eda ser leg\u00edtima con una clara idea de los riesgos y de los actores involucrados. Los tribunales y la sociedad en general tardaron un tiempo en entender tanto los aspectos t\u00e9cnicos del coche, como los problemas que planteaba el tr\u00e1fico.<\/p>\n En el debate sobre la IA se pide a la gente una mayor competencia t\u00e9cnica. Sin embargo, no necesitamos saber c\u00f3mo funciona un avi\u00f3n para subir a uno<\/p>\n<\/div>\n<\/div>\n<\/section>\n Los primeros intentos regulatorios nos parecer\u00edan hoy en d\u00eda grotescos. Sobre todo por la imposici\u00f3n de obligaciones a actores incapaces de ejercer un control adecuado sobre la m\u00e1quina. En Reino Unido, por poner un ejemplo, se requer\u00eda al conductor que, antes de circular por un municipio, lo notificara al alguacil para que este, armado con dos banderas rojas, pudiera marchar ante el coche y advertir a los peatones.<\/p>\n El sistema legal que trataba de regular el tr\u00e1fico atribuy\u00f3 la responsabilidad exclusivamente al conductor. Sin embargo, en aquellos tiempos las calles se caracterizaban por su falta de previsibilidad: las se\u00f1ales de tr\u00e1fico a\u00fan no hab\u00edan sido inventadas, los ni\u00f1os jugaban en la calzada, los carruajes de caballos se desbocaban al o\u00edr los motores, y los peatones eran incapaces de calcular la velocidad a la que se acercaban los coches. Todo esto hac\u00eda que la responsabilidad asignada al conductor fuese desproporcionada. Desde el punto de vista fisiol\u00f3gico, era imposible reaccionar ante tanto imprevisto.<\/p>\n El pragmatismo y el sentido de justicia social llevaron al canadiense James Couzens a inventar un sistema de se\u00f1ales y reglas de tr\u00e1fico para coordinar a peat\u00f3n y conductor. Couzens dimiti\u00f3 de su puesto como vicepresidente de finanzas en Ford y empez\u00f3 a trabajar para el Ayuntamiento de Detroit (EE\u00a0UU), capital mundial automovil\u00edstica en aquel entonces. Cigarro en mano, Couzens revolucion\u00f3 las infraestructuras de transporte. En primer lugar, identific\u00f3 las situaciones en las que la responsabilidad reca\u00eda en el peat\u00f3n, y cre\u00f3 se\u00f1ales y zonas para poder cruzar las calles.<\/p>\n Al principio, la resistencia por parte de la sociedad fue grande. Las normas y obligaciones para los peatones no estuvieron exentas de controversia: el concejal Sherman Littlefield las tach\u00f3 de denigrantes al \u201ctratar a los ciudadanos de a pie como ganado\u201d. Couzens no se dej\u00f3 amedrantar e impuso sus normas por decreto. El tiempo le dio la raz\u00f3n, demostrando la efectividad de su propuesta, que acab\u00f3 convirti\u00e9ndose en el modelo internacional. Couzens tambi\u00e9n se encarg\u00f3 de crear un plan de control y gesti\u00f3n del tr\u00e1fico que permitiera prescindir de la presencia de la polic\u00eda en caso de falta de personal. As\u00ed fue c\u00f3moDetroit se convirti\u00f3 en cuna del avance tecnol\u00f3gico<\/a>, con ideas revolucionarias como el sem\u00e1foro autom\u00e1tico en los a\u00f1os veinte.<\/p>\n Es destacable la poca atenci\u00f3n que Couzens prest\u00f3 al autom\u00f3vil como tecnolog\u00eda en s\u00ed a la hora de concebir sus reglas de tr\u00e1fico: las normas y limitaciones no ata\u00f1\u00edan al aspecto t\u00e9cnico, sino \u00fanicamente a su uso en el espacio p\u00fablico. Por ejemplo, las medidas para restringir la velocidad no prohib\u00edan el desarrollo de motores con m\u00e1s caballos de fuerza, sino que limitaban el uso del acelerador por parte del conductor. Gracias a ello las leyes y normas establecidas por Couzens no tuvieron que ser modificadas con cada cambio tecnol\u00f3gico, ya que siempre permit\u00edan una recontextualizaci\u00f3n del uso de la tecnolog\u00eda. El hecho de que las normas de tr\u00e1fico establecidas fuesen tecnol\u00f3gicamente neutrales es el motivo por el que un siglo despu\u00e9s siguen vigentes y, en su esencia, no han perdido actualidad.<\/p>\n En el campo de la IA se est\u00e1n estudiando leyes y principios \u00e9ticos que se puedan aplicar a los c\u00f3digos de programaci\u00f3n. Un ejemplo es el principio de la \u201cminimizaci\u00f3n de datos personales\u201d, por el cual s\u00f3lo se debe procesar la cantidad m\u00ednima de datos personales necesaria para ofrecer un servicio o ejecutar una tarea. Este es un principio t\u00e9cnico que tiene una importancia vital y afecta al procesamiento de informaci\u00f3n. Por una parte, el proceso salvaguarda la privacidad de las personas implicadas. Sin embargo, esta regla puede ir, parad\u00f3jicamente, contra la igualdad de trato porque no tiene en cuenta el contexto. Por ejemplo, hasta hace poco m\u00e1s de una d\u00e9cada, los ensayos sobre el uso de beta bloqueadores (f\u00e1rmacos muy utilizados en cardiolog\u00eda) se realizaban a partir de una base de datos integrada mayoritariamente por varones de la etnia europea. Sus conclusiones eran v\u00e1lidas para ese grupo, pero no para mujeres o para etnias con otra variaci\u00f3n gen\u00e9tica.<\/p>\n