Blog

Hacia una inteligencia artificial sin garantías.

Hacia una inteligencia artificial sin garantías.

Han pasado ya casi cinco años desde que Arabía Saudí concediera la ciudadanía a Sophia. Sophia es un robot humanoide creado en el año 2015 por David Hanson. Tiene y utiliza uno de los más potentes softwares de Inteligencia Artificial. El procesamiento de datos visuales, el reconocimiento facial y el reconocimiento de voz son algunos de los atributos de este robot.

El caso de Sophia.

Inspirada en Audrey Hepburn. Tiene una forma de humanoide. Es capaz de realizar una sesentena de gesticulaciones y expresiones faciales, y fue diseñada con capacidad de aprendizaje. Las características de esta “humanoide” le han llevado a dar entrevistas y conferencias por todo el mundo. También ha participado en diferentes congresos de tecnología y a ser presentada en las Naciones Unidas.

Sophia representa tan sólo una parte del momento de la (R)evolución tecnológica ante la que nos encontramos. El uso de la Inteligencia Artificial junto al desarrollo tecnológico nos enfrenta a un panorama digno de cualquier guion de película de ciencia ficción. Se han creado drones inteligentes y autónomos con sistemas de reconocimiento facial; algoritmos de inteligencia artificial que tratan datos de carácter personal y que predicen comportamientos humanos; o la existencia de los jueces robot, aunque sea en desarrollo, son una muestra del momento en el que nos encontramos.

En otro orden, que la ley siempre va detrás de la realidad social ante la que nos encontramos constituye un axioma innegable. Así, a la regulación normativa de cualquier ámbito legal, le preceden una serie de situaciones que conllevan la necesidad de regulación. Por este motivo siempre existirá una brecha temporal entre la realidad y el derecho.

Legislar sobre la Inteligencia Artificial.

En el ámbito de la Inteligencia Artificial este desfase es aún mayor y ello es así por varios motivos. El primero de ellos es la novedad en la materia. A nivel jurídico se han ofrecido numerosas declaraciones de intenciones y principios, así como las referencias puntuales en las diferentes legislaciones. Sin embargo, la primera disposición no se dio hasta 2015. Concretamente, en el artículo 41 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, según el cual:

“1. Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público.

2. En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación”.

Normativa europea.

En el marco de la Unión Europea, la primera referencia nació en el año 2017. Fue con motivo de la nota de prensa que anunciaba la creación de un grupo de expertos para recopilar aportes y reunir una amplia alianza. Actualmente, tras la publicación de la Declaración de Principios y Derechos Digitales de la UE (enero 2022), estamos en la fase de Propuesta de Reglamento.

Por su parte, las primeras recomendaciones de las Naciones Unidas llegaron también recientemente, en octubre del 2021. Fue con el Primer Acuerdo mundial sobre la ética de la inteligencia artificial. De lo anterior se deduce que es latente el estado embrionario en el que nos encontramos.

El carácter transfronterizo de la Inteligencia Artificial.

Hay una segunda nota característica que dificulta el reto legislativo al que se enfrentan los operadores a la hora de regular. El carácter supraestatal de las empresas que utilizan los sistemas más desarrollados y, por ende, más peligrosos desde un punto de vista jurídico. También en la utilización de la inteligencia artificial vía internet, cuyo ámbito de aplicación tiene un inevitable carácter transfronterizo. Y es así aunque se trate de una empresa estatal.

En tercer lugar, existe la necesidad inminente de regular de forma amplia el uso de la Inteligencia Artificial. Pero no sólo el uso de la Inteligencia Artificial en el ámbito privado (empresas), sino también de AUTOREGULAR su uso por parte de los Estados. Los estados utilizan algoritmos y procesos de Inteligencia Artificial para procedimientos con y para los ciudadanos que deben necesariamente garantizar los principios, derechos y libertades de éstos.

Uso de IA por el Estado español.

Centrándonos en el panorama jurídico por parte del Estado es del todo insuficiente y no existen garantías para el ciudadano. Es preocupante la situación actual de los derechos y obligaciones que deben regir en los procesos de IA en el ámbito público. También el alcance del principio de transparencia.

Ley de Transparencia.

La Ley de Transparencia del año 2013, que nos marca el inicio, o lo que debería representar el punto de partida de la regulación,  establece el derecho general a acceder a la información pública que tienen los ciudadanos al amparo del principio de transparencia que debe regir la actuación administrativa, tratado desde un punto de vista genérico, pero ello es del todo una utopía ya que los organismos públicos acaban utilizando Inteligencia Artificial en sus procesos con total discrecionalidad.

La necesidad de contar con un sistema de garantías.

Así, sin ninguna garantía para el ciudadano y con total discrecionalidad, se actúa. Tanto la Agencia Tributaria, como algunos Juzgados se comunican con el ciudadano mediante el uso de algoritmos totalmente autónomos, cuando ello no debería ser así. Es importante sentar las bases y las garantías desde el principio.

Las garantías, además, deberían ser suficientemente amplias. Por ello entendemos que debe existir siempre el derecho/obligación de ser informado cuando la Administración Pública utilice Inteligencia Artificial en un proceso. Independientemente de si su uso lo es de forma parcial o total.

La amplitud de este derecho se extiende así, al derecho a la publicidad del código fuente o conocimiento del algoritmo utilizado, ya que sólo así podremos entender los motivos que han llevado a la “máquina de IA” a conceder / mermar los derechos antes los que nos encontremos.

Leave A Comment

Tu dirección de correo electrónico no será publicada.

¡Síguenos en redes sociales y no te pierdas nada!

Instagram

Abrir chat
1
Hola, ¿Necesitas ayuda?
Hola 👋
¿En qué podemos ayudarte?