El Derecho

Conócenos

Vehículos autónomos e inteligencia artificial; hitos legales y retos jurídico tecnológicos

Por Javier Antonio Nisa Ávila

  • Imprimir

Javier Antonio Nisa Sala Reuniones

Vehículos autónomos e inteligencia artificial, una combinación que se escucha cada vez más, y se torna como una realidad próxima. Lo primero, antes de nada, nos tenemos que plantear dos preguntas ¿vehículos autónomos o transporte autónomo? ¿inteligencia artificial o sistemas de ayuda a la conducción? Estas dos preguntas son las premisas jurídicas de las que vamos a partir y sobre las que analizaremos toda una realidad jurídica. La gran verdad, es que la industria cada vez se encuentra más avanzada en temas de automoción y eso nos lleva a pensar que estamos muy cerca de una realidad tecnológica que va a revolucionar socialmente la forma de movernos y transportarnos. Pero nada más lejos, estamos a muchos años de conseguir realmente sistemas que controlen vehículos o transportes autónomos con su consecuente y exhaustiva regulación jurídica, y funcionamiento correcto. 

A priori partimos de la base del concepto llamado vehículo autónomo, pero jurídicamente cuando hablamos de un vehículo nos referimos a un aparato apto para circular por vías o terrenos y dicho vehículo necesita ser conducido para desplazarse, por ello necesitamos definir el concepto de conducción autónoma previamente. Lo primero que se debe hacer es definir la naturaleza jurídica de la conducción autónoma, para poder llegar a la conclusión descrita anteriormente. La conducción autónoma es aquella que se produce sin necesidad de intervención humana con el fin de desplazarse a diferentes lugares y mediando un vehículo. La legislación obliga siempre a la existencia de un conductor que será el que conduzca los vehículos. Por lo tanto tenemos el binomio vehículo-conductor que constituye un ente jurídico completo para poder ser considerado la figura jurídica correcta y apta para poder circular. La ausencia de conductor sustituido por un software de conducción podría causar problemas jurídicos, que no abordamos porque serían fácilmente solucionables con un cambio normativo. El problema es más consubstancial a la propia materia que vamos a abordar, aunque siempre sea como fuere, humana o software, la figura jurídica del conductor no puede desaparecer. 

El vehículo o conducción autónoma que es como sería correctamente citado, es el acto jurídico que provoca una consecuencia, es decir el hecho de la conducción. La conceptualización jurídica de que se está conduciendo un vehículo, puede parecer obvio pero cuando lo llevamos al campo de la conducción autónoma cambia la cosa. La premisa cambia bastante cuando aplicamos esta naturaleza jurídica, a alguien que dentro del vehículo es conducido autónomamente. El concepto cambia y decimos que es transportado; lo cual nos sitúa con un gran cambio en la esfera jurídica. Los vehículos autónomos se convierten jurídicamente en una herramienta para la conducción autónoma, que es el intérprete de esa herramienta y todo ello se debe englobar bajo el concepto jurídico de transporte autónomo. Por todo ello estaríamos hablando de que siempre que utilizamos un vehículo autónomo, estamos utilizando un medio de transporte autónomo movido por conducción autónoma. 

La definición correcta en base a la actual norma europea como el Reglamento 1998/11/CE modificado por el Reglamento 684/92, el reglamento 2007/1370/CE, el Reglamento 1073/2009 y la Directiva 96/26/CE entre otras deja claro lo que es el transporte y dentro de ellos el transporte de viajeros, y lo que nos dicta la lógica jurídica es que estamos ante un error de conceptualización jurídica en las actuales definiciones de vehículo autónomo. Por ello si trasponemos la regulación jurídica existente entorno a esos conceptos tan básicos; lo correcto es jurídicamente hablar de transportes autónomos y no de vehículos autónomos como figura principal. 

Todo ello nos lleva a partir de un escenario jurídico totalmente diferente, puesto que nos encontramos entonces con muchas variables que se van a ir explicando entorno al concepto más acorde de transporte autónomo. Lo primero antes de seguir es indicar que existirán dos tipos de transporte autónomo, el transporte por cuenta propia para el caso de vehículos que transporten a sus propietarios u otros pasajeros que vayan en su habitáculo siempre sin ánimo de lucro, y por otro lado con el transporte de pasajeros en su total puridad. Las dos categorías citadas se encuentran definidas en la legislación internacional, y su aplicación es independiente del tipo de vehículo. Por lo tanto y antes de definir el concepto de transportes autónomos, nos encontramos que no solo se enmarcaría dentro su futura definición a vehículos automovilísticos, sino cualquier medio de transporte, como el avión, tren, barco o futuros sistemas de transporte suborbital autónomos que también se encuentren afectados por estas tecnologías. 

Por ello podemos definir jurídicamente el transporte autónomo, como el medio de transporte automatizado de mercancías o personas que mediando sistemas de tecnologías de asistencia al vehículo o de inteligencia artificial no autónoma conectados a una red de intercambio de datos donde no interviene la acción humana realiza tareas de conducción autónoma a través de un vehículo. La naturaleza jurídica de su definición nos da varias claves imprescindibles para diseñar una futura hoja de ruta para el desarrollo legal de todo lo que conlleva dicha tecnología en el plano jurídico. 

Para comenzar a profundizar en el análisis jurídico primero debemos realizar una distinción entre el concepto transporte autónomo ya definido y las tecnologías de asistencia al vehículo o de conducción. Las tecnologías de asistencia al vehículo es a lo que se le llama actualmente el vehículo autónomo, un sistema de conducción automática en base a una serie de parámetros interpretables por un software y cuyas decisiones las toma el vehículo en base a programaciones basadas en una serie de supuestos con una mínima autonomía de toma de decisiones, y siempre dentro de un círculo cerrado, es decir sin tener en cuenta otras variables que las estrictamente insertadas en su código fuente. La definición a la que nos lleva; pues es, a definir la necesidad de un ser humano al volante para que en caso de error lo identifique de forma previa y evite colisiones o accidentes tal y como indica el Digital Single Market Strategy de la Unión Europea. Por lo tanto no es un sistema de  conducción autónoma y por ende tampoco de transporte autónomo sino un mero compendio de sistemas de ayuda a la conducción; es decir el ser humano no puede dejar de prestar atención a la conducción. Por todo ello se va a seguir necesitando de licencia de conducir para identificar los posibles peligros y tener conocimientos para estar al volante con suficientes capacidades como para tomar el control. Además se afianza dicho concepto legal actual con la Cooperative, connected and automated mobility (C-ITS) dentro del programa de Intelligent Transports System de la Unión Europea. El panorama actual legal de los vehículos autónomos en Europa, y su regulación no augura una autonomía completa, sino un paso intermedio que se debe regular más a fondo. Para ello vamos a exponer ciertas dudas jurídicas y que nos tienen que servir para regular ya de antemano el futuro campo jurídico del transporte autónomo. Por todo ello el transporte autónomo es algo que va más allá, es un concepto legal correcto pero erróneamente asociado. 

Antes de comenzar a realizar un análisis de la situación jurídica actual a nivel de derecho internacional a través de la legislación existente en la Unión Europea y algunos otros ejemplos de países como Estados Unidos, debemos realizar una primera división jurídica en lo que la escala de Inteligencias Artificiales se refiere en el ámbito de la automoción. 

Debemos de diferenciar entre tres tipos de inteligencias artificiales, no todas las inteligencias artificiales son las mismas, ni deben tener la misma regulación jurídica, todo dependerá del campo de aplicación y de la naturaleza jurídica de los diferentes bienes implicados a proteger dentro del ámbito de actuación de dicha inteligencia. Las clases serían principalmente tres, la inteligencia artificial autónoma, la inteligencia artificial no autónoma y para el campo de la automoción un tercer escalón personalizado llamado, tecnologías avanzadas de asistencia al vehículo dentro del ámbito de las inteligencias artificiales inferiores. 

En el ámbito de la automoción, una inteligencia artificial autónoma es aquella que tiene capacidades de tomar decisiones de cualquier tipo ante cualquier situación sin ceñirse a órdenes del propietario del vehículo estando a nivel de toma de decisiones igual que a la de un ser humano. Este tipo de inteligencia para un transporte autónomo no sería aplicable puesto que no persigue el fin de transporte de personas de un lugar a otro. Por tanto este tipo de inteligencia quedaría descartada, por la problemática, que ante una situación no solo valoraría hechos objetivos y realizaría una toma de decisiones ponderada en base a datos recibidos sino que tendría un ámbito subjetivo y por ende, entraría en valor el dolo, la negligencia e incluso la intencionalidad sin duda jurídica posible alguna. 

La inteligencia artificial no autónoma sería el final de la pirámide en lo que a aplicación del sector automotriz se refiere de esta tecnología. Las inteligencias artificiales no autónomas, tienen un grado de toma de decisiones muy alto, pero carecen de libre albedrío como las autónomas. La diferencia es muy sustancial, objetividad versus subjetividad, en el caso de colisión por ejemplo, una inteligencia artificial no autónoma toma sus decisiones en base a parámetros objetivos basados en la legislación vigente y parámetros de peligrosidad y una serie de objetivos para conseguir el fin de salvaguardar la vida de los ocupantes y del resto de peatones o diferentes órganos que interactúen en dicha situación de peligro. 

Las dos anteriores conceptos están siempre cubiertos bajo el concepto de la conducción autónoma, es decir son la herramienta para el objetivo jurídico del transporte de personas o mercancías mediante sistemas de transporte autónomo con vehículos terrestres, marítimos, aéreos o suborbitales. 

Por el contrario, las inteligencias artificiales inferiores o tecnologías avanzadas de asistencia al vehículo son solo un paso previo al siguiente escalón de inteligencia artificial no autónoma descrito. Estas se limitan exclusivamente a interpretar señales, ordenes del propietario y realizan una toma de decisiones pensando exclusivamente en su vehículo y de forma puramente matemática de como no colisionar sin tener en cuenta otras variables como los daños a terceros, homicidios y diferentes negligencias que conlleven graves consecuencias, no tienen capacidad de interpretar la legislación. Las inteligencias artificiales inferiores no son consideradas transporte autónomo sino vehículos autónomos con necesidad de supervisión humana constante, que es el camino de la actual legislación internacional, europea, estadounidense, china o japonesa, todas basadas en el error conceptual jurídico de una necesidad constante del ser humano al frente del vehículo. 

Una vez hemos realizado un pase técnico-jurídico por las cuestiones relacionadas con el transporte autónomo con nociones tecnológicas y jurídicas se observan necesidades legales a realidades tecnológicas que desde el derecho, como herramienta de deontología jurídica protectora del ámbito social, debería ser uno de sus objetivos. Por todo ello tenemos que empezar a ponerlas en contexto en situaciones reales donde interactúen. Pero previamente vamos a ver que regulación actual hay y cuales son sus retos legales para futuros enfoques legislativos. Las nuevas fronteras jurídicas en cuestiones de legislación industrial en el sector de la automoción, en legislación del ámbito de la circulación de vehículos, y transporte terrestre, marino y aéreo, así como repercusiones en el derecho civil y penal entre otros muchos campos del derecho. 

Actualmente la regulación que existe entorno a esta futura evolución de los medios de transporte y los vehículos está centrada exclusivamente en cuestiones legales a resolver entorno a problemáticas de diseño industrial para que puedan circular con seguridad vial, sin ceñirse poco más que a algunas referencias en protección de datos. El legislador, tanto los nacionales como los internacionales, donde encontramos al europeo, chino, o americano, se están centrando en dos estadios, uno primero donde el vehículo funcione con supervisión humana, sin capacidad de toma de decisiones más allá que de combinaciones vinculadas a programación previa, es decir sin acercarse a un sistema de inteligencia artificial y sin comunicarse no ya con el entorno de forma completa, ni tan si quiera con otros vehículos; y un segundo estadio donde exista más autonomía del vehículo, pero donde se sigue conservando el factor humano como elemento rectificador de errores tecnológicos. Todo siempre con la necesidad de seres humanos al frente. Pero no vamos a realizar un análisis jurídico de ello; sino resaltar los errores de diseño normativo básico y los posibles errores de visión de conjunto al tratar el futuro campo del transporte autónomo como vehículo autónomo. 

Analizando el error legal actual de base nos encontramos con dos grandes referencias legales. Nos estamos refiriendo al Digital Single Market Strategy de la Unión Europea el cual es el marco base que pretende ayudar generar marcos básicos de regulación y consejos estratégicos de desarrollo alrededor de las nuevas tecnologías y los diferentes campos competenciales de la Unión Europea por un lado. El Digital Single Market Strategy contiene como una de sus partes un grupo de trabajo donde se regulan por otro lado los llamados Intelligent Transports Systems (ITS). El desarrollo del grupo de trabajo que estudia los Intelligent Transports Systems (ITS), realiza cuatro apartados diferentes, la conducción automatizada conectada, los transportes de mercancías por carretera, el transporte marítimo y el transporte aéreo. 

A priori puede parecer que la denominación va por buen camino, al haber indicado ya el error de llamar al campo legal, “vehículo autónomos”, pero no es así, es un simple nombre denominativo sin cobertura legal ni conceptual jurídica alguna. El interior nos muestra que en el apartado primero del punto 4º del documento del grupo de trabajo se observa que el ITS va por buen camino al entender que existe la necesidad de que se regule este campo, pero cae en el error y realiza una diferencia explícita entre transporte y conducción autónoma aludiendo a que el transporte solo es de mercancías y no de personas y la conducción autónoma es aquella en la que siempre hay seres humanos en el interior del vehículo. La definición es jurídicamente errónea al partir de la premisa de que la conducción autónoma necesitará de que el ser humano que vaya en el vehículo esté alerta siempre de los posibles errores que pueda cometer la máquina, previendo errores de interpretación de los diferentes parámetros que recibe el coche y evitando posibles daños propios y a terceros. 

Por otro lado nos encontramos con el C-ITS o conducción automatizada conectada. El C-ITS prevee que la conducción autónoma necesitará siempre de un humano que esté alerta y así evitar errores. Por todo ello lo que está elaborando el grupo de trabajo son futuras normativas que giran entorno a este concepto para que los sectores industriales se ciñan a un sistema de programación con dichas limitaciones. El enfoque que le da la UE es el mismo que da el estado de Florida donde en ambos se preveen los protocolos legales Esop – Statement of Principles on Human Machine Interface. La pretensión es regular jurídicamente la forma de interacción entre la maquina y un humano a la hora de la toma de decisiones críticas. La realidad jurídica que se está construyendo no solo desvirtúa el concepto de transporte autónomo, sino que directamente no sobrepasa de un sistema avanzado de ayuda a la conducción. El argumento jurídico lo encontramos en las conclusiones del primer grupo de trabajo que retomará el año que viene los trabajos con los retos jurídicos que quedan por superar en la UE. El problema es que en base al gran error que argumentan siempre será necesario literalmente de la figura de un conductor humano que tenga capacidades de realizar las tareas primarias necesarias para emprender el ejercicio de la conducción con plenas facultades en cualquier momento. La afirmación anterior nos lleva a plantearnos ¿estamos ante la premisa jurídica correcta o estamos intentando limitar desde el derecho el avance tecnológico ante el miedo a posibles dilemas jurídicos hasta ahora jamás planteados? ¿cuáles son los retos a los que nos enfrentamos si caminamos de la mano juristas e ingenieros y no solo juristas? El reto jurídico es servir a la sociedad y protegerla pero no limitarla, las soluciones están ahí fuera pero tenemos quizás que crear nuevos campos jurídicos para enfrentarnos a las mismas y resolver dudas legales jamás imaginadas. 

De la misma forma, los actuales proyectos y leyes existentes se centran en exceso en la protección de datos, diseño industrial para su correcto funcionamiento básico y las posibles cuestiones sobre sabotaje que puedan sucederse. Por otro lado aciertan en gran manera en entender una necesidad de crear una red de interoperabilidad entre vehículos e infraestructuras y un sistema de intercambio de datos que ahora veremos como debería funcionar, puesto que no solo puede ser entre infraestructuras. 

El enfoque inicial de la UE y de países como Estados Unidos es erróneo al no evolucionar la figura jurídica del vehículo autónomo al concepto de transporte autónomo, puesto que la industria automovilística camina hacia el transporte autónomo y no hacia un sistema de conducción semiautomático con supervisión humana. Esa dicotomía jurídica se debe solventar. El desarrollo intermedio de los conceptos aunque parten de un supuesto no ajustado a la realidad jurídica es acorde a los retos legales principales, sobre todo en la figura de la interoperabilidad entre v2v – Vehicle to Vehicle y v2i – Vehicle to infraestructures pero las conclusiones finales difieren de ese desarrollo intermedio y vuelven a ajustarse a la premisa jurídica errónea inicial. 

La razón de dicho planteamiento de base jurídicamente incompleto lo encontramos en sus retos jurídicos y las dificultades técnicas que tendría que salvar la industria para cumplir con la legislación que se debería elaborar para permitir con total seguridad; el futuro transporte autónomo. 

¿Cuáles son esos retos jurídicos? La conjura entre tecnología y regulación legal, pero dándole un giro a toda la situación. El derecho debe servir a la sociedad, y la sociedad necesita del derecho para poder asegurarse una correcta protección en todos los campos. La tecnología está cambiando hacia dimensiones hasta ahora desconocidas, evolucionamos hacia nuevas tecnologías con inteligencia artificial. Esta evolución nos lleva a darnos cuenta de que el derecho a llegado a un punto donde tiene que reivindicarse no como un conjunto de normas a cumplir por la industria, sino como una hoja de ruta para la industria, que es muy diferente. La normativa es la que tiene que definir los límites al desarrollo de la industria, partiendo de la base de la salvaguarda de todos los posibles bienes jurídicos implicados a proteger. La futura normativa en lo que a vehículos autónomos se refiere es una normativa a medida y personalizada por sectores y tipos de tecnología, es necesario que la ley, la investigación y la industria vayan de la mano creando entre los tres y de forma simultánea una colaboración multidisciplinar donde entre todos construyan un futuro evolucionado, pero seguro en todos los aspectos jurídicos de la vida de los ciudadanos y administrados. 

La razón de dicha colaboración multidisciplinar es que el derecho se convierta en la gran herramienta estructuradora del desarrollo industrial debido a las implicaciones en el ingente número de campos jurídicos. Las implicaciones jurídicas son, entre otras, que ahora desarrollaremos sucintamente, responsabilidades civiles, responsabilidades penales, interoperabilidad de datos y sistemas, protección ante la posibilidad de explotación y tráfico de datos confidenciales con métodos de ingeniería social, prevención de piratería digital, rediseño de conceptos básicos como el derecho a la propiedad de robots o sistemas con inteligencia artificial, el Internet of Things, regulación de los derechos sobre la codificación informática, entre otros tantos. El transporte autónomo implica una evolución legal necesaria en todos estos campos, creando decenas de normativas básicas y específicas. La problemática no solo radica en cuestiones de seguridad vial y su prevención o los sistemas de relación con la máquina por el humano y regularlo como pretende el legislador europeo o americano, todo va muchísimo más allá en el campo jurídico. 

El despertar de nuestra conciencia jurídica sobre la necesidad de un desarrollo más pormenorizado y en colaboración, es la razón de la respuesta a la siguiente pregunta; si un transporte autónomo, que no necesita supervisión humana acaba con la vida de un tercer ocupante del vehículo, viandante u pasajeros de otro vehículo, ¿quién es el responsable de la muerte, de qué es responsable y a quién se condena, al propietario del vehículo, al fabricante o al vehículo con inteligencia artificial?. ¿Estamos ante una situación de inimputabilidad? La doctrina dice que la imputabilidad es el conjunto de condiciones subjetivas que debe reunir el perpretador de un delito, suponiendo en él la capacidad de conocer y comprender dicha ilicitud, para que sea factible colocar en sus manos las consecuencias de su acto. Por otro lado la inimputabilidad es la incapacidad del sujeto para ser culpable siendo determinante la falta de conocimiento de la ilicitud y/o la alteración de la voluntad, siempre y cuando ocurran en el sujeto al momento de ejecutar el hecho legalmente descrito. 

Por tanto y ante una respuesta nada sencilla y bastante compleja en comparación a cómo es la actual situación de un conductor que se encontrara en esa situación, entendemos la necesidad de que la industria se desarrolle conforme a las limitaciones en lo que a protección jurídica se refiere. El derecho debe ser el que le diga a los creadores de nuevas tecnologías lo que esa tecnología tiene que respetar, y de qué forma tiene que respetarlo, y para eso ya no se podrá ni legislar a solas y crear tecnologías a solas sino colaborar entre todos los sectores. 

Si analizamos más a fondo algunos de los aspectos más cruciales y más difíciles de sortear en lo que a transporte autónomo se refiere, nos daremos cuenta porque tanto la Unión Europea como en Estados Unidos, crean la necesidad de un conductor en todo momento que esté atento y por ende responsable de errores de la máquina. La definición jurídica de ese concepto provoca una perversión jurídica al querer otorgar status legal a la posibilidad de que los coches nos lleven solos sin que los conduzcamos, pero ante las dudas legales expuestas y las dificultades, se ataja desvirtuando dicho avance tecnológico vinculando las culpas a un conductor humano evitando las diferentes dicotomías jurídicas. Estamos ante un concepto jurídico incompleto e inconcluso. Por ende se está haciendo demagogia jurídica, ante la imposibilidad de frenar el avance tecnológico y sus grandes dudas, se ataja por lo sano vinculando de forma errónea y partiendo de una premisa jurídica incorrecta la culpabilidad ante errores en la conducción de una máquina a un ser humano, por no evolucionar la norma y prepararla para lo que depara la tecnología. Por ello estamos ante el momento de crear las bases de un Derecho que se aplique a las tecnologías avanzadas y la inteligencia artificial, un nuevo campo ingente de trabajo jurídico. 

Si comenzamos por la finalidad del derecho nos encontramos con que el derecho por definición histórica previa al derecho positivo, en lo que al desarrollo del transporte autónomo respecta, reivindica las lesiones de diversos derechos naturales y que según el iusnaturalismo considera básicos. Nos referimos al derecho a la propiedad, el derecho a la vida y el derecho a la libertad entre muchos otros. Además el derecho, como indicaba Wolfang Friedman, es necesario que se adapte a la sociedad como un elemento transformador que canaliza las preocupaciones en herramientas que proteja los intereses y facilite la vida a los ciudadanos. Por ello es importante que el derecho en el caso del transporte autónomo, de un paso adelante y se enfrente a la realidad que se viene encima, y empiece a construir un derecho tecnológico que regule el transporte autónomo y toda su trama de entresijos jurídicos. 

La realidad legal del transporte autónomo pasa por describir los entornos en los que se mueve y los procesos que utiliza para saber sobre que campos legales incidir. Un vehículo autónomo se mueve alrededor de un entorno el cual interactúa con el vehículo autónomo, que a su vez en su interior puede contener o no ocupantes, que a su vez interactúan con otros coches autónomos que tienen en su interior otros ocupantes que a su vez interactúan con el mismo entorno que el primer vehículo y los otros vehículos. 


Entorno ↔ Vehículo Autónomo ↔ Interior ↔ Otros coches autónomos ↔ Entorno


El campo de actuación nos determina los campos legales sobre los que tenemos que legislar o revisar la legislación existente. Por orden de prelación podríamos en primer lugar ver que existe una necesidad de regulación básica de cuestiones relacionadas con campos jurídicos como los relacionados con las vías de circulación, intercambio de datos entre infraestructuras, peatones, vehículos y sistemas satelitales o responsabilidades civiles y penales como hitos legales básicos a desarrollar o modificar legalmente. Aunque luego ahondaremos en algunas cuestiones más precisas. 

Si atendemos a la responsabilidad civil sobre personas o bienes, así como la responsabilidad penal ante sucesos mortales, como homicidios o asesinatos o daños a personas por parte de vehículos autónomos, nos deberíamos centrar en una primera aproximación al potencial conflicto legal con el transporte autónomo y formularnos la siguiente pregunta y enlazarla con causa y relación de causalidad ¿puede un vehículo autónomo que transporta autónomamente a mercancías o personas y que no tiene supervisión humana, dirigido por un sistema de inteligencia artificial matar a alguien mediando accidente de tráfico o incluso con dolo? ¿se le puede aplicar a una máquina  el concepto “dolo”? Si atendemos a la relación de causalidad nos encontramos con que la causalidad en cuestiones de derecho penal se aplica a aquellos llamados delitos de resultado, en los que además de la acción que lleva a una conducta ilícita, se requiere una relación entre la conducta y la producción del delito. Por otro lado si acudimos a ver los delitos de mera actividad serían aquellos que finalizan el hecho punible en el momento de consumar el delito es decir no existe un nexo causal temporal, sino directamente una acción ilícita. Asimismo si aplicamos dicha causalidad a la responsabilidad civil sobre personas o bienes y acudimos a la definición clásica de relación causal en derecho civil aplicada a la luz de la doctrina de la “causalidad adecuada” nos encontramos que la definición tradicional donde se alude a que es necesario la acción u omisión que cause daño interviniendo culpa o negligencia se debe ser debidamente probada con una causalidad adecuada o eficiente donde se pueda observar si el acto antecedente que provoca los daños es una causa con suficiente virtualidad como para que derive en el efecto dañoso producido. 

Por lo tanto, si nos abstraemos de que estamos frente a una máquina que conduce y ponemos las causas de un accidente con consecuencias mortales exponiendo el error del conductor que provoca el accidente o muerte, podríamos llegar a la conclusión de un ajusticiamiento con pena e indemnización; pero si a continuación decimos que ese conductor no existe y ha sido una máquina la culpable ¿ahora que hacemos desde un punto de vista jurídico? 

La respuesta es compleja, pero si partimos de la base de que el transporte autónomo estará dirigido por inteligencias artificiales no autónomas, es decir, sin conciencia de sí misma pero si con suficiente autonomía como para realizar una toma de decisiones sin consulta previa a un humano, ¿dónde quedaría la condena? ¿cómo se condena a una máquina? La solución está en revisar el sistema penal y civil para construir un nuevo sistema que contemple penas civiles derivadas a los propietarios de los vehículos o dueños de la marca del vehículo y penales aplicadas bajo un nuevo tipo aplicable a la inteligencia artificial como reelaboraciones de código, eliminación de todo software elaborado bajo ese código, etc. La causalidad civil o penal es evidente que podría ser aplicable pero es necesario reformas jurídicas. La cosa sería diferente en otros campos y otros sistemas de inteligencia artificial, pero sería otra temática diferente a la que analizamos. Lo que si tenemos claro es que no puede quedar un daño impune, ¿o si? 

Para el caso de un automóvil autónomo, hemos visto que existe una relación causal imputable a unos hechos y un autor, un vehículo conducido por inteligencia artificial. Ahora, ¿podría ser imputable o estamos ante un supuesto de inimputabilidad? La imputabilidad se deriva de la necesidad de comprender que el sujeto imputable debe tener capacidad para comprender la antijuricidad de las conductas que realiza y que no adecuar la misma a las normas en un hecho que comporta una violación de norma positiva. La capacidad para poder escoger entre realizar el hecho punible o no es la barrera de la imputabilidad o la inimputabilidad. Por lo tanto, si a un vehículo autónomo se le enseña a respetar la normativa para poder circular y se le otorga autonomía para respetarla o no según bareme él la situación, estaríamos ante una situación imputabilidad, pero si solo se programa para seguir unas pautas en base a unos datos externos sin mayor relación con otros datos como estructuras, viandantes y demás situaciones, no estaríamos ante un vehículo autónomo sino un vehículo automático y un supuesto de inimputabilidad. Por lo tanto, la facilidad para indicar que la inteligencia artificial conllevará un gran cambio es algo delicado. 

El hecho de que se pueda considerar a una máquina sea imputable por un delito conlleva plantearse un nuevo sistema de condenas, y si la máquina es la culpable o existen culpables subsidiarios o coautores, o cooperadores necesarios o negligencias, dependiendo de que forma queramos interpretar o hasta que límite será reconocible la interpretación de la norma por una máquina hacia su trabajo. 

Todo ello es la parte más difícil de evaluar en lo que el transporte autónomo se refiere y las consecuencias legales del transporte autónomo. La necesidad de conocer hasta que limite la inteligencia artificial, toma decisiones que pueden llevar a causar daños graves e irreparables de forma consciente, o si son simplemente programas fríos sin capacidades de saber que consecuencias van a tener para terceros de forma consciente, es el gran problema jurídico.

Una vez vista la parte más vinculada con el derecho penal y civil subjetivo, nos encontramos con otra parte muy importante, la explotación de datos y su capacidad de utilizarse como medio de ingeniería social. Los datos que tratan los vehículos autónomos para realizar su labor de transporte autónomo son miles de datos simultáneos que puede provocar una indefensión a unos niveles extremadamente altos y sensibles. Partimos de la base de que los vehículos autónomos interactúan con diferentes infraestructuras, vehículos, entorno e incluso todas las personas, es decir el entorno completo por donde circula. Todo ello puede parecer a priori normal, lo cual es evidente, pero la cuestión viene cuando nos preguntamos ¿y como se realizará el tratamiento de datos? La respuesta varía, todo será según se desarrolle tanto la tecnología como el ámbito jurídico. Para ir del punto A al punto B, el vehículo le dirá a B que va de camino y comunicará su ruta a todos los diferentes vehículos, infraestructuras y cualquier elemento que se encuentre en su ruta, con el fin de que el resto de vehículos interactúen entre ellos para que todo funcione correctamente, y no existan accidentes o incidencias. Todo ese flujo de datos comporta dejar al descubierto todos nuestros movimientos, pues sin compartir esa información no es posible llevar a cabo la tarea de transportarse. El tratamiento de esos datos es el problema, estamos ante sistemas de inteligencia artificial, que es evidente que no van a tratar de utilizarlo en nuestra contra, pues esos argumentos son de ciencia-ficción. Por todo ello sin una buena distribución de roles de supervisión y trabajo, los errores en esa cadena pueden ser numerosos, muchos intervinentes, por ende muchos posibles agujeros de seguridad, cibernéticos y humanos. La información por tanto deberá partir de alguna forma cifrada punto a punto, y destruida según es utilizada, quedando alguna copia de seguridad en manos exclusivas del dueño, es decir cada uno de “nosotros”, todo ello desconectado de la red e inaccesible a la misma para poder promover un nivel de intimidad igual o superior al actual. Sino se efectúa una protección de características similares estaremos ante un estado policial que es capaz de saber toda nuestra vida, presente y futura al completo, pues no es solo el simple hecho de movernos de un sitio a otro sino a donde vamos es más completo. La relación de datos según la Teoría del Mosaico de Madrid Conesa apoyada por Shevill y Kronhofer facilita la reconstrucción de la vida de las personas a partir de muchos trozos que inconexos no dan una conexión pero que si se juntan todos podemos obtener grandes conclusiones.

Pero todo esto solo es la problemática directa y consecuencia de la futura relación entre tecnología y derechos civiles, humanos y políticos. Lo descrito es solo la capa directa entre la relación humano-robot como el C-ITS indica en sus protocolos de relación humano-máquina respecto a la conducción autónoma.

Pero existe una relación legal adicional diferente, en un campo jurídico más nuevo todavía, la regulación técnico-jurídica de toda esta tecnología para que no pueda afectar a esos derechos de los ciudadanos. Lo primero que se tiene que regular es como construir máquinas para que las máquinas se relacionen correctamente, no empecemos la casa por el tejado. Para eso debemos aplicar y desarrollar una serie de hitos necesarios para conseguir una legislación tecnológica básica.

Algunos de esos hitos tecnolegales son los que a continuación, respecto el campo del transporte autónomo desarrollaremos. La regulación puramente tecnológica no es menos importante y una coherencia legal común aplicable a todo sus campos es una necesidad a desarrollar por parte del legislador.

Para un correcto desarrollo de cualquier tecnología es necesario una regulación legal que securize su desarrollo en todas las esferas del derecho. Para el caso concreto que hablamos nos hace falta:

- Elaborar nuevas Directivas y Tratados Internacionales que limiten a los sistemas basados en inteligencia artificial en su toma de decisiones en lo que a la conducción y sus posibles consecuencias o derivaciones existan respecto a todas las situaciones posibles, limitando sus capacidades cognitivas. Limitación legal a la estricta interpretación de la norma legal sin capacidades de libre albedrío.

- Legislar un sistema de control de datos respecto al tráfico de datos en la interacción con los elementos con los que interactúa la AI, en este caso, infraestructuras, flujos de navegación por satélite, personas y todo lo que gire entorno al concepto de “internet de las cosas”. La realidad de la interactuación pasa por generar una legislación única con reglamentos de desarrollo por campos y sectores industriales.

- Legislar el control de explotación de datos de la relación de datos entre vehículos bajo el protocolo llamado por la Unión Europea “máquina-máquina” y “maquina-humano-maquina” de forma que tantos los roles de acceso a nivel de protección de datos y de supervisión y compartición sean totalmente regulados en su totalidad y actualizada su legislación según avance la tecnología.

- Elaborar legislación que establezca los requisitos legales y el desarrollo del concepto “digital forensics” y la prevención de la manipulación de software. La posibilidad de manipulación de sistemas de tecnología avanzada o de inteligencia artificial debe ser protegida para que pueda ser revisada la maquinaria. La protección debe ser de forma que deje rastros para posteriormente poder ser evaluado para la mejora o rectificación del campo legal de aplicación. Asimismo en base a los parámetros legales de requisitos de fabricación que se generan de la obtención de los informes indicados nos ayudaría al mantenimiento e interacción con dicha tecnología. La legislación es la que debe diseñar los procesos de creación industrial básicos y sobre ella los ingenieros crear sus diseños, no a la inversa. También es necesario una regulación exhaustiva de los protocolos de interacción humano-maquina-humano y estandarizarlos con personalizaciones explicitas.

- Diseño de software con total acceso público a tiempo real con desaparición del sofware privativo regulando la modificación e hibridando el sistema. Directivas y protocolos legales internacionales que puedan facilitar el acceso a tiempo real a todo el código fuente de todos los sistemas de inteligencia artificial, con el fin de que se puedan encontrar fallos, mejoras o sabotajes en el menor tiempo posible. Para ello se deben crear leyes básicas en cada país, internacionalmente y reglamentos de desarrollo por sectores tecnológicos que se actualicen periódicamente.

- Enseñar máquinas a respetar derecho y sacar conclusiones del contenido de la ley, es necesario elaborar una nueva generación de legislación enfocada a un nuevo campo,  el derecho en inteligencia artificial, el cual se dedique a no solo elaborar legislación entorno a dicha tecnología sino como dicha tecnología debe conocer el derecho, interpretarlo y respetarlo y todo ello conforme a una legislación que regule su tecnología y la forma de interpretar nuestro derecho y sociedad, limitando su comportamiento o servicio a una garantía jurídica de respeto a le legislación en base a parámetros de diseño tecnológico.

Pero a donde nos lleva todo ello, a pensar que la legislación, la elaboración de normativa debe evolucionar y cuestionarse muchos conceptos que la tecnología va a revolucionar. El hecho de que los vehículos vayan a ser autónomos y tengan capacidad para tener inteligencia artificial no autónoma, nos lleva a plantearnos conceptos básicos del derecho civil o penal, todo aquel derecho vinculado sobre protección de datos o la relación entorno a los derechos políticos de los entes que disfrutan de inteligencia artificial. Además surge la necesidad de rediseñar toda la legislación sobre investigación debido a que se va a alcanzar un límite en el que la tecnología va a tener autonomía suficiente para tomar decisiones y por ello el derecho debe convertirse en una verdadera herramienta protectora social donde ponga las bases legales sobre las cuales la investigación debe desarrollarse. El derecho no es solo una herramienta limitadora a la capacidad investigadora o la libertad de creación sino una herramienta de protección civil y social, es decir, ponemos los límites a la creación donde puede afectar a otros ciudadanos.

Toda revolución debe ser regulada, dicha regulación no es una perversión jurídica y por eso debe evolucionar el derecho hacia un nuevo derecho donde se cree una nueva generación de juristas y abogados con conocimientos técnicos y de ingenieros con conocimientos jurídicos con el fin de crear un nuevo campo del derecho donde juristas y técnicos colaboren en crear una legislación para regular la inteligencia artificial, los vehículos autónomos o la tecnología que surga, el derecho como herramienta transformadora, el derecho como un sueño donde todo lo que gira a su alrededor es protección y educación social.

Lefebvre - EL Derecho no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación

Widgets Magazine

Comentarios jurisprudenciales

CASE STUDY & MASTER CLASS

LOPD EN DESPACHOS DE ABOGADOS

  • Caso práctico: absorción o adquisición del despacho por otra entidad

    Tanto el despacho como persona jurídica, como los integrantes del mismo, los terceros a los que se ceden esos datos, y aquellos que prestan servicios al despacho y tienen acceso a datos de carácter personal, están obligados al secreto y al deber de guardar esos datos, 

  • Caso práctico: Lexnet

    El consentimiento para la comunicación de los datos de carácter personal a un tercero será nulo cuando la información que se facilite al interesado no le permita conocer la finalidad a que se destinarán los datos cuya comunicación se autoriza, o el tipo de actividad de aquel a quien se pretenden comunicar.

  • Caso práctico: almacenamiento de información

    Como decimoctava entrega de la serie de artículos sobre protección de datos personales en los bufetes de abogados, hoy les mostraré un caso práctico sobre almacenamiento de información personal y las ventajas del despacho digital.

ebook gratuito

ENTREVISTAS

GESTIÓN DE DESPACHOS

  • ¿Por qué es importante implementar el marketing en una empresa de servicios jurídicos?

    Hoy en día, el mercado legal está inmerso en una etapa de dinamismo que se está llevando a cabo a través de numerosas integraciones y/o fusiones entre despachos de diferente perfil que lo que buscan es crear una marca más sólida con la que poder prestar un servicio más completo a sus clientes.

  • La web y el blog, primeras piedras del camino hacia el posicionamiento SEO

    ¿Recuerdas cuando captar clientes se reducía al ‘boca a oreja’ y al prestigio del despacho? ¿Todo iba mucho más rodado, ¿verdad? ¿Cuál es el motivo por el que ahora ya no es tan fácil? Muy sencillo: se ha constituido un nuevo canal de captación que aún tiene mucho potencial: internet, la web y Google, el mayor canal de información y búsqueda de contenidos de España.

REDES SOCIALES & ABOGADOS

  • Internet y Redes Sociales para despachos de abogados: una exigencia necesaria

    ¿Por qué es importante que los despachos de abogados entren en la dinámica de las redes sociales e Internet? ¿Cómo puede afectar a un bufete el estar o no en el mundo digital? ¿Qué es lo que quieren tus futuros clientes de su abogado? El mundo se ha digitalizado y los abogados no pueden quedarse atrás.

COLABORA CON NOSOTROS

Colabora

Envianos un artículo sobre nuevas tecnologías aplicadas al ámbito jurídico

Colaborar

Enviar Artículo

He leído y acepto las condiciones de la Política de Privacidad y el Aviso Legal

(*) Campos obligatorios

Pablo García Mexía

Abogado, Cofundador de Syntagma, Centro de estudios estratégicos.

1

Carlos Pérez Sanz

Socio del área de Information Technology y Compliance de ECIJA.

1

Raúl Rubio

Partner, Information Technology & Communications Baker & McKenzie

1

Los ayuntamientos españoles pueden ahorrar hasta un 60% en gastos con tecnologías de smart cities

Los ayuntamientos españoles pueden ahorrar entre un 20% y un 60% de sus gastos gracias a la aplicación de tecnología digital en la gestión de agua, residuos, alumbrado, movilidad y edificación, según un estudio elaborado por la consultora KPMG en colaboración con la empresa tecnológica Siemens, que señala que la digitalización puede mejorar la calidad de vida de los ciudadanos y, al mismo tiempo, permitir importantes ahorros en las arcas públicas.

La empresa española Lleida.net obtiene la patente de su método de contratación electrónica certificada en USA por un periodo de 20 años

La concesión consolida la presencia de Lleida.net en el mayor mercado mundial en derechos de propiedad y servicios tecnológicos. La firma tecnológica, que cotiza en el MAB (Mercado Alternativo Bursátil: LLN) desde hace dos años, refuerza su apuesta por el sector de la contratación electrónica.

AirHelp incorpora su primer AI lawyer, abogado con Inteligencia Artificial, para gestionar las reclamaciones por retraso de vuelos

El lanzamiento de Lara optimizará las capacidades legales de la compañía permitiendo el crecimiento de sus servicios legales y su expansión en este mercado

feedburner

Reciba LAW & TIC de forma gratuita.

Atención al cliente: De lunes a viernes de 8:30 a 20:00 horas ininterrumpidamente. Tel 91 210 80 00 - 902 44 33 55 Fax. 915 78 16 17