Nuevos desafíos de la responsabilidad civil ante la innovación

La tecnología desde hace varias décadas que viene produciendo cambios drásticos en nuestras costumbres (v.gr., TV, radio, teléfono, celular, internet)¹, situación que se ha visto agravada (por su preocupación) con el arribo de la inteligencia artificial², y todo lo que aún falta por descubrir de este nuevo invento, no siendo, ciertamente, el derecho ajeno a ello.

Esta situación de confort y beneficios que aportan los aparatos tecnológicos para la vida de los seres humanos también en muchos casos traen aparejados riesgos y perjuicios para terceros (v.gr., accidentes de tránsito³, supuestos de electrocución, etc.), lo que supuso que en el siglo XX debiera adoptarse la teoría del riesgo creado para dar respuesta legal a esos casos en donde la culpa no resultaba suficiente para imputar al autor material del hecho dañoso (factor objetivo de atribución - arts. 1757, 1758, 1759, 1762 y 1769 CCCN)⁴.

En los últimos años el desarrollo tecnológico evidencia nuevos supuestos de responsabilidad civil para analizar, en donde el intérprete jurídico debe dar respuesta de justa reparación frente a estos nuevos casos de lesión a la integridad psicofísica y/o patrimonial a fin de garantizar el principio de no dañar a otros (alterum non laedere)⁵, sin perjuicio –claro está– del debate necesario que ello supone entre los operadores jurídicos.

La inteligencia artificial⁶ permite la resolución de problemas, la búsqueda de resultados y la adopción de decisiones en poco tiempo mediante la utilización de datos y algoritmos; con ello, lo que intenta la IA es imitar la mente humana por medio de programación de sistemas que aprenden autónomamente⁷, sobre la base de un conjunto de datos sobre los cuales un algoritmo hace una predicción (Danesi, 2021)⁸.

Si bien no existe consenso en torno al concepto de IA, sí se puede afirmar que es un hito tecnológico que posee habilidades propias de los seres humanos. Quizás, el primer motivo por el cual no haya una definición aceptada de la IA, se debe a que versa sobre una tecnología multidisciplinaria y en plena evolución, cuyos alcances y limitaciones aún no están demarcados; sin embargo, resulta sumamente importante tener en cuenta que los datos –en este contexto– desempeñan un rol fundamental, porque todo el sistema se nutre, mueve y retroalimenta, en función de grandes volúmenes de ellos. Son el alma de la inteligencia artificial.

También puede suceder que esos datos –o conjuntos de datos– presenten sesgos, que pueden estar establecidos en el propio conjunto, o ser infundidos por la intervención humana. Ello, desde luego, afecta la transparencia y explicabilidad del sistema, máxime cuando tienen incidencia negativa sobre las personas, porque podrían provocar un trato discriminatorio, que vulnere su derecho a la igualdad y a la no discriminación (Sánchez Caparrós, 2021, p. 302 y ss.).

Aparece, de este modo, la noción de "sesgo algorítmico", entendido este como las respuestas que dan los sistemas de IA, pero que aparecen parciales, prejuiciosas, distorsionadas, y que se agravan cuando afectan derechos humanos, producen discriminaciones, trabajan sobre la base de estereotipos y profundizan diferencias en la sociedad (Danesi, 2021). Estos sesgos pueden ser de diversa índole —históricos, injustos, de interacción, latente y de selección—, pero en todos, lo que subyace y está presente, es la utilización de datos de manera prejuiciosa, y con fines discriminatorios.

Lo anterior destierra la creencia de que los sistemas de IA son neutros y deciden objetivamente, pues "lo cierto es que se entrenan con datos. Si estos datos incluyen sesgos injustos, estos sistemas van a amplificar estructuralmente estos prejuicios provenientes de los datos, consolidando y expandiendo la discriminación, dando lugar a un círculo vicioso que terminará por excluir definitivamente a muchas personas, sobre todo a aquellas que pertenecen a grupos vulnerables" (Sánchez Caparrós, 2021, p. 308).

La situación descripta se agrava frente a técnicas conocidas como de "caja negra", es decir, aquellas a las que –por la manera en que están diseñados los sistemas y su complejidad– no se puede tener acceso, no resulta posible explicar la secuencia que utilizan y que, por tanto, resultan difíciles de controlar. Como derivación, es claro que, si un sistema de IA es entrenado con datos afectados por algún sesgo, los resultados van a expresar el mismo sesgo, reproduciéndolo y hasta ampliándolo, provocando así perjuicios de diversa índole.

I - INTELIGENCIA ARTIFICIAL Y RESPONSABILIDAD CIVIL

La IA y la responsabilidad civil se encuentran vinculados desde el momento en que las máquinas procesan grandes volúmenes de información (en mucho mayor cantidad que la mente humana). Sin embargo, ¿serán válidas o justas las decisiones que tomen por ellas mismas sin intervención humana? ¿Y qué ocurre si con la decisión de la máquina se causan daños a terceros? Y, en dicho caso, ¿quién responde por la eventual indemnización debida? ¿Deben los fabricantes informar los factores que conllevan a adoptar una determinada decisión (en relación con los sesgos algorítmicos)?

En el caso de vehículos autónomos, y los posibles daños a ocasionar, es un tema complejo y en continua evolución, ya que los vehículos autónomos son relativamente nuevos, y se ubican en proceso de desarrollo y pruebas, no existiendo a la fecha leyes y regulaciones claras que contemplen el fenómeno en todos los países, sin que esto último ciertamente obste a que el derecho deba dar una respuesta satisfactoria a la víctima.

En forma preliminar, no cabe duda alguna (al menos hoy en día) que las máquinas no se encuentran (todavía) capacitadas para reemplazar a la decisión humana, en lo que respecta a diversos lineamientos, conductas y diversas consideraciones al momento de juzgar; es por ello que se exige que detrás de cada decisión de las máquinas (utilizando IA) exista una intervención humana en algún estadio del proceso, y que permita avalar esa decisión de la IA⁹.

1. Derecho europeo.

Se conocen supuestos de regulación legal en la Unión Europea por parte del Parlamento Europeo, en calidad de recomendaciones (Resoluciones 2020/2012 (INL) y 2020/2014 (INL) (Mohadeb et al., 2021, p. 263) a fin de desarrollar los principios éticos y obligaciones jurídicas ligados al desarrollo, la implantación y el uso de la IA, la robótica y otras tecnologías relacionadas¹⁰.

El Parlamento Europeo considera que no es necesario atribuir personalidad jurídica a los sistemas de IA, puesto que hacerlo socavaría el principio fundamental de que los seres humanos, en última instancia, deben seguir siendo responsables de los actos y omisiones de los sistemas de IA. Se persigue que siempre haya una persona responsable que ayude a dar legitimidad a la operación, proporcione una fuente clara de autoridad sobre su funcionamiento, proporcione un elemento de justificación para la decisión interna y proporcione un punto de contacto cuando los usuarios busquen algún recurso en virtud de algún agravio o daño que surja del sistema de IA.

De todos modos, la realidad demuestra que muchas veces resulta problemático identificar a la persona responsable desde un punto de vista práctico (Buyers y Barty, citados por Mohadeb et al., 2021, p. 266). La opacidad, la conectividad y la autonomía de los sistemas de IA podrían llegar a dificultar, o incluso imposibilitar en la práctica, la trazabilidad de acciones perjudiciales específicas de los sistemas de IA hasta una intervención humana específica o decisiones de diseño, y que para evitar una exoneración de responsabilidad, el Parlamento Europeo deja constancia que, de conformidad con conceptos de responsabilidad civil ampliamente aceptados, se puede recurrir a asignar responsabilidad a las diferentes personas que participan en la cadena de valor que, a su forma y en su proporción, crean, mantienen o controlan el riesgo asociado al sistema de IA.

En tal sentido, según el "Informe sobre las implicaciones de seguridad y responsabilidad de la inteligencia artificial, la Internet de las cosas y la robótica" de la Comisión Europea, la responsabilidad debería residir en el operador, sobre bases objetivas y de manera coherente con la legislación sobre responsabilidad por productos defectuosos dentro de la Unión Europea¹¹, la cual ha demostrado ser durante muchos años un medio eficaz para obtener una indemnización por un daño causado por un producto defectuoso, pero que, no obstante, debe ser objeto de una revisión para adaptarla al mundo actual –es decir, digital– y abordar los retos que plantean las tecnologías digitales emergentes. De esta forma, se garantizaría un elevado nivel de protección efectiva de los consumidores y de seguridad jurídica para ellos y las empresas.

En cuanto a los modelos de regímenes de responsabilidad civil derivada de los sistemas de IA, el Parlamento Europeo propone dos regímenes de acuerdo con su grado de riesgo:

a) Un régimen objetivo de responsabilidad para sistemas de alto riesgo de IA: en donde el operador no podrá eludir su responsabilidad demostrando la debida diligencia o que el daño fue causado por una actividad, un dispositivo o un proceso autónomo gobernado por su sistema de IA; la única eximente es el daño causado por fuerza mayor; y estableciendo un tope indemnizatorio máximo de 2 millones de euros en caso de fallecimiento y/o daños físicos, y de 1 millón de euros para daños morales significativos que resulten en una pérdida económica verificable o en daños a la propiedad; y la contratación obligatoria de un seguro de responsabilidad civil acorde con los montos establecidos; y

b) un régimen de responsabilidad subjetivo para sistemas de bajo riesgo de IA: en este caso, el operador estará sujeto a responsabilidad subjetiva (culpa o dolo) respecto de todo daño o perjuicio causado por una actividad física o virtual, un dispositivo o un proceso gobernado por el sistema de IA, y no será responsable si: 1) el sistema de IA se activó sin su conocimiento, al tiempo que se tomaron todas las medidas razonables y necesarias para evitar dicha activación fuera del control del operador; 2) se observó la diligencia debida a través de la realización de las siguientes acciones: la selección de un sistema de IA apropiado para las tareas y las capacidades adecuadas, la correcta puesta en funcionamiento del sistema de IA, el control de las actividades y el mantenimiento de la fiabilidad operativa mediante la instalación periódica de todas las actualizaciones disponibles. Además, no será responsable si el daño o perjuicio ha sido provocado por un caso de fuerza mayor. Sin embargo, se prevé una garantía para el usuario o consumidor al responsabilizarse igualmente al operador si el daño fue causado por un tercero que haya interferido en el sistema de IA al modificar su funcionamiento si dicho tercero es ilocalizable o resulte insolvente (Comisión Europea, 2020, 64).

En los Estados Unidos no existe legislación federal sobre responsabilidad civil en materia de IA. Sin embargo, algunos estados han regulado algunos aspectos de esta temática, en concreto sobre vehículos autónomos, condiciones para que puedan operar, requisitos de testeo y funcionamiento en la ciudad, estableciendo responsabilidades tanto para el conductor como los fabricantes por cualquier defecto en sus productos, ya sea por fallas en su tecnología o en el diseño del vehículo.

2. Derecho argentino.

En la Argentina no existe una regulación específica sobre responsabilidad civil en materia de IA, existiendo diversas opiniones al respecto, ya que para algunos juristas es necesaria su reglamentación específica mientras que, para otros, puede resultar más conveniente, si resulta posible, encuadrar las situaciones que surjan con motivo del uso de la IA en las normas jurídicas ya existentes.

El Código Civil y Comercial (CCCN), y otras leyes eventualmente aplicables (Ley de Defensa del Consumidor Nº 24.240 y modif., Ley de Defensa de la Competencia Nº 27.742, Ley de Lealtad Comercial Nº 22.802, etc.), ¿son capaces de dar una respuesta satisfactoria a este fenómeno de provocación de daños a terceros por medio de utilización de artefactos que emplean IA?

Por lo pronto, si bien podría llegar a pensarse que los presupuestos de la responsabilidad civil se mantienen vigentes en tales supuestos (daño, antijuridicidad, relación causal y factor de atribución), mayores dudas se plantean en lo que respecta a los sujetos u otras cuestiones (como son el autoaprendizaje y autonomía de la IA) que difieren de los supuestos clásicos del derecho de daños.

Para ello, la doctrina sugiere aplicar los principios generales vigentes del derecho contractual, de las normas sobre propiedad intelectual, defensa del consumidor y privacidad y protección de datos personales vigentes, así como las del Código Civil y Comercial de la Nación (Repond, 2020; Fossaceca y Moreyra, 2020; Danesi, 2018a, p. 8).

En nuestro derecho una herramienta fundamental en este aspecto radica en la prevención del daño, la cual se encuentra regulada en el art. 1710 y ss. del CCCN. La tutela sustancial inhibitoria tiene como objeto directo la prevención del daño mediante una orden para impedir (en caso de amenaza de lesión) o bien para que cese su producción (si la actividad ofensiva ya se ha iniciado y es previsible su continuación o reiteración... Constituye una protección judicial de urgencia sustantiva y no cautelar y cuyos presupuestos son un comportamiento lesivo, un daño injusto y una relación de causalidad adecuada entre dicho comportamiento y el daño causado)¹².

El mandato constitucional previsto en el art. 43 CN (en concordancia con los arts. 1.710/1.713, y 1.973 del CCCN) es claro: se debe primero evitar el daño. Es que el Código Civil y Comercial consagra de manera expresa y absolutamente amplia un deber general de prevención, que hace a la llamada responsabilidad civil preventiva¹³.

Con ello, los requisitos de procedencia de la acción preventiva son (Pizarro y Vallespinos, 2018; Zavala de González, p. 211; Ossola, p. 115):

a) una acción u omisión con razonable aptitud causal para generar un peligro de daño no justificado;

b) la conducta riesgosa debe ser antijurídica;

c) razonable previsibilidad de la producción, continuidad o agravamiento del resultado nocivo, ponderada en base a estándares de causalidad adecuada;

d) amenaza de un interés no ilegítimo, patrimonial o extrapatrimonial, individual o colectivo del accionante; y

e) posibilidad material de detener el efecto lesivo.

En materia de IA, los expertos se preguntan si quien ha desarrollado una IA determinada tiene un "deber legal" de prevenir daños causados a terceros, cuando tiene conocimiento (o lo debiera tener) de que su herramienta es apta para causar daños, y que con el aporte o información a proveer por el fabricante puede evitarlos, mitigarlos o hacerlos cesar. A ello, se responde que el deber de prevención recaerá en todos aquellos sujetos que, material o jurídicamente, estén en condiciones de prevenir daños, siempre y cuando no se requiera un esfuerzo excesivo y/o extraordinario del sujeto al cual se le atribuiría responsabilidad.

Así, los propietarios de una IA que tengan aptitud para prevenir daños podrán ser legitimados pasivos de los planteos o acciones entabladas por aquellas personas que acrediten un interés razonable en la prevención del daño (cf. arts. 1710 y 1711, CCCN; Chamatropulos, 2017). En nuestro país se considera que la obligación en cabeza de quien desarrolla una IA determinada, además de no exigírsele un accionar anormal o extraordinario, deberá tener presente dos limitaciones de importante impacto práctico: la menor restricción posible de derechos del sujeto en cuestión y la exigencia de que lo que se le peticiona constituya el medio más idóneo para lograr el objetivo preventivo (cf. art. 1713, CCCN). Caso contrario, el deber de prevención no nacerá (Chamatropulos, 2017).

En nuestro ordenamiento legal a los daños causados por la IA pueden serle aplicables la responsabilidad objetiva contenida en los arts. 1757 (hecho de las cosas y actividades riesgosas), 1758 (sujetos responsables) y 1769 por los daños derivados de los accidentes de tráfico (de eventual aplicación a los vehículos autónomos), supuestos en los cuales el dueño y el guardián de la cosa responden en forma concurrente, no pudiendo eximirse por errores en la conducción causados por la IA, tal como se concluyó en las XIX Jornadas Nacionales de Derecho Civil celebradas en septiembre de 2024 en Pilar (véase también: Danesi, 2018a)¹⁴.

En lo que respecta a los eximentes de responsabilidad, se descarta la eventual autorización administrativa que pudiere existir, o el cumplimiento de técnicas de prevención (art. 1757 CCCN), con lo cual queda únicamente como supuesto de eximición de responsabilidad el caso fortuito o fuerza mayor (art. 1730 CCCN).

Además, en esta materia, se deberá tener especial consideración por el software, el cual puede ser reparado, actualizado o revisado por el productor del sistema, por componentes individuales del sistema o por terceros, de una manera que puede afectar la seguridad de estas tecnologías (Danesi, 2018a). En estos casos, las tareas mencionadas respecto al software están a cargo de un sujeto en particular que, para la doctrina, puede revestir el carácter de "guardián", definido en el art. 1758 del CCCN: "se considera guardián a quien ejerce, por sí o por terceros, el uso, la dirección y el control de la cosa, o a quien obtiene un provecho de ella", siendo el productor el sujeto responsable (conf. arts. 1757, 1758 y 1769 del CCCN), en tanto y en cuenta no acredite (para eximirse) que la cosa fue usada en contra de su voluntad expresa o presunta (art. 1758 CCCN), y de dudosa aplicación en el ámbito de la responsabilidad de defensa del consumidor o por productos defectuosos (Danesi, 2018a, p. 26).

3. Para ir sentando algunas ideas.

Como se vio ut-supra, algunos autores proponen un régimen de responsabilidad autónomo de la IA, atribuyendo una personalidad jurídica a los robots programados con IA. De esta forma, consideran la idea de una "personalidad electrónica" (Valente, 2019, p. 24). En estos casos, los robots o "personas ciber físicas" serán capaces de desarrollar una individualidad/autonomía "propia o autónoma" a partir de su interacción independiente con el entorno, por lo que consideran estos autores que no sería justo imputar a los programadores y/o fabricantes las decisiones que tomen estas entidades con base en su propio aprendizaje (Zapata Sevilla, 2019).

Esta postura entiende que el dictado de una normativa es indispensable, al garantizar una transición digital ordenada y, al mismo tiempo, brindaría certeza jurídica a la sociedad que pudiera verse afectada por ella aún de manera indirecta (García, 2019).

Con ello, el programador sólo será responsable por los daños causados por los robots cuando se encuentren relacionados con defectos en el software, fallos o errores; ya que está en mano del programador la tarea de realizar una adecuada labor de determinación de los patrones de actuación y limitar en base a los derechos fundamentales y libertades humanas a la máquina¹⁵. En cambio, de producirse sucesos que no hubieran podido preverse, o que, previstos, fueran inevitables, no parecería correcto atribuirle la responsabilidad al programador.

4. ¿Es obligatorio en materia de producción de IA contratar un seguro?

Se propone la asignación de un seguro que pueda ser responsabilizado por dichos daños causados por la IA, siendo un problema de implementación jurídica dotar al robot de una identificación única, crear un registro e imponer un seguro obligatorio a cargo de quien o quienes, directa o indirectamente, se sirven de su actividad (Valente, 2019, pp. 22-4)¹⁶.

En la Unión Europea se propone la creación de un seguro obligatorio (similar al de los vehículos automóviles) con cargo de los fabricantes o a los propietarios y usuarios; o fondos de compensación ante la inexistencia de seguros. Ello supondría que el fabricante, programador o usuario puedan beneficiarse de un régimen de responsabilidad limitada en caso de contribución a un fondo o suscripción de seguros. Otra propuesta es la creación de patrimonios individuales por robot o para todos los robots con el pago único por su introducción al mercado o pagos periódicos, y la creación de un número de matrícula o registro del robot que lo vincule con un fondo en particular. Esto último está vinculado a la idea de la creación de una personalidad electrónica responsable de reparar los daños que pueda causar (con un patrimonio que respalde a la misma)¹⁷ según se vio ut-supra.

II - DIVERSAS PROBLEMÁTICAS LEGALES QUE PRESENTA LA IA

Los fabricantes de vehículos autónomos¹⁸ y los proveedores de tecnología pueden ser considerados responsables de los accidentes causados por fallas en la tecnología o en el diseño del vehículo. Sin embargo, en los casos en que los conductores humanos también estén involucrados en el accidente, la responsabilidad puede dividirse entre el conductor humano y el fabricante del vehículo autónomo.

La innovación tecnológica, y la IA en particular, genera muchos beneficios en las personas, en su confort, comunicaciones, seguridad, etc., pero al mismo tiempo puede ser muy perjudicial a diversos derechos humanos, como la privacidad, discriminación, accidentes, etc., sumado al hecho de la dificultad para encontrar un responsable a la pluralidad de sujetos intervinientes (fabricantes de software, programadores, operadores, etc.), sin perjuicio de que ello se ve agravado por el hecho de que este tipo de tecnologías requieren de manera continua la actualización del software lo que implica que puede verse comprometida la seguridad del producto original con posibles daños a las personas.

Además, los sistemas de IA –en un primer momento– son programados por una persona, pero luego la IA procesa datos, aprenden de estos y toma decisiones independientes que no necesariamente estarán relacionadas con la programación o el diseño inicial (autonomía), y ello dificulta la atribución de responsabilidad por daños porque las normas vigentes (ya sean las del Código Civil y Comercial o las de la Ley de Defensa del Consumidor) presuponen la trazabilidad del daño (atribuible al dueño o guardián, fabricante, diseñador, operador, usuario), pero en los casos más nuevos estas reglas resultarán insuficientes en la medida que no se podría identificar la parte que causó el daño, esto es, si fue por decisión autónoma de la IA o por un defecto del producto, y allí tendremos un problema de autoría del daño.

Es que en este ámbito identificar la causa de la falla de la IA será la clave para encontrar la relación de causalidad en el régimen del derecho de daños del derecho común, y también lo es para establecer el nexo entre el daño y el defecto en el régimen de la responsabilidad por productos elaborados. Se ha argumentado que a los fines de hacer la IA más explicable, y así superar esta dificultad, los diseñadores deberían revelar los códigos de los algoritmos e implementar alguna forma de registrar todos los aspectos de su funcionamiento (fenómenos de los algoritmos de caja negra), lo que permitiría reconstruir y entender las causas de su comportamiento y facilitaría la atribución de responsabilidad, ya que es sumamente dificultoso rastrear el proceso completo de la operación, siendo útil recurrir a la teoría de las cargas dinámicas, merced a la cual se aligera la labor probatoria del damnificado, emplazándola en cabeza de quien se encuentre en mejores condiciones para ello. En estos casos, serán, sin duda, programadores, productores, entre otros (Melo, 2021).

La multiplicidad de nocimientos que pueden provocarse y la necesidad de precisar su causa han motivado que se exija que pese sobre los productores el deber de equipar sus sistemas con medios de grabación para registrar la información y procesamientos en cada operación tecnológica realizada, ya sea por un robot, ya sea por un algoritmo o cualquier otro producto con IA. A este sistema se lo conoce con la denominación de logging by design. Por medio de este sistema se podrá conocer cómo acontecieron los hechos previos al daño, de modo de conocer la influencia en el perjuicio por parte de la IA¹⁹.

El logging debe cumplir las reglas que atañen a los datos personales y secretos comerciales. Se debería permitir el acceso al damnificado, a los productores y a la compañía aseguradora. También debería gozar de sistemas de seguridad que previniesen la alteración de datos. En el caso de que los productores no cumplieran con este deber, se les asignaría una responsabilidad objetiva y deberían responder por los daños ocasionados, no solo materiales, sino también por la falta de colaboración al no equipar la tecnología con el sistema de logging necesario (Fossaceca y Moreyra, 2020).

Estrechamente vinculado con el denominado fenómeno de caja negra se encuentra la naturaleza imprevisible de las IA más nuevas, ya que funcionan sobre la base de aprendizaje no supervisado: tales son los supuestos de IA basados en mecanismos de deep learning. Esta ausencia de previsibilidad exige reflexionar sobre los presupuestos de la responsabilidad civil.

Algunos consideran que esta falta de previsibilidad también obsta a la aplicación del estatuto del consumidor con las normas sobre responsabilidad por productos elaborados en la medida que el fabricante difícilmente podría incluir información acerca de riesgos impredecibles que podría presentar el producto. Así, resultarían inaplicables a este supuesto la doctrina y la jurisprudencia sobre responsabilidad del fabricante por daños causados por defectos de información (Melo, 2021).

Los vehículos autónomos –en determinadas ocasiones– puede que se sepa cómo van a actuar (v.gr.: detenerse ante determinadas señales de tránsito o disminuir la velocidad, o evadir un determinado peligro). Sin embargo, en otras ocasiones (supuestos no previstos por la máquina) habrá incertidumbre y no se va a saber con seguridad, o previsibilidad, cómo van a actuar ante determinados escenarios que plantea el tráfico.

Los conflictos pueden terminar por quedar comprendidos en: ¿qué vida salvar, o qué daño evitar?, ¿salvar la vida del usuario del vehículo o del peatón u otro usuario de la vía?, ¿quién tiene prioridad?, ¿por qué y cuándo se toma esa decisión?, y finalmente el interrogante que surge es si sería posible reducir la toma de decisiones no previstas en el tránsito a cuestiones matemáticas, siendo negativa la respuesta a esa pregunta, ya que no resulta ser suficientemente seguros los cálculos matemáticos en cuanto a previsibilidad (Martínez Mercadal, 2022)²⁰.

Por un lado, es cierto que estos vehículos suponen una mayor seguridad y por momentos deberían ser más predecibles que los humanos, en cuanto a respetar normas y señalización, pero la imprevisibilidad surge precisamente de la complejidad de los algoritmos y de su combinación con la experiencia adquirida; y que precisamente la mejor "decisión" según la diligencia debida del buen padre de familia puede no coincidir con la respuesta matemática (Balkin, 2015, citado por Martínez Mercadal, 2022).

En todo caso, la respuesta resarcitoria a favor de la víctima dentro del derecho de daños debe ponderar que no puede frenarse la investigación tecnológica y sí buscar otro tipo de respuestas, ya que hoy en día el ser humano es cada vez más consumidor de la innovación y desea mayores avances tecnológicos en los productos²¹.

Dentro de las personas responsables por los accidentes de automotores autónomos tenemos al propio usuario, al dueño del vehículo, al fabricante del vehículo, el fabricante de los componentes del vehículo o el software, las autoridades gubernamentales de control y seguridad vial, etc. (Gurney, 2013, citado por Martínez Mercadal, 2022).

Pero en el caso de los sistemas de vehículos autónomos y más aún los totalmente autónomos e inteligentes, el rol del usuario es bastante pasivo, por lo que surge la siguiente pregunta: ¿los fabricantes deberán responder de todos los accidentes de tránsito? Habrá casos fáciles y claros de resolver imputando responsabilidad objetiva a los fabricantes por productos defectuosos (es decir, falla de fabricación, o la utilización de un diseño que no es acorde con el estado de la ciencia o arte, o falta de información al usuario). Sin embargo, podrán existir otros casos en donde el accidente fue causado por una decisión que –de acuerdo a la fabricación, diseño e información– fue correcta, producto de un cálculo matemático de las posibilidades de la información recibida, y con ello el fabricante estaría exento de responsabilidad.

Algunos autores incluso consideran que ello va a complejizar los juicios de responsabilidad por accidentes de tránsito, ya que la víctima deberá contratar expertos matemáticos y científicos para poder descubrir el error en el algoritmo matemático que causó el accidente, aún en sistemas de responsabilidad objetiva (con fundamento en el derecho del consumidor o por productos defectuosos).

Otra teoría (Gurney, 2016) entiende que el fabricante debe ser considerado no como tal, sino como un conductor fictamente al que se le debe aplicar estándar de conductor razonable ("reasonable autonomus vehicle driver": literalmente, estándar de conducta razonable del conductor autónomo), y con ello evitar las discusiones sobre defecto de fabricación, diseño o información que podrían complejizar el juicio de responsabilidad civil por accidentes de tránsito.

Esta solución, que procura desojarse de los dolores de cabeza de la cuestión del producto defectuoso, también merece reproches y cuestionamientos ¿no termina complejizando aún más el accidente de tránsito ingresando la diligencia debida dentro de los algoritmos?, ¿cuál es la conducta debida por un robot o del fabricante? Los estándares de comportamiento (sea ya el buen padre de familia, el buen hombre de negocios y ahora el buen conductor autónomo) parten de la base del problema inicial planteado: la previsibilidad de conductas. Que es lo que la sociedad, o determinados sectores de ella (la familia, el mercado, o la seguridad vial) esperan de una persona. Pero de una persona, no de un robot dotado de inteligencia artificial con mecanismos de aprendizaje y conductas o comportamientos que escapan del control humano.

Otra postura considera que a los vehículos autónomos se los debe equiparar con el régimen de los animales domésticos, y así el usuario o propietario, en su caso, son guardianes de la cosa por cuando se sirven de la misma en su provecho²².

La propuesta estiva por considerar a los robots como los nuevos animales, y se propone el siguiente esquema: en primer lugar, determinar si estamos ante un caso de responsabilidad del fabricante en caso de accidente en ocasión de producto defectuoso. La propuesta parte de este supuesto, pero no quiere dejar librada toda la responsabilidad a los fabricantes. Absolver al consumidor usuario y responsabilizar al fabricante sobre la base del régimen general de responsabilidad por productos (claro está con el dilema antes expuesto). Si el fabricante es responsable, la solución del accidente de tránsito queda en esos términos. Pero si no lo es, la propuesta es considerar a los robots, como los nuevos animales del siglo XXI en cuanto a la atribución de responsabilidad, imputando la misma al usuario o propietario del vehículo por el accidente causado que no obedezca a un defecto de producto, lo que en nuestro sistema nos reconduce por la responsabilidad por el hecho de las cosas. Los autores postulan que la IA termina por ser más asimilable a un animal doméstico con cierta dosis de previsibilidad; por la información cargada. Expresan que la imprevisibilidad no es total, como puede ser la de un comportamiento de un animal salvaje o feroz en nuestro sistema. Sin embargo, se vuelve a las mismas críticas realizadas al subsistema de responsabilidad por hecho de las cosas, siendo patente la responsabilidad por falta de mantenimiento o de actualización de los sistemas informáticos, pero en otros casos la incertidumbre persiste.

III - CONCLUSIÓN

De todo el desarrollo efectuado en el presente trabajo de lo que a este autor surge claro es que no existe al día de hoy una única propuesta regulatoria correcta, siendo muy novedoso el tema a nivel mundial, y más aún en nuestro derecho argentino, siendo aconsejable y necesaria una regulación en supuestos específicos de daños derivados de IA²³.

Particularmente me parece sumamente interesante la constitución de seguros obligatorios a cargo de los dueños y usuarios de dichos vehículos autónomos, pero deberá contar con una adecuada regulación por la autoridad de aplicación de modo de evitar los problemas existentes en materia de seguros en la Argentina, en donde se aprecian muchos casos de impunidad o víctimas sin ser indemnizadas por la insolvencia de las compañías de seguros.

Otra cuestión de la que no surge duda es que se debe proseguir con la investigación y desarrollo de encuentros académicos que aborden esta cuestión puesto que la tecnología (desde hace varias décadas) existe y avanza sumamente rápido en un mundo cada vez más consumerista. A tales efectos será necesario capacitarse en la temática y escuchar propuestas de los estudiosos y expertos en IA con el fin de poder crear normativa acorde a la tecnología en cuestión, normativa que deberá ser permeable a los cambios e innovaciones que suponen la tecnología.

La aplicación del derecho no solo puede incentivar buenas prácticas y un avance acorde y armonioso de la IA, sino también sancionar conductas inapropiadas o ilegales, y otorgando una reparación razonable y proporcionada para aquellos que han sido perjudicados por la IA (Mohadeb et al., 2021, pp. 257-8).

Por último, resultará crucial entender la verdadera naturaleza de estos fenómenos tecnológicos con IA para poder contar con una regulación acorde a ello, de modo que pueda entenderse adecuadamente el fenómeno de la manera más abarcativa, en tutela de las víctimas, pero sin que ello suponga un exceso de responsabilidad sancionatoria en contra del sindicado como responsable.

La doctrina argentina se encuentra abocada al estudio de esta temática²⁴, lo cual celebramos, de modo que los operadores del derecho puedan arribar a soluciones lógicas, fundadas en derecho y sobre todo justas, dando primacía a la tutela del ser humano.

REFERENCIAS