#Doctrina Análisis de la Disposición Nro. 2 del 2023 «Manual base en las recomendaciones para Inteligencia Artificial fiable»
portada
Autor: Lanzavechia, Gabriel E.
Fecha: 07-08-2023
Colección: Doctrina
Cita: MJ-DOC-17314-AR||MJD17314
Voces: EQUIDAD – INTELIGENCIA ARTIFICIAL – DERECHO A LA INTIMIDAD – DEBIDO PROCESO – SEGURIDAD
Doctrina:
Por Gabriel E. Lanzavechia (*)
Que nuestro país, en el marco del fenómeno de la digitalización gubernamental y los procesos de desarrollo tecnológico que nos permiten ingresar a una nueva era; la cual estimo, en tiempos nuestros historiadores la catalogarán como un hito símil a las diversas revoluciones industriales que existieron en la historia de la humanidad.
Así, se dictó el Decreto Nº 50/2019 por el cual se creó la Secretaría de Innovación Pública, dependiente de la Jefatura de Gabinete de Ministros de la Nación, estableciendo un objetivo concreto: «Diseñar, proponer y coordinar las políticas de innovación administrativa y tecnológica del Estado Nacional en sus distintas áreas, su Administración central y descentralizada, y determinar los lineamientos estratégicos y la propuesta de las normas reglamentarias en la materia».
Dentro de ese amplio marco, se dictó la Disposición Nro. 2 del 2023 (DI- 2023-2-APN-SSTI#JGM) por la Subsecretaría de Tecnologías de la Información, dependiente de la Secretaría de Innovación Pública, en fecha 01/06/2023, por la cual se elaboró un Manual (1) de Recomendaciones para la Inteligencia Artificial fiable; como Anexo I, mientras que mediante Anexo II, un esquema gráfico de las etapas de Proyectos de Inteligencia Artificial que se vinculan a la medida dispuesta.
De la lectura del manual se observa que se han establecido consideraciones preliminares; un marco conceptual y la determinación de recomendaciones y principios para a implementación de Proyectos de IA, y cuyo objetivo: «se encuentra destinado a brindar un marco para la adopción tecnológica de la inteligencia artificial centrada en el ciudadano y sus derechos, concibiendo su aspecto social y estratégico, asegurando un óptimo funcionamiento de la prestación de servicios y un enfoque ético» (2).
Partiendo de la consideración preliminar, se advierte que:«La irrupción de la Inteligencia Artificial (IA), que se expresa en la creciente importancia de los datos y algoritmos en la vida de las personas, empuja a los Estados a definir estrategias para encauzar el potencial transformador de esta tecnología en la resolución de problemas concretos y a favor del bien común» (3).
Debiéndose resaltar que, dentro de la consideración preliminar, se establece un objetivo final, que es la definición de estrategias para encauzar el potencial transformador de esta tecnología en la resolución de problemas concretos y a favor del bien común.
Las consideraciones reconocen ventajas concretas al uso de Inteligencia Artificial, que son mayores niveles de automatización y el impulso hacia sistemas descentralizados y predictivos para la toma de decisiones, capacidad de promover la innovación, agregar valor, desplegar la productividad del trabajo, dar origen a nuevos bienes y servicios, incrementar las exportaciones; ello, desde el sector privado.
Mientras, que, desde el espacio del sector público, reconoce la mejora de la eficiencia de la gestión del Estado.
Entonces, es necesario un plano que indique lineamientos generales para el uso de estos sistemas, a fin de aprovechar dichas ventajas, y reducir todo lo que pueda acarrear su mal o deficiente uso.
Adentrándonos en las recomendaciones, el manual establece como punto de partida, el análisis de la concepción de inteligencia artificial; toda vez que le atribuye relevancia por la antropomorfización de la tecnología, diferenciando así dos conceptos claramente diferenciados, por un lado, la responsabilidad y por otro la ejecución.
En tal sentido, la recomendación identifica: «Cuando se contratan servicios tecnológicos, lo que se transfiere al proveedor es la ejecución de distintas tareas, pero no la responsabilidad de su efectiva concreción, con la inteligencia artificial sucede lo mismo. Cuando se utilizan algoritmos de inteligencia artificial, al igual que antes, se está trasladando la ejecución, pero no la responsabilidad.Es decir, la inteligencia artificial únicamente lleva a cabo una ejecución sin intención propia y de manera reactiva a una solicitud humana, quien ha decidido programarla, entrenarla e implementarla con un destino de uso específico con el fin de que ejecute distintas acciones» (4).
Concluyendo así, que el algoritmo no posee autodeterminación; es decir, es un proceso automatizado de datos, donde no obra la intervención humana, por lo que no se le podría atribuir responsabilidad de las acciones que se ejecutan a través de ese algoritmo. Es por ello que el Manual indica: «el algoritmo puede ejecutar, pero la decisión debe necesariamente recaer sobre la persona; y, por lo tanto, también la responsabilidad» (5).
Por otra parte, el manual advierte la existencia de ciertos principios que los actores involucrados en el desarrollo, comercialización, entre otras actividades; deben cumplir, los cuales debieran ser tomados como principios de diseño, desarrollo, implementación y uso de la inteligencia artificial; sugiriendo la existencia de ciertos principios ya tratados por la ONU y UNESCO donde se emitió la Recomendación sobre la Ética de la Inteligencia Artificial, la cual adhirieron todos los países miembros en el marco de la Asamblea General del año 2021.
Así, dentro de los principios generales, que se encuentran radicados en el marco de la recomendación precitada, se mencionan:Proporcionalidad e inocuidad; Seguridad y protección; Equidad y no discriminación; Sostenibilidad; Derecho a la intimidad y protección de datos; Supervisión y decisión humanas; Transparencia y explicabilidad; Responsabilidad y rendición de cuentas; Sensibilización y educación; Gobernanza y colaboración adaptativas de múltiples partes interesadas.
Ahora bien, tal como se reconoce, la adhesión a la Recomendación de la ONU es la más alcanzada por la mayoría de los gobiernos, no pierde de vista la Conferencia de Asilomar organizada por el Instituto «Future of Life» con el objetivo de visibilizar la visión de la academia e industria sobre las oportunidades y amenazas que crea la Inteligencia Artificial.
Concorde ello, resalta que en el marco de dicha Conferencia se compilaron una lista de 23 principios sobre cómo se debe administrar la Inteligencia Artificial, centrando tres ejes fundantes: Investigación, Ética y Valores y problemas de largo plazo.
Surgiendo así, principios adicionales a los ya mencionados; agregándose los siguientes en el marco de aspectos Éticos y de la concepción de Valores: Seguridad; Transparencia de fallas; Responsabilidad; Alineación de valores; Valores humanos; Privacidad personal; Libertad y privacidad; Beneficio compartido; Prosperidad compartida y Control humano.
Igualmente, reconoce como hito trascendente en materia de principios, la suscripción de los Principios de la OCDE, en 2019, cuyo objetivo: «guiar a los gobiernos, organizaciones e individuos para que en el diseño y la gestión de los sistemas de IA, se prioricen los intereses de las personas, y se garantice la responsabilidad por su correcto funcionamiento» (6); constituyéndose así, principios basados para el desarrollo responsable de los sistemas de Inteligencia Artificial, que son:Crecimiento inclusivo, desarrollo sostenible y bienestar; Valores y equidad centrados en el ser humano; Transparencia y explicabilidad; de Robustez, seguridad y protección y de Responsabilidad.
Habiéndose planteado la enumeración de principios, el manual propone que, para la realización de comenzar con el tratamiento de un Ciclo de Inteligencia Artificial, se debe conformar un equipo diverso y multidisciplinario, a fin de trabajar las diversas perspectivas, conocimientos y técnicas, que puede arribar cualquier tratamiento sobre el estudio y ejecución de la Inteligencia Artificial; pues considera que puede conducir a soluciones más amplias.
Además, frente al tratamiento, determina los dos lineamientos generales para cualquier grupo de abordaje; por un lado, de concientización sobre el tema de inteligencia artificial, y por el otro, la comunicación necesaria con actores externos al gobierno, que puedan ser consultados y escuchados, aunque no se involucren directamente en el desarrollo, implementación o ejecución del proyecto.
Por su parte, el manual indica la existencia de modelos básicos de uso de la IA, esto se lo denomina modelo de adopción: uno basado, en el proceso de automatización y reemplazo de la persona humana, y otro basado, en la participación humana dentro del funcionamiento y ejecución de la IA.
Por ello, el manual indica la existencia de modelos de adopción por automatización, definiéndolo como aquel modelo que consiste en: «en sustituir trabajo humano por hardware, software y/o algoritmos para realizar ciertas tareas, operaciones o procesos repetitivos, secuenciales, de distinto grado de complejidad, pero que responden a problemas debidamente tipificados. En este tipo de modelo se pueden reducir los tiempos de procesamiento de distintos pedidos y responder a ellos automáticamente, siempre y cuando estos se encuentren tipificados y mantengan un mismo tipo de datos (que es con el que trabajará la inteligencia artificial) (7)». Por otro lado, un modelo de participación humana, entendido como:«un modelo en donde máquinas y humanos colaboran para resolver problemas, se lo conoce como modelo humano-máquina, ‘inteligencia aumentada’, o también ‘human in the loop’. Todas ellas son expresiones de soluciones tecnológicas conceptualmente similares que aprovechan las capacidades y características únicas de los humanos en varios momentos del ciclo de vida de la IA. En este modelo las tecnologías de inteligencia artificial contribuyen con una parte importante del trabajo que resulta muy costosa para los humanos, como por ejemplo el pensamiento estadístico basado en grandes volúmenes de datos, pero los resultados de estos análisis son presentados a humanos que aportan el trabajo difícil para las máquinas, y complementan el análisis realizado por la máquina tomando decisiones, o volviendo a solicitar nuevos análisis e informes para poder tomar esas decisiones de una manera mejor informada» (8).
El debate sobre los modelos a optar está en juego. Lo cierto es que el manual de recomendaciones tiene una mirada particular sobre la IA, basada en los preceptos rectores que se centran sobre su objetivo y la concepción que está dada sobre la misma. ¿Podría existir un tercer modelo de adopción? ¿Un modelo basado en la independencia, automatización y reconocimiento de derechos? En principio, la Inteligencia Artificial estaría vista como una herramienta; y no debemos dejar de soslayar que la disposición, es un conjunto de recomendaciones, llevando a un interrogante general ¿es vinculante?¿genera obligatoriedad para el desarrollo y ejecución?
Finalmente, el manual aborda cuestiones inherentes a los aspectos éticos a considerar dentro del marco de las IA; recomendando el establecer criterios éticos definidos que facilitarán el cumplimiento de los principios concretos y aumentarán en consecuencia las perspectivas de éxito de cada tratamiento o proyecto.
Así, se establecen consideraciones éticas sobre el diseño de datos; como también para su modelado; también consideraciones éticas sobre los equipos de trabajo; determinado todo ello por etapas.
La primera etapa, concerniente al diseño y modelado de datos, el cual toma como punto de partida común para el equipo diverso y multidisciplinario, estableciendo así consideraciones éticas sobre el diseño de los datos y del diseño de los modelos.
La segunda etapa, concerniente a los procesos de validación y verificación, dentro de la cual encontramos el proceso de validación de los conocimientos éticos que se generaron en la primera de las etapas.
Con ello, se establece una rama de estudio interesante, denominada la ética de datos, que emprende que: «Los conjuntos de datos armados específicamente para entrenar modelos de inteligencia artificial deben ser validados de manera previa a la implementación en campo. Las personas del equipo que sean profesionales de las ciencias de datos deberán ser las encargadas de evaluar la calidad de datos que se utilizarán para entrenar los modelos de IA. Se deberá establecer una clasificación de riesgo (por ejemplo, de tres niveles tipo semáforo, o con valores del uno al cinco) respecto de cuánto se ajustan a los principios de la UNESCO antes citados» (9).
La tercera etapa, de implementación, que va desde la aplicación técnica, su desarrollo e incluso, aspectos sobre la seguridad de la información y la trazabilidad sobre las acciones y decisiones ocurridas en el proyecto.
La cuarta etapa, de operación y mantenimiento, la cual es definida por el manual como:«constituye la etapa final del ciclo de vida de la IA» (10). Básicamente esta etapa traduce todas las operaciones y el mantenimiento tanto del constructo en donde se desarrolla la solución tecnológica basada en IA, como también el modelo.
Como conclusión de presente abordaje, que no es más que una descripción sintética del manual aportado por la disposición tratada; y del cual se recomienda su exhaustivo análisis, entendemos que el mismo resulta un abordaje completo, pero no acabado, en el entendimiento que actualmente debemos desarrollar y repensar aspectos necesarios en la materia, tales como los sistemas de IA y la profundización del ser.
En tal sentido, no podemos dejar de destacar el arduo trabajo realizado en las Jornadas Nacionales de Derecho Civil, realizadas en Mendoza (UNCUYO y Universidad de Mendoza) en septiembre de 2022, por los máximos exponentes en la materia, donde se abordaron aspectos relativos de la temática. Así, recordando la participación activa de la Comisión Nro. 10 de Transdisciplina (11), de la cual se recomienda complementar a las recomendaciones trabajadas en el presente artículo.
Entre las que se destacan, los grandes aportes de maestros de la materia (12):
Del Dr. Adaro: «en situaciones complejas tendemos a reducir las mismas hacia las zonas de confort; sin embargo, indica que hay una transformación ontológica jurídica. Hay crisis de instituciones y de los hombres. Refiere asimismo que diferencias con otras revoluciones eran que aquellas eran tangibles, hoy pasan cosas en otra esfera, lo no tangible. Debatamos lo ético, para que informen las normas jurídicas.
Tomar principios de la UNESCO. Inclusión, Sesgos, etc. Indica que es necesario empezar a definir la persona humana en su ‘dimensión digital’, como más que un dato. Derecho humano como dimensión digital, poniendo como ejemplo lo que sucederá con Metaverso, DAO, blockchain, etc. es intangible, no es físico. Por ello también es necesario pensar el debido proceso digital, etc.», lo cual lleva a pensar a las personas dentro de la dimensión digital.
Del Dr. Andruet:«estamos como aislando la Inteligencia Artificial, pero no la hemos puesto en un contexto cultural y filosófico que como tal, permite explicarla desde un contexto mayor al que la ciencia jurídica formula, y esto es,-explicando el posthumanismo, donde la genealogía del transhumanismo permite reconocer y luego explicar la Inteligencia Artificial»; lo cual, importa el marco contextual donde se debe ubicar a la inteligencia artificial, esto es, el plano cultural y filosófico, para poder explicarla desde un contexto mayor al que la ciencia jurídica se formula.
Del Dr. Corvalán, y en vinculación a lo referenciado por Andruet: «la necesidad de abordar la Multidisciplina por diseño, en el cual no se avanza hasta que sea estudiado entre todas las disciplinas posibles, comenzando entonces con un codiseño de los algoritmos», que en parte ha sido tomado por el manual.
De la Dra. Andía: «luego de una serie de consideraciones nos invita a sumar nuevos principios jurídicos, debiendo dejar de lado el conservadurismo jurídico.que de las 13 ponencias 7 se refieren a temas vinculados a la ética, y que en ese sentido los principios de UNESCO son un buen ejemplo a seguir; no siendo necesario seguir modelos como el de OCDE o CHINA, sino que es necesario pensar principios propios.», lo cual lleva a repensar el criterio de las recomendaciones aportadas por el manual, y si no es necesaria la confección de nuevos principios y preceptos.
Finalmente, se enumeran las conclusiones generales, a modo ilustrativo pero complementario del manual, de las Jornadas de referencia; a fin de lograr un mayor repensar de la temática: «la necesidad de contextualizar el fenómeno del Inteligencia Artificial:poshumanismo, respeto y defensa de los derechos humanos, el pluralismo y la dignidad; Se considera fundamental para el tratamiento del Inteligencia Artificial de la metodología de transdisciplina y multidisciplina (cocreación/método); el diseño y desarrollo de estándares, protocolos, garantías, certificaciones, compromisos de desarrolladores y guías vinculadas a todo el ciclo de vida de los sistemas de Inteligencia Artificial; El desarrollo de la Inteligencia Artificial debe enmarcarse en un criterio de gobernanza de distintos niveles y alcances, cuyo punto de partida se encuentra en los parámetros éticos de la UNESCO; Se entiende al desarrollo de la Inteligencia Artificial como una etapa de evolución de las tecnologías emergentes; Resulta útil distinguir entre los sistemas que sirven como apoyo para la toma de decisiones y otros que aspiran a complementar o reemplazar las decisiones.; poner foco en la protección de perfiles digitales humanos basados en inteligencia artificial, que pueda abordar los estándares de recolección; Se considera prematuro la creación de personalidades electrónicas o digitales o nuevas categorías similares, hasta tanto las alternativas hasta ahora conocidas (registración o asegurabilidad) se revelen como insuficientes para dar la solución esperada» (13).
Como cierre, concordamos y destacamos la mirada que se le otorga a la Inteligencia Artificial en el manual: «la creciente importancia de los datos y algoritmos en la vida de las personas, empuja a los Estados a definir estrategias para encauzar el potencial transformador de esta tecnología en la resolución de problemas concretos y a favor del bien común»; en el entendimiento sostenido arduamente, en que la tecnología debe servir al debe servir al ser humano como herramienta, y no como fin, deviniendo dicho principio el norte a seguir en la materia regulatoria de derechos y obligaciones.
———-
(1) Consulta web: https://www.argentina.gob.ar/sites/default/files/2023/06/recomendaciones_para_una_inteligencia_artificial_fia
le.pdf, fecha 31- 07-2023.-
(2) Cf. Manual, pág. 4.
(3) Cf. Manual, pág. 4.
(4) Cf. Manual, pág. 10.
(5) Cf. Manual, pág. 10.
(6) Cf. Manual, pág. 13.
(7) Cf.Manual, pág. 15.
(8) Cf. Manual, pág. 15.
(9) Cf. Manual, pág. 19.
(10) Cf. Manual, pág. 21.
(11) Consulta web: Listado de Ponencias https://www.jornadasnacionalesderechocivil.org/ponencias/comisi%C3%B3n-10- transdisciplina y Conclusiones: https://drive.google.com/file/d/1yFbAy5o_2ccFsfGQ00ff6TYv7ezbv1aY/vie, fecha de consulta 31- 7-2023-
(12) Conclusiones: https://drive.google.com/file/d/1yFbAy5o_2ccFsfGQ00ff6TYv7ezbv1aY/vie, fecha de consulta 31-7-2023
(13) Conclusiones Generales de Jornadas Nacionales de Derecho Civil, Mendoza, 2022, ob. cit.
(*) Auxiliar Letrado del Juzgado de Primera Instancia en lo Civil y Comercial N.° 7 del Depto. Judicial San Martín de la Pcia. de Buenos Aires. Doctorando en Derecho Civil (UBA). Magister en Derecho del Trabajo y Relaciones Laborales Internacionales (UNTREF). Profesor Titular en «Derecho y Tecnología» y Profesor adjunto en «Derecho de Familia», «Derecho Financiero y Tributario», «Práctica Profesional Civil y Comercial II», «Interpretación del Derecho» (UAI) Profesor Titular en «Procedimientos por Medios Electrónicos»; Profesor asociado en «Derecho Procesal y Práctica Profesional II» y Profesor Asociado en «Teoría del Proceso» y Ex Profesor Adjunto en «Derecho Civil IV (Reales)» (UCALP). Profesor Adjunto de «Derecho del Trabajo I y II» (IUEAN). Profesor Asociado en «Derecho Informá tico» en la Universidad John F. Kennedy. (UJFK) Miembro del Seminario Permanente de Investigación de la Persona Humana, Familia y Sucesiones, por el Instituto Ambrossio L. Gioja (UBA). Conferencista y autor de publicaciones sobre temas de su especialidad. Artículo en el marco de la investigación ´Inteligencia Artificial y Sujetos de Derecho: Análisis comparado de la personalidad jurídica y la tecnología´, por la Universidad Argentina John F. Kennedy, Facultad de Derecho.
Compartilo en Twitter
Compartilo en WhatsApp
Leer en https://aldiaargentina.microjuris.com/2023/08/11/doctrina-analisis-de-la-disposicion-nro-2-del-2023-manual-base-en-las-recomendaciones-para-inteligencia-artificial-fiable/