INTELIGENCIA ARTIFICIAL – María Casas Abogados

INTELIGENCIA ARTIFICIAL

INTELIGENCIA ARTIFICIAL

Asesoramiento jurídico en IA para empresas y Administraciones Públicas

La Inteligencia Artificial está transformando la forma en que empresas y Administraciones Públicas toman decisiones, gestionan información, prestan servicios y organizan sus procesos internos.

Pero incorporar Inteligencia Artificial no es únicamente una decisión tecnológica. Es también una decisión jurídica.

El uso de sistemas de IA plantea cuestiones relacionadas con la protección de datos, transparencia, responsabilidad, derechos fundamentales, propiedad intelectual, contratación, seguridad, gobernanza y control de las decisiones automatizadas.

Mi trabajo consiste en acompañar jurídicamente a organizaciones públicas y privadas en la adopción, utilización y gobernanza responsable de sistemas de Inteligencia Artificial, ayudándolas a identificar sus obligaciones, prevenir riesgos y adaptar sus procedimientos al nuevo marco regulatorio.

IA PARA EMPRESAS

Las empresas están incorporando herramientas de Inteligencia Artificial a áreas cada vez más diversas:

Recursos humanos.
Atención al cliente.
Marketing.
Gestión documental.
Procesos internos.
Análisis de datos.
Automatización.
Generación de contenidos.
Sistemas de decisión.
Selección y evaluación de personal.
Servicios profesionales.

La pregunta ya no es únicamente qué puede hacer la Inteligencia Artificial por una empresa, sino también:

¿Cómo puede utilizarla jurídicamente de forma segura?

Asesoro a empresas en el análisis jurídico de los sistemas de IA que utilizan o pretenden implantar, especialmente en materias como:

Clasificación jurídica de sistemas de IA.
Evaluación de riesgos.
Gobernanza interna de IA.
Políticas corporativas de utilización de IA.
Protección de datos y privacidad.
Transparencia e información.
Supervisión humana.
Responsabilidad derivada de decisiones automatizadas.
Contratación con proveedores tecnológicos.
Propiedad intelectual y contenidos generados mediante IA.
Uso de IA por trabajadores y colaboradores.
Protocolos internos para herramientas de IA generativa.
Formación y alfabetización en Inteligencia Artificial.

IA PARA ADMINISTRACIONES PÚBLICAS

Inteligencia Artificial, servicio público y derechos de los ciudadanos

La utilización de Inteligencia Artificial por una Administración Pública exige una cautela especialmente intensa.

Cuando la tecnología interviene en la actuación administrativa pueden verse afectados no solamente datos o procesos internos, sino derechos de los ciudadanos y decisiones adoptadas en ejercicio de potestades públicas.

Asesoro jurídicamente a Ayuntamientos, entidades locales, organismos públicos y demás entidades del sector público en proyectos de implantación y utilización de sistemas de Inteligencia Artificial.

El asesoramiento puede comprender:

Análisis previo del proyecto.
Identificación de riesgos.
Contratación de soluciones tecnológicas.
Gobernanza.
Transparencia.
Protección de datos.
Supervisión humana.
Adecuación del sistema al marco normativo aplicable.

Algoritmos y decisiones administrativas

La Administración puede utilizar herramientas automatizadas para mejorar su funcionamiento, pero la incorporación de un algoritmo no elimina las garantías propias del Derecho Administrativo.

Cuando un sistema de IA participa de manera relevante en un procedimiento administrativo resulta necesario preguntarse:

¿Qué decisión adopta realmente el sistema?
¿Qué datos utiliza?
¿Quién supervisa el resultado?
¿Puede explicarse la decisión?
¿Existe intervención humana suficiente?
¿Puede producir discriminaciones o sesgos?
¿Cómo puede el ciudadano cuestionar una decisión que le perjudica?

La eficiencia administrativa debe ser compatible con los principios de legalidad, transparencia, motivación, igualdad y tutela de los derechos de los ciudadanos.

CONTRATACIÓN PÚBLICA DE INTELIGENCIA ARTIFICIAL

La adquisición de sistemas de IA por una Administración plantea cuestiones jurídicas desde el propio diseño de la licitación.

¿Qué debe exigirse al proveedor?
¿Quién responde del funcionamiento del sistema?
¿Qué ocurre con los datos?
¿Cómo se audita el algoritmo?
¿Qué obligaciones de transparencia deben incorporarse?
¿Qué sucede cuando cambia el modelo durante la ejecución del contrato?
¿Quién ostenta los derechos sobre los desarrollos, bases de datos o resultados?

Asesoro en la preparación y análisis jurídico de contratos públicos relacionados con Inteligencia Artificial y soluciones tecnológicas, incorporando las garantías necesarias desde los propios pliegos y contratos.

GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL

De utilizar IA a gobernar su utilización

Una organización puede estar utilizando Inteligencia Artificial sin disponer todavía de una verdadera política de IA.

Por eso, una parte esencial del asesoramiento consiste en construir un modelo interno de gobernanza:

Identificar qué herramientas se utilizan.
Quién puede utilizarlas.
Para qué finalidades.
Qué información puede introducirse.
Qué decisiones pueden automatizarse.
Cuándo debe intervenir una persona.
Cómo se documentan los procesos.
Cómo se gestionan incidentes.
Y quién asume la responsabilidad interna de supervisión.

El objetivo es pasar de un uso espontáneo de herramientas de IA a una utilización organizada, trazable y jurídicamente responsable.

AUDITORÍA JURÍDICA DE IA

Auditoría Jurídica de Inteligencia Artificial

Para empresas y Administraciones que ya utilizan sistemas de Inteligencia Artificial puedo plantear un servicio específico de Auditoría Jurídica de Inteligencia Artificial.

Un análisis destinado a identificar:

Qué sistemas de IA utiliza la organización.
Qué riesgos jurídicos presentan.
Qué normativa resulta aplicable.
Qué documentación existe.
Qué obligaciones deben cumplirse.
Qué medidas deberían implantarse.
Qué riesgos necesitan ser corregidos o mitigados.

A partir de ese diagnóstico puede elaborarse un Plan de Gobernanza y Cumplimiento en Inteligencia Artificial adaptado a cada organización.

FORMACIÓN EN INTELIGENCIA ARTIFICIAL

Formación y alfabetización en Inteligencia Artificial

La adaptación jurídica no termina con un protocolo. Las personas que utilizan Inteligencia Artificial necesitan comprender qué pueden hacer, qué no deberían hacer y qué riesgos existen.

Por ello, el asesoramiento puede complementarse con programas de formación dirigidos a:

Empresarios y órganos de administración.
Directivos.
Departamentos jurídicos y de cumplimiento.
Responsables de Recursos Humanos.
Empleados que utilizan IA generativa.
Funcionarios y empleados públicos.
Responsables políticos y órganos de gobierno local.

Especialmente relevante resulta la alfabetización en materia de IA, que el Reglamento europeo de Inteligencia Artificial incorpora dentro del nuevo marco de obligaciones.

DERECHO, TECNOLOGÍA Y PERSONA

La Inteligencia Artificial plantea una cuestión que va mucho más allá del cumplimiento normativo:

Qué decisiones queremos delegar en la tecnología y cuáles deben continuar necesariamente bajo control humano.

Mi formación jurídica y académica me permite abordar esta transformación desde una perspectiva que integra Derecho, tecnología, ética y derechos fundamentales.

Porque la verdadera innovación no consiste simplemente en incorporar Inteligencia Artificial.

Consiste en saber cómo incorporarla sin perder seguridad jurídica, responsabilidad y control humano.

HORARIO

Vía Dos Castillas, 33
Complejo empresarial Ática, 1, Edificio 4,
28.224 – Pozuelo de Alarcón – Madrid

EMAIL

mcgc@mariacasasabogados.com

TELÉFONOS

911 430 369
672 420 812

HORARIO

Lunes – Viernes
9:00h – 18:00h