La Inteligencia Artificial (IA) es reconocida actualmente como una tecnología fundamental con un impacto económico y social significativo a nivel global. En respuesta a esto, el Comité Español de Ética de la Investigación ha desarrollado un conjunto de recomendaciones éticas destinadas a guiar la investigación responsable en este campo. Estas directrices enfatizan la importancia de que los trabajos de investigación en IA sigan un código ético que incluyan los siguientes aspectos, clasificados en tres grupos:
1. Responsabilidad en el desarrollo y el uso de sistemas autónomos
- Salvaguardar los derechos humanos: asegurar que los sistemas de IA respeten los derechos humanos y democráticos.
- Salvaguardar el medioambiente: desarrollar sistemas considerando su consumo energético e impacto ambiental.
- Responsabilidad: el personal investigador debe proporcionar guías claras en las decisiones y acciones de los sistemas de IA para asesorar el riesgo del uso de su investigación cuando se plantee su comercialización.
- Inspeccionabilidad y trazabilidad: identificar las fuentes de datos y comprensibilidad de las decisiones tomadas por sistemas IA.
- Divulgación de la investigación: el personal investigador debe conocer los riesgos y oportunidades de la tecnología y presentar un balance equilibrado de ambos.
2. Consecuencias sociales y responsabilidad social de la investigación
- Reconocer la incertidumbre: comunicar adecuadamente la impredecibilidad asociada con la tecnología IA.
- Asegurar una participación amplia: involucrar a las personas afectadas en las decisiones relacionadas con la IA.
- Asegurar la protección de datos y la consideración a los individuos: adherirse a principios de protección de datos y consentimiento informado de la legislación nacional y europea.
3. Datos
- Aseguramiento de la calidad: cuestionar críticamente la fuente y calidad de los datos utilizados en IA.
- Acceso justo a los datos: promover la transparencia (por ejemplo, cumpliendo los principios FAIR) y accesibilidad a la investigación, sus datos y resultados.
Estas recomendaciones buscan fomentar una investigación en IA que sea éticamente responsable, transparente y que considere tanto los beneficios potenciales como los riesgos inherentes a esta tecnología. El enfoque de estas directrices subraya la necesidad de un debate público informado y una educación continua en ética para el personal investigador encargado de desarrollar la IA.
Finalmente, hay que destacar que en los próximos meses se publicará el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, que en principio no afectará a los sistemas o modelos de IA que tengan como única finalidad la investigación y el desarrollo científicos, pero sí a aquellos resultados de investigación que se pongan en servicio en el mercado.
Foto de Igor Omilaev en Unsplash