La Inteligencia Artificial (IA) es reconocida actualmente como una tecnología fundamental con un impacto económico y social significativo a nivel global. En respuesta a esto, el Comité Español de Ética de la Investigación ha desarrollado un conjunto de recomendaciones éticas destinadas a guiar la investigación responsable en este campo. Estas directrices enfatizan la importancia de que los trabajos de investigación en IA sigan un código ético que incluyan los siguientes aspectos, clasificados en tres grupos:
1. Responsabilidad en el desarrollo y el uso de sistemas autónomos
- Salvaguardar los derechos humanos: asegurar que los sistemas de IA respeten los derechos humanos y democráticos.
- Salvaguardar el medioambiente: desarrollar sistemas considerando su consumo energético e impacto ambiental.
- Responsabilidad: el personal investigador debe proporcionar guías claras en las decisiones y acciones de los sistemas de IA para asesorar el riesgo del uso de su investigación cuando se plantee su comercialización.
- Inspeccionabilidad y trazabilidad: identificar las fuentes de datos y comprensibilidad de las decisiones tomadas por sistemas IA.
- Divulgación de la investigación: el personal investigador debe conocer los riesgos y oportunidades de la tecnología y presentar un balance equilibrado de ambos.
2. Consecuencias sociales y responsabilidad social de la investigación
- Reconocer la incertidumbre: comunicar adecuadamente la impredecibilidad asociada con la tecnología IA.
- Asegurar una participación amplia: involucrar a las personas afectadas en las decisiones relacionadas con la IA.
- Asegurar la protección de datos y la consideración a los individuos: adherirse a principios de protección de datos y consentimiento informado de la legislación nacional y europea.
3. Datos
- Aseguramiento de la calidad: cuestionar críticamente la fuente y calidad de los datos utilizados en IA.
- Acceso justo a los datos: promover la transparencia (por ejemplo, cumpliendo los principios FAIR) y accesibilidad a la investigación, sus datos y resultados.
Estas recomendaciones buscan fomentar una investigación en IA que sea éticamente responsable, transparente y que considere tanto los beneficios potenciales como los riesgos inherentes a esta tecnología. El enfoque de estas directrices subraya la necesidad de un debate público informado y una educación continua en ética para el personal investigador encargado de desarrollar la IA.
Finalmente, hay que destacar que en los próximos meses se publicará el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial, que en principio no afectará a los sistemas o modelos de IA que tengan como única finalidad la investigación y el desarrollo científicos, pero sí a aquellos resultados de investigación que se pongan en servicio en el mercado.
Foto de Igor Omilaev en Unsplash
Enfoque ético en la investigación de la Inteligencia Artificial IA.
La inteligencia artificial IA está innovando, revolucionando la educación en el mundo a un ritmo rápido, a medida que el mundo avanza de esta misma manera, avanza la educación y la información. Que a pesar de los cambios y evoluciones se debe tener los fundamentos éticos para el estudio.
En la actualidad la inteligencia artificial IA, está impulsando y transformando la investigación, sin embargo, la información debe ser suministrada de fuentes fidedignas y de niveles de evidencia confiables y principios estables en la educación, en pocas palabras, se debe hablar el mismo idioma o código ético, a pesar del avance se debe desarrollar un sistema responsable para el uso de la inteligencia artificial AI con responsabilidad.
Para garantizar un impacto positivo, es crucial establecer normas-marcos éticos y regulaciones que guíen el desarrollo y la implementación de la IA, abordando desafíos como la privacidad, la transparencia y los errores o resultados injustos o discriminados. Como investigador debemos resguardar los derechos humanos, políticos y por supuesto al medioambiental como parte importante en la utilización y elaboración de la inteligencia artificial IA, otros aspecto que se toma en cuenta y es una de los más importante, es la responsabilidad de obtener la información, donde debe ser claro, concisa, verificable, comprensible a la hora de tomar dicha información y es responsabilidad del investigador tener presente dicho aspecto, entonces el investigador debe ser meticuloso, delicado, inteligente, suspicaz a la hora de obtener la información, pues, si deben tener todos esos características para captar el conocimiento y como resultado una verificación verdadera obtenida de inteligencia artificial IA.
Sobre la responsabilidad social en la inteligencia artificial AI y la investigación, debemos reconocer que pueden haber resultados impredecibles, en cuanto a la participación amplia, se debe involucrar personas afectadas en la decisión de la IA; resguardando datos y derechos obteniendo mediantes consentimientos informados.
Sin embargo en la toma de datos, debemos estar evaluando y revisando constantemente la fuentes de información de los datos usados en la inteligencia artificial IA, cumpliendo siempre con los principios de la investigación, que son responsabilidad de datos verificables, resultados y desarrollo científicos
.
Cabe destacar que los principios fundamentales de la investigación, no es más que la objetividad, decir siempre la verdad, ser imparcial, seguir un método claro y justificar para ser validar los resultados, deben ser creíbles, reflejando la realidad con responsabilidad la investigación deben respetar los derechos y la dignidad, seguir normas éticas, para una educación que tenga un enfoque centrado en el aprendizaje humano.