Introducción
¿Crees que es un derecho tener un trabajo significativo como el de conductor de taxi a pesar de que los coches sin conductor son más seguros que los coches conducidos por humanos? ¿Qué pasa con el médico que diagnostica cáncer? ¿Debería tener ese derecho también, aunque el aprendizaje automático puede hacer un mejor trabajo?
Objetivos de aprendizaje para el capítuloAl final del capítulo, los participantes podrán:- reflexionar sobre los requisitos para que los sistemas de IA sean éticos
- evaluar sus propios valores
- tomar decisiones y formular argumentos relevantes para esto.
Agencia humana y supervisión
El principio de respeto por la autonomía humana dice que los sistemas de IA deben ayudar a las personas a tomar sus propias decisiones y poder tomar sus propias decisiones. Esto requiere que los sistemas de IA actúen como facilitadores de una sociedad democrática, próspera y justa al apoyar la agencia del usuario que fomenta los derechos fundamentales y permitir la supervisión humana.
Los sistemas de IA, como muchas otras tecnologías, pueden tanto ayudar como perjudicar los derechos básicos de las personas . Pueden ayudar a las personas, por ejemplo, facilitándoles el seguimiento de sus propios datos o haciendo que la educación sea más accesible, lo que respalda su derecho a la educación.
También puede ser malo para los derechos fundamentales porque los sistemas de IA son muy grandes y poderosos. En situaciones en las que existan amenazas a los derechos fundamentales, se debe realizar una evaluación de impacto. Esta debe realizarse antes de la construcción del sistema y debe identificar si los riesgos pueden reducirse o justificarse en una sociedad democrática para que no se vulneren los derechos y libertades de las personas. Además, debería haber formas de obtener comentarios de personas que no trabajan con sistemas de inteligencia artificial para garantizar que los derechos básicos de las personas estén protegidos.
Los usuarios deben poder tomar decisiones autónomas informadas con respecto a los sistemas de IA. Se les debe proporcionar el conocimiento y las herramientas para comprender e interactuar con los sistemas de IA en un grado satisfactorio y, cuando sea posible, se les debe permitir autoevaluar razonablemente o desafiar el sistema. Los sistemas de IA deben ayudar a las personas a tomar decisiones mejores y más informadas de acuerdo con sus objetivos. Los sistemas de IA a veces se pueden implementar para dar forma e influir en el comportamiento humano a través de mecanismos que pueden ser difíciles de detectar. Pueden aprovechar los procesos subconscientes, incluidas varias formas de manipulación injusta, engaño, pastoreo y condicionamiento, todo lo cual puede amenazar la autonomía individual. El principio general de la autonomía del usuario debe ser fundamental para la funcionalidad del sistema. Para ello es clave el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado cuando tenga implicaciones jurídicas para los usuarios o les afecte significativamente de modo similar.
https://www.evilaicartoons.com/archive/do-not-use-humans-as-scapegoats
Los seres humanos están a cargo de todo lo que sucede. La supervisión humana ayuda a garantizar que un sistema de IA no quite la autonomía de las personas ni haga nada malo. Se pueden utilizar métodos de gobernanza Human-in-the-loop (HITL), Human -on-the-loop (HOTL) o Human -in-command (HIC) para supervisar y monitorear tales ocurrencias.
HITL se refiere a cuando no es posible o deseable que los humanos participen en todas las decisiones que toma el sistema.
HOTL se refiere a la capacidad de los humanos para participar en el diseño del sistema y monitorear cómo funciona el sistema.
HIC es la capacidad de supervisar los mayores efectos económicos, sociales, legales y éticos del sistema de IA, así como la capacidad de decidir cuándo y cómo usar el sistema en una situación determinada.En ciertas situaciones, puede ser mejor no usar un sistema de IA o establecer límites sobre cómo los humanos pueden usar el sistema. De manera similar, puede ser apropiado asegurar que los humanos puedan anular la decisión de un sistema.
Además, es necesario garantizar que los agentes públicos puedan desempeñar sus funciones de acuerdo con su mandato . Según el uso del sistema de IA y el nivel de riesgo, se requieren mecanismos de supervisión de diversas formas para respaldar otras medidas de seguridad y control. En igualdad de condiciones, cuanto menos control tenga un ser humano sobre un sistema de IA, más pruebas y reglas más estrictas se deben implementar.
Bienestar social y ambiental
Siguiendo los principios de equidad y prevención de daños, la comunidad en general y todos los demás seres vivos también deben considerarse partes interesadas clave en el ciclo de vida del sistema de IA. Se debe alentar a los sistemas de IA a que sean responsables con el medio ambiente y la sostenibilidad, y se debe alentar la investigación de soluciones de IA que ayuden a resolver problemas en todo el mundo, como los Objetivos de Desarrollo Sostenible de la ONU. Idealmente, los sistemas de IA deberían usarse para ayudar a todos los humanos, incluso a las generaciones futuras.
Los sistemas de IA pueden ayudar a resolver algunos de los problemas más importantes de la sociedad, pero deben usarse de la manera más respetuosa posible con el medio ambiente. El desarrollo, la implementación y el uso del sistema, así como toda su cadena de suministro, deben considerarse de esta manera. Se utilizan recursos y energía considerables durante cualquier actividad operativa dentro de una organización y las opciones menos dañinas deben ser un tema de atención. Como tal, se deben alentar activamente las medidas que hacen que los sistemas de IA y sus cadenas de suministro asociadas sean más amigables con el medio ambiente.
https://www.youtube.com/watch?embed=no&v=mvUPj2WbuKc
Los sistemas de inteligencia artificial social pueden cambiar la forma en que pensamos sobre la agencia social, o cómo pensamos sobre nuestras relaciones sociales y apegos, si estamos constantemente expuestos a ellos en todas las áreas de nuestras vidas. Los sistemas de IA pueden ayudar a las personas a mejorar sus habilidades sociales, pero también pueden empeorarlas y esto podría tener un impacto negativo en la salud física y mental de las personas. Por lo tanto, los efectos de estos sistemas deben ser monitoreados y examinados cuidadosamente.
https://www.youtube.com/watch?embed=no&v=LmNUtG6KxJM
También es importante pensar en cómo la IA afectará a las instituciones, la democracia y la sociedad en su conjunto. Los sistemas de IA deben deliberarse cuidadosamente cuando se usan en situaciones que involucran el proceso democrático, como cuando los políticos toman decisiones y cuando la gente vota.