[MUSIC] La inteligencia humana se basa en una multitud de habilidades y competencias dentro de un marco de cooperación. Nos reconocemos como personas libres, es decir, personas autónomas. Los conceptos persona y autonomÃa juegan un papel importante en la ética y en el derecho. AutonomÃa viene de las palabras griegas auto y nomos. La primera significa de sà mismo, y la segunda, norma o ley. Significa entonces darse una ley para actuar según ese principio, pero sin motivación externa, es decir, sin presión de alguien o algo que impone esa ley. Por lo tanto, la autonomÃa expresa una forma de Libertad. No obstante, implica que se obliga a una ley o a una norma en esa libertad, y por lo tanto, no es una libertad aleatoria o arbitraria. ¿Qué significa sistema autónomo? En la industria 4.0 hay un cambio a una coacción con sistemas autónomos. Coactuamos, por ejemplo, con vehÃculos autónomos, y conversamos con chat bots. En la asà llamada Cuarta Revolución Industrial, nos encontramos empotrados en un entorno sistemas inteligentes y autónomos. Entonces hay que clarificar los diferentes usos del término para entender qué puede y debe rendir al final un sistema autónomo. Podemos diferenciar tres tipos de autonomÃa siguiendo una propuesta de Christoph Hubig. Primero, autonomÃa operativa. Dentro de este tipo, hay ciertos grados de libertad para el sistema en la selección de los medios para un objetivo con el fin de mejorar la eficacia y eficiencia de una acción. Por ejemplo, los sistemas asistentes adaptativos en el carro tienen una autonomÃa operativa. La responsabilidad de este tipo se puede delegar en sus lÃmites casi completamente a los sistemas. Segundo, autonomÃa estratégica. Dentro de este tipo hay ciertos grados de libertad en la selección de los fines u objetivos óptimos dentro de un marco general de metas. Por ejemplo, la priorización, la duración, o el desvÃo, etc. Para un vehÃculo autónomo, la meta es llegar a un destino, y el sistema puede seleccionar un desvÃo para llegar más rápido, porque hay más tráfico en la ruta más corta. Es un ejemplo de priorización, la duración y el desvÃo. La responsabilidad de este tipo se puede delegar en parte a los sistemas en la medida que hay posibles intervenciones y opciones de interrumpir los procesos. Entonces, todavÃa existe el poder de actuar para los humanos. Tercero, la autonomÃa moral representa una libertad de no sólo conocer las metas si no reconocimiento de los principios. Yo reconozco el principio como una razón de mi acción. Eso es una atribución de reconocimiento a sà mismo, y un reconocimiento de sà mismo como persona. La responsabilidad de este tipo no se puede delegar a los sistemas. La ética se orienta aquà en el ideal de la dignidad humana y en los derechos humanos. La problemática en un entorno digital es la cuestión del posible interfaz entre humano y sistema autónomo. Y surgen preguntas muy importantes como, ¿cuánto de la responsabilidad podemos delegar? ¿Cómo y dónde se puede mantener la opción de interrumpir o cancelar el proceso? ¿Dónde interviene el humano como supervisor? Un sistema necesita puntos de entrada para procesar el input de su entorno. De cierta forma, se necesita una traducción para el procesamiento. En la ciencia de datos, son las bases de datos el punto de entrada, las cuales a veces son anotados por humanos, o pasan por un proceso de preparación. Los sistemas autónomos que procesan los datos son parte de nuestro entorno. Por ejemplo, un sistema de recomendación de pelÃculas usa los datos de los usuarios para recomendar otras pelÃculas, las cuales podrÃan ser interesantes para el usuario. Los sistemas forman con el rastreo, tracking, de las personas o usuarios, patrones de sus conductas y de sus preferencias, por ejemplo, en los sistemas de recomendación de pelÃculas. Para los usuarios es opaco cuáles datos se usan para el rastreo. El sistema forma, según Hubig, disposiciones sobre los usuarios, se puede decir expectativas sobre los usuarios. Pero es sólo una forma metafórica de hablar, porque sólo las personas tienen expectativas, los sistemas no. La intención del sistema es disminuir o deshacer irritaciones y cosas inesperadas o imprevistos dentro de relevancias y rankings, y el usuario no tiene acceso a ellos, no tiene un acceso directo a su entorno de acción. O como afirmó Mark Weiser, el precursor de la computación ubicua, las tecnologÃas más profundas son las que desaparecen. Se tejen en el tejido de la vida cotidiana hasta que no se pueden distinguir de la vida. [FOREIGN] La vida en el entorno digital es dirigida a un camino de la resistencia mÃnima. La problemática es que el camino es diseñado por un sistema. ¿Cómo se puede desarrollar una idea, por ejemplo, sobre cuáles pelÃculas te agradan, cuando el sistema nos guÃa? Desarrollar un sentido del gusto también es parte de la formación de una persona autónoma que desarrolla un pensamiento crÃtico. También hay que reflexionar y cuestionar la coacción con sistemas autónomos, como vehÃculos autónomos. Se distinguen 6 grados de automatización, desde sin automatización, 0, a una automatización completa, 5. En el grado dos, automatización parcial, el vehÃculo cuenta con sistemas avanzados de asistencia al conductor y juega el rol del supervisor del conductor. En el grado tres, automatización condicional, el vehÃculo tiene casi completamente el control con la expectativa de que el conductor debe tomar el control bajo ciertas circunstancias. El conductor es, por lo tanto, el supervisor del sistema autónomo, pero el ser humano deberÃa saber cómo manejar un carro. El desarrollo de esa habilidad es esencial. El rol de un vehÃculo autónomo, que se maneja completamente independiente de la supervisión de un ser humano, es algo que se discute en la ética. Lo más probable es que esos vehÃculos sólo se van a usar en ciertos entornos o carriles separados, para evitar la interacción con vehÃculos en los cuales el conductor es un ser humano. De esa manera, también se evita el dilema que el vehÃculo toma decisiones sin un conductor competente y sin la supervisión de humanos. La forma de manejar se parece entonces más a la forma de viajar en tren. Hay que cuestionar el rol del ser humano en el entorno digital. Este rol no es limitado a la supervisión de los sistemas autónomos, o al uso de los sistemas. Se necesita una visión más amplia, como un co-actor, quien entiende las implicaciones éticas y su rol en el medio tecnológico, y cuáles de las competencias humanas son esenciales y partes importantes de la formación y la educación. [MUSIC]
