Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

Imagina un mundo donde las computadoras no son solo calculadoras o consolas de videojuegos, sino tomadoras de decisiones. Este es el reino de la Inteligencia Artificial, o IA. Piensa en la IA como un aprendiz superinteligente que aprende leyendo millones de libros y viendo innumerables videos. Pero aquí está el truco: el hecho de que un aprendiz sea rápido y sepa mucho no significa que siempre sepa qué es lo correcto. A veces, podría aprender malos hábitos de los libros que lee, o podría tomar una decisión que salve a una persona pero perjudique a otra. Aquí es donde entra la "ética". La ética es simplemente el libro de reglas para hacer lo correcto. Cuando ponemos a estos aprendices superinteligentes a cargo de trabajos serios —como curar a personas enfermas, conducir autos o incluso luchar en guerras— no podemos usar simplemente un libro de reglas genérico. Una regla que funciona para un videojuego podría ser un desastre para un hospital. Por eso, científicos y pensadores se preguntan: ¿Cómo nos aseguramos de que nuestros aprendices de IA se comporten bien en cada vecindario específico que visitan?

Este artículo, escrito por Connor Nitchals, se sumerge en cuatro vecindarios muy diferentes donde la IA ya está trabajando: hospitales, campos de batalla, las carreteras y las escuelas. El autor sugiere que no podemos tratar a toda la IA de la misma manera. En su lugar, necesitamos una armadura hecha a medida para cada trabajo. El artículo no pretende haber resuelto todos los problemas o encontrado un botón mágico para arreglarlo todo. En cambio, actúa como un mapa, señalando las trampas y peligros únicos en cada sector mientras destaca algunas reglas de seguridad compartidas que se aplican en todas partes. Sugiere que, para mantener las cosas seguras y justas, debemos ser muy cuidadosos en cómo diseñamos estos sistemas, asegurándonos de que sean transparentes (sabemos cómo piensan), seguros (no se estrellan ni lastiman a la gente) y protegidos de ser mal utilizados.

Comencemos con el Hospital, o IA Clínica. Imagina un asistente de doctor que ha leído todos los diarios médicos de la historia. Puede ayudar a detectar enfermedades o planificar tratamientos de forma increíblemente rápida. Pero, advierte el artículo, si este asistente aprendió de registros médicos antiguos que eran injustos con ciertos grupos de personas, podría seguir siendo injusto. Es como un estudiante que solo estudió de un libro de texto escrito en la década de 1950; podrían pensar que el mundo no ha cambiado, incluso si lo ha hecho. El artículo sugiere que, para que la IA funcione en los hospitales, necesitamos revisar su "tarea" constantemente para asegurarnos de que no tenga sesgos. También necesitamos saber cómo llegó a una conclusión. Si la IA es una "caja negra" que da una respuesta sin explicar el porqué, los médicos no pueden confiar en ella con la vida de un paciente. El autor enfatiza que necesitamos mantener a los médicos humanos en el proceso para verificar el trabajo de la IA y asegurar que la privacidad del paciente nunca sea vulnerada.

Luego, nos acercamos al Campo de Batalla, o Automatización Militar. Este es el vecindario más serio de todos. Aquí, la IA podría usarse para conducir tanques, espiar enemigos o incluso decidir cuándo disparar un arma. El artículo destaca una enorme preocupación ética: ¿debería una máquina tener alguna vez permitido tomar la decisión final sobre la vida y la muerte? El autor sugiere que debemos mantener un "control humano significativo" sobre estas decisiones. Es como decir que un robot puede conducir el tanque, pero un humano debe ser quien presione el botón. El artículo argumenta que si un robot comete un error y causa daño, es muy difícil saber quién es el culpable: ¿el programador, el soldado o la propia máquina? Debido a esto, el artículo sugiere que necesitamos reglas estrictas para evitar que estos sistemas sean hackeados o usados de formas que rompan las leyes internacionales. Si bien la discreción es necesaria para la seguridad nacional, el autor señala que demasiada discreción puede hacer que el público pierca la confianza, por lo que se necesita un equilibrio.

Después, saltamos al Asiento del Conductor con los Vehículos Autónomos (VA). Estos son autos que se conducen solos y usan cámaras y sensores para navegar el mundo. La promesa es menos accidentes automovilísticos y viajes más fáciles. Sin embargo, el artículo señala que estos autos enfrentan situaciones complicadas, como qué hacer si un choque es inevitable. ¿Debería el auto desviarse para salvar a un peatón pero lastimar al pasajero? El artículo sugiere que, si bien no podemos resolver cada escenario de "¿qué pasaría si?" perfectamente, los ingenieros deben diseñar estos autos para que prioricen la vida humana y minimicen el daño. También señala que necesitamos nuevas leyes para determinar quién es responsable si un auto autónomo choca. ¿Es el dueño del auto, el fabricante del software o la empresa que construyó el auto? El autor subraya que, para que la gente confíe en estos autos, las empresas deben ser abiertas sobre cómo funcionan y cuáles son sus límites.

Finalmente, entramos al Aula con la Tecnología Educativa. Aquí, la IA ayuda a los maestros a calificar trabajos, personalizar lecciones y rastrear cómo aprenden los estudiantes. El artículo advierte que esto es un arma de doble filo. Por un lado, puede ayudar a cada estudiante a aprender a su propio ritmo. Por otro lado, recolecta muchos datos privados sobre los hábitos y cerebros de los estudiantes. El autor sugiere que debemos ser muy cuidadosos de no usar estos datos para espiar a los niños o castigarlos injustamente. Si la IA es entrenada con datos que favorecen a estudiantes ricos, podría dar malos consejos a los estudiantes pobres, haciendo que la brecha entre ellos sea aún más amplia. El artículo argumenta que las escuelas necesitan ser transparentes sobre cómo usan estos datos y asegurar que la IA apoye el aprendizaje en lugar de solo observar a los estudiantes como un estricto monitor de pasillos.

Entonces, ¿cuál es la gran conclusión de todo esto? El artículo concluye que, aunque los hospitales, los campos de batalla, las carreteras y las escuelas son muy diferentes, todos comparten algunas reglas de seguridad comunes. Ya sea un robot médico o un autobús autónomo, necesitamos Transparencia (saber cómo funciona), Seguridad (asegurarse de que no se rompa), Prevención de Mal Uso (evitar que los malos lo hackeen) y Privacidad (mantener seguros los datos personales). El autor sugiere que no podemos tener simplemente un gran libro de reglas para toda la IA. En su lugar, necesitamos un marco flexible que respete las reglas únicas de cada sector mientras se apega a estos valores fundamentales. El artículo no pretende tener la respuesta final, pero ofrece un punto de partida sólido para que los gobiernos y los científicos construyan sistemas de IA mejores, más seguros y más justos para el futuro.