Introducción
El avance tecnológico es continuo e impactante en cada generación, tanto para la pasada, presente y futura. Algunas tecnologías pueden ser consideradas buenas e imprescindibles como la purificación del agua, mientras que otras son percibidas como malas o incluso apocalípticas, como es el caso de la bomba nuclear. Otras parecieran neutras, como las redes sociales, en donde el cómo se usa connotara su valor moral. No obstante, algo innegable es que esta tecnología seguirá desarrollándose y nuestro futuro será condicionado por ella. En la actualidad, un tópico tecnológico que ha sido objeto de análisis en las ciencias sociales, ciencias biológicas y humanidades es la Inteligencia Artificial (IA).
Comprender el impacto de la IA en nuestra sociedad es complejo, debido a la dificultad para comprender el concepto, sus características técnicas, su amplio campo de aplicación, sus diversos aspectos éticos y legales, y la cobertura mediática que la rodea. Una de las disciplinas implicadas en esta reflexión es la Bioética, tanto desde una perspectiva global y clínica.
Por ejemplo, la salud no es ajena de las dimensiones éticas de esta tecnología, siendo las más comunes la privacidad y seguridad de los datos, la confianza en la IA, la rendición de cuentas y responsabilidad, y los sesgos de la IA (Murphy, y otros, 2014).
Una forma para aproximarse a estas temáticas para los profesionales, estudiantes, educadores y formuladores de políticas públicas es a través de la ética narrativa, con el propósito de fomentar la reflexión y la posterior deliberación (Domingo Moratalla & Bellver Capella, 2014). Se han realizado trabajos anteriormente para abarcar está temática a través de la reflexión bioética en base al cine de ficción, como en el artículo llamado Bioética de las innovaciones genéticas y la inteligencia artificial (Bogetti, 2016), abordando diversos problemas bioéticos en torno a la humanidad y dignidad.
El objetivo de este trabajo es realizar una reflexión en base a la película Wall·E (Stanton, 2018) acerca de dos temas de gran relevancia en la bioética: la condición humana y la responsabilidad hacia las generaciones futuras. Además, se busca aplicar estas temáticas en el análisis de la integración de la inteligencia artificial en el ámbito de la medicina. Para aproximarse a estos conceptos, la condición humana es abordada desde lo propuesto en la obra La Condición Humana (Arendt, 2009), mientras que la responsabilidad hacia las generaciones futuras desde lo propuesto en El principio de responsabilidad: Ensayo de una ética para la civilización tecnológica (Jonas, 1995).
Antes de adentrarnos en este análisis, es fundamental comprender las circunstancias en las que se desarrolla esta obra.
El futuro Apocalíptico de Wall·E
Al inicio del largometraje se nos presenta un futuro apocalíptico, donde un robot llamado Wall-E se encuentra recorriendo la Tierra en el año 2815, cumpliendo su tarea de recolectar basura para compactarla en cubos. La Tierra se encuentra desolada y se caracteriza por un paisaje árido cubierto por edificios de basura, siendo los únicos habitantes Wall-E y un escarabajo. Este Apocalipsis fue causado por la empresa trasnacional Buy-n-Large (BnL), que, al no lograr controlar la producción y eliminación de basura, provocó un desastre ecológico. Un apocalipsis de estas características pareciera viable debido a la crisis climática o a las acciones irresponsables de grandes conglomerados. Pero ¿es realmente un apocalipsis el que ocurre en la película? esto depende de qué entendamos por apocalipsis, pudiendo ser el fin de la Tierra, la extinción de los humanos o una situación catastrófica. El escenario que presenta este largometraje contempla estas tres características, pero al continuar la animación, nos damos cuenta de que este apocalipsis sí fue previsto por las personas, pero las medidas de mitigación que se llevaron a cabo no fueron suficientes para evitar este desastre. Sin embargo, a pesar de que el desarrollo tecnológico y económico provocaron el apocalipsis, los humanos también lograron la fabricación de una nave espacial, el AXIOMA, donde los humanos han podido sobrevivir por 700 años desde que la Tierra fuera inhabitable en el año 2115, pero en unas condiciones muy particulares. La misión de la nave es enviar robots de reconocimiento a la Tierra para informar si es que ha vuelto a ser sustentable y así volver a poblarla. Otro dato relevante es que a pesar de que existe un humano en el cargo de capitán de la nave, el AXIOMA está gobernado por la IA de la nave por sobre la autoridad del capitán.
La condición humana de los habitantes de la Nave espacial AXIOMA
En la película, la vida se ha desarrollado por 700 años dentro del AXIOMA, una nave espacial con todo lo necesario para vivir según el criterio de sus fabricantes. En ella, las personas no tienen la necesidad de caminar debido a que permanecen día y noche en sillones, que se encuentran automatizados y transportan a las personas dependiendo el itinerario dado por la nave (Probablemente programado por sus creadores), lo cual ha provocado que no exista la necesidad de levantarse y que todos se vuelvan obesos. Además, cada uno tiene una pantalla por la cual pueden comunicarse con los demás e informarse sobre las pocas novedades dentro de la nave: como el menú del día, la temperatura automatizada día tras día, el color de moda para elegirlo en sus ropas holográficas y otras informaciones triviales. Este estilo de vida hace innecesario el contacto humano directo. Es probable que los primeros tripulantes debían estar en sus sillones sabiendo que tenían que cumplir las reglas de permanecer ahí para poder sobrevivir y ser tripulantes de la nave. Pero, a medida que pasaron los años y las nuevas generaciones fueron poblando la nave, este estilo de vida los condicionó, tal como expresa Arendt (2009) “los hombres son seres condicionados, ya que todas las cosas con las que entran en contacto se convierten de inmediato en una condición de su existencia” (p. 23).
Es interesante reflexionar sobre este escenario, ya que, a diferencia de la Tierra, donde coexisten elementos naturales y artificiales en el entorno, este escenario es completamente fabricado. Arendt plantea que el cambio más radical en la condición humana sería la emigración de los seres humanos a otro planeta porque esta estaría condicionada por lo artificial. Serían las mismas personas quienes deberían crear las condiciones necesarias para sobrevivir en otro planeta. Sin embargo, otro planeta habitable también podría ofrecer condiciones naturales similares a las de la Tierra. Por lo cual, el AXIOMA representa un escenario hipotético ideal para lo que Arendt (2009) plantea sobre las personas fuera de la Tierra: “El único juicio que podemos hacer con respecto a su ‘naturaleza’ es que seguirían siendo seres condicionados, aunque su condición sería en gran parte autofabricada” (p. 24).
Si bien la vida humana se mantendría condicionada, cambiaría el sentido en el que se condiciona, porque la vita activa no se entendería de la misma manera. Para esta autora la vita activa abarca tres actividades: labor, trabajo y acción. La labor se relaciona con la satisfacción de las necesidades básicas del proceso biológico, lo cual condiciona la vida humana a la propia vida. El trabajo se refiere a lo artificial, es decir, los resultados de la técnica, y está separado del ciclo vital, condicionando la vida humana a la mundanidad. Por último, la acción se desarrolla entre los seres humanos, se caracteriza por el discurso y las relaciones, y condiciona la vida humana a la pluralidad. La esencia de esta pluralidad radica en nuestra capacidad de generar nuevos comienzos.
¿Cómo son las actividades de la vita activa en el AXIOMA? La labor adquiere un papel primordial, ya que la vida, desde una perspectiva biológica, se convierte en el centro de atención en la nave. Todas las instalaciones están diseñadas para satisfacer las necesidades básicas de todos los pasajeros. Esto resulta extraordinario, pero ¿Cuál es el costo de esto?
El trabajo genera un ciclo repetitivo (que ha durado 700 años en la película), donde las libertades están reducidas y es la técnica la que determina los límites de los estilos de vida (O, probablemente, los límites definidos por los creadores de esta IA). La acción, que es una característica fundamental de la vita activa, se ve afectada al estar disminuida por la automatización del estilo de vida impuesto por la IA. Estar condicionado totalmente a la mundanidad evita una relación o un discurso auténtico entre los seres humanos, creando un escenario que contradice lo expresado por Arendt, donde el nacimiento no representa un nuevo comienzo, sino que simplemente forma parte del ciclo. Por ejemplo, las personas en el AXIOMA pareciera que no generan proyectos personales. Podríamos llamar a esto una vita pasiva.
La acción responsable antes y después del Apocalipsis en Wall·E
La responsabilidad del apocalipsis en Wall-E recae en la empresa BnL, pero la institución, sus trabajadores y sus directivos ya no existen, por lo cual no pueden rendir cuentas por los daños causados a la humanidad. Lo que si perdura es la nave espacial AXIOMA, que también fue construida por BnL, pero en ella no hay ningún representante humano de la empresa, pero sí permanece la IA que los gobierna. Esto invita a cuestionarse: ¿es exigible una acción responsable a la IA?
Lo que ocurre antes del apocalipsis es exactamente lo que reflexiona Hans Jonas. Este autor nos menciona cómo la técnica, que ya no es acotada en sus efectos, ha provocado una inseguridad sobre las proyecciones futuras de las consecuencias que esta pueda causar a la humanidad y a la biosfera, creando un desbalance entre lo que podemos hacer y percibir. Siendo la línea de acción tomada por la empresa, antes del apocalipsis, asegurar solo la vida o la labor que expresa Arendt, para que los humanos puedan sobrevivir y esperar por un milagro que convierta a la Tierra nuevamente sustentable ¿Es esta línea de acción, una verdadera acción responsable? Jonas (1995) no estaría de acuerdo porque no se cumpliría uno de sus imperativos: “Obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida auténtica en la Tierra” (p. 40). Además, los dos deberes esenciales para esta ética del futuro que él describe tampoco se ejecutan de manera coherente: garantizar la continuidad de los seres humanos en el futuro y asegurar que existan como entidades con la capacidad de asumir responsabilidades, como seres humanos auténticos (Jonas, 1995).
En el AXIOMA, los tripulantes carecen de la disposición para asumir deberes. Esta ausencia es ejemplificada por la falta del principio de responsabilidad como cuidado del ser vulnerable, dado el estado de vita pasiva en el que se hallan inmersos. Este principio, presentado por Juan Alberto Lecaros (Lecaros, 2016), se erige como un principio macro, armonizando el respeto y la protección de los seres humanos vulnerados, tanto presentes como futuros, con la salvaguarda de todos los demás seres vivos que coexisten en la biosfera. Una confirmación de esta realidad en el AXIOMA, radica en que, aunque la misión declarada sea volver a la Tierra cuando recupere su habitabilidad, no se promueve la educación en su posterior preservación.
Asimismo, la autenticidad está disminuida. Ser auténticos significa que los humanos puedan desarrollar una comunidad moral, o sea que puedan ser responsables y que contemplen todas las dimensiones de la moralidad, como la vulnerabilidad de la biosfera y el cuidado de las generaciones futuras para que ellos también sean responsables. Jonas (1995) se pregunta ¿Cómo debe comportarse esta humanidad futura? Y ¿Qué debe conservarse? Para ello propone la heurística del temor, que, en simples palabra, nos plantea que debemos anticiparnos al mal y al temor. Adquiriendo relevancia el análisis anterior sobre la condición humana después del apocalipsis en donde “solamente la prevista desfiguración del hombre nos ayuda a forjarnos la idea de hombre que ha de ser preservada de tal desfiguración” (p.65).
En la nave, quien está a cargo de mantener la vida humana paradójicamente no es el humano, es la técnica, la IA que la gobierna. Pero esta vida de las personas no es auténtica debido a que la IA fue creada con una mentalidad calculadora para solo satisfacer las necesidades básicas. Considerar solo esta variable y no toda la esencia de las personas no sería lo óptimo para la humanidad, tal y como expresa John Stuart Mill (1984): “Es mejor ser un ser humano insatisfecho que un cerdo satisfecho; mejor ser un Sócrates insatisfecho que un necio satisfecho” (p. 51). En base a esto, la acción es una característica fundamental de la vita activa que deberíamos resguardar para las generaciones futuras. Es responsabilidad de la humanidad preservarla y traspasar este deber de la acción humana a la técnica. Porque si ocurriera un futuro como en este largometraje, la IA tendrá la responsabilidad de asegurar unas mínimas condiciones, y maximizarlas cuando sea prudente, que permitan el desarrollo de la acción de la vita activa y que las personas asuman deberes de responsabilidad.
Aportes a la medicina y reflexión bioética
El potencial impacto de la IA en la condición y autenticidad humana es considerable, como se ha contemplado en esta reflexión narrativa. La medicina, por su parte, no escapa del impacto de esta tecnología. Por ejemplo, la presencia de IA en plataformas de atención telemática deja claro que la práctica médica estará condicionada por ella. Se espera que esta influencia sea positiva, mejorando diagnósticos, tratamientos, y más (Ahmad, Rahim, Zubair, & Abdul-Ghafar, 2014). Esta perspectiva se alinea con el enfoque de IA centrada en la persona, que busca enriquecer la humanidad, adaptarse a sus intereses y promover el bienestar (Mhlanga, 2022).
En el análisis de la implementación de esta tecnología, podría argumentarse en un primer acercamiento que, aunque puede mejorar la atención clínica, especialmente en aspectos técnicos, no puede reemplazar por completo el rol de los profesionales de la salud en la complejidad de la atención y la relación clínica. Esto es válido incluso si la IA puede detectar expresiones faciales y, por ende, emociones, y proporcionar recomendaciones a los profesionales para fomentar la empatía. En consecuencia, en lugar de buscar la total sustitución de los actores humanos en el ámbito de la salud por IA, debe complementar y potenciar sus capacidades y habilidades.
No obstante, esto no excluye la posibilidad de que la IA siga desarrollándose y, en un momento dado, su implementación se decida principalmente por criterios económicos, donde su mantenimiento se perciba como más eficiente al reducir costos de recursos humanos. Esto nos lleva a cuestionar: ¿Cómo queremos que la IA se integre en la práctica médica? ¿Existen aspectos de la relación clínica que no deberían ser completamente reemplazados por la IA? ¿Por qué deberíamos confiar en las personas, como agentes racionales y morales, para la toma de decisiones clínicas, en lugar de confiar completamente en lo artificial?
Aunque estas preguntas carecen de respuestas únicas y definitivas, es imperativo reconocer a los profesionales de la salud como agentes morales e interlocutores válidos en el desarrollo e implementación de la tecnología en el ámbito de la salud, evitando que estas decisiones sean meramente comerciales.
El análisis de la película Wall·E arroja luz sobre algunas dimensiones éticas de estas interrogantes. La evolución de la IA debería ser una herramienta complementaria en la atención médica, fomentando la autenticidad de las personas a pesar de estar condicionadas por esta tecnología. En primer lugar, la IA debería fomentar el diálogo entre los actores de la atención médica, incluyendo la relación entre profesionales y pacientes, entre personal administrativo y usuarios, así como entre los propios profesionales de la salud. Esto preservaría los valores individuales y el respeto a la pluralidad, contribuyendo al desarrollo de los objetivos personales tanto de los usuarios como de los profesionales. Además, es esencial salvaguardar la autenticidad al evitar que la IA diluya la responsabilidad de los profesionales de la salud. La IA debe incentivar la responsabilidad personal y la rendición de cuentas en las decisiones clínicas, incluso cuando estén condicionados por la tecnología. Esto se extiende también a las obligaciones hacia la biosfera, un aspecto poco explorado en la actuación de los profesionales de la salud.
Cabe destacar que lo discutido hasta ahora es aplicable tanto a la IA limitada, la que existe en la actualidad, como a la IA general, probablemente representada en la película. Sin embargo, esta reflexión resultaría insuficiente ante una IA superinteligente, ya que este tipo de IA podría considerarse sujeto de derechos. Abordar la IA como una nueva forma de vida nos enfrentaría a problemas éticos adicionales.
Conclusiones
Ciertamente, resulta desafiante visualizar un escenario en el cual estemos completamente condicionados por la IA; sin embargo, es innegable que la humanidad está inmersa en su desarrollo, y es muy probable que en el porvenir nos enfrentemos a esta realidad. Es de vital importancia que en el núcleo mismo de su concepción estén arraigados de forma sólida tanto la responsabilidad como los deberes inherentes, de tal modo que esta tecnología pueda contribuir eficazmente a preservar la autenticidad esencial de la humanidad.
Ante la premisa de que el progreso tecnológico podría llevarnos hacia una existencia pasiva, surge con fuerza la necesidad de forjar una ética de la responsabilidad. Es imperativo demandar una conducta responsable en el desarrollo de la IA, con el propósito de mantener en la humanidad la capacidad de llevar a cabo una vita activa y su compromiso inherente de asumir responsabilidades. En el ámbito de la medicina, es esencial que la IA nunca menoscabe la habilidad del profesional de salud para entablar diálogos significativos con los individuos. Esto no descarta la posibilidad de que la IA ofrezca sugerencias de frases o preguntas al profesional durante una consulta telemática, con el fin de enriquecer diagnósticos y tratamientos; sin embargo, es crucial que no limite las instancias de interacción que propician las relaciones de mutua confianza en el contexto clínico.
Por último, la realización de estas reflexiones en base a las narrativas del cine de ficción adquiere un valor fundamental, dado que tales representaciones exponen una distorsión de nuestra comprensión de lo que significa ser humano, instándonos a reflexionar sobre nuestra autenticidad inherente y nuestro deber de preservarla. Además, para la bioética, el análisis de estas narrativas representa una herramienta valiosa para difundir estos conceptos y fomentar la reflexión entre estudiantes y profesionales. Pero no solo con narrativas que permiten una reflexión sobre la relación clínica, el profesionalismo, la investigación científica, o cuestiones de inicio y final de la vida. También se puede extender al ámbito de la IA, la condición humana, la responsabilidad con las generaciones futuras y la preservación de la biosfera. De esta manera, se logra una comprensión integral de la bioética en sus dos dimensiones primordiales, que no compiten, sino que se complementan: la bioética clínica y la bioética global.
Referencias Bibliográficas
Ahmad, Z., Rahim, S., Zubair M., & Abdul-Ghafar, J. (2021). Artificial intelligence (AI) in medicine, current applications and future role with special emphasis on its potential and promise in pathology: present and future impact, obstacles including costs and acceptance among pathologists, practical and philosophical considerations. A comprehensive review. Diagnostic Pathology, 16(24), 1-16.
Arendt, H. (2009). La condición humana. Buenos Aires: Paidós.
Bogetti, C. (2017). Bioética de las innovaciones genéticas y la inteligencia artificial. Ética y Cine Journal, 7(1), 53-60.
Domingo Moratalla, T., & Bellver Capella, V. (2014). La ética narrativa como fundamento del encuentro entre cine y bioética. En V. Bellver Capella, Bioética y cuidados de enfermería (p. 163-182). Madrid: Cecova.
Jonas, H. (1995). El principio de responsabilidad: Ensayo de una ética para la civilización tecnológica. Barcelona: Editorial Herder.
Lecaros, J. A. (2016). La ética de la responsabilidad en la bioética global. En J. J. Ferrer, J. A. Lecaros, & R. Molins, Bioética: el pluralismo de la fundamentación (p. 323-358). Madrid: Universidad Pontificia Comillas.
Mill, J.S. (1984). El utilitarismo. Madrid: Alianza editorial.
Mhlanga, D. (2022). Human-Centered Artificial Intelligence: The Superlative Approach to Achieve Sustainable Development Goals in the Fourth Industrial Revolution. Sustainability, 14(13), 7804.
Murphy, K., Di Ruggiero, E., Upshur, R., Willison, D.J, Malhotra, N., Ce Cai, J., Malhotra, N., Lui, V., & Gibson, J. (2014). Artificial intelligence for good health: a scoping review of the ethics literature. BMC Med Ethics, 22(1), 1-17.
Referencia filmográfica
Stanton, A. (Director). (2008). WALL·E [Película]. Walt Disney Pictures., & Pixar Animation Studios.
