La ética no puede ser un añadido al final de un proyecto; tiene que estar presente desde el momento en que se concibe una tecnología

Nunca una transformación técnica inspiró tantas preguntas filosóficas. El potencial de desarrollo que encierra es tan vasto que, en ocasiones, corre el riesgo de eclipsar la reflexión sobre cómo garantizar que ese progreso tenga un rostro plenamente humano.

En paralelo, el miedo puede llevar a una sobrerregulación que impida el desarrollo y que tampoco tiene especial sentido en un mercado global que no conoce de marcos jurídicos nacionales.

En este complejo contexto se ha gestado el III Encuentro sobre Liderazgo Cívico celebrado en el Palacio de la Magdalena en Santander, que se centró en debatir sobre la responsabilidad cívica de los líderes empresariales tecnológicos.

La cultura empresarial, un activo más valioso que la propia regulación

La regulación desigual plantea retos para equilibrar ética y competitividad y el debate sobre si la ética debe concretarse en procesos de evaluación exhaustivos previos a que los productos sean comercializados o sobre si sería más apropiado ir regulando a medida que los casos de uso vayan surgiendo no está resuelto dentro del propio sector.

“Los emprendedores no pensamos en el mal cuando trabajamos en los productos”, reivindica Chema Garabito, CEO de SperidLabs. “De hecho, los usos no éticos muchas veces los hacen los consumidores”, advierte, subrayando lo poco útil que puede ser a veces querer “regular antes de crear”.

En lo que sí hay consenso es en que la ética no se impone desde fuera; se cultiva desde dentro. Ignacio Moreno, CEO de Capchase y mentor de The Exponential Fellowship, lo sintetiza con claridad: “La cultura es el sistema operativo de una empresa: si la ética no está ahí desde el principio, luego no se puede parchear. Las startups, por su agilidad, tienen la oportunidad de demostrar que se puede crecer con principios sin sacrificar ambición”.

En la misma línea, Richard Benjamin, cofundador de OdiseIA y copresidente del Consejo Empresarial de la UNESCO para la IA, apunta que “el reto no es que las organizaciones no quieran trasladar principios éticos de la inteligencia artificial. Voluntad hay. Los retos principales son que no es fácil y que cuesta esfuerzo”. Benjamin explica que las empresas están entrenadas para hacerse preguntas de negocio, no de ética. Incorporar el pensamiento ético de manera sistemática requiere un esfuerzo consciente para el que herramientas como RAIGHT.ai se presentan como aliadas.

A escala más amplia, Irene Blázquez, directora del Center for the Governance of Change del IE University, advierte de que “es muy común situarse en un (falso) debate de suma cero al contraponer la dualidad ‘riesgos y oportunidades’ que presentan y suscitan las nuevas tecnologías”. A su juicio, lo que estamos viviendo es un cambio “incesante e instantáneo, intrincado e insondable” en el que la IA juega un papel fundamental porque “altera la propia idea de humanidad”.

Y en ese sentido, Angel González, director del Centro Vaticano para la Cultura Digital, amplía la perspectiva: “Para que la tecnología esté al servicio de la humanidad es fundamental colocar a la persona en el centro”. El experto reivindica que la cultura empresarial deben fundamentarse en principios de la Doctrina Social —dignidad humana, bien común, responsabilidad moral, subsidiariedad y salvaguarda de las relaciones humanas—, recordando que la innovación solo tiene sentido cuando sirve a las personas.

“Los emprendedores tecnológicos tenemos que anticipar los posibles efectos no deseados de nuestras innovaciones”  

Si la cultura empresarial marca el tono, son los líderes del sector quienes escriben la partitura ética del desarrollo tecnológico. Natalia Rodríguez, fundadora de Saturno Labs y Premio Nacional de Innovación 2023 lo subraya sin ambages: “Los emprendedores tecnológicos tenemos que anticipar los posibles efectos no deseados de nuestras innovaciones. La pregunta nunca es solo ‘¿podemos hacerlo?’, sino también ‘¿debemos hacerlo y de qué manera?’”.

En esta misma línea, José Manuel Muñoz, investigador asociado en CINET, destaca que formar a los futuros líderes es esencial: “La ética tecnológica no es un ‘policía’ que dicta lo que se debe hacer y lo que no. Por el contrario, es un ingrediente esencial del propio proceso de innovación, porque garantiza la sostenibilidad a largo plazo”.

Richard Benjamin añade que esta formación debe empezar cuanto antes: “Es necesario que la sociedad civil y los líderes del futuro tengan una comprensión básica de la IA y de su desarrollo responsable. Por eso es clave introducir formación sobre IA en Secundaria y Universidad, y contar con organizaciones como OdiseIA, que canalicen opiniones informadas a los distintos grupos de interés”.

Irene Blázquez también pone el acento en la educación: “Estimo que enfoques centrados en una visión meramente instrumental de la incorporación de la IA en el aula… son de arranque enfoques limitados. Hay que atender a la automatización de tareas y no de puestos de trabajo. Siempre me gusta recordar que tendemos a sobreestimar los efectos de una tecnología en el corto plazo e infravalorarlos en el largo”.

La necesidad de un diálogo que no debe interrumpirse

La revolución tecnológica no se detiene, y con ella surge la urgencia de un diálogo permanente entre todos los actores implicados: empresas, reguladores, investigadores y sociedad civil.  Al fin y al cabo, como explica Blázquez, la irrupción de la IA “implica un proceso de transformación en los sistemas políticos y la manera en que la ciudadanía ejerce sus derechos, asume su responsabilidad y abraza un nuevo liderazgo político, corporativo y cívico; en las condiciones de progreso y prosperidad de las sociedades, su situación de paz y seguridad”.

Por eso, la reflexión no se limita a los futuros directivos; la corresponsabilidad colectiva es indispensable. Angel González, del Centro Vaticano para la Cultura Digital, subraya que “solo desde una perspectiva colectiva es posible gestionar y dirigir eficazmente el cambio que produce la revolución tecnológica. La formación, la transparencia y la capacidad crítica son esenciales para que todos nos beneficiemos”.

La participación ciudadana se convierte, por tanto, en un actor clave. Natalia Rodríguez recuerda que “la gente escucha mucho sobre inteligencia artificial, pero no entiende muy bien qué es ni cómo funciona. Por eso es importante divulgar bien y crear un diálogo entre sector público y privado, para que los principios se conviertan en incentivos concretos y la innovación tecnológica mejore la vida de las personas sin dejar a nadie atrás”.

A este reto se suma la diversidad de enfoques internacionales que complica la construcción de estándares universales. José Manuel Muñoz señala que “en Estados Unidos, la innovación domina sobre las garantías de privacidad; en Europa ocurre lo contrario; y en China, la innovación se prioriza, pero con un gran coste sobre la privacidad”.

Navegar estos escenarios requiere líderes preparados para integrar la ética más allá de la mera legalidad, como explica Ignacio Moreno: “La regulación siempre va por detrás, así que los directivos tenemos la responsabilidad de mirar un par de pasos más allá: no solo qué es legal, sino qué consecuencias tendrá”.

Irene Blázquez lleva este planteamiento aún más lejos, reclamando una gobernanza multinivel y multiactor de las nuevas tecnologías: “Quizás necesitemos idear un nuevo contrato social adaptado al cambio tecnológico o incluso una Declaración Universal de los Derechos Humanos Tecnológicos para garantizar paz y concordia”.

Precisamente por esta necesidad de mantener a todas las partes implicadas, la Fundación Tatiana apuesta por mantener vivo el diálogo. “Es fundamental que se den espacios como este curso en el que los que estamos desarrollando productos nos podamos poner en contacto con quienes los van a usar”, subraya Chema Garabito.

Y en la misma línea concluye Irene Blázquez: “Es diferencial el arte de la Fundación Tatiana en aunar voces diversas y críticas, audiencia plural y proactiva, clima de confianza y debate real. Ser parte de estos foros de escucha activa y palabra pausada en un entorno de camaradería nos permite dar alma al intelecto e inventar mejores futuros para la sociedad y la humanidad”.

En definitiva, la ética de la inteligencia artificial no se juega solo en laboratorios o parlamentos: se teje en la conversación continua entre empresas, instituciones, educadores y ciudadanía. Interrumpir ese diálogo sería perder la oportunidad de darle un rostro humano al futuro tecnológico.