Mario Patrón
Desde el pasado fin de semana, el debate en torno a los potenciales riesgos de la inteligencia artificial volvió a agitarse tras una serie de declaraciones que advirtieron de la necesidad de desacelerar los ritmos de desarrollo de esta tecnología.
Destacaron especialmente las declaraciones de un ex investigador de Anthropic, Jacob Coxon, y del propio CEO de dicha compañía, Dario Amodei, que coincidieron en referir casos en los que la IA ha traspasado las fronteras del control y supervisión humanas; ello encendió una vez más las alarmas y ha motivado la conversación pública sobre el debido cuidado y regulación de los avances tecnológicos desde una perspectiva de derechos humanos.
En dicho sentido se manifestó Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, quien instó a las empresas y gobiernos a llevar a cabo acciones urgentes para la regulación de la IA, debido a los riesgos sin precedentes que supone para la humanidad. Asimismo, lamentó que actualmente dependamos de un puñado de grandes empresas para tomar decisiones acertadas en la materia.
La importancia y trascendencia del debate no es menor, ciertamente estamos frente a un cambio de paradigma tecnológico ante el cual se requiere tiempo para construir y establecer, tanto límites y regulaciones técnicas, como grandes marcos éticos que delimiten el propósito y sentido del desarrollo de esta herramienta tecnológica. Otros líderes y colaboradores importantes de distintas empresas se sumaron los días pasados al llamado a frenar el desarrollo de la IA, hasta en tanto no se tenga una mejor evaluación de los riesgos identificados; sin embargo, esta advertencia se vio de inmediato contrariada por el interés político y económico de controlar el mercado global en la materia y sus efectos geopolíticos, como lo dejó ver Donald Trump con sus declaraciones sobre el tema.
Así, vemos una vez más, cómo frente al apetito de poder y control de las grandes potencias en pugna –en este caso Estados Unidos y China– se supeditan la dignidad, el bienestar y eventualmente la propia supervivencia de la humanidad.
Tal como Volker Türk y otros han advertido desde la perspectiva de derechos humanos, la inteligencia artificial representa una amenaza directa para derechos civiles y económicos básicos, como la libertad de expresión, el acceso a la información, la alimentación, el agua y hasta la vida. Esto es así por la creciente dependencia de nuestros mercados de los sistemas de información digitales, por la alta capacidad de la IA generativa para desarrollar instrucciones carentes de criterios adecuados y por la facilidad para producir y diseminar con ella contenidos sin consideraciones éticas. En este sentido, la ya documentada capacidad de la inteligencia artificial para desarrollar soluciones no solicitadas por el ser humano incrementa el riesgo, por ejemplo, de intervenciones no controladas en sistemas vitales para el desarrollo de actividades económicas cotidianas. Además, la carencia actual de una regulación sólida facilita el uso de esta herramienta para actividades militares e ilícitas, incrementando amenazas al derecho a la vida.
La sola enunciación de los riesgos identificados nos coloca ante un escenario que parece de ciencia ficción y, por eso, es urgente la elaboración de una agenda para la regulación. Dicha regulación debe emanar de la identificación y ponderación adecuada de los riesgos a los derechos humanos que puede entrañar el desarrollo vertiginoso de la IA, tal como hasta ahora se ha desplegado, tanto en términos de dignidad humana como de seguridad nacional. Un adecuado diagnóstico de riesgos permitirá establecer bases sólidas para una regulación en la que participen distintos actores involucrados, y evitará la instrumentalización de estos riesgos para la imposición de controles que obedezcan estrictamente a fines políticos.
Desde luego, un aspecto especialmente difícil pero imprescindible para impulsar esta necesaria regulación y ralentización del desarrollo de la IA es la voluntad de los actores políticos. El Estado debe asumir su papel como regulador para sentarse en la mesa con los líderes de las grandes empresas, pero también con la ciudadanía y expertos en la materia para diseñar colaborativamente el sistema de límites, obligaciones y contrapesos que garantice el uso ético de esta herramienta y el cuidado de los derechos amenazados. De lo contrario, seguiremos a merced de una racionalidad económica y política que actúa en función de la maximización de ganancias y la acumulación de poder, en el contexto de un escenario global polarizado.
El rápido avance de la IA plantea un desafío inminente para los derechos humanos, especialmente cuando la innovación tecnológica supera la capacidad de las instituciones para prevenir sus posibles impactos. Sin mecanismos adecuados de supervisión, transparencia y rendición de cuentas, el uso de la IA podrá profundizar desigualdades, reproducir discriminación y limitar derechos fundamentales. Su urgente regulación debe colocar a la persona humana y su dignidad en el centro.
Todavía estamos a tiempo de construir una agenda que, con la participación conjunta de gobiernos, empresas, comunidad científica y sociedad civil, permita evaluar riesgos y establecer de inmediato controles a su desarrollo antes de que se generen daños irreversibles.
