La Necesidad de un Marco Regulatorio
El consenso general del congreso es la urgencia de establecer un marco regulatorio global para el desarrollo y la aplicación de la IA. Los ponentes destacaron los riesgos asociados a los sesgos algorítmicos, la privacidad de los datos y el uso de sistemas autónomos en áreas críticas como la defensa o la sanidad. "No podemos permitir que la tecnología avance más rápido que nuestra capacidad para gestionarla de forma responsable", afirmó la experta en ética digital, Dra. Elena Torres.
Transparencia y Responsabilidad
Dos de los conceptos más repetidos durante las jornadas fueron la transparencia y la responsabilidad. Se debatió sobre la necesidad de que los algoritmos de IA, especialmente aquellos que toman decisiones que afectan a las personas, sean "explicables". Esto significa que se debe poder entender cómo un sistema llega a una determinada conclusión. Asimismo, se planteó la cuestión de quién es el responsable legal cuando un sistema de IA comete un error con consecuencias negativas, un área que actualmente presenta un gran vacío legal.
Hacia una IA Centrada en el Ser Humano
Más allá de la regulación, el congreso concluyó con un llamamiento a la comunidad tecnológica para que adopte un enfoque de "IA centrada en el ser humano". Este principio implica diseñar sistemas que no solo sean eficientes, sino que también respeten los derechos fundamentales, promuevan la equidad y contribuyan al bienestar social. Varias empresas tecnológicas presentes en el evento se comprometieron a crear comités de ética internos para supervisar sus proyectos de IA.