En entrevistas previas ha dicho que la IA no es simplemente una tecnología más, sino una herramienta que puede tener efectos en la sociedad tal y como la entendemos. ¿Cuál es la primera regla ética que deben seguir los desarrolladores de IA?
Hay una primera regla en ética que es hacer el bien y evitar el mal. Es una regla muy simple: haz el bien y evita el mal. Sin embargo, la siguiente pregunta es qué es el bien y cuando pensamos en el bien y el mal, hay algunas cosas claras que nos vienen a la mente. No quieres hacer daño a la gente. No quieres hacer daño a las familias. No quieres hacer daño a los niños. No quieres hacer daño a los padres. No queremos perjudicar a las personas mayores. Quieres asegurarte de que estás proporcionando un beneficio a la sociedad, de modo que estás ayudando a la gente a cooperar en el trabajo que están haciendo. Hay que reforzar la educación, no debilitarla, que es lo que pasó con ChatGPT cuando apareció por primera vez. Empezó a debilitar el sistema educativo.
Por último, hay que asegurarse de que la gente pueda distinguir lo que es verdadero de lo que es falso. En última instancia, esta cuestión de la verdad y la falsedad se vuelve muy importante porque la IA generativa, como ChatGPT, que genera texto, u otras que generan fotografías o imágenes que parecen fotografías, se convierten en grandes fuentes de desinformación.
Hablemos de la transparencia y la opacidad de las máquinas. A diferencia de un humano, la IA no puede distinguir cualitativamente hablando lo que hizo mal. En el caso de los coches autoconducidos, ¿quién debe asumir la responsabilidad, el concesionario, el conductor o el Gobierno?
Es una pregunta que aún no se ha resuelto del todo, aunque la forma en que las empresas intentan resolverla es haciendo recaer todo sobre el conductor. Aunque compañías como Tesla producen algo llamado piloto automático y lo llaman un coche de auto-conducción, si el coche se estrella culpan del conductor, haciendo que firme un formulario por adelantado diciendo que si algo va mal es su culpa. Ya han muerto varias personas en accidentes de coches autoconducidos y Tesla nunca ha tenido que lidiar con las repercusiones negativas de eso debido a este formulario legal que hicieron firmar a la gente.
Creo que lo que tiene que hacer el Gobierno es intervenir y evaluar realmente esta situación y determinar si tal vez las empresas están anunciando falsamente lo que puede hacer su tecnología si la llaman piloto automático y luego no actúa como tal o la llaman autoconducción y en realidad no se conduce sola. Hace falta un ser humano para resolver estos problemas, quizá sea un problema de publicidad engañosa y el Gobierno deba intervenir. Si la empresa hace recaer toda la responsabilidad en el individuo, no es una buena solución. El gobierno tiene que implicarse también para intentar tomar decisiones correctas y guiar a la gente en la dirección correcta.
Las protestas del grupo de activistas PauseAI están en curso en Londres, Nueva York, San Francisco y otras partes del mundo. Sus integrantes tienen opiniones muy diferentes sobre lo que la organización debe realizar para proteger a la humanidad de la IA.
Tomando como referencia la demanda colectiva a Google por el uso indebido de los datos de sus usuarios en su “modo incógnito”, ¿qué es más importante, la actualización en las políticas de privacidad o la capacitación de su personal para el tratamiento de datos sensibles?
Deberían hacer ambas cosas. Una cosa que me gusta subrayar cuando pienso en la ética es que suele haber múltiples situaciones donde las cosas pueden salir mal. Y si quieres asegurarte de que nunca ocurra un problema, necesitas tener muchas alternativas para resolver el problema, ya sea en términos del propio usuario, en términos de entender el acuerdo de licencia, o en términos de que entiendan a los desarrolladores de la tecnología. Hay gente en la propia empresa que necesita pensar cuál es la forma correcta de hacer esto. Los abogados deben tratar de proteger la reputación de la empresa, por ejemplo, asegurándose de que la empresa cumple todas las leyes.
