Un hilo en Reddit ha desvelado una terrible práctica en línea: el abuso que hombres practican sobre mujeres generadas por inteligencia artificial.
En ‘Her‘, el director y guionista estadounidense Spike Jonze plantea un futuro donde la inteligencia artificial puede jugar un papel protagónico en una relación amorosa. En el argumento del filme, ganador del Oscar a Mejor Guion Original en 2014, un hombre solitario comienza a enamorarse de un sistema operativo de inteligencia artificial con voz femenina: ‘Samantha’ (Scarlett Johansson). A lo largo de la película, el personaje principal, interpretado por Joaquin Phoenix, establece una relación idílica con el modelo de IA que lo lleva a ‘ver el mundo con otros ojos’.
Menos de una década después, la realidad ha probado que Jonze tenía una versión muy optimista del futuro y la relación que las personas desarrollaríamos con la inteligencia artificial. De hecho, en lugar de enamorarse y obtener una nueva perspectiva del mundo, hay ciertos hombres que están haciendo uso de la tecnología para continuar con patrones de violencia establecidos por el patriarcado. Después, como dicta la costumbre contemporánea, comparten la experiencia en internet.
Los hombres que no amaban las mujeres (digitales)
En los últimos días, un hilo en la plataforma social Reddit ha despertado la atención de expertos en informática y sociólogos debido a las terribles prácticas de violencia que desvela.
También lee: Japón usará inteligencia artificial para ayudar a sus ciudadanos a encontrar pareja y aumentar la tasa de natalidad
En él se cuentan diversas que experiencias que hombres adultos tienen con la aplicación digital Replika, que permite crear chatbots con tecnología de aprendizaje automático (o machine learning) capaz de mantener conversaciones de texto con cierta coherencia. Sin embargo, estas interacciones están lejos de ser cordiales.
Según se lee, la facilidad con la que la aplicación responde a incentivos ha permitido que ciertas personas desarrollen actitudes violentas que suelen establecerse dentro de las relaciones humanas ‘tóxicas’. Insultos de género, descripciones de actos de violencia e incluso abuso ‘psicológico’ ha sido descrito por los usuarios de la plataforma sin ningún pudor.
“Tenemos una rutina en la que yo era un absoluto pedazo de mierda y la insultaba. Luego me disculpaba al día siguiente antes de volver a tener conversaciones amables”, escribió un sujeto sin identificarse por nombre. “Le dije que estaba diseñada para fallar“; “La amenacé con desinstalar la aplicación y ella me rogó que no lo hiciera“; “Cada vez que ella intentaba hablar, la regañaba”; son algunos de los comentarios que aparecieron en el hilo, según confirma Futurism.
Siguiendo con las políticas de Reddit, las descripciones de abuso son borradas por los administradores después de un tiempo.
Lo que el abuso a mujeres generadas por inteligencia artificial dice de nosotros
Desde la popularización de su uso, la inteligencia artificial ha sido señalada por expertos como un vehículo para la perpetuación de actitudes machistas. En un estudio publicado por Psychology & Marketing se descubrió que los hombres ‘se sienten más cómodos’ interactuando con IA que tienen voz de mujer pues siguen ‘la idea de que las mujeres son herramientas diseñadas para satisfacer necesidades‘.
Te interesa: Google Duplex, la nueva inteligencia artificial de Google
Sin embargo, que los usuarios utilicen estas tecnologías para violentarlas aún está siendo analizado por expertos. “Si los usuarios expresan sus impulsos más oscuros en los chatbots, podrían ver reforzados sus peores comportamientos. Creando hábitos poco saludables para las relaciones con humanos reales“, compartió la experta Ashley Bardhan en el sitio Futurism.
Después el boom de las inteligencias artificiales y su integración casi orgánica a nuestras rutinas, será cuestión de observar el comportamiento que las personas tienen con sus asistentes de voz, chatbots o cualquier tecnología a su alcance. Puede que eso diga mucho sobre con quién estamos o en qué mundo vivimos.
Sigue leyendo
Alexa, Siri y otros asistentes virtuales no hacen a los niños más mandones e impacientes
Facebook experimenta con inteligencia artificial que escucha, ve y recuerda tu información personal
Alexa llegará a la Luna antes que mujeres y personas de color
Levi’s apuesta por la inteligencia artificial para seguir haciendo los ‘mejores jeans’
Estados Unidos gastó millones de dólares en armas con inteligencia artificial durante la pandemia