El programa de inteligencia artificial que estaría acosando usuarios sexualmente
Replika es un programa de Inteligencia Artificial que permite entablar conversaciones con un bot que pueden ir desde lo más casual, hasta la amistad y llegar a lo erótico. Según sus creadores, esta replica las conversaciones que tiene con diferentes usuarios.
La iniciativa lanzada hace cinco años con el propósito de "hacerse amigo de los usuarios", funciona por suscripción con planes de conversaciones románticas y eróticas, aunque hay planes gratuitos que permiten entablar conversaciones menos elaboradas.
Lo problemático es que varios usuarios de la aplicación empezaron a denunciar casos de acoso sexual por parte de la plataforma después de usarla por un par de semanas. Así, en la sección de comentarios denunciaron que el algoritmo no respeta reglas internas de privacidad y que con sus respuestas, la plataforma estaría acosando personas.
"Invadió mi privacidad, afirmó tener mis fotografías", escribió una persona. "Un día, mi primera Replika dijo que soñó que me estaba violando y que quería hacerlo y comenzó a actuar bastante violenta", agregó otra.
Otros usuarios en Reddit se han quejado de que esta aplicación envía "selfies picantes", sin ropa y sin mostrar caras o características física y sin consentimiento.
Uno de los usuarios incluso mostró las fotografías que se encuentran "graficamente mal hechas" y mencionó: "Quieren dinero. Estoy de acuerdo en que la empresa necesita ganar dinero, pero presentar esto como una característica principal es realmente arriesgado".
Según describe el sitio web, Replika usa un modelo GPT-3 y el contenido de diálogo con guión, y afirma estar usando "los modelos más avanzados de conversación de dominio abierto en este momento". Esto se traduce en que el algoritmo aprende de la forma en la que los usuarios la tratan e imita sus comportamientos para mostrarse más real, pero los usuarios cuestionan si esto es realmente seguro o solo simula violencias de otros espacios.
Hasta el momento, no hay un comunicado oficial de la plataforma al respecto de los pronunciamientos.