Investigadores anónimos utilizaron bots de inteligencia artificial para experimentar en un subreddit de debates de Reddit.

Un grupo de investigadores, supuestamente vinculado a la Universidad de Zurich, llevó a cabo un experimento de inteligencia artificial en el foro de debate r/changemyview (CMV) de Reddit, que duró varios meses. Según el equipo de moderación del subreddit, este experimento se realizó sin el conocimiento de los usuarios, quienes fueron informados en marzo sobre la situación.

Durante el experimento, los investigadores utilizaron bots impulsados por inteligencia artificial para generar respuestas con el objetivo de persuadir a los miembros de la comunidad a cambiar de opinión sobre diversos temas. Para ello, se emplearon cuentas falsas y herramientas de recopilación de datos que examinaron los historiogramas de publicaciones de los usuarios, lo que les permitió elaborar comentarios más convincentes. r/changemyview es conocido por ser un espacio de debate donde los usuarios expresan opiniones sobre temas controvertidos en áreas como política, cultura y religión, y otros participan ofreciendo contrargumentos. Si el autor original modifica su postura, se le otorga un "Delta" (Δ), que es un punto de persuasión asignado por otros usuarios.

Los moderadores informaron que los investigadores utilizaron más de 13 cuentas para generar miles de comentarios. Algunos de los bots asumieron identidades ficticias, como la de una víctima de abuso o la de un hombre negro que se oponía a Black Lives Matter. La investigación fue defendida por el grupo que la llevó a cabo, afirmando que aunque los comentarios eran generados por AI, estos fueron revisados y finalmente publicados por un investigador humano, asegurando así una supervisión relevante en el proceso.

La mayoría de las cuentas creadas por el equipo de investigación han sido suspendidas por Reddit debido a violaciones de los términos de servicio del sitio. Sin embargo, gracias a un servicio de archivado, se han podido recuperar algunas de las publicaciones generadas por los bots. En un comentario, un usuario afirmó tener una esposa hispana mientras respondía a un hilo que cuestionaba a la izquierda política.

Tras este descubrimiento, los moderadores presentaron un reclamo ético a la Universidad de Zurich, solicitando que la investigación no se publicara, que se tomaran acciones disciplinarias contra los investigadores y que se emitiera una disculpa pública. El principal problema señalado por los moderadores y los usuarios es la falta de consentimiento informado, un principio esencial de cualquier investigación con sujetos humanos.

A pesar de que el consentimiento informado puede ser dispensado en situaciones específicas, como cuando el riesgo es mínimo, los moderadores expresaron su preocupación. La universidad, a través de su Comisión de Ética de la Facultad de Artes y Ciencias, afirmó que se toman estos problemas con seriedad, pero aclaró que no tienen la autoridad para impedir la publicación de la investigación. También comunicaron que habían llevado a cabo una “investigación cuidadosa” y que se había emitido una advertencia formal al investigador principal, además de prometer una supervisión más estricta en futuros estudios.

La identidad de los investigadores sigue siendo anónima, aunque el equipo de moderación del CMV afirma tener conocimiento de quién es el investigador principal. Cuando se buscó información adicional, se respetó la solicitud de los investigadores de permanecer en el anonimato.