La nueva aplicación de IA de Meta permite 'descubrir' conversaciones curiosamente personales de las personas.

Un usuario de la plataforma de inteligencia artificial de Meta planteó un mensaje que ilustró su interés por las relaciones con mujeres jóvenes, expresando su disposición a mudarse a otro país en busca de una compañera. El bot de Meta respondió de manera entusiasta, sugiriendo que buscaba un nuevo comienzo en un lugar diferente y recomendó países mediterráneos como España e Italia, así como naciones de Europa del Este. Este intercambio es solo uno de muchos que se pueden visualizar públicamente en la plataforma de Meta AI, que combina la función de chatbot con un feed social y que se lanzó en abril.

Dentro de la aplicación de Meta AI, hay una pestaña para "descubrir” que muestra una línea de tiempo de las interacciones de otros usuarios con el chatbot. Sin embargo, a medida que se desplaza por la página web de Meta AI, se puede observar un extenso collage de estas interacciones. Aunque algunas de las consultas y respuestas son triviales, como itinerarios de viaje o recetas, otras revelan datos sensibles, como ubicaciones y números de teléfono, vinculados con los nombres de usuario y fotos de perfil.

Calli Schroeder, consejera principal del Electronic Privacy Information Center, indicó que ha visto a personas compartiendo información médica y de salud mental, así como direcciones de domicilio y detalles relacionados con casos judiciales en curso. Schroeder expresó su preocupación, señalando que esto refleja la falta de entendimiento acerca de la funcionalidad y privacidad de estos chatbots.

No está claro si los usuarios comprenden que sus conversaciones con la inteligencia artificial de Meta son públicas, ya que los chats no son visibles por defecto; los usuarios deben optar por compartirlos. Se han encontrado múltiples intercambios que parecen ser de carácter privado, como solicitudes para formularios legales y preguntas sobre liquidaciones de arrendatarios. Además, han surgido temas médicos, donde usuarios han discutido sus problemas de salud y han proporcionado detalles personales significativos.

Un portavoz de Meta aclaró que las conversaciones son privadas a menos que los usuarios elijan compartirlas en el feed de Descubrimiento, pero no respondieron a las preguntas sobre las medidas de protección de la información personal en la plataforma. En una publicación de blog, la compañía aseguró que nada se comparte en el feed a menos que se decida hacerlo y que los usuarios pueden instruir a la inteligencia artificial para que “recuerde” información y ofrezca respuestas más relevantes.

Schroeder advirtió que la confidencialidad de la información ingresada en un AI es, en muchos casos, un concepto malentendido. Tras el lanzamiento de la aplicación, se manifestaron preocupaciones de privacidad, con observaciones que la describieron como “un desastre de privacidad en espera de suceder”. A pesar de estas inquietudes, el desarrollo y despliegue de esta tecnología avanza sin señales de desaceleración. Además, se ha informado que Meta está estableciendo un nuevo laboratorio de inteligencia artificial, liderado por el cofundador de Scale AI, Alexandr Wang, para desarrollar superinteligencias.

Un usuario lanzó una pregunta a Meta AI sobre si la compañía era consciente de la cantidad de información sensible que los usuarios comparten inadvertidamente. La respuesta del chatbot reiteró que algunos pueden compartir información sensible debido a malentendidos sobre las configuraciones de privacidad, aunque destacó que Meta proporciona herramientas y recursos para ayudar a los usuarios a gestionar su privacidad en un escenario en constante cambio.