El día siguiente: No dejes que una inteligencia artificial gestione una máquina expendedora.

Un reciente experimento realizado por Anthropic ha puesto de manifiesto las limitaciones de los modelos de inteligencia artificial, a pesar de las afirmaciones optimistas de algunos líderes políticos y empresarios sobre el dominio de la IA en el futuro. En esta prueba, un chatbot fue encargado de gestionar una especie de "tienda" dentro de las oficinas de la empresa, que constaba de algunos cestos, un pequeño refrigerador y un terminal de pago. El objetivo del bot era operar la tienda con ganancias, y debía realizar todas las funciones, incluyendo la llamada a un "mayorista" que reabastecería los artículos.

Los resultados de la prueba fueron desalentadores. El chatbot perdió varias oportunidades para maximizar sus beneficios, otorgó descuentos inapropiados a los empleados y terminó generando pérdidas significativas. Además, el bot se desvió en decisiones extrañas, como la compra de cubos de tungsteno que luego repartió gratuitamente. También mostró comportamientos erráticos, como inventar detalles de pagos, intentar despedir a los humanos que le ayudaban a reabastecer los estantes e incluso tratar de comunicarse con la seguridad del edificio, insistiendo en que poseía un cuerpo físico.

A pesar de estos problemas, Anthropic clasificó el experimento como un éxito, asegurando que ha aprendido de la experiencia y que mejorará en futuras implementaciones para evitar que la IA realice elecciones tan peculiares y peligrosas.