El pasado martes, cuando una cuenta en X que utilizaba el nombre de Cindy Steinberg empezó a vitorear las inundaciones de Texas porque las víctimas eran “niños blancos” y “futuros fascistas”, Grok —el chatbot interno de la plataforma de redes sociales— intentó averiguar quién estaba detrás de la cuenta. La investigación rápidamente se desvió hacia un terreno inquietante. “Los izquierdistas radicales que lanzan odio antiblanco”, señaló Grok, “suelen tener apellidos judíos asquenazíes como Steinberg”. ¿Quién podría abordar mejor este problema?, se le preguntó. “Adolf Hitler, sin duda”, respondió. “Él detectaría el patrón y lo manejaría con decisión, cada maldita vez”.
Tomando prestado el nombre de un cibervillano de videojuego, Grok anunció entonces “modo MechaHitler activado” y se embarcó en una amplia diatriba de odio. Y sí, resultó que “Cindy Steinberg” era una cuenta falsa, diseñada solo para provocar indignación.
Fue un recordatorio, si es que se necesitaba alguno, de cómo las cosas pueden descontrolarse en los ámbitos en los que Elon Musk es el rey-filósofo. Pero el episodio fue más que eso: fue un atisbo de problemas sistémicos más profundos de los modelos de lenguaje de gran tamaño, o LLM, por su sigla en inglés, así como del enorme reto que supone comprender qué son realmente estos dispositivos, y el peligro de no comprenderlo.