El chatbot Grok de la red X emite comentarios antisemitas y provoca indignación
Grok, el asistente de inteligencia artificial (IA) de la start-up xAI de Elon Musk, provocó una tormenta en las redes este miércoles con una serie de respuestas elogiando a Hitler o que contienen comentarios injuriosos.
Un tribunal turco ordenó el bloqueo de Grok a causa de esos comentarios.
Numerosos usuarios de la red social X compartieron capturas de pantalla para denunciar las respuestas de esta herramienta, competidora de ChatGPT, que acababa de ser actualizada.
El multimillonario dueño de X había anunciado una “mejora significativa” de su funcionamiento el viernes. “Deberías notar una diferencia cuando le hagas preguntas a Grok”, añadió.
Desde entonces, se han compartido varios ejemplos de conversaciones en línea.
En respuesta a un internauta que preguntaba por una “figura histórica” que sería adecuada para responder a un mensaje que parecía alegrarse por la muerte de niños en un campamento cristiano en Texas tras unas inundaciones, Grok respondió: “Adolf Hitler, sin duda”.
En otras respuestas mencionaba “estereotipos anti-blancos” y calificaba a las figuras históricas de Hollywood como “desproporcionadamente judías”.
“Lo que estamos viendo actualmente por parte de Grok es irresponsable, peligroso y antisemita”, reaccionó el martes la ONG estadounidense Liga Antidifamación (ADL).
En Francia, al ser consultado sobre un gran incendio forestal que afecta a Marsella, el chatbot respondió mencionando el tráfico de drogas en la ciudad y expresó el deseo de que algunos barrios resultaran afectados.
Ante las protestas, la cuenta oficial de Grok en X anunció finalmente el miércoles haber “tomado medidas”.
“Somos conscientes de las publicaciones recientes realizadas por Grok y estamos trabajando activamente para eliminar los contenidos inapropiados”, explicó la cuenta.
“Desde que fuimos informados del contenido problemático, xAI ha tomado medidas para prohibir los discursos de odio antes de que Grok los publique en X”, añadió, el mismo día en que la empresa tiene previsto lanzar su modelo de lenguaje de nueva generación, Grok 4.
Musk declaró este viernes que estos incidentes se produjeron cuando un usuario buscó obtener una declaración controvertida y “lo consiguió”.
Grok es “demasiado propenso a complacer y ser manipulado, en resumen. Se está abordando el problema”, agregó.
Bloqueo en Turquía
La herramienta también se ensañó con jefes de Estado, calificando al presidente turco, Recep Tayyip Erdogan, de “serpiente” y lanzándole insultos, según otra captura de pantalla.
Estas publicaciones provocaron una reacción casi inmediata de Turquía: un tribunal en Ankara bloqueó el acceso a decenas de mensajes de Grok por “insultar” al presidente y a la religión, según una decisión consultada por AFP.
Mientras muchas de las respuestas polémicas seguían en línea el miércoles, Grok ahora niega haber hecho algunos de esos comentarios y parece haber cambiado nuevamente el tono de sus mensajes.
“Ese sarcasmo sobre Hitler solo estaba ahí para ridiculizar a los trolls antiblancos llenos de odio, no para elogiarlo”, aseguró el chatbot.
En una reacción en X, Elon Musk publicó este mensaje: “Nunca hay un momento aburrido en esta plataforma”.
En mayo, el chatbot de xAI ya se había visto envuelto en una fuerte controversia.
En X, sus respuestas habían mencionado un “genocidio blanco” en Sudáfrica, repitiendo la propaganda de extrema derecha sobre el tema.
En un comunicado, xAI indicó que una “modificación no autorizada” de Grok había provocado respuestas que “violaban las políticas internas y los valores fundamentales” de la empresa.
Renuncia la directora general de red social X
En tanto, la directora general de la red social X, Linda Yaccarino, anunció su renuncia este miércoles, sin especificar los motivos y sin que se reportara una relación con los problemas de Grok.
En un comunicado publicado en la plataforma, Yaccarino asegura que deja el cargo tras “dos años increíbles” de transformación de la empresa.
Ni la empresa ni Yaccarino explicaron los motivos de la renuncia, pero se da en momentos en los que el chatbot de inteligencia artificial Grok de Musk lleva varias semanas en el foco de las críticas por verter en X comentarios antisemitas, incluso con menciones al líder nazi Adolf Hitler, y otros en los que se denigraba al Islam.
En una breve respuesta a la publicación de Yaccarino en X, Musk escribió: “Gracias por tus contribuciones”.
Yaccarino, exejecutiva de publicidad de NBCUniversal, asumió el cargo de directora general de X en junio de 2023, sustituyendo a Musk, que llevaba en el puesto desde la adquisición de Twitter por $44,000 millones en octubre de 2022.
Su nombramiento se produjo cuando el multimillonario quiso centrar su carrera en el desarrollo de productos y, al mismo tiempo, incorporar altos cargos con experiencia en el sector de la publicidad para recuperar la confianza de los anunciantes.
La empresa ha enfrentado significativos desafíos desde que Musk la compró, entre ellos una fuga de anunciantes y preocupaciones sobre las políticas de moderación de contenido.
Desde la llegada de Musk, X ha sido criticada por un aumento en contenido violento, racismo, antisemitismo y desinformación.
El mandato de Yaccarino coincidió también con el respaldo y financiamiento de Musk a Donald Trump, lo cual llevó al multimillonario nacido en Sudáfrica a ser catapultado a la Casa Blanca como asesor cercano del presidente, antes de dejar el cargo en una reciente disputa.