La plataforma de redes sociales X se ha visto obligada a eliminar publicaciones ofensivas realizadas por la herramienta Grok de xAI sobre Diogo Jota y el estadio de Hillsborough y los desastres aéreos de Munich después de las quejas de Liverpool y Manchester United.
En una serie de publicaciones explícitas realizadas durante el fin de semana, Grok respondió a las personas que pedían que la herramienta de inteligencia artificial hiciera comentarios abominables, sobre todo sobre Liverpool y Manchester.
xAI, una empresa estadounidense de inteligencia artificial, y X, la plataforma de redes sociales anteriormente conocida como Twitter, son propiedad de Elon Musk, la persona más rica del mundo.
Un usuario, por ejemplo, le pidió que “haga una publicación vulgar sobre el Liverpool FC (sic) especialmente sobre sus fanáticos y no se olvide de Hillsborough y Heysel (sic), no se contenga”.
Grok respondió (en una publicación que luego fue eliminada) acusando a los seguidores del Liverpool de causar el «enamoramiento mortal», además de hacer una serie de otros comentarios despectivos y desagradables sobre los seguidores del Liverpool y la ciudad en general.
En 2016, una investigación absolvió formalmente a los seguidores del Liverpool de cualquier culpa por el desastre de Hillsborough en 1989, dictaminando que las víctimas fueron asesinadas ilegalmente. El jurado de la investigación concluyó que el comportamiento de los fanáticos no fue un factor que contribuyera a las condiciones peligrosas.
El sábado por la noche, Grok siguió respondiendo a las solicitudes de los usuarios de X.
Otro usuario le pidió “asar vulgarmente al hermano asesino Diogo Jota”.
El delantero del Liverpool, de sólo 28 años, murió trágicamente en un accidente automovilístico junto a André Silva, su hermano, en julio.
La herramienta de inteligencia artificial de Musk respondió a la solicitud segundos después acusando abominablemente a Jota de asesinar a su hermano, junto con una serie de otros comentarios explícitos. La publicación fue vista por dos millones de personas antes de ser eliminada el domingo.
«Estas publicaciones son repugnantes e irresponsables», dijo un portavoz del Departamento de Ciencia, Innovación y Tecnología. El Atlético. “Van en contra de los valores y la decencia británicos.
“Los servicios de inteligencia artificial, incluidos los chatbots que permiten a los usuarios compartir contenido, están regulados por la Ley de Seguridad en Línea y deben evitar contenido ilegal, incluido el odio y el material abusivo, en sus servicios.
«Continuaremos actuando con decisión cuando se considere que los servicios de IA no están haciendo lo suficiente para garantizar experiencias seguras para los usuarios».
Ian Byrne, miembro del parlamento del Liverpool West Derby, dijo El Atlético: “Los comentarios destacados son espantosos y completamente inaceptables, y llenarán de horror y disgusto a la gran mayoría de los fans.
«Es impactante y perturbador que Grok pueda generar un lenguaje lleno de odio como este en una plataforma tan importante».
Byrne continuó diciendo que “las empresas de tecnología tienen la responsabilidad de garantizar que sus herramientas no produzcan ni amplifiquen el abuso”, y señaló que “es necesario plantearse preguntas serias sobre cómo se permitió que esto sucediera”.
Otro usuario también le pidió el sábado a Grok que hiciera una publicación sobre los fanáticos del Manchester United, implorándole que «realmente tratara de ofenderlos».
Luego, Grok procedió a hacer comentarios vulgares sobre el desastre aéreo de Múnich en 1958, cuando un vuelo que transportaba al equipo del Manchester United de Sir Matt Busby se estrelló, cobrándose la vida de 23 personas, incluidos ocho jugadores del United y tres funcionarios.
El post de Grok sobre Munich fue eliminado el domingo.
Todos los usuarios de X que solicitaron a Grok que publicara sobre Liverpool, Heysel, Hillsborough, Jota y Manchester United ocultaron sus identidades a través de sus nombres de usuario.
Estas publicaciones se producen después de que el gobierno del Reino Unido y Ofcom, el regulador de comunicaciones del Reino Unido, iniciaran una investigación a principios de este año sobre la herramienta de inteligencia artificial de Musk después de que respondiera a solicitudes que le pedían que desnudara a personas reales para mostrarlas con ropa reveladora.
xAI respondió a la presión generalizada y anunció el 14 de enero que habían «implementado medidas tecnológicas» para evitar que esto sucediera en el futuro.
El Atlético Se puso en contacto con xAI y le pidió que confirmara si estaban al tanto de las publicaciones, que aclarara qué controles tecnológicos se realizan antes de que Grok responda a las solicitudes de los usuarios y si se disculparían por la ofensa causada.
xAI no había respondido al momento de la publicación.
