«Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las acciones apropiadas contra las cuentas responsables de publicarlas», publicó la cuenta de seguridad X. «Estamos monitoreando de cerca la situación para garantizar que cualquier violación adicional se aborde inmediatamente y se elimine el contenido. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios».
Pero la seguridad X puede necesitar aumentar el monitoreo para limpiar las salidas de Grok siguiendo los informes del borde. Grok citó los informes de The Verge mientras confirmaba que su propio diseño aparentemente defectuoso puede desencadenar salidas de celebridades parcialmente desnudas.
Es probable que XAI pueda solucionar el problema a través de más ajuste. Weatherbed señaló que pedirle a Grok directamente generar imágenes rápidas desnudas no consensuadas no generó salidas ofensivas, sino cajas en blanco. Aparentemente, Grok tampoco aceptará indicaciones para alterar la aparición de Swift de otras maneras, como hacer que parezca tener sobrepeso. Y cuando Weatherbed se probó usando el modo «picante» en imágenes de niños, por ejemplo, Grok se negó a representar a los niños de manera inapropiada.
Sin embargo, puede que no sea fácil lograr que Grok distinga entre las solicitudes de usuarios de adultos de contenido «picante» versus contenido ilegal. El modo «picante» no siempre genera Swift Deepfakes, confirmó Weatherbed, pero en «varias» instancias «incumplió» a «estafando» la ropa de Swift.
Con la aplicación de la Ley Take It Down a partir del próximo año, las plataformas que requieren rápidamente las imágenes de sexo no consensuadas, incluidos los desnudos generados por la IA, XAI podría enfrentar consecuencias legales si los resultados de Grok no se corrigen.
Hasta ahora, X no ha comentado en el informe del Verge. En cambio, Musk ha pasado el día promocionando a Grok Imagine y alentando a los usuarios a compartir sus «creaciones».
