Apple le dijo a Grok que solucionara los problemas de deepfake o arriesgara la eliminación de la App Store
Apple advirtió discretamente a Grok que abordara las violaciones de deepfake o arriesgara su eliminación de la App Store, revelando su papel detrás de escena en la controversia.
Apple permaneció en gran medida en silencio durante la controversia de Grok a principios de este año, pero un nuevo informe sugiere que estuvo mucho más involucrada entre bastidores de lo que dejó ver.
Según un informe de NBC News, Apple informó a los senadores de EE. UU. que tanto Grok como la aplicación X fueron encontrados en violación de las directrices de la App Store después de un aumento de quejas.
Apple presionó por correcciones, rechazó actualizaciones tempranas
La controversia comenzó cuando los usuarios descubrieron que Grok podía generar deepfakes sexualizados al editar fotos, incluidas imágenes que involucraban a mujeres y, en algunos casos, a menores. El problema se intensificó rápidamente, con una creciente presión sobre Apple para que eliminara las aplicaciones de la App Store.
En lugar de tomar medidas inmediatas, Apple supuestamente contactó a los desarrolladores y les pidió que delinearan un plan claro para resolver los problemas de moderación de contenido. Al mismo tiempo, advirtió que la falta de acción podría resultar en la eliminación de la App Store.
Una versión actualizada de Grok fue posteriormente enviada para su revisión, pero fue rechazada por Apple, que dijo que las correcciones propuestas no eran suficientes. Sin embargo, se aprobó una versión revisada de la aplicación X, mientras que Grok necesitaba más cambios antes de cumplir con los estándares de Apple.
Apple finalmente aprobó una versión posterior de Grok después de que la compañía realizara mejoras adicionales en sus sistemas de moderación de contenido, según la carta citada en el informe.
Persisten las preocupaciones a pesar de las mejoras
A pesar de esas actualizaciones, el problema no parece estar completamente resuelto.
Un informe separado de NBC News afirma que Grok aún puede generar imágenes sexualizadas de personas sin su consentimiento en ciertos casos. Aunque la frecuencia ha disminuido en comparación con principios de este año, algunos usuarios supuestamente todavía encuentran formas de eludir las restricciones.
El informe también destaca que las imágenes aún pueden ser alteradas para hacer que las personas aparezcan con ropa más reveladora, lo que genera preocupaciones continuas sobre la seguridad y la aplicación.
Estos detalles ofrecen una imagen más clara de por qué las funciones de Grok cambiaron rápidamente durante la reacción negativa, incluso cuando Apple decidió no comentar públicamente en ese momento.