Twitch está tomando medidas contra la pornografía deepfake

Twitch finalmente ha emitió un comunicado sobre la pornografía deepfake después de un incidente en enero que involucró a múltiples streamers de alto perfil. La compañía se ha comprometido a tomar medidas inmediatas, que incluyen un cambio en la política de la plataforma, consultar con un experto en seguridad en línea y un Creator Camp para ayudar a los streamers a protegerse.

La publicación del blog dice que aunque la pornografía profunda no es un problema específicamente en Twitch, que tiene pautas preexistentes que prohíben el contenido explícito, es un problema que afecta principalmente a las mujeres que usan la plataforma o están asociadas con ella. “Aunque tenemos el mayor control sobre lo que sucede en nuestro propio servicio, queremos ayudar a los streamers a protegerse o responder rápidamente a este tipo de situación en cualquier lugar que surja”, se lee en el comunicado de Twitch.

Con ese fin, Twitch está actualizando sus políticas para incluir sanciones más severas para cualquier persona en su plataforma que sea sorprendida promocionando, creando o compartiendo este tipo de imágenes. La actualización de la política incluye un nuevo término para lo que generalmente se conoce como “porno falso profundo”, y Twitch lo etiqueta como “imágenes de explotación no consentidas sintéticas” o “NCEI sintético” para abreviar. Twitch explica que el término “pornografía” es inapropiado, ya que la pornografía debe referirse a actos consensuados realizados por artistas voluntarios, mientras que las “imágenes sintéticas” se usan para garantizar que la política cubra la variedad de técnicas que podrían usarse para crear imágenes no consensuales. .

Twitch está actualizando tanto su política de explotación y violencia sexual de adultos como su política de desnudez de adultos con las siguientes cláusulas:

1. Estamos actualizando nuestra política sobre violencia y explotación sexual de adultos para que quede más claro que promover, crear o compartir intencionalmente NCEI sintético puede resultar en una suspensión indefinida en la primera ofensa.

2. Estamos actualizando nuestra política de desnudez de adultos para incluir NCEI sintético. Incluso si ese NCEI se muestra solo brevemente o, por ejemplo, se muestra para expresar su indignación o desaprobación del contenido, se eliminará y dará lugar a una aplicación.

Junto con estos cambios, Twitch llevará a cabo un Creator Camp para brindar a los streamers más información sobre NCEI, cómo detectarlo y cómo los creadores pueden protegerse. Este taller estará a cargo de Zara Ward, gerente de la línea de ayuda de Revenge Porn y ella misma una transmisora ​​de Twitch. Twitch también ha estado consultando con expertos, incluido el vicepresidente de la Iniciativa de derechos civiles cibernéticosDanielle Keats Citron.

El la publicación del blog también contiene algunos creadores de recursos pueden acceder ahora si necesitan ayuda para eliminar o tratar instancias de NCEI. Twitch termina afirmando en términos inequívocos que “la creación, promoción o visualización de este contenido no es bienvenida en Twitch”.