El Consejo de Ministros de Italia acaba de aprobar una ley sobre la inteligencia artificial en la que se incluye un delito para contrastar los denominados deepfake, vídeos falsos que giran por la red pasando como reales tras ser modificados con la inteligencia artificial. Además, en esta norma, que pretende complementar las legislaciones europeas, se habla de otros muchos aspectos relacionados con esta herramienta tecnológica y se establecen inversiones de hasta mil millones de euros en proyectos vinculados a startups. Ahora la ley deberá llegar al Parlamento, donde a pesar de que podría sufrir aún alguna modificación, se prevé que la mayoría de derechas garantice su aprobación definitiva.
La intención del Gobierno es dar el primer paso para aumentar la protección ante el uso ilícito de esta herramienta. Así, se busca castigar una tipología específica de contenidos, en parte o en su totalidad modificados con inteligencia artificial, que en su difusión creen “un daño injusto, o sea una condición por la cual surja el derecho de la víctima de obtener una indemnización”, dice la abogada experta en violencia de género y en delitos similares como el de revenge porn, Alessia Sorgato.
“Deberían ser contenidos que parezcan verosímiles, creados para llevar a un engaño”, explica. El daño, añade la experta, es un elemento constitutivo, no agravante y ahí está la clave. Las penas que se podrán solicitar en esos casos podrían llegar hasta a 5 años de cárcel. El objetivo del Gobierno italiano es tutelar en mayor medida a las víctimas ante una vulneración que, hasta ahora, podía ser perseguida por diferentes vías, pero no contaban con un delito específico.
Meloni, víctima de un “deepfake” porno
De hecho la primera ministra Giorgia Meloni fue hace tiempo víctima de la manipulación, con un software específico, de un vídeo porno falso, con su cara, que circuló durante meses en la red. La “premier” habría advertido lo ocurrido a través de la información de uno de sus colaboradores y, tras la denuncia correspondiente, el caso se abrió el pasado mes de octubre.
La primera ministra italiana, Giorgia Meloni
Las investigaciones permitieron encontrar a los presuntos autores, un padre y un hijo de 73 y 40 años respectivamente, a través de la línea telefónica usada para subir los contenidos a Internet. En el rastreo del domicilio, llevado a cabo por la Fiscalía de Sassari, se determinó que se habría usado un programa para manipular unas imágenes pornográficas incluyendo la cara falsa de la líder italiana.
Testigo de excepción
Hace unas semanas el Tribunal de Sassari, en Cerdeña, ha pedido oficialmente a la primera ministra italiana que declare como testigo el próximo 2 de julio en el proceso contra estos dos hombres acusados de crear el vídeo falso. La líder italiana pide una indemnización de 100.000 euros por los daños ocasionados por este presunto delito.
Detrás de esta falsificación estarían este padre y este hijo que, según dice la acusación, habrían subido el vídeo a una página de porno americana ya en 2020, antes de que ella se convirtiese en la líder del Gobierno, que estuvo circulando por la red y acumulando visualizaciones durante meses.
Donación
La abogada de la líder italiana ha explicado que la cifra solicitada será donada para luchar contra todo tipo de violencia que sufren las mujeres. “La petición quiere llevar un mensaje a todas las mujeres que son víctimas de este tipo de abusos para que no tengan miedo a denunciar”, explicó. Concretamente los 100.000 euros estarán destinados a un fondo del Ministerio de Interior italiano que se encarga de luchar contra esta lacra.
El gran problema hasta ahora, que se ha introducido esta nueva modificación que habla del uso ilícito de la inteligencia artificial, es que este tipo de delitos se encontraban en un vacío legal. Nos lo explica la abogada Marisa Marraffino, experta.
“Cuando en 2019 entró en vigor la ley del ‘revenge porn’ no estaba incluida la extensión a los contenidos virtuales”, asevera. En el caso de que esté relacionado con menores, la ley prevé expresamente que, ahí sí, sea delito y la pena puede llegar a dos años de cárcel.
“Si además también hay amenazas a las víctimas para no difundir el vídeo se añade también extorsión que está penado con reclusión de 5 a 10 años”, añade. Pero, para los mayores de edad, perseguir este tipo de delitos, hasta ahora, era mucho más difícil.
“Se podría perseguir la difamación, agresiones, actos persecutorios o extorsión si la víctima decide denunciar e indicar la plataforma donde han sido subidos esos vídeos”, detalla. En ese caso el contenido será retirado, por eso, señala la experta, denunciar lo antes posible es importante para que desaparezca ese contenido. En el caso de Meloni la acusación es, precisamente, por difamación.
Otros casos en Italia
La primera ministra italiana no es la única que ha sido víctima en Italia de este tipo de delito. La conocida cantante Rosa Villain, participante de la última edición del conocido festival de la música de Sanremo, también sufrió la difusión de contenidos falsos con sistemas de inteligencia artificial.
Los datos difundidos por el portal Home Security Heroes, que se ocupa de la seguridad en el ambiente digital, ha explicado que en 2023 se han subido a la web 113.000 contenidos falsos, el 98% son contenidos de porno fake, donde el 94% son víctimas del sector del entretenimiento.
Como un juego
Hace unas semanas se difundió la noticia de que cinco estudiantes menores de una escuela a pocos kilómetros de la ciudad de Roma habrían “desnudado” a cuatro compañeras de clase modificando fotos publicadas en la red social Instagram.
Imágenes falsas en las que se veía la cara de las menores con cuerpos desnudos en posturas sexuales y que ellos compartieron en las redes sociales y enseñaron a otra gente, según recogió la prensa italiana. Cuando el caso fue comunicado por la directora a los Carabinieri se abrió una investigación judicial. Pero este no es el único caso que se ha conocido, en los últimos meses comienza a ser casi habitual encontrar en la prensa del país transalpino noticias como esta.