PL 3592/23 pretende regular o uso da Inteligência Artificial para geração de conteúdo de pessoas falecidas

Desde que surgiram os primeiros sites e aplicativos que utilizam a Inteligência Artificial (IA), as questões sobre tema são inúmeras.

Nesta semana, foi protocolado o projeto de lei número 3592/23, do senador Rodrigo Cunha (Podemos/AL), que estabelece diretrizes para o uso de imagens e áudios de pessoas falecidas por meio de inteligência artificial (IA), com o intuito de preservar a dignidade, a privacidade e os direitos dos indivíduos mesmo após sua morte.

O advogado Bernardo Fico, que é especialista em Direito Digital e pesquisador do Legal Grounds Institute (LGI), diz que o tema é complexo e subjetivo. “Enquanto algumas pessoas podem ver o uso da IA como uma forma de homenagem à imagem e ao trabalho de alguém, outras podem considerá-lo inadequado e uma distorção da ‘persona’ falecida”. Ele respondeu cinco perguntas que vão esclarecer melhor o assunto.

1) O uso da tecnologia para interagir com pessoas falecidas é algo recente?

Bernardo Fico - A vontade de se conectar com pessoas falecidas não é uma novidade. Essa temática já foi explorada em diferentes formas de arte ao longo do tempo, desde histórias fantásticas até distopias tecnológicas. Recentemente, o debate ressurgiu com a recriação digital de cantores como John Lennon, falecido em 1980, e Elis Regina, falecida em 1982. No entanto, há cerca de uma década, a série "Black Mirror" (2013) já abordava a reprodução de personas pós-morte em um de seus episódios. Nele, a protagonista utiliza um serviço online para "comunicar-se" com seu marido falecido por meio de uma reprodução digital baseada em suas imagens e textos de redes sociais. O que chama a atenção nesses casos recentes é que a popularização da IA Generativa parece estar nos aproximando de algo que estava restrito à ficção.

Até mesmo por isso, foi protocolado um projeto de lei no último dia 19 que trata a respeito do uso de IA para geração de conteúdo de pessoas falecidas, o PL 3592/23.

2) Quais são as implicações éticas do uso de IA generativa com pessoas falecidas?

Bernardo Fico - O uso da IA generativa requer cuidados, como revisão do trabalho produzido para garantir sua precisão, a verificação de fontes, e o respeito à propriedade intelectual de terceiros, entre outros aspectos. Quando se trata de criar conteúdo que simule o que poderia ter sido produzido por uma pessoa já falecida, os cuidados precisam ser redobrados, pois entramos em questões que vão além da técnica da IA, abrangendo inclusive conceitos filosóficos relacionados à vida e à morte. Portanto, esse tema é naturalmente complexo e subjetivo: enquanto algumas pessoas podem ver o uso da IA como uma forma de homenagem à imagem e ao trabalho de alguém, outras podem considerá-lo inadequado e uma distorção da "persona" falecida.

No texto do PL 3592/23 fica claro que esse tipo de conteúdo pode ser proibido tanto pela própria pessoa antes de seu falecimento, quanto pelos herdeiros.

3) Os familiares e entes queridos das pessoas falecidas devem ser consultados?

Bernardo Fico - Antes de utilizar qualquer IA Generativa, como na criação de uma imagem digital ou reprodução de voz de uma pessoa, é importante obter as devidas autorizações. Isso se aplica a todas as pessoas, falecidas ou não. Essa obtenção de autorizações por meio de termos de uso de voz e de imagem inclusive já era a prática em setores ligados ao audiovisual muito antes de sequer se popularizarem as discussões sobre inteligência artificial. Assim, no caso de pessoas falecidas, é necessária autorização de seus herdeiros para que sua imagem seja reproduzida. Esse já foi o entendimento do STJ no caso de uso da imagem de Lampião e Maria Bonita em uma campanha publicitária (com fins econômicos) e sem a autorização da filha do casal.

No PL 3592/23 a proposta é que os herdeiros possam sim decidir a respeito do uso de IA generativa para a representação de uma pessoa falecida, podendo inclusive negar a representação da pessoa por esses meios.

4) E os próprios artistas que são ou serão reproduzidos pela IA?

Bernardo Fico - Essa questão é delicada porque, embora a reprodução de fotos e vídeos de pessoas falecidas já seja uma questão antiga, a utilização de IA Generativa para criar novos contextos torna o problema mais complexo. As Jornadas de Direito Civil já abordaram o direito de imagem após o falecimento, mas a aplicação prática desses enunciados à IA

Generativa ainda precisa ser discutida. Considerações como a notoriedade da pessoa retratada, veracidade dos fatos, tipo de utilização (comercial, informativa, biográfica) devem ser levadas em conta além, claro, da vontade da pessoa retratada pela IA.

Existem exemplos notáveis de personalidades que se manifestaram publicamente sobre esse assunto. No final de 2022, foi divulgado que o ator Bruce Willis vendeu seus direitos de imagem para permitir a produção de conteúdo audiovisual usando inteligência artificial, expressando sua intenção quanto ao uso de sua imagem dessa maneira. Por outro lado, temos o caso do também ator Robin Williams, que proibiu o uso de sua imagem por 25 anos após sua morte, apesar de ter falecido em 2014, possivelmente devido aos efeitos de CGI (Computer-Generated Imagery) já disponíveis na época.

No PL 3592/23 o texto dá centralidade à vontade da pessoa. Assim, se ela tiver negado o uso de IA Generativa essa vontade deverá ser respeitada. O papel dos herdeiros fica, então, centrado nos dois outros casos: quando a pessoa autorizou o uso, ou quando não há explicitação de vontade em qualquer sentido. No caso de autorização explícita, cabe aos herdeiros cuidar do uso da imagem da pessoa falecida, podendo negar utilizações de IA Generativa que entendam inadequado, por exemplo. No caso de não haver declaração da pessoa falecida, essa decisão ficaria a cargo dos herdeiros, mas isso pode ser uma questão complicada pra pessoas falecidas há mais tempo.

Apesar dessas previsões no PL, quanto mais olhamos para o passado, é menos provável que tenhamos qualquer indício sobre a opinião dessas pessoas falecidas, pois a possibilidade de uso de IA Generativa nem era imaginada naquela época. Nesses casos, a criação de cenários via IA Generativa se torna mais contextual. Para pessoas falecidas antes do desenvolvimento da tecnologia que permite essas reproduções, o que poderia ser considerado uma “vontade de não permitir o uso da sua imagem após o falecimento”, expressão usada pelo PL 3592/23? A IA é capaz de mais do que reproduzir conteúdos já criados pela pessoa em vida, de forma que essa nuance precisará ser considerada.

5) E de que forma esses riscos podem ser evitados?

Bernardo Fico - Não existe uma medida que, sozinha, vá evitar os riscos para todos os casos. A difusão da tecnologia de Inteligência Artificial Generativa é recente e gera opiniões diversas, além de estarmos constantemente vendo novos usos para ela sendo explorados. No entanto, um elemento central na aplicação dessa tecnologia é a transparência em relação ao seu uso.

É relevante saber que determinado conteúdo foi gerado por IA diferenciando-o de outras criações audiovisuais feitas por pessoas. Isso evita confusão para o público ao se deparar com o uso da IA Generativa. Ao conhecermos como a IA Generativa é utilizada, podemos entender suas capacidades e limitações. As reações à IA Generativa hoje são já bastante diferentes daquela que vimos no famoso caso do “Papa Francisco de casaco puffer branco” apenas alguns meses atrás o que, ao menos em parte, se deve ao maior conhecimento de todos sobre como essa tecnologia funciona. É nesse sentido que vai o PL 3592/23 também ao indicar claramente que qualquer publicidade feita com IA deve conter informação ostensiva ao consumidor com os dizeres “publicidade com uso de inteligência artificial”.

A transparência tem, ainda, um papel importante ao possibilitar um acompanhamento mais próximo das autoridades reguladoras. Isso permite compreender como a IA Generativa está sendo aplicada, conhecer casos de maior e menor sucesso e orientar os agentes de IA para um uso ético, seguro e responsável dessa tecnologia ao longo do tempo.

Sobre o Legal Grounds Institute

As novas tecnologias de informação ao transformar e criar novas formas de comunicação individual e coletiva, redimensionam e reconfiguram a infraestrutura sobre a qual se constrói a esfera pública democrática. Para que os valores democráticos e de liberdade individual prevaleçam nessa nova esfera, o Brasil enfrenta vários desafios em relação à regulação das comunicações, mídias e proteção de dados pessoais. O Legal Grounds Institute pretende enfrentar esses desafios, junto a organizações públicas e privadas, ambicionando criar arquiteturas jurídicas de regulação que assegurem os valores democráticos e os direitos fundamentais