47
Foto: Fábio Cres
ÉTICA E RESPONSABILIDADE NA CRIAÇÃO E DISSEMINAÇÃO DE
DEEPFAKES
: UM ESTUDO DE CASO DE CYBERBULLYING COM O USO DE
INTELIGÊNCIA ARTIFICIAL
Palavras-chave
Deepfakes
. Ética. Responsabilidade. Cyberbullying. Inteligência Artificial.
Gisele Aparecida Lima de Oliveira
Advogada formada pela ITE/Bauru. Especialista em LGPD, privacidade e proteção de dados pela UCAM/RJ. Vice-presidente
da Comissão OAB vai à Escola da OAB/Bauru. Membro Efetivo Regional da Comissão Especial de Privacidade, Proteção de
Dados e Inteligência Artificial da OAB/SP. E-mail: gisele@galoadvocacia.adv.br
Julia Lima de Oliveira
Estudante de Direito pela ITE/Bauru. Membro da Comissão OAB vai à Escola da OAB/Bauru. E-mail: julia1xx1@gmail.com
Resumo
Este artigo examina a interseção entre a criação e disseminação de
deepfakes
, que são uma forma de manipulação de mí-
dia baseada em inteligência artificial - IA, que criam vídeos falsos realistas, levantando questões éticas e legais.
Deepfakes
po-
dem ser usados para cyberbullying, desinformação e violação de privacidade e intimidade, afetando especialmente crianças e
adolescentes, por sua vulnerabilidade. Apresenta-se, neste artigo, uma análise das implicações éticas e legais associadas aos
deepfakes
, bem como na responsabilidade dos criadores e desenvolvedores de tecnologias de IA. Utilizando um estudo de
caso específico, são discutidos os impactos psicológicos, sociais e legais do cyberbullying por meio de
deepfakes
. Pensando
em uma abordagem acolhedora dos envolvidos, especialmente das vítimas, uma das soluções proposta é a justiça restaurati-
va, que apesar de relativamente nova, tem se revelado relevante na compreensão dos fatos. Finalmente, são propostas estra-
tégias de prevenção e combate ao uso indevido de
deepfakes
, visando promover uma abordagem ética e responsável na era
digital.
05
INTRODUÇÃO
Nos últimos anos, o avanço da inteligência artificial (IA) tem
possibilitado a criação de conteúdos digitais com um nível
de realismo sem precedentes. Entre essas inovações, desta-
cam-se os
deepfakes
, uma tecnologia que permite a manipu-
lação de vídeos para criar imagens e áudios falsos, porém al-
tamente convincentes.
Os
deepfakes
emergiram como uma das tecnologias mais
preocupantes da era digital· Esses vídeos e imagens mani-
puladas com inteligência artificial têm o potencial de enganar
espectadores e criar narrativas falsas que podem ser usadas
para manipulação, desinformação, violação de privacidade,
difamação, cyberbullying, ameaças e até mesmo extorsão.
Enquanto a tecnologia por trás dos
deepfakes
continua a
avançar, por mais que possa ser utilizada para entretenimen-
to e outras aplicações legítimas, surge uma série de questões
éticas e legais sobre sua criação e disseminação.
Crianças e adolescentes, pela sua vulnerabilidade, são es-
pecialmente afetados, tornando-se alvos fáceis de ataques
que utilizam essas tecnologias para humilhação e coerção. A
capacidade de gerar vídeos falsos que parecem reais pode
amplificar os danos emocionais e sociais causados às víti-
mas, configurando um novo e perturbador cenário para o
cyberbullying.
Diante desse contexto, é essencial examinar as responsabi-
lidades éticas e legais dos criadores e desenvolvedores de
tecnologias de IA. Este estudo propõe uma análise dessas
responsabilidades, utilizando um estudo de caso específico
para ilustrar os impactos psicológicos, sociais e legais do uso
de
deepfakes
no cyberbullying.
O cyberbullying, o uso de tecnologia para assediar, intimi-
dar ou difamar outros indivíduos, representa uma das formas
mais insidiosas de abuso online. Quando combinado com a
tecnologia de
deepfake
, o cyberbullying pode causar danos
devastadores às vítimas, comprometendo sua saúde mental,
física, reputação e segurança pessoal.
Além disso, o artigo discute a aplicação da justiça restaura-
tiva como uma abordagem potencialmente eficaz para lidar
com os danos causados às vítimas, promovendo um proces-
so de reparação e compreensão mútua.
Por fim, são apresentadas estratégias de prevenção e com-
bate ao uso indevido de
deepfakes
. Tais estratégias visam
promover uma utilização ética e responsável das tecnologias
de IA garantindo que seus benefícios possam ser aproveita-
dos sem comprometer a integridade e a segurança dos indi-
víduos. Este artigo, portanto, busca contribuir para o debate
sobre a ética na era digital, oferecendo insights e soluções
para um problema emergente que desafia nossas concep-
ções de verdade, privacidade e responsabilidade.
1. INTELIGÊNCIA ARTIFICIAL:
CONCEITO E HISTÓRICO
A Inteligência Artificial (IA) refere-se à capacidade de sistemas
computacionais executarem tarefas que normalmente exigi-
riam inteligência humana. Isso inclui funções como reconheci-
mento de padrões, aprendizado, raciocínio, resolução de pro-
blemas e compreensão da linguagem natural. O conceito de IA
remonta à década de 1950, quando pesquisadores começa-
ram a explorar a ideia de criar máquinas que pudessem imitar
funções cognitivas humanas. Desde então, houve avanços sig-
nificativos na área, com o desenvolvimento de algoritmos e tec-
nologias cada vez mais sofisticados.
“Em geral, o termo “Inteligência Artificial” é atribuído
ao professor de ciência da computação de Standford,
John McCarthy, que conceituou a IA como “a ciência e
a engenharia de construir máquinas inteligentes”. Esse
conceito foi apresentado em 1956 durante a celebrada
Conferência de Darthmouth em New Hampshire nos
Estados Unidos, quando vários estudiosos da IA se reu-
niram por dois meses para debater o que viria a ser uma
das ideias mais importantes de nossa era.
Entretanto, a compreensão em torno de uma Inteligên-
cia Artificial já havia aparecido em 1950 com o cientista
da computação inglês, Alan Turing. Em seu artigo se-
minal intitulado “
Computing Machine and Experience”
,
Turing propôs que as máquinas pudessem ser consi-
deradas “inteligentes” quando conseguissem simular o
comportamento humano” (Alencar, 2021, p.13)
Um conceito de Inteligência Artificial que nos parece uma boa
definição é o trazido por Bigonha, vejamos:
Inteligência Artificial é um campo de estudo que surgiu
na década de 50, cujo objetivo principal é o estudo e a
construção de sistemas capazes de exibir comporta-
mentos normalmente associados às pessoas, como
aprendizado e resolução de problemas. Algumas linhas
de estudo de Inteligência Artificial são mais focadas em
reproduzir a maneira como pensamos e raciocinamos,
ao passo que outras se concentram no entendimento e
na simulação de comportamento. (BIGONHA, 2020)
Aqui estão alguns marcos importantes no desenvolvimento da
IA:
Dartmouth Conference (1956): Considerado o marco inicial da
IA, a conferência realizada na Universidade Dartmouth reuniu
pesquisadores para discutir e explorar o potencial de criação
de máquinas inteligentes.
Perceptrons
(1958): O psicólogo Frank Rosenblatt desenvolveu
o conceito de
perceptrons
, uma forma inicial de redes neurais
artificiais, que permitiu às máquinas reconhecerem padrões e
aprenderem com exemplos.
48
49
O surgimento da lógica simbólica: Pesquisadores como John
McCarthy, Marvin Minsky e Allen Newell desenvolveram abor-
dagens baseadas em lógica formal para modelar a inteligência
artificial. Isso incluiu a criação de linguagens de programação
como o Lisp, que se tornou popular para desenvolvimento de
IA.
Primeiros sistemas especialistas (1970s-1980s): Surgiram os
primeiros sistemas especialistas, programas de computador
projetados para imitar a capacidade de um especialista hu-
mano em resolver problemas em um domínio específico. Um
exemplo notável é o sistema MYCIN, desenvolvido para diag-
nosticar doenças infecciosas.
Revolução do Aprendizado de Máquina (anos 1980 em dian-
te): Com o aumento da capacidade computacional e o acesso
a grandes conjuntos de dados, o aprendizado de máquina tor-
nou-se uma abordagem central na IA. Algoritmos como redes
neurais artificiais, árvores de decisão e algoritmos de agrupa-
mento foram desenvolvidos e refinados.
Deep Learning
e Redes Neurais Profundas (anos 2010 em dian-
te): Com avanços em hardware e algoritmos, as redes neurais
profundas tornaram-se uma técnica dominante em aprendiza-
do de máquina. Essas redes, inspiradas no funcionamento do
cérebro humano, permitem que as máquinas aprendam repre-
sentações complexas de dados e realizem tarefas como reco-
nhecimento de imagem, processamento de linguagem natural
e tradução automática com desempenho cada vez mais próxi-
mo do humano.
Nos últimos anos, a IA tornou-se parte integrante de muitos as-
pectos da vida cotidiana, com aplicações que vão desde as-
sistentes virtuais em smartphones até sistemas de recomen-
dação em plataformas de streaming e diagnósticos médicos.
Crianças e adolescentes também estão cada vez mais expos-
tos à IA, muitas vezes de forma inconsciente, por meio de apli-
cativos e serviços digitais que fazem uso dessa tecnologia. Por
exemplo, assistentes virtuais como a Siri da Apple, o Google
Assistant e a Alexa da Amazon são comumente usados por
crianças para realizar tarefas simples, como fazer perguntas,
definir lembretes e reproduzir música.
1.1. Deepfakes: Definição e Funcionamento
Os
deepfakes
são uma forma de manipulação de mídia que
utiliza inteligência artificial, em particular técnicas de apren-
dizado de máquina, para criar vídeos ou imagens falsos que
parecem autênticos. Essa tecnologia permite que pessoas
comuns criem conteúdo falso com facilidade, substituindo
o rosto de uma pessoa em um vídeo por outro, por exemplo·
Os
deepfakes
têm sido usados de diversas maneiras, desde
fins humorísticos até a disseminação de informações falsas e
o cyberbullying.
Embora o termo original fosse fakevideo, o nome
de-
epfake
se popularizou a partir da história de um usu-
ário do site Reddit, que se apelidou de
Deepfake
e,
especializado em inteligência artificial, passou a subs-
tituir rostos de pessoas em filmes. O termo passou en-
tão a ser associado a essa técnica, que opera a fusão
de imagens em movimento, gerando um novo vídeo,
cujo grau de fidedignidade é elevado a um patamar
que somente com muita atenção se consegue notar
se tratar de uma montagem. (MEDON, 2021)
O Instituto das Nações Unidas (ONU) para Pesquisa sobre
Desarmamento (UNIDIR) conduz pesquisas independentes
sobre desarmamento e questões de segurança internacio-
nal. Em 25 de agosto de 2021, realizou um evento online no-
meado “Inovações: diálogo sobre
Deepfakes
, Confiança e
Segurança Internacional. Durante a conferência definiram
que
deepfake
inclui vídeo, texto, imagens e áudio, ou seja,
toda forma de conteúdo digital que foi manipulado ou criado
do zero utilizando algoritmos de aprendizagem visando en-
ganar e manipular um público.
O funcionamento dos
deepfakes
é baseado em algoritmos
de aprendizado de máquina que analisam e sintetizam gran-
des quantidades de dados para criar representações realis-
tas de pessoas e situações. Quando maior e de mais quali-
dade (considera-se a iluminação, o ângulo, o som ambiente,
distância) for o banco de dados com informações de vídeos,
fotos e áudios, maior será a fidelidade da criação do
deep-
fake
.
Considerando que este trabalho é com foco em crianças e
adolescentes, uma das preocupações mais sérias relacio-
nadas aos
deepfakes
é o seu potencial para serem utiliza-
dos como ferramentas de cyberbullying· Por meio da criação
de vídeos e imagens falsos e difamatórios, humilhantes, que
causem constrangimentos e danos significativos às vítimas.
1.2. Ética na Criação e Disseminação de Deep-
fakes
Antes de mergulharmos na discussão sobre responsabilida-
de, é importante entendermos as questões éticas subjacen-
tes à criação e disseminação de
deepfakes
. Vale destacar
que, no contexto jurídico, ética e moral desempenham papéis
fundamentais na regulamentação e na aplicação das leis, es-
pecialmente em áreas emergentes como a inteligência arti-
ficial (IA). A ética refere-se aos princípios que guiam o com-
portamento humano, enquanto a moral envolve os valores e
normas que determinam o que é certo ou errado em uma so-
ciedade.
Do ponto de vista etimológico, o termo “Ética” vem de duas
palavras gregas: a) Ēthos (
ἦθος
– com “eta”), que significa
“morada”, “abrigo”, “lugar onde se habita” etc·; b) Éthos (
ἔθος
– com “épsilon”), que significa “costume”, “hábito”, “uso” etc·
Do primeiro termo (ēthos) decorre, enquanto raiz semântica,
o significado do segundo (éthos): ou seja, é justamente da re-
alização daqueles comportamentos que se repetem no “lu-
gar onde se habita” que nascem os “costumes” e os “hábitos”,
que moldam, por sua vez, a personalidade e o caráter dos in-
divíduos e dos grupos.
No Brasil, assim como em muitos outros países, há uma pre-
ocupação crescente com o desenvolvimento e o uso ético da
IA, devido às suas amplas implicações sociais, econômicas e
legais.
As situações envolvendo IA ainda não regulamentadas le-
vantam questões éticas complexas· Por exemplo, questões
de privacidade, transparência, discriminação algorítmica e
responsabilidade legal são desafios cruciais que requerem
diretrizes éticas robustas para orientar a legislação.
Em muitos casos, o Brasil pode olhar para regulamentações
de outros países como referências ou “nortes”, adaptando e
incorporando melhores práticas internacionais às suas pró-
prias leis de IA. Como aconteceu com a Lei Geral de Prote-
ção de Dados Pessoais – LGPD, que foi orientada a partir do
Regulamento Geral de Proteção de Dados – GDPR (General
Data Protection Regulation, norma GDPR 2016/679), pode-
-se usar a recém aprovada Regulamentação de Inteligência
Artificial da União Europeia que determina que os sistemas
de IA utilizados sema seguros, transparentes, rastreáveis,
não discriminatórios. Devem além disso, ser supervisionados
por pessoa, para evitar resultados prejudiciais, comumente
nos automatizados.
No entanto, simplesmente adotar regulações de outros pa-
íses não é suficiente. Cada nação enfrenta contextos jurídi-
cos, sociais e culturais únicos que devem ser considerados
ao desenvolver políticas regulatórias. Além disso, a imple-
mentação de IA sem uma estrutura ética adequada pode
resultar em consequências adversas significativas· Por
exemplo, sistemas de IA que não são transparentes ou que
perpetuam preconceitos podem minar a confiança pública e
violar princípios fundamentais de justiça.
Portanto, é primordial que as legislações brasileiras sobre IA
sejam informadas por princípios éticos sólidos que garan-
tam o uso responsável e ético da tecnologia. Isso envolve
não apenas o desenvolvimento de regulamentações claras
e aplicáveis, mas também mecanismos eficazes de supervi-
são e responsabilização.
A colaboração internacional e a troca de experiências com
outros países são importantes, mas a adaptação às necessi-
dades e valores locais é fundamental para promover um am-
biente jurídico que proteja os direitos individuais e promova o
bem-estar social no contexto da IA.
Em sua essência, os
deepfakes
representam uma for-
ma de manipulação digital que pode distorcer a verdade e
comprometer a integridade das informações. Os criadores
de
deepfakes
enfrentam dilemas éticos significativos ao deci-
dir como usar essa tecnologia, especialmente quando se tra-
ta de representações falsas de pessoas reais.
Uma das principais preocupações éticas relacionadas aos
deepfakes
é o potencial de causar danos às vítimas. Quando
uma pessoa é retratada de forma falsa em um vídeo ou ima-
gem
deepfake,
isso pode ter sérias consequências para sua
reputação e bem-estar emocional, especialmente se tratan-
do de crianças e adolescentes, por pertencerem a um gru-
po vulnerável, devido a estarem ainda em desenvolvimento
mental e físico.
Outra questão ética importante é a privacidade das pessoas
retratadas em
deepfakes
· A tecnologia de
deepfake
levanta
preocupações sobre a capacidade de criar conteúdo falso
usando imagens e vídeos de indivíduos sem seu consenti-
mento· Isso pode levar a violações sérias de privacidade e
colocar as pessoas em situações constrangedoras, vexató-
rias ou comprometedoras sem seu conhecimento.
Além disso, em um contexto geral, os
deepfakes
podem ser
usados para manipular a opinião pública e influenciar o com-
portamento das pessoas. Exemplo disso, é o uso em perío-
dos eleitorais, onde a imagem de um candidato poderia ser
usada para manipular o eleitor· Isso levanta questões sobre
a manipulação da democracia e a integridade do processo
eleitoral, especialmente quando
deepfakes
são usados para
disseminar desinformação e propaganda.
Nesse aspecto, do processo eleitoral, o Tribunal Superior
Eleitoral (TSE) alterou a Resolução nº 23·610/2019, que tra-
ta de propaganda eleitoral, o Tribunal incluiu diversas novida-
des que envolvem a inteligência artificial, como a proibição
das
deepfakes
e a obrigação de aviso sobre o uso de IA na
propaganda eleitoral·
Em última análise, considerando a demanda crescente de
conteúdo envolvendo IAs, sem uma regulamentação apro-
vada sobre o assunto, os criadores de
deepfakes
enfrentam
uma série de questões éticas e morais ao decidir como usar
essa tecnologia· Eles devem considerar a responsabilização
civil e criminal decorrentes das violações e danos causados,
nas vítimas individuais, também as implicações mais amplas
para a sociedade como um todo.
2. CYBERBULLYING: CONCEITO LEGAL,
JUSTIFICATIVA PARA CRIMINALIZAÇÃO
Nesse tipo de violência, crianças e adolescentes são os al-
vos mais comuns de ataques, intimidações, humilhações e
difamações por parte de colegas ou conhecidos. O que an-
tes da era digital acontecia apenas presencialmente, espe-
cialmente em escolas, agora também no mundo virtual, com
muita frequência e com impacto mais devastador, conside-
rando a fácil e rápida disseminação do conteúdo do cyber-
bullying.
50
51
Já havia uma conceituação na Lei de 13·185/2015, que ins-
tituiu o Programa de Combate à Intimidação Sistemática
(Bullying), definida no parágrafo único do art. 2
◦
.
No entanto, com a crescente violência na rede mundial de
computadores, com discursos de ódio, uso de imagens de
adolescentes sendo usados indevidamente em sites de pe-
dofilia, de exploração sexual e ameaças diversas, acelerou a
tramitação de um projeto de lei, onde entre outras determina-
ções, altera o Código Penal para acrescentar o art· 146-A.
A Lei n. 14.811, de 12 de janeiro de 2024, definiu a Intimidação
sistemática (bullying) e o cyberbullying da seguinte forma:
Art. 146-A. Intimidar sistematicamente, individualmen-
te ou em grupo, mediante violência física ou psicoló-
gica, uma ou mais pessoas, de modo intencional e re-
petitivo, sem motivação evidente, por meio de atos de
intimidação, de humilhação ou de discriminação ou de
ações verbais, morais, sexuais, sociais, psicológicas,
físicas, materiais ou virtuais:
Pena - multa, se a conduta não constituir crime mais
grave.
Intimidação sistemática virtual (cyberbullying) Pará-
grafo único. Se a conduta é realizada por meio da rede
de computadores, de rede social, de aplicativos, de jo-
gos on-line ou por qualquer outro meio ou ambiente
digital, ou transmitida em tempo real:
Pena - reclusão, de 2 (dois) anos a 4 (quatro) anos, e
multa, se a conduta não constituir crime mais grave.
Exemplo disso o caso ocorrido no aplicativo Discord, onde
segundo a força-tarefa do Ministério Público de São Paulo,
foram identificadas pelo menos 50 crianças e adolescentes
vítimas de abusos na plataforma· Há relatos de incitação de
mutilações, estupros virtuais, tortura, ameaças e discursos
de ódio impregnados de racismo, misoginia e apologia ao na-
zismo.
O promotor Danilo Pugliesi (Resende, 2023), que atuou na
força tarefa, afirmou: São crimes praticados de uma forma
que nunca foi vista neste ambiente virtual· Há muito sadismo
e perversidade no material.
O caso do Discord, supracitado, foi noticiado com a prisão
no Rio de Janeiro, do jovem identificado como Derek, que foi
preso sob a acusação de manipular e chantagear adoles-
centes através da plataforma Discord.
Relatos indicam que jovens, principalmente meninas, foram
coagidas a enviar fotos íntimas e vídeos comprometedores
sob ameaça de divulgação pública· A investigação teve iní-
cio após um dos pais, preocupado com a alteração do com-
portamento de sua filha, procurar a delegacia local. A partir
dessa denúncia inicial, outras vítimas foram identificadas, e o
computador de Derek foi apreendido, revelando evidências
contundentes destes e outros crimes.
O cyberbullying não se restringe apenas à difamação ou in-
timidação online; ele engloba práticas deliberadas de humi-
lhação, coação e violação da privacidade· No caso de Derek,
suas vítimas foram expostas a um grave risco emocional e
psicológico. A disseminação não autorizada de imagens ín-
timas pode causar danos irreparáveis à autoestima, à saúde
mental e ao bem-estar das vítimas, afetando profundamente
suas vidas pessoais e sociais· Destacam-se:
1. Impacto Emocional:
O cyberbullying pode ter graves
consequências emocionais para as vítimas, causando an-
siedade, depressão, baixa autoestima, estresse e até mesmo
pensamentos suicidas. O constante assédio online pode fa-
zer com que as vítimas se sintam isoladas, com medo e inca-
pazes de lidar com a situação.
2. Impacto Social:
Além do impacto emocional, o cyber-
bullying pode afetar negativamente as relações sociais das
vítimas. Elas podem se sentir excluídas, rejeitadas e enver-
gonhadas perante seus colegas de escola ou amigos online·
Isso pode levar à deterioração das amizades, ao isolamento
social e ao afastamento das atividades sociais.
3. Violação da Privacidade:
O cyberbullying muitas vezes
envolve a divulgação de informações pessoais, fotos ou víde-
os sem o consentimento da vítima, violando sua privacidade
e expondo-a a situações constrangedoras e humilhantes pe-
rante um público amplo.
4. Ofensa à Dignidade:
As mensagens de ódio, insultos e
difamações presentes no cyberbullying representam uma
clara ofensa à dignidade da vítima. Elas são atacadas em sua
integridade moral e submetidas a um ambiente hostil e de-
gradante, que pode deixar marcas profundas em sua autoi-
magem e identidade.
A esse respeito, profissionais do UNICEF (Fundo das Na-
ções Unidas para a Infância), especialistas em cyberbullying
e proteção infantil, afirmaram:
Quando você sofre
cyberbullying
, pode começar a se
sentir envergonhado(a), nervoso(a), ansioso(a) e in-
seguro(a) sobre o que as pessoas dizem ou pensam
sobre você. Isso pode levar ao afastamento de ami-
gos(as) e familiares, pensamentos negativos, senti-
mento de culpa por coisas que você fez ou não fez ou
sensação de que está sendo julgado(a) negativamen-
te. Sentir-se sozinho(a), sobrecarregado(a), com dores
de cabeça frequentes, náuseas ou dores de estôma-
go também é comum.
Você pode perder a motivação para fazer as coisas
que normalmente gosta de fazer e se sentir isolado(a)
das pessoas que ama e em quem confia. Isso pode
perpetuar sentimentos e pensamentos negativos que
podem afetar de forma adversa sua saúde mental e
seu bem-estar. (UNICEF, 2024)
Em suma, o cyberbullying representa uma ameaça significa-
tiva ao bem-estar emocional e social de crianças e adoles-
centes, além de violar sua privacidade e dignidade. É funda-
mental que todos estejam atentos e engajados na prevenção
e enfrentamento dessa forma de violência, garantindo um
ambiente online seguro e saudável para todos.
A legislação adequada e eficaz é um passo fundamental na
direção de garantir que nenhum jovem seja vítima dessas for-
mas de violência, seja no mundo físico ou virtual.
3. ESTUDO DE CASO: CYBERBULLYING
COM USO DE
DEEPFAKE
EM
ESCOLA DO RIO DE JANEIRO
O uso de tecnologias avançadas, como a inteligência artificial
(IA), tem trazido inúmeros benefícios à sociedade, mas tam-
bém apresenta novos desafios e perigos, especialmente no
campo da privacidade e segurança digital. Um caso recente
ocorrido em uma escola particular do Rio de Janeiro ilustra
como essas tecnologias podem ser usadas de forma mali-
ciosa para cometer crimes de cyberbullying.
3.1. Contexto e Descrição do Caso
No final do ano passado, estudantes de uma escola particu-
lar no Rio de Janeiro foram expostos a uma forma grave de
cyberbullying envolvendo o uso de
deepfake
, uma tecnologia
de inteligência artificial capaz de criar imagens e vídeos fal-
sos que parecem reais· Nesse incidente, fotos reais de apro-
ximadamente 20 adolescentes foram adulteradas para criar
montagens que as mostravam nuas. As imagens falsas fo-
ram então amplamente compartilhadas em grupos de What-
sApp, causando grande sofrimento e constrangimento às ví-
timas.
Os responsáveis por essas manipulações eram alunos da
própria escola, que utilizaram aplicativos de inteligência arti-
ficial facilmente acessíveis para realizar as adulterações. As
fotos originais foram retiradas das redes sociais das adoles-
centes, muitas vezes mostrando-as em trajes de banho ou
roupas casuais. A facilidade com que essas imagens pude-
ram ser alteradas e distribuídas evidencia um grave problema
na segurança digital e na proteção da privacidade dos indiví-
duos.
3.2. Impacto nas Vítimas
O impacto emocional e psicológico sobre as vítimas foi sig-
nificativo· As adolescentes, em maioria com 14 anos, en-
frentaram humilhação e estresse emocional devido à ampla
circulação das imagens falsificadas. Em entrevistas, mães
relataram com indignação ao verem suas filhas expostas de
maneira tão invasiva e danosa. Algumas meninas receberam
as imagens durante as aulas, agravando ainda mais o trauma.
Uma das mães descreveu o sentimento de impotência ao
tentar buscar ajuda na escola, onde a resposta inicial minimi-
zou a gravidade do incidente. Essa falta de apoio institucional
imediata destacou a necessidade de políticas e procedimen-
tos mais eficazes para lidar com casos de cyberbullying e cri-
mes digitais.
Um artigo que faz parte da coluna “
Scientific American’s co-
lumn The Science of Parenting
” explicou sobre o aumento
significativo de jovens utilizando
deepfakes
para criar fotos
de cunho sexual de seus colegas também adolescentes. Se-
gundo SCIENTIFIC, 2024, os infratores podem pensar em
um nude
deepfake
como uma brincadeira engraçada ou dei-
xar de prever como as cópias podem circular fora de contro-
le.
Dentre as discussões de casos estudadas no artigo, levan-
ta questão da “justiça restaurativa” como solução de confli-
tos para esses jovens. Esse modelo de resolução de confli-
tos, visa não somente a punição do agressor, mas também a
oportunidade de todas as partes interessadas se manifesta-
rem sobre o ocorrido em um ambiente mais descontraído· A
ideia é criar uma rede de conversa entre quem tiver vontade
de faze-la, para responsabilizar, reconciliar e reintegrar o in-
frator socialmente. Não somente, dá voz a vítima expressar o
sentimento, auxiliando na cura e reparação do dano emocio-
nal sofrido. No respectivo artigo mencionado ele comenta de
as próprias escolas poderem promoverem tal ato.
3.3. Resposta Institucional e Legal
A escola envolvida, o Colégio Santo Agostinho, adotou me-
didas para apoiar as vítimas e suas famílias, incluindo a con-
tratação de uma psicóloga para fornecer acompanhamento
psicológico. No entanto, a resposta inicial de algumas autori-
dades escolares foi inadequada, subestimando a seriedade
da situação.
A Delegacia de Proteção à Criança e ao Adolescente
(DPCA) do Rio de Janeiro iniciou uma investigação aprofun-
dada, ouvindo as vítimas e testemunhas para entender a ex-
tensão do delito. A manipulação e a distribuição de imagens
sem consentimento são crimes previstos no Código Penal
brasileiro, e, além do processo criminal, os responsáveis po-
dem enfrentar ações na esfera cível, incluindo indenizações
por danos morais.
52
53
A prática de criar e distribuir
deepfakes
como forma de
cyberbullying levanta questões complexas sobre a legisla-
ção existente e a necessidade de atualizações para acom-
panhar os avanços tecnológicos· Especialistas em direi-
to digital, como a advogada Patrícia Beck em entrevista (G1,
2023a), argumentam que a produção de imagens não auto-
rizadas constitui um crime contra a honra, destacando a ur-
gência de regulamentações mais rigorosas para proteger os
indivíduos.
A presidente do Instituto Istart de Ética Digital (G1, 2023b),
enfatizou a importância de uma educação digital preventiva
que comece nas salas de aula e seja fomentada pelo Estado.
Ela alertou para o risco de criar uma geração que desconfia
das instituições e busca fazer justiça por conta própria, res-
saltando a necessidade de campanhas educativas e a res-
ponsabilidade dos provedores e plataformas digitais.
Este caso de cyberbullying com uso de
deepfake
exemplifi-
ca os perigos das novas tecnologias quando usadas de ma-
neira nociva· A falta de regulamentação específica e a falta
de um plano de ação, afeta a resposta institucional inicial, tor-
nando-a inadequada. Como visto, evidente a necessidade
urgente de medidas legais e educativas para proteger os jo-
vens, educar e punir os responsáveis por esses atos· A socie-
dade precisa se adaptar rapidamente às mudanças tecno-
lógicas para garantir a segurança e a dignidade de todos os
seus membros, especialmente dos mais vulneráveis, como
as crianças e adolescentes.
4. IMPLICAÇÕES LEGAIS E NECESSIDADE
DE REGULAMENTAÇÃO
A prática de criar e distribuir
deepfakes
como forma de
cyberbullying levanta questões complexas sobre a legisla-
ção existente e a necessidade de atualizações para acom-
panhar os avanços tecnológicos. Especialistas em direi-
to digital, como a advogada Patrícia Beck em entrevista (G1,
2023a), argumentam que a produção de imagens não auto-
rizadas constitui um crime contra a honra, destacando a ur-
gência de regulamentações mais rigorosas para proteger os
indivíduos.
A presidente do Instituto Istart de Ética Digital (G1, 2023b),
enfatizou a importância de uma educação digital preventiva
que comece nas salas de aula e seja fomentada pelo Estado.
Ela alertou para o risco de criar uma geração que desconfia
das instituições e busca fazer justiça por conta própria, res-
saltando a necessidade de campanhas educativas e a res-
ponsabilidade dos provedores e plataformas digitais.
Este caso de cyberbullying com uso de deepfake exemplifi-
ca os perigos das novas tecnologias quando usadas de ma-
neira nociva· A falta de regulamentação específica e a fal-
ta de um plano de ação, afeta a resposta institucional inicial,
tornando-a inadequada. Como visto, evidente a necessidade
urgente de medidas legais e educativas para proteger os jo-
vens, educar e punir os responsáveis por esses atos. A socie-
dade precisa se adaptar rapidamente às mudanças tecno-
lógicas para garantir a segurança e a dignidade de todos os
seus membros, especialmente dos mais vulneráveis, como
as crianças e adolescentes.
4.1. Responsabilidade Civil e Criminal na Propa-
gação de
Deepfakes
O cyberbullying é uma forma insidiosa de abuso online que
pode ter consequências devastadoras para as vítimas.
Quando combinado com a tecnologia de
deepfake
, o cyber-
bullying pode se tornar ainda mais prejudicial, criando narra-
tivas falsas e difamatórias que podem ser extremamente difí-
ceis de desfazer.
O caso estudado anteriormente, várias partes podem ser
consideradas responsáveis pelos danos causados à vítima.
Isso inclui não apenas o criador original do
deepfake
, mas
também qualquer pessoa que tenha contribuído para sua
disseminação. Isso pode incluir indivíduos que compartilha-
ram o
deepfake
em redes sociais, bem como plataformas de
mídia social que não tomaram medidas adequadas para re-
mover o conteúdo difamatório.
Do ponto de vista jurídico, as vítimas de cyberbullying com
deepfakes
podem ter direito a reparação por danos, incluindo
compensação por danos emocionais, perda de renda e da-
nos à reputação. Os criadores de
deepfakes
também podem
ser responsabilizados por negligência, especialmente se não
tomaram precauções adequadas para garantir que seu con-
teúdo não causasse danos às vítimas.
Os provedores de aplicações de internet, entendidos como
aqueles que utilizam acesso à internet para prestar serviços,
a exemplo do Instagram, Facebook, TikTok, WhatsApp, Goo-
gle Chrome, Firefox, poderão ser responsabilizados na medi-
da descrita no art. 21 da Lei n· 12·965/2014, conhecida como
Marco Civil da Internet, que aduz o seguinte:
Art. 21. O provedor de aplicações de internet que dis-
ponibilize conteúdo gerado por terceiros será respon-
sabilizado subsidiariamente pela violação da intimi-
dade decorrente da divulgação, sem autorização de
seus participantes, de imagens, de vídeos ou de ou-
tros materiais contendo cenas de nudez ou de atos se-
xuais de caráter privado quando, após o recebimento
de notificação pelo participante ou seu representante
legal, deixar de promover, de forma diligente, no âmbi-
to e nos limites técnicos do seu serviço, a indisponibili-
zação desse conteúdo.
Além da responsabilidade civil, a propagação de
deepfakes
difamatórios também pode ter implicações criminais. Isso
inclui uma série de crimes do Código Penal Brasileiro, como
cyberbullying (art·146-A, parágrafo único), difamação (art.
139), constrangimento ilegal (art. 146), ameaça (art. 147), per-
seguição (art. 147-A), violência psicológica contra a mulher
(art. 147-B), divulgação de cena de estupro ou de cena de es-
tupro de vulnerável, de cena sexo ou de pornografia (art. 218-
C) e até mesmo extorsão (art. 158), dependendo das circuns-
tâncias específicas do caso·
É importante notar que a responsabilidade criminal pelo
cyberbullying com
deepfakes
não se limita apenas aos cria-
dores do conteúdo. Qualquer pessoa que compartilhe ou
promova o
deepfake
difamatório também pode ser conside-
rada cúmplice nos crimes cometidos. Isso inclui indivíduos
que compartilham o
deepfake
em redes sociais, bem como
plataformas de mídia social que não tomam medidas ade-
quadas para remover o conteúdo ilegal.
Portanto, tanto os criadores quanto os propagadores de
de-
epfakes
podem enfrentar consequências legais sérias, visan-
do a proteção das vítimas e a mitigação desses atos nocivos
no ambiente digital.
5. ESTRATÉGIAS DE PREVENÇÃO
E COMBATE AO CYBERBULLYING
COM
DEEPFAKES
Para enfrentar o desafio crescente do cyberbullying com
de-
epfakes
, é essencial adotar abordagens abrangentes que
abordem tanto os aspectos técnicos quanto os sociais do
problema.
Primeiramente, investir em tecnologias avançadas de detec-
ção de
deepfakes
é imprescindível. Por meio de Algoritmos
de Detecção, permitindo a detecção automatizada de
deep-
fakes
através de anomalias visuais ou de áudio. Isso pode in-
cluir diferenças sutis na textura da pele, movimentos faciais
irregulares ou distorções na iluminação, analisar característi-
cas como padrões de ondas sonoras e frequências para de-
tectar alterações ou sobreposições não naturais.
Essas ferramentas de detecção, podem identificar e remo-
ver rapidamente conteúdos falsos das redes sociais e outras
plataformas online, mitigando assim seu impacto prejudicial.
Além disso, é fundamental educar o público sobre os peri-
gos dos
deepfakes
e como reconhecê-los. Orientar as pes-
soas sobre métodos para verificar a autenticidade de vídeos
e imagens online ajuda a fortalecer a capacidade crítica dos
usuários e reduzir a disseminação involuntária de conteúdo
falsificado. Isso inclui programas de conscientização nas es-
colas e campanhas públicas de informação.
As plataformas de mídia social desempenham um papel fun-
damental na prevenção do cyberbullying com
deepfakes
. É
imperativo que essas empresas implementem políticas cla-
ras e eficazes para identificar e remover conteúdos difamató-
rios.
Medidas rápidas e decisivas são essenciais para conter a
propagação de
deepfakes
prejudiciais, como a proibição de
conteúdos manipulados de forma enganosa e a implementa-
ção de sistemas automatizados para detectar e remover es-
ses conteúdo e parcerias com especialistas em segurança
cibernética, universidades e organizações de pesquisa para
desenvolver tecnologias mais avançadas de detecção e miti-
gação de
deepfakes.
Para as vítimas de cyberbullying, é fundamental proporcionar
suporte e proteção adequados:
• Comunicação Aberta: Encorajar as vítimas a comunicarem
o ocorrido a um adulto de confiança, como pais, professores,
orientadores escolares ou profissionais de saúde mental, fa-
cilita a adoção de medidas de apoio e proteção.
• Bloqueio e Denúncia: Orientar as vítimas a bloquearem os
agressores e denunciar o comportamento de cyberbullying
às plataformas digitais responsáveis é essencial· Essas em-
presas têm políticas de combate ao bullying online e podem
remover conteúdos prejudiciais rapidamente.
• De maneira autônoma, é disponibilizado as vítimas de tal
crime um site denominado “
Take it down
”, caso menor de
18 anos e outro site chamado “Stopncii” para maiores de 18
anos· Ambas as organizações têm a função de remover qual-
quer conteúdo envolvendo nudez total ou parcial da internet·
Independe da nacionalidade e localidade é possível fazer
essa solicitação.
• Apoio Psicológico: Oferecer acompanhamento psicológi-
co especializado é primordial para ajudar as vítimas a lidarem
com as consequências emocionais do cyberbullying· Profis-
sionais qualificados podem fornecer suporte emocional, es-
tratégias de enfrentamento e ferramentas para reconstruir a
autoestima e o bem-estar psicológico das vítimas.
• Educação e Conscientização: Promover uma educação
ampla e conscientização sobre os riscos e consequências
do cyberbullying entre crianças, adolescentes, pais e educa-
dores é fundamental. Fomentar uma cultura de respeito, em-
patia e responsabilidade nas interações online ajuda a preve-
nir o surgimento de comportamentos nocivos.
• Justiça Restaurativa: Instituída formalmente no Brasil pela
Resolução 225, de 2016, do Conselho Nacional de Justiça
(CNJ), a justiça restaurativa ganhou naquele ano o nome de
Política Nacional de Justiça Restaurativa no Poder Judiciário.
Consiste em uma técnica de solução de conflito e violência
54
55
que se orienta pela criatividade e sensibilidade a partir da es-
cuta dos ofensores e das vítimas· Segundo o Ministro Hum-
berto Martins do Superior Tribunal de Justiça (STJ, 2020), em
São Paulo tem sio utilizada em escolas públicas e privadas,
auxiliando na prevenção e diminuição de conflitos. No Rio
Grande do Sul, tem sido aplicado na área da infância juven-
tude para auxiliar no cumprimento das medidas socioeduca-
tivas impostas aos adolescentes· A Resolução 225, de 2016,
do CNJ, define a justiça restaurativa como:
Art. 1º. A Justiça Restaurativa constitui-se como um
conjunto ordenado e sistêmico de princípios, méto-
dos, técnicas e atividades próprias, que visa à cons-
cientização sobre os fatores relacionais, institucionais
e sociais motivadores de conflitos e violência, e por
meio do qual os conflitos que geram dano, concreto
ou abstrato, são solucionados de modo estruturado
na seguinte forma:
I – é necessária a participação do ofensor, e, quando
houver, da vítima, bem como, das suas famílias e dos
demais envolvidos no fato danoso, com a presença
dos representantes da comunidade direta ou indireta-
mente atingida pelo fato e de um ou mais facilitadores
restaurativos;
II – as práticas restaurativas serão coordenadas por
facilitadores restaurativos capacitados em técnicas
autocompositivas e consensuais de solução de confli-
tos próprias da Justiça Restaurativa, podendo ser ser-
vidor do tribunal, agente público, voluntário ou indica-
do por entidades parceiras;
III – as práticas restaurativas terão como foco a satisfa-
ção das necessidades de todos os envolvidos, a res-
ponsabilização ativa daqueles que contribuíram direta
ou indiretamente para a ocorrência do fato danoso e
o empoderamento da comunidade, destacando a ne-
cessidade da reparação do dano e da recomposição
do tecido social rompido pelo conflito e as suas impli-
cações para o futuro.
Essas estratégias integradas não apenas visam proteger as
vítimas de cyberbullying com
deepfakes
, mas também pro-
mover um ambiente online mais seguro e responsável para
todos os usuários· A colaboração entre governo, empresas
de tecnologia, educadores e comunidades é essencial para
enfrentar esse desafio complexo de maneira eficaz e susten-
tável.
5.1. Proteção de Crianças e Adolescentes no
Contexto Digital
Embora ainda não haja uma regulamentação específica so-
bre inteligência artificial, diversos projetos de lei estão sen-
do discutidos na Câmara dos Deputados e no Senado, so-
bre uso de
deepfake
, recursos que alteram rostos e vozes de
pessoas para uso político, publicitário ou em pornografia; re-
produção e manipulação de voz e imagem de pessoas fale-
cidas; direitos autorais e plágio em obras criadas por IA; uso
de reconhecimento facial e regulamento do uso de veículos
autônomos terrestre estão entre os temas dos projetos.
Enquanto isso, para proteger integralmente crianças e ado-
lescentes contra ameaças como o cyberbullying com
deep-
fakes
, podemos contar com um arcabouço legal robusto que
inclui a Constituição Federal, o Estatuto da Criança e do Ado-
lescente (ECA), o Código Civil, o Marco Civil da Internet, a Lei
Geral de Proteção de Dados (LGPD), além de tratados inter-
nacionais como a Convenção sobre os Direitos da Criança,
ratificada pelo Brasil.
A Constituição Federal garante a proteção à dignidade da
pessoa humana e estabelece a responsabilidade do Esta-
do, da família e da sociedade em assegurar os direitos funda-
mentais de crianças e adolescentes.
O ECA complementa essa proteção ao estabelecer direitos
específicos e medidas protetivas aos menores de 18 anos.
Além disso, observa-se o texto o art. 18 do Estatuto: “Art. 18· É
dever de todos velar pela dignidade da criança e do adoles-
cente, pondo-os a salvo de qualquer tratamento desumano,
violento, aterrorizante, vexatório ou constrangedor·”
O Código Civil, por sua vez, regula questões como responsa-
bilidade civil e direitos da personalidade, especialmente o de
imagem, fundamentais para casos de violação de privacida-
de digital.
O Marco Civil da Internet e a LGPD são fundamentais para
garantir a segurança digital e a proteção de dados pessoais
online. Enquanto o Marco Civil estabelece princípios, direi-
tos e deveres para o uso da internet no Brasil, a LGPD ofere-
ce diretrizes específicas para o tratamento de dados pesso-
ais, impondo regras rigorosas para coleta, armazenamento e
compartilhamento de informações, com penalidades seve-
ras para violações· No que concerne aos direitos de crianças
e adolescentes, o art. 14 da LGPD determina que o tratamen-
to dos dados pessoais deverá ser realizado em seu melhor
interesse.
A Lei 13.431/2017, segundo Bianchini, 2024, no intuito de au-
xiliar a compreensão das violências, traz um rol exemplificati-
vo de cada violência. De acordo com o inciso II, a, do art. 4°, a
conduta de discriminação, depreciação ou desrespeito pode
ser praticada mediante ameaça, constrangimento, humilha-
ção, manipulação, isolamento, agressão verbal e xingamen-
to, ridicularização, indiferença, exploração ou intimidação sis-
temática (bullying).
Além das leis nacionais, a Convenção sobre os Direitos da
Criança, ratificada pelo Brasil em 1990, estabelece padrões
internacionais para proteção infantil, exigindo que os Estados
partes adotem medidas para prevenir abusos contra crian-
ças em qualquer forma de mídia, incluindo novas tecnologias
como
deepfakes
. A esse respeito, aduz o art. 19 da Conven-
ção:
Artigo 19· Os Estados Partes devem adotar todas as
medidas legislativas, administrativas, sociais e educa-
cionais apropriadas para proteger a criança contra to-
das as formas de violência física ou mental, ofensas ou
abusos, negligência ou tratamento displicente, maus-
-tratos ou exploração, inclusive abuso sexual, enquan-
to a criança estiver sob a custódia dos pais, do tutor le-
gal ou de qualquer outra pessoa responsável por ela.
(UNICEF, 1990)
Portanto, embora ainda não haja uma legislação específi-
ca sobre inteligência artificial, a combinação dessas normas
oferece um arcabouço jurídico sólido para enfrentar os desa-
fios emergentes no ambiente digital, protegendo eficazmen-
te os direitos fundamentais de crianças e adolescentes con-
tra abusos e manipulações, como o cyberbullying com uso
de
deepfakes
· A implementação efetiva dessas leis, aliada à
conscientização pública e educação digital, é essencial para
garantir um ambiente online seguro e ético para as futuras
gerações.
6. CONCLUSÃO
Em um mundo cada vez mais digital, a criação e dissemina-
ção de
deepfakes
representam um desafio significativo para
a ética e a responsabilidade. O cyberbullying com
deepfakes
pode ter consequências devastadoras para as vítimas, com-
prometendo sua saúde mental, reputação e segurança pes-
soal.
Neste artigo, examinamos as questões relacionadas ao
cyberbullying com
deepfakes
, destacando um estudo de
caso específico para ilustrar. Discutimos a responsabilidade
civil e criminal dos envolvidos na criação e disseminação de
deepfakes
, bem como as medidas necessárias para prevenir
e mitigar esse problema.
A legislação existente, embora trate de alguns aspectos do
cyberbullying e da privacidade digital, precisa ser atualizada
para acompanhar o ritmo acelerado das inovações tecnoló-
gicas. A regulamentação deve não apenas criminalizar expli-
citamente o uso malicioso de
deepfakes
para cyberbullying,
mas também estabelecer diretrizes claras para responsabili-
zar não apenas os criadores, mas também os propagadores
de conteúdo difamatório.
Além das medidas legais, é crucial investir em educação digi-
tal desde a infância, promovendo a conscientização sobre os
perigos da manipulação de mídia e incentivando o uso ético
das tecnologias digitais. Escolas e famílias devem trabalhar
em conjunto para criar um ambiente seguro e saudável on-
line, onde os jovens sintam-se protegidos contra abusos e
manipulações.
Finalmente, para mitigar os impactos devastadores do
cyberbullying com
deepfakes,
é essencial uma colaboração
contínua entre legisladores, educadores, pais e comunida-
des online. Somente com um esforço conjunto podemos ga-
rantir que o potencial transformador das tecnologias digitais
seja utilizado para o bem-estar de todos, especialmente das
crianças e adolescentes, protegendo sua dignidade, privaci-
dade e saúde mental.
Esta análise do caso de cyberbullying com uso de
deepfake
em uma escola do Rio de Janeiro serve como um lembre-
te urgente da necessidade de ações rápidas e coordenadas
para enfrentar os desafios emergentes na era digital. A pro-
teção dos direitos e da segurança das futuras gerações deve
ser uma prioridade inegociável em um mundo cada vez mais
conectado e dependente de tecnologias digitais avançadas.
Em última análise, enfrentar o cyberbullying com
deepfakes
exigirá uma abordagem multifacetada que envolva não ape-
nas tecnologia e regulamentação, mas também educação
pública e conscientização. Somente através de esforços co-
ordenados e colaborativos podemos garantir um ambiente
digital ético e seguro para todos.
REFERÊNCIAS
ALENCAR, A. C.
Inteligência Artificial e Direito
. São Paulo:
Saraiva, 2021. E-book.
BIANCHINI, A.et. al. Crimes Contra Crianças e Adolescen-
tes.2.ed., ver., atual. e ampl. – São Paulo: Editora Juspodivum,
2024.
BIGONHA, C. Inteligência Artificial em perspectiva. Disponí-
vel em: https://nic.br/media/docs/publicacoes/1/Panorama_
outubro_2018_online.pdf. Acesso em 25 maio 2024.
BRASIL.
Constituição da República Federativa do Brasil
.
Brasília, DF, 1988. Disponível em: https://www.planalto.gov.
br/ccivil_03/constituicao/constituicao.htm. Acesso em: 05
jul. 2024.
BRASIL. Decreto-Lei nº 2.848, de 07 de dezembro de
1940. Código Penal. Rio de Janeiro, RJ, 1940. Disponível
em: https://www.planalto.gov.br/ccivil_03/decreto-lei/del-
2848compilado.htm. Acesso em: 05 jul. 2024.
BRASIL. Lei nº 8.069, de 13 de julho de 1990. Dispõe sobre o
Estatuto da Criança e do Adolescente e dá outras providên-
cias. Brasília, DF, 1990. Disponível em: https://www.planalto.
gov.br/ccivil_03/leis/l8069.htm. Acesso em: 05 jul. 2024.
BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Institui o
Código Civil. Brasília, DF, 2002. Disponível em: https://www.
Foto: Fábio Cres
56
planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm.
Acesso em: 05 jul. 2024.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece
princípios, garantias, direitos e deveres para o uso da Inter-
net no Brasil. Diário Oficial da União, Brasília, DF, 2014.Dispo-
nível em: https://www.planalto.gov.br/ccivil_03/_ato2011-
2014/2014/lei/l12965.htm. Acesso em: 05 de jul. 2024.
BRASIL. Lei nº 13.185, de 06 de novembro de 2015. Institui o
Programa de Combate à Intimidação Sistemática (Bullying).
Brasília, DF, 2015.Disponível em: https://www.planalto.gov.
br/ccivil_03/_ato2015-2018/2015/lei/l13185.htm. Acesso em:
15 maio 2024.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de
Proteção de Dados Pessoais (LGPD). Brasília, DF, 2018. Dis-
ponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-
2018/2018/lei/l13709.htm. Acesso em: 08 jul. 2024.
BRASIL. Câmara dos Deputados. Projeto de Lei 370 de
2024. Inclui uma majorante no crime de violência psicológica
contra a mulher quando cometido mediante uso de inteligên-
cia artificial ou qualquer outro recurso tecnológico e aumenta
a pena cominada ao crime de divulgação de cena de estupro
ou de cena de estupro de vulnerável, de cena de sexo ou de
pornografia. Disponível em: https://www.camara.leg.br/pro-
posicoesWeb/prop_mostrarintegra?codteor=2388407&file-
name=PL%20370/2024. Acesso em: 05 jul. 2024.
CNJ. Resolução n. 225, de 31 de maio de 2016. Dispõe
sobre a Política Nacional de Justiça Restaurativa no
âmbito do Poder Judiciário e dá outras providências.
2016. Disponível em: https://atos.cnj.jus.br/files/
compilado2111032022061062a3b36793e56.pdf. Acesso em:
10 jul. 2024.
CUNHA, Antônio Geraldo da.
Dicionário etimológico
da língua portuguesa
. 4. ed. Rio de Janeiro: Lexikon,
2019. E-book. Disponível em: https://plataforma.bvirtual.com.
br. Acesso em: 05 jul. 2024.
G1, Fantástico. ‘
Nunca vão saber o trauma que eles
causaram’, diz aluna vítima de falsos nudes compartilhados
por colegas no Rio de Janeiro
. 2023a. Disponível em:
https://g1.globo.com/fantastico/noticia/2023/11/05/nunca-
vao-saber-o-trauma-que-eles-causaram-diz-aluna-vitima-
de-falsos-nudes-compartilhados-por-colegas-no-rio-de-
janeiro.ghtml. Acesso em: 05 jul. 2024.
G1.
Caso de nudes falsos acende alerta: ‘Jovens correm
risco de fazer justiça com um mouse’, diz advogada
.
2023b. Disponível em:https://g1.globo.com/podcast/o-
assunto/noticia/2023/11/08/caso-de-nudes-falsos-acende-
alerta-jovens-correm-risco-de-fazer-justica-com-um-
mouse-diz-advogada.ghtml. Acesso em: 05 jul. 2024.
MEDON, F. DEEPFAKE: a era digital e o fim do direito à
imagem. Ciência Digital, 6 jun. 2018. Disponível em: http://
www.cienciadigital.com.br/2018/06/06/deepfake-era-
digital-e-o-fim-do-direito-imagem/. Acesso em: 02 maio
2024.
PARLAMENTO. Regulamento Inteligência Artificial:
Parlamento aprova legislação histórica. 2024. Disponível
em: https://www.europarl.europa.eu/news/pt/press-
room/20240308IPR19015/regulamento-inteligencia-
artificial-parlamento-aprova-legislacao-historica. Acesso em:
05 jul. 2024.
RESENDE, L.CNN.
Discord: MP de SP trabalha para
identificar agressores de pelo menos 50 vítimas
. 2023.
Disponível em: https://www.cnnbrasil.com.br/nacional/
discord-mp-de-sp-trabalha-para-identificar-agressores-de-
pelo-menos-50-vitimas/. Acesso em: 06 jun. 2024.
SCIENTIFIC AMERICAN.
Teens Are Spreading Deepfake
Nudes of One Another. It’s No Joke
. Disponível em: https://
www.scientificamerican.com/article/teens-are-spreading-
deepfake-nudes-of-one-another-its-no-joke/. Acesso em: 07
jul. 2024.
STJ.
Justiça restaurativa já tem resultados positivos
e deve ser ampliada, afirma presidente do STJ
. 2020.
Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/
Comunicacao/Noticias/08092020-Justica-restaurativa-
ja-tem-resultados-positivos-e-deve-ser-ampliada--afirma-
presidente-do-STJ.aspx. Acesso em: 10 jul. 2024.
STOPNCII.
O que você faz se alguém estiver ameaçando
compartilhar imagens íntimas suas?
Disponível em:
https://stopncii.org/ . Acesso em: 07 jul. 2024.
TAKE IT DOWN
. Having nudes online is scary, but there
is hope to get it taken down
. Disponível em: https://
takeitdown.ncmec.org/pt-pt/. Acesso em: 07 jul. 2024.
TSE.
TSE proíbe uso de inteligência artificial para criar e
propagar conteúdos falsos nas eleições
. 2024. Disponível
em: https://www.tse.jus.br/comunicacao/noticias/2024/
Fevereiro/tse-proibe-uso-de-inteligencia-artificial-para-
criar-e-propagar-conteudos-falsos-nas-eleicoes. Acesso
em: 30 jun. 2024.
UNICEF. Convenção sobre os Direitos da Criança.1990.
Disponível em: https://www.unicef.org/brazil/convencao-
sobre-os-direitos-da-crianca. Acesso em: 10 jul. 2024.
UNICEF,
Brasil. Cyberbullying: O que é e como pará-lo
.
Disponível em: https://www.unicef.org/brazil/cyberbullying-
o-que-eh-e-como-para-lo#resposta3. Acesso em: 06 jun.
2024.
UNIDIR,
The 2021 Innovations Dialogue: Deepfakes,
Trust and International Security
. Disponível em: https://
unidir.org/event/the-2021-innovations-dialogue-deepfakes-
trust-and-international-security/ . Acesso em: 07 jul. 2024.
A SUCESSÃO CAUSA MORTIS DOS DIREITOS
AUTORAIS NA ATUALIDADE
Palavras-chave
Sucessão. Direitos Autorais. Direito Ao Conhecimento.
Iriana Maira Munhoz Salzedas
Procuradora Jurídica. Coordenadora do Curso de Direito da Faculdade Marechal Rondon. Professora nos Cursos de Gradua-
ção e Pós-Graduação em Direito. Mestre em Direito Constitucional pela Instituição Toledo de Ensino. Especialista em Proces-
so Civil e Direito Civil pela Instituição Toledo de Ensino. Doutoranda na Universidade de Buenos Aires – UBA. Doutoranda da
Universidade Nove de Julho – UNINOVE.
Resumo
O presente estudo tem como escopo ensejar uma reflexão sobre a sucessão dos direitos autorais em face do extenso prazo
conferido aos familiares para exploração das obras. Esses apontamentos surgem com a colisão entre dois direitos fundamen-
tais, o direito à sucessão dos herdeiros pelo prazo de setenta anos e o direito ao conhecimento. A pergunta que fazemos: Qual
desses direitos devem preponderar na atual sociedade contemporânea? Neste contexto, apresentaremos como a legislação
vigente vem disciplinando o tema e a necessidade de reformulação das leis sucessórias e autorais, em razão de não acompa-
nharem as transformações sociais.
06