Sessão Plenária (AD) - Recursos sobre normas do Marco Civil da Internet - 5/6/25

[Música] Declaro aberta esta sessão extraordinária do plenário do Supremo Tribunal Federal de 5 de junho de 2025. Chama-se sessão extraordinária porque a sessão normal quartas-feiras, mas desde que eu me entendo por gente tem a sessão de quinta-feira. Então, extraordinária é tudo que ela já não é mais, mas é a extraordinária, como diria o saudoso e ministro de todos nós, ser pública pertence, a extraordinária, mais ordinária. É ordinária. É a peço a senhora secretária que faça a leitura da ata da sessão anterior. Ata da 15ª sessão ordinária do plenário do Supremo Tribunal Federal, realizada em 4

de junho de 2025. Presidência do senhor ministro Luessora chefe do plenário do STF Carmen Lúcia Diasol Luiz Fux Edson Faquim Alexandre de Morais Nunes Marques, André Mendonça, Cristiano Zani e Flávio Dino. Vice-procurador geral da República, Dr. Indemburgo Chatobrian Pereira Diniz Filho. Abriu-se a sessão às 14:50, sendo lida e aprovada a ata da sessão anterior. Não havendo objeção quanto à ata, declaro aprovada. Comunico ao tribunal que está sendo lançado pela Secretaria de Altos Estudos a obra Mulheres do Direito Processual Civil, uma com a palavra o ministro Luiz Roberto Barroso, presidente do referência a 139 trabalhos acadêmicos

de autores renomados, doutores ou doutorandos. A elaboração do livro teve o apoio da Associação Brasileira Elas no processo, Black Sisters in Law, Elas Pedem Vista, Instituto Brasileiro de Direito Processual e processualistas. Agradeço a Secretaria de Altos Estudos em parceria com a professora da UnB, Paula Pessoa Pereira, com a Dra. Trícia Navarro do núcleo de assunto do núcleo de solução consensuais de conflitos do Supremo. Agradeço também a Dra. Flávia Martins de Carvalho, integrante da Comissão de Apoio à diversidade. A obra ficará disponível no site do Supremo. Mais uma iniciativa nossa do Supremo Tribunal Federal e do

Conselho Nacional de Justiça, promoção de Equidade de Gênero. Registro que se encontram presentes neste plenário magistrados do Tribunal Constitucional do Peru. Onde está? Mas aí fica seja muito, muito bem-vindo, muito gosto cá. Imagens bem-vindos transmissão de tela. Éer Dominguez Ro, que é o vice-presidente do Tribunal Constitucional, ministro Gustavo Gutierres Tixe e o ministro César Ooa Cardich. Como disse, sejam bem-vindos entre nós, que tenham uma boa estada e levem ao seu lindo país a nossa mensagem de carinho e de torcida para que tudo fique bem sempre. E se encontram presentes nesse plenário também estudantes dos cursos

de direito das seguintes instituições do Centro Universitário Governador Oanã Coelho de Ubá, Minas Gerais, imagem de estudantes do Rio Grande do Sul e da Universidade da região de Joinville, Santa Catarina. Sejam todos muito bem-vindos. Prazer e uma alegria tê-los aqui. Chamo para continuação do julgamento recurso extraordinário 1.37396 da relatoria do ministro Dias Toffol e o recurso extraordinário 1.57258 da relatoria do ministro Luiz Fux. Já foram proferidos os votos dos relatores, ministro Dias Tofle e do ministro Luiz Fux. O meu próprio voto, ontem já reproduzi o contexto todo, não há necessidade de revisitarmos isso. Estamos, portanto,

em procedimento de voto do ministro André Mendonça, a quem com muito prazer passo a palavra. Agradeço, senhor presidente, minha saudação a Vossa Excelência, aos eminentes relatores, ministro Dias Tofle, ministro Luiz Fux, com a palavra o ministro André Mendonça, Lúcia, em nome de quem cumprimento os demais ministros, ao vice-procurador geral da República, aos advogados e advogadas que nos acompanham, aos estudantes e professores também já mencionados. Senhoras e senhores, senhor presidente, eu retomo o voto, portanto, no tópico concernente as distinções necessárias quanto aos provedores de aplicação da internet. E nesse ponto digo que a par das considerações

que já aduzi, que por um lado reconhecem a necessidade de se promover adaptações no paradigma jurídico dogmático, sobre o qual se alicerça a liberdade de expressão, e, por outro, apontam para a igual necessidade de preservação do núcleo fundamental e da posição preferencial que ostenta a liberdade fundamental de exprensão e manifestação do pensamento, é preciso atentar para adequada delimitação da abrangência do tema em discussão. em essência, como as discussões referenciadas giram em torno da dimensão social ou coletiva da liberdade de expressão, guardando pertinência apenas e tão somente com as aplicações de internet, que igualmente se direcionam

à noção de esfera pública dos espaços públicos digitais. Contudo, do ponto de vista de conceito e terminologia, o marco civil da internet diferenciou apenas os provedores de conexão à internet dos denominados provedores deação de internet extraordinários. assim em 1039 700 servidores de8000 STF decide sobre responsabilidade de aplicativos e redes sociais. Parece-me indene de dúvidas que uma comunicação realizada entre pessoas no ambiente privado, inclusive marido e mulher, pai e filho, amigos, parentes, através de um aplicativo de mensagens, que essas mensagens ostentam a natureza manifestamente privada. De fato, o cenário hipotético apresentado é a versão moderna do

exemplo mais banal relacionado à intimidade do cidadão. Nessa conjuntura, um primeiro e fundamental esclarecimento que deve ser feito quanto à abrangência da questão em debate diz com a exclusão das comunicações de natureza privada que não se realizam, portanto, em ambiente público sob qualquer aspecto de análise. Em segundo lugar, quanto às aplicações de internet de feição supraindividual, é preciso identificar adequadamente as peculiaridades inerentes aos aplicativos, de um lado, de busca, de outro, os de comércio eletrônico ou marketplace e ainda as redes sociais, dentre outros possíveis aplicativos. A título de exemplo, dentro do conceito de marketplace temos

Mercado Livre, Amazon, Brasil, Americanas, Magazine Luía, Chope, Casas Bahia, dentre outros. Evidentemente, trata-se de feixe setorial que, apesar de igual relevância, guarda substanciais distinções em relação àquele relacionado às redes sociais propriamente ditas. Isso não significa que também na espécie não haja espaço para moderação de conteúdo por parte das respectivas plataformas. Como bem ilustram as informações aportadas aos autos pelo Mercado Livre, há uma preocupação espontânea com a integridade do espaço digital, direcionado à publicidade e demais atividades inerentes ao comércio digital, como a adoção de uma postura proativa das próprias empresas na remoção de conteúdos que estejam

em desconformidade com os seus termos de uso. Trago assim, nesse sentido, dos esclarecimentos do Mercado Livre, que essa plataforma removeu mais de 3.2, quase 3.250.000 anúncios irregulares, dos quais 111.500 00 por denúncias de usuários e mais de 3.õ1 por atividade proativa da própria empresa, atuando conforme os seus termos e condições de uso. Essa mesma tarefa eh ocorre, diz a plataforma, em um universo de 128.500 00 anúncios criados ou alterados por hora, totalizando mais de 500 milhões apenas no segundo semestre de 2022. Ainda o Mercado Livre aponta que adota um programa de sua iniciativa que visa

coibir a violação a direitos de propriedade intelectual e permitir que os titulares tenham acesso aos dados dos infratores para que possam adotar as medidas cabíveis. Ou seja, a partir desses números, 96,4% do montante expressivo de conteúdos exclusivos excluídos são detectados pelas próprias equipes internas da plataforma e menos de 4% correspondem a publicações denunciadas por usuários ou autoridades. Além disso, em atividade colaborativa, a empresa já mencionada oferece ao titular do direito autoral as informações do potencial sobre o potencial ofensor. Nada obstante, é importante recordar que no âmbito da União Europeia foi editada uma legislação específica para

esse setor, a Digital Markets Act. Como aponta Ricardo Campos, também já referido no meu voto, o sistema de responsabilidades desenhado pelo referido marco regulatório é consideravelmente diverso daquele concebido para os serviços digitais no Digital Service Act. Especificamente quanto a este último regulamento, essa última lei, vale a notar que as novas distinções foram realizadas exatamente no que na linha do que a hora proponho. O texto legal estabelece distinções entre os variados serviços prestados, evitando que um único guarda-chuva conceitual seja utilizado para abarcar todos os tipos de provedores de aplicação, como ocorre atualmente no ordenamento jurídico brasileiro.

Nesse sentido, distingue-se entre simples transporte, serviços de armazenagem temporária ou casting, serviços de alojamento virtual ou hosting e plataformas online e ainda motores de pesquisa online. Para cada qual, de acordo com as suas peculiaridades, foram estabelecidas responsabilidades e obrigações específicas. Destaca-se ainda uma categoria específica para plataformas e motores de buscas online online considerados provedores de muito grande dimensão. De acordo com o artigo 33 da lei europeia, esses provedores são aqueles que possuem dentro da União Europeia um número médio mensal de usuários ativos igual ou superior a 2 a 45 milhões de pessoas. e aqueles também

que possuem ou tenham recebido essa designação por parte da própria Comissão Europeia, grupo este, a quem são impostas obrigações extras para fins de gestão de riscos sistêmicos. Além do recorte de ordem técnica vinculado às peculiaridades das regras de negócios inerentes a cada um dos serviços de aplicação de internet disponíveis, em terceiro lugar, centrando-se na questão específica das redes sociais, escopo este, tecnicamente mais adequado para delimitar o âmbito de incidência do artigo 19 do Marco Civil da Internet, é dentro desse universo que eu também aponto e chamo a atenção para as seguintes distinções. Em primeiro lugar,

de ordem material quanto ao objeto da manifestação, se é opinião, fato, discurso científico, anúncio publicitário, etc. em segundo lugar, de ordem subjetiva, quanto a quem se expressa, para quem a expressão é originariamente direcionada e ainda quem eventualmente seria diretamente atingido pela expressão. Uma outra distinção é quanto à natureza da comunicação, ou seja, se é sustenta algum interesse ou impacto para o público em geral ou é desprovida de relevância social. E por fim, uma distinção quanto ao papel da respectiva plataforma na sua programação, se se trata de um conteúdo impulsionado ou espontâneo, gratuito ou de algum

modo monetizado de forma direta pela pelo aplicativo. No que concerne a distinção de ordem substantiva ou material, em que pese os debates anteriormente mencionados acerca do que vem a ser fato, é innegável que o seu grau de subjetividade é significativamente menor do que aquele envolto a uma opinião. entre um extremo e outro, podem ser identificadas ainda algumas graduações, como, por exemplo, o discurso científico. Em último tipo específico de discurso, bem este último típico discurso científico bem ilustra o grau de calibragem necessário para bem avaliar cada situação. Isso porque desde Poer a ciência trabalha com o

método da falseabilidade das hipóteses. Para evoluir, o cientista terá de necessariamente afirmar que aquilo que se entende como verdadeiro hoje é fal falso e ao fazê-lo, obviamente ele não poderá ser censurado. Cerca agora das distinções de ordem subjetiva, como já indicado, é preciso avaliar a posição ocupada na esfera pública, por quem se manifesta, para quem a manifestação é dirigida e quanto a quem é eventualmente atingido por determinada manifestação. essa tentativa de sistematizar tal campo específico da condição que ostenta o emissor da manifestação perante a esfera pública. Samuel Fonteles traz traça uma escala que possui nove

degraus em ordem. Primeiro, militares. Segundo, juízes. Terceiro, membros do Ministério Público. Depois servidores públicos. Quinto, cidadãos, depois professores, jornalistas, artistas e sacerdotes e, por fim, congressistas. Como se pode inferir, as posições estão organizadas daqueles que possuem menor proteção constitucional nas suas falas até aqueles que gozam de verdadeira imunidade constitucional. Quanto à natureza da comunicação, há evidentemente maior proteção em relação aos discursos que envolvam que envolvam questões de interesse público ou a atuação das instituições públicas, dos seus membros ou de pessoas públicas em geral, principalmente em temas sensíveis, complexos, controversos e que fazem parte das discussões

públicas da sociedade. Por outro lado, as manifestações desprovidas de relevância social e que se direcionam a um sujeito específico, estas somente lhe dizem respeito e podem ser interpretadas com menor benevolência. Por fim, no que concerne ao papel da plataforma, me parece indene de dúvidas que não se pode conferir a mesma responsabilização aos que, primeiro, a plataforma tenha impulsionado via algoritmo determinado conteúdo do usuário. Segundo, daquelas situações nas quais o usuário busca ativamente o acesso à informação específica. Dentro da primeira hipótese de impulsionamento, entendo pertinente diferenciar ainda os conteúdos impulsionados moto próprio pela plataforma daqueles impulsionados

em razão de patrocinador ou anúncios pagos. No primeiro caso, me parece que a condição da plataforma mais se aproxima daquela ocupada pelo editor ou distribuidor em relação às mídias sociais tradicionais. Portanto, antes de adentrar especificamente na idez ou suficiência da disciplina estabelecida no artigo 19 do Marco Civil, diante de sua vasta abrangência, é preciso recortar o escopo de exame de modo a a distringi-lo às situações em relação às quais se possa verificar, ao menos em tese, cenário de inconstitucionalidade. Só uma dúvida, me perdoe. Vossa Excelência fez uma leitura de pessoas públicas e que eu tô

acompanhando o raciocínio, eh, começa com militares, termina com congressistas. Há artistas nessa lista que eu não prestei atenção. Ah, artistas e sacerdotes também são pessoas que teriam nessa ponderação maior liberdade. Os juízes militares pela legislação específica, menos liberdade, vamos dizer assim, de expressão por conta de regramos próprios. os artistas, sacerdotes estão lá, estão lá em cima, só abaixo dos congressistas. OK. Obrigado. Por conta da imunidade própria que os congressistas têm. Dentro desse contexto, de largada, eu excluo dessas restrições, como já disse, os serviços, os serviços de mensagens privadas. Em relação às demais aplicações, é preciso

promover uma análise atenta à pleia de peculiaridades acima elencadas, que vão desde o tipo de serviço prestado a exemplo do que se verifica na legislação europeia até a dimensão e alcance das plataformas, especificamente no âmbito das redes sociais, espaços, estes sim, vocacionados à promoção do debate público. e ao mercado de ideias. É preciso considerar em cada caso concreto se se está diante, em primeiro lugar, da person de personalidade pública ou privada, de mensagem, em segundo lugar, de interesse público ou desprovida de relevância social, e ainda do teor científico, jornalístico ou publicitário, dentre outros. E por

fim, se foi impulsionado e por quem, ou se foi espontâneo. Com essa delimitação, passo agora à avaliação no tópico concernente a eficácia horizontal dos direitos humanos e o papel das empresas na sua proteção e no compliance. Para além do recorte do escopo que eu já indiquei, antes de enfocar de modo mais específico as redes sociais, não se pode deixar de apontar que o nó da questão em discussão tem como pontos subjacentes dois temas de repercussão geral em análise que perpassa pelo estabelecimento de limites e possibilidades em si reconhecer empresas o papel de guardião dos direitos

fundamentais. Portanto, a nídida interface com o que se convencionou denominar de eficácia horizontal dos direitos humanos. Interessante rememorar que o surgimento dessa nova dimensão de tais direitos, as quais não mais deveriam ter a sua incidência restrita às relações entre o indivíduo e o Estado, passou a se espraiar também para as relações entre particulares, o que se deu em decorrência do julgamento do célebre caso lute pelo Tribunal Constitucional Alemão em 1958. Resumidamente, a controvérsia que se estabeleceu naquele caso buscava conscientizar nele, nessa controvérsia, o ativista Eric Lud, que buscava conscientizar e combater os resquícios do antissemitismo

na sociedade alemã do pós-guerra. E de outro lado o cineasta Veit Harlan, que ganhou notoriedade por sua proximidade com o establishment político do regime nazista, tendo produzido filme de teor nitidamente preconceituoso e discriminatório em relação ao povo judeu. A partir daquela discussão, após a absolvição que o Tribunal de Guerra havia eh decretado em relação ao cineasta Harlan, foi contratado, este foi contratado para dirigir um novo filme e Lut passou a defender que a população boicotasse o espetáculo em espécie de censura ao seu diretor. Diante das manifestações de lut, os produtores do filme boicotado ingressaram em

juízo contra o ativista, buscando a obtenção de ordem judicial que o impedisse de recomendar ao povo alemão que não assistisse o filme. O pedido foi atendido pelas instâncias ordinárias. Contudo, ao analisar o recurso constitucional, o Tribunal Constitucional da Alemanha reformou as decisões inferiores em razão da necessidade de se reconhecer que na determinação dos direitos fundamentais da lei fundamental corporifica-se uma ordem axiológica objetiva que vale para todas as áreas do direito, como uma discussão, uma decisão fundamental constitucional. Portanto, veja-se que o que estava em discussão era exatamente o direito à liberdade de expressão de Lute. Foi

diante da necessidade de assegurar a defesa da liberdade de expressão que o Tribunal Constitucional alemão passou a reconhecer a força irradiadora que os direitos fundamentais exercem sobre todo o ordenamento jurídico, a incluídos o direito civil e de modo mais específico, o direito empresarial. Essa compreensão que identifica nas organizações empresariais uma coparticipação na missão de se proteger, respeitar e reparar os direitos fundamentais, é potencializada pelo surgimento de novas formas de organização do aparelho do Estado, dentre as quais ganha especial destaque a regulação. Isso porque sob o prisma do estado regulador rompe-se com o modelo centrado no

monopólio estatal tipicamente exercido pelos órgãos parlamentares quanto à produção normativa, passando-se a admitir que outros atores possam editar normatização específica, mais adequada e responsiva às peculiaridades técnico-operacionais do nicho setorial do qual ela no qual elas estão inseridas. Quanto a este último fenômeno, pondera o professor Márcio Aranha, que a sua direita intérprete de Libras, sua configuração branca, cabelos negros, abaixo do ombro, usa um batom vermelho, sobrancelha levemente espessa, batentar hoje com uma tecnologia de governo sociais. que pode estar sediada em órgãos estatais ou em mecanismos internos de controle empresarial, o que se chama de metarregulação, em

que o Estado audita os regimes de controle internos da empresa e ainda em mecanismos institucionais privados, a denominada autorregulação, no qual no qual o vencedor do jogo político, entre outros atores sociais, como o livre mercado, ou, finalmente, a partir de uma composição de tais opções, exercem a regulação. À luz dessa conjuntura, vem ganhando força nos últimos tempos a necessidade de de se exigir das empresas os chamados mecanismos de conformidade. Trata-se, portanto, da figura do compliance, capaz de garantir a integridade da organização e dos seus colaboradores. Muito simplificadamente, pode-se dizer que a lógica desse mecanismo se

baseia em disposições normativas que sejam suscetíveis ao comportamento regulado. Ao mesmo tempo em que são estabelecidas vedações, se prevê que a observância a determinadas obrigações procedimentais tem o condão de reduzir substancialmente a sanção que poderia recair sobre as corporações em caso de descumprimento da interdição prevista. Portanto, trata-se de abordagem regulatória que possui como elemento central a abertura, a valoração da responsabilidade por parte do regulado. Ou seja, se descortina a possibilidade de um regramento flexível, capaz de sofrer adaptações para melhor se adequar ao comportamento, mais ou menos conforme ao direito de cada regulado. Aí porque floresceu

no âmbito dos sistemas jurídicos mais propensos à construção. Equipamento aqui falhou. Voltar. Travou. É um colapso, né? Por isso que tem que ter responsabilização, né? Reserva. Você tem que ter uma reserva. Tecnologia engana compno aqui responsabilidade. Eu acho que dá danos morais. Depois vamos analisar isso aí. Não, não voltou. A luz bom à luz dessa conjuntura. Qual plataforma que você tá usando pra gente? Nenhuma. É um é um leitor de texto simples, só para saber se tem responsabilidade. Não, nenhuma. Mas enfim, por via das dúvidas, tem aqui o material impresso. É, é que no impresso

eu não recortei tanto como eu recortei aqui, então é melhor eu seguir por aqui. À luz dessa conjuntura, portanto, se deve privilegiar soluções negociadas, por definição, que são mais maliáveis. Em razão dessa característica, o professor já citado Márcio Aranha observa que o compliance se contrapõe ao modelo de regulação estatal clássico, baseado na lógica de comando e controle. Nessa perspectiva, ele diz: "A conformidade regulatória bebe da percepção por parte do regulado, de que o sistema regulatório será justo e eficaz. Enfim, no compliance regulatório se angariam forças de da relação de confiança entre regulado e regulador, havendo

uma atitude cooperativa. De modo mais específico, a doutrina do que elenca o complience empresarial como hipótese de autorregulação regulada, ela se baseia na liberdade para colaborar e para se implementar um plano normativo próprio, por si mesmo concebido, sujeito à posterior e contínua chancela e supervisão do Estado. Nessa perspectiva, o Estado passa a ocupar posição de supervisor do sistema de integridade desenhado pelo próprio regulado. Por um lado, assim, se incrementam as chances de um regramento mais aderente às peculiaridades de cada organização. sobre out sob outro enfoque resguarda-se pela necessidade de chancela estatal a determinado plano ou

pela supervisão a possibilidade de o estado a posteriore identificar e sancionar de modo mais severo aqueles que não cumpram os seus próprios planos. Na nada obstante tal característica, o ministro Reinaldo Soares da Fonseca e o professor Bruno Fernandes Carvalho em em artigo doutrinário apontam, abro aspas, ser possível traçar certos elementos que compõem o núcleo duro desses programas, cuidando-se de previsões cuja presença é indispensável encontradas em boa parte da literatura e das legislações sobre o tema. Nesse sentido, mencion mencionado artigo que se consubstanciou depois em dissertação de mestrado acadêmico de um dos autores, nele se tem

enumeradas as seguintes os seguintes aspectos. obrigatórios a qualquer plano de conformidade. Análise de riscos detalhada. Segundo, elaboração de um código de conduta. Terceiro, educação e treinamento do do corpo de funcionários. Quarto, a implementação de controles internos na organização. Cinco, a institucionalização de setor específico para o compliance. e seis, a avaliação e o monitoramento permanente do programa. À luz de tais elementos, é possível concluir que o compliance é fenômeno que contribui para uma maior integridade no âmbito empresarial. A partir da fixação de padrões de conduta ou estándares de conduta, assume-se uma função de instrumento viabilizador na

concretização efetiva dos direitos fundamentais. de todos aqueles que com a organização possuem alguma espécie de relação. A partir dessa mesma ótica, ao bem cumprir as obrigações que lhe são imputadas, as organizações empresariais se beneficiam da exclusão de responsabilidade por eventuais atos praticados por terceiros, ainda que com ela possuam algum tipo de vínculo. Tomando como exemplo o paradigma norte-americano, tem-se que, em primeiro lugar, mapeados os riscos inerentes à sua operação. Dois, elaborado um plano de conformidade capaz de mitigar os riscos. Três, instituindo-se uma estrutura organizacional própria e apartada dos demais departamentos da empresa, a fim de

se zelar pelo cumprimento e observância do programa. e quatro, verificando-se que a conduta ilícita foi praticada de modo a ludibriar a referida instância de controle, não se podendo a ela imputar erro grosseiro ou conduta negligente, afasta-se a possibilidade de responsabilização da empresa. Veja-se que ao invés de impor obrigações específicas de resultado, se trata de abordagem que, ao focar no comportamento do regulado, possui a feição marcadamente procedimental, buscando modelar a forma de atuação da empresa de modo a conformá-la ao ordenamento jurídico. A análise do tema hora em julgamento sob essa perspectiva enseja uma alteração de foco.

Deixar de mirar na responsabilidade pela remoção do conteúdo ou do perfil, passando-se a destinar atenção aos protocolos e procedimentos empregados pelas plataformas na tentativa de criar um ambiente digital mais rígido, íntegro e salutar. Trata-se de perspectiva que promove a conciliação necessária entre o marco legal regulatório dos artigos 18 a 21 do marco civil, a preservação da liberdade de expressão e ainda o papel das plataformas como corresponsáveis pela concretização dos direitos fundamentais dos usuários. Passo agora a tratar da questão concernente a dados de atuação espontânea que foram apresentados pelas próprias plataformas. a reforçar. Palavra, ministro and

proposta focada na adoção de obrigações de meio de viés procedimental a partir do estabelecimento de estándares comportamentais a serem seguidos pelas plataformas digitais em seu dia a dia, sob pena de superação do regime de exclusão de responsabilidade previsto nos artigos 18 e 19 do marco civil. Assim rememora-se a significativa atuação que tais companhias já possuem na remoção espontânea de conteúdos que sejam que estejam em desconformidade com seus termos e condições de uso, bem como nas situações previstas no artigo 21 do Marco Civil, em outras legislações esparsas, como o Estatuto da Criança e do Adolescente, e

a nova lei das Betes, por exemplo. Nesse sentido, colho do relatório recentemente divulgado pela empresa Meta, que possui como sócias Facebook, Instagram e trades, que entreo de agosto e 31 de outubro de 24 foram removidos mais de 2 milhões 900.000 1 conteúdos por parte das dessas empresas no Brasil e foram por violação de suas políticas de bullying internas estabelecidas quanto a bullying e assédio, também quanto a discursos de ódio e a violência e incitação. Desse total de 2.900.000 remoções, 520.000 foram por conta de bullying e assédio, 550.000 por conta de discursos de ódio, 1.900.000 por

violência ou incitação à violência. Ainda de acordo com as informações veiculadas, em 2023 a meta decretou e removeu 2,6 bilhões de contas falsas no Facebook, 98,95% das quais foram detectadas e removidas proativamente pela empresa antes mesmo de terem sido denunciadas. Em relação a conteúdos especificamente relacionados às eleições municipais de 2024, a Meta informou que a partir de suas políticas e medidas sobre informações falsas, foram rotulados mais de 8.hõ2.000 1 conteúdos no Facebook e no Instagram, com verificações de fatos no mês que antecedeu e incluiu o período eleitoral. Em média, 57% das pessoas que começaram a

compartilhar os conteúdos verificados como rotulados como falsos, eles não concluíram essa ação após receberem um aviso da meta de que tais conteúdos estavam nessa condição, demonstrando-se assim o impacto dos esforços de rotulagem na redução da disseminação de informações falsas. Além disso, a empresa anunciou que removeu mais de 43.000 anúncios por violarem as políticas da plataforma. Por sua vez, em página na internet dedicada ao relatório de transparência, o Google informou ter removido do YouTube mais de 3.260.000 canais entre abril e junho de 2024. por violação às regras da comunidade. Com a remoção do canal, todos os

vídeos nele contidos são removidos. O número de vídeos removidos nesse período foi de mais de 56 milhões de vídeos. Melhor especificando o motivo de das remoções de canais acima. O mesmo relatório indica que mais de 2.600.000 1 canais foram removidos por configurarem spam, conteúdo enganador e esquemas, o que corresponde a 80% do total. E 164.000 canais foram removidos por violarem políticas de segurança infantil, representando 5% do total, mais 156.000 1000 remoções por questões relacionadas à nudez ou conteúdo de natureza sexual e mais de 148.000 canais por conterem eh se enquadrarem no conceito de desinformação correspondendo

a 4.6% do total. Além dos canais removidos e dos vídeos removidos em razão da supressão do canal, o relatório menciona ainda que a plataforma YouTube removeu mais de 8 milhões, quase 8.hõ500.000 vídeos de modo específico. Desse montante, quase 200 foram removidos após detecção automática pela plataforma. 238.000 por denúncias dos usuários. 61.000 por ações dos membros do programa de denúncias prioritárias, dentre as quais se incluem ONGs e organizações governamentais. ainda informou que 59,91% das situações os vídeos, nessas situações, o vídeo foi removido antes de qualquer visualização. Quanto ao conteúdo, a fração mais expressiva se deve à

segurança infantil, correspondendo a mais de 5 milhões de vídeos, o que equivale a 59% do total. Interessante a informação de que o Brasil ocupa o terceiro lugar formado por 30 países com mais vídeos removidos, perdendo apenas para a Índia e a Rússia. O relatório baseia-se no endereço do IP do remetente no momento em que o vídeo foi carregado. Por fim, o mesmo documento informa que houve a remoção de 1.3 bilhões de comentários postados no YouTube. Em 99,6% dos casos, a remoção se deu por detecção automática e apenas 0,4% por denúncias humanas. No caso dos comentários,

80% das remoções foram de conteúdos enquadrados como spam, conteúdo enganador e esquemas. No mesmo sentido, colho os memoriais apresentados pela Bite Dance Brasil, a qual figura como sócia a TikTok, que de acordo com o relatório de transparência mais recente que cobre o primeiro semestre de 2024, a referida plataforma removeu 6, quase 6,4 milhões de vídeos no mercado brasileiro, dos quais 99,2% foram identificados proativamente por violação às diretrizes da comunidade ou dos termos do serviço, sem a necessidade de qualquer intervenção ou notificação. Informou-se ainda que em 90% dos casos a remoção ocorreu a menos de 24

horas. em menos de 24 horas após a publicação. Em âmbito global, a mesma empresa informou ter removido mais de quase 170 milhões de vídeos, dos quais 97,7% foram identificados de forma proativa por violarem as diretrizes da comunidade ou os termos de serviço, sem a necessidade de qualquer notificação extrajudicial. Além disso, 89,8% dos casos se deram em menos de 24 horas. Em 81%, a remoção ocorreu antes mesmo de qualquer visualização e a plataforma ainda suspendeu mais de 11.700.000 vídeos em transmissões ao vivo. A partir das informações coletadas, verifica-se que em relação ao universo total de situações,

os casos em que se faz necessária a exigência de notificação, seja extrajudicial, seja judicial, para a remoção do conteúdo, são realmente excepcionais e, como tal, devem ser tratados. Isso se dá sobretudo em razão da superlativa relevância dos valores constitucionais em disputa. valores estes que com a devida venha aqueles que têm compreensão em sentido diverso, somente podem ser adequadamente aquilatadas, caso a caso, a partir de parâmetros fixados pela Constituição e pelo poder da República, investido da missão de arbitrar as controvérsias, o poder judiciário, a partir do princípio da reserva legal. Passo agora a tratar dos riscos

à cordadoria de conteúdo promovido pelas próprias plataformas e os limites para o emprego da inteligência artificial. Apontada a necessidade de se submeter ao crio do poder judiciário, à situações nas quais a moderação de conteúdo identifica manifestações complexas e ambíguas, em razão da reserva da jurisdição prevista pelo legislador na tentativa de salvaguardar de modo mais adequado a liberdade de expressão dos usuários à internet, é robustecida pelos riscos de se deixar ao talante das próprias plataformas realizar a avaliação dos casos controversos. Em primeiro lugar, não se pode deixar de frisar que, para além da autoridade e institucionalidade

que a própria Constituição atribui aos integrantes do Poder Judiciário, revestindo-lhes das garantias da imparcialidade, inamovibilidade, independência funcional, há, no caso, em função da indelagabilidade do exercício da jurisdição, um traço especialmente relevante para a situação em análise. a preservação da análise humana para realizar a ponderação entre os valores em jogo nos cenários de maior controvérsia, sem ouvidar a cada vez mais usual possibilidade de utilização de instrumentos de inteligência artificial para auxiliar os magistrados a analisar as causas que lhes são submetidas. Recorda-se a lição do professor Jordine Eva Fenol, catedrático de Direito Processual da Universidade de Barcelona,

para quem não podemos passar da justiça dos juízes para a justiça dos programadores. Segundo esse professor, é preciso lutar para que tudo o que foi conquistado, graças ao direito, ao juiz independente imparcial não se perca. A independência judicial e a imparcialidade constituem conceitos únicos formulados de forma binomial, os quais tentam preservar que os juízes estejam livres da influência em seu julgamento. Como eu disse, ele prossegue. Espera-se que o juiz tenha uma empatia que reflita o consenso social que tentam refletir as leis, mas não a ponto de manipular o que dizem essas leis até acabar por

pervertê-las, que é o que pode acontecer quando o juiz não é verdadeiramente independente. Digo eu, com esteio no referido apontamento doutrinário. Não vislumbro como transferir as plataformas ministro do ST algoritmo algoritmo o dever de ponderar de modo automático e artificial defem disputa sobre empresas quando um desses valores é a liberdade de expressão. Trata-se de direito fundamental, que, como visto, é condição de possibilidade do próprio regime democrático e do estado democrático de direito, tal como o conhecemos, sendo precisamente para a sua defesa que se promoveram revoluções, reformas, reconstruções de paradigmas sociais de toda ordem desde sempre.

Direito esse sobre o qual se funda, em última rácio, o próprio modelo de prestação jurisdicional contemporaneamente adotado pelas democracias ocidentais. Isso porque, diante da infinidade de possibilidades que a realidade apresenta ao julgador no momento de apreciar determinada contenda, a melhor solução encontrada para que o juiz possa decidir encontra-se centrada precisamente na possibilidade de livremente expressar de se expressar sobre a LID, exigindo-se como contrapartida dessa liberdade que expresse o seu convencimento de forma motivada. Direito esse que decorre mesmo da própria natureza humana, sendo a possibilidade de se expressar sobre os mais variados temas o traço distintivo

mais frequentemente apontado entre nós e os demais, as demais espécies da vida presentes, com as quais compartilhamos o nosso planeta. Como conclusão desse ponto específico, permito-me consignar a posição pessoal recursos extraordinários 1037396 e 1057258. STF decide sobre responsabilidade de aplicativos e redes sociais por esvaziar a relevância do próprio poder judiciário enquanto legítima. Ministros define responsabilização de empresas sobre conteúdos postados em redes sociais e aplicativos de mensagem ao outro, ou seja, da impossibilidade de moderação privada do conteúdo digital em razão da reserva de jurisdição estabelecida em torno da matéria pelo artigo 19. a moderação automatizada, sem

análise contextual e pormenorizada realizada por ser humano, delegando-se a atividade à máquina. Como segundo argumento, não se pode deixar de conferir especial atenção à questão da considerável possibilidade do conflito entre as tecnologias e meios empregados para eventual monitoramento de todo o conteúdo e o direito fundamental à proteção de dados e privacidade de usuários. Nesse ponto, não se se ouvida que hoje há fortes indícios de que as plataformas já empreendem severa vigilância sobre o comportamento online dos seus usuários. O fenômeno, contudo, não deve ser induzido ou de qualquer modo autorizado pelo Estado. É o que ocorreria

caso se impusesse um dever de custódia ampla e irrestrita de fiscalização de toda a informação veiculada no mundo virtual. A norma estatal estaria estimulando os provedores privados a incrementar o nível da vigilância sobre o indivíduo em sentido de diametralmente em sentido diametralmente oposto aos direitos fundamentais previstos nos incisos 4, 5, 12 e 79 da Constituição, para que em prol para que em prol de uma pretensie rigidez do universo online, as plataformas lancem mão de arsenal ainda mais robusto de algoritmos e ferramentas tecnológicas de toda a espécie necessárias à consecção do objetivo. Atualmente, ao desenvolver os

seus programas e algoritmos e regras de negócio, os provedores de aplicação da internet deveriam, ao menos em tese, atentar para a necessidade de salvaguardar o sigilo dos dados fornecidos pelo usuário, inclusive para o emprego de big data, dentre outros mecanismos de tratamento, conforme dispõe a LGPD, com a imposição da vigilância ampla geral sobre o teor que é veiculado em seus domínios, porque orientados pela disciplina estatal, surge no mínimo um potencial conflito entre aquela primeira obrigação apontada e essa nova missão imposta, na medida em que, qu sabidamente, tanto melhor seria a curarse precisão da tarefa de

identificar com rapidez o conteúdo considerável considerado ofensivo, quanto maior for universo e mais variada forem a natureza e forma de cruzamento dos dados nessa atividade fiscalizatória fiscalizatória. Apenas para exemplificar a preocupação. Há quem defenda, abro aspas, o aprimoramento dos critérios de identificação de desinformação por meio do comportamento de contas e não necessariamente de conteúdo. Ou seja, e eu cito aqui artigo nesse sentido, ou seja, as plataformas passaram a traçar um perfil do usuário não apenas para fins, passariam a traçar um perfil do usuário, não apenas para fins meramente comerciais, mas com a intenção de classificá-los

como mais ou menos propícios a veicular fake news. dito de modo direto, com mais ou menos inclinados à prática de ilícitos. É interessante que seria uma versão do século XX, tecnologicamente sofisticada, de uma abordagem lombrosiana do direito sancionador, piorada pela utilização de dados fornecidos pelo próprio usuário para tanto. Quanto ao ponto, é preciso reforçar a substancial e importantíssima distinção entre a eventual possibilidade de fornecimento de dados por meio de consentimento com os termos de uso e condições da plataforma por parte do usuário para fins de utilização comercial, ainda que eventualmente violadora de normas consumiristas. e

para intensificar o nível de atenção e fiscalização sobre determinado indivíduo, particularmente considerado a partir dos seus próprios dados e comportamento digital, mais inclinado este à prática futura de atividades desviantes. Com as devidas vênas, penso que a distinção das situações é evidente, assim como é de clareza notória o maior nível de risco de ofensa ao direito fundamental, cuja superlativa relevância já foi objeto de minha exposição a liberdade de expressão do indivíduo, que mais vigiado ficará consideravelmente mais suscetível ao denominado efeito silenciador. ou effect. Por fim, em terceiro lugar, exemplos de erros de moderação de conteúdo trazidos

pelo Instituto Brasileiro de Defesa do Consumidor, IDEC, bem ilustram as dificuldades operacionais experimentadas pelo algoritmo para promover a referida remoção. Nesse sentido, verificou-se primeiro a retirada de vídeo sobre conscientização do auto exame para evitar ou diagnosticar precocemente o câncer de mama. Segundo, a eliminação da postagem feita pela poetisa paquistanesa Rup, contendo uma imagem de uma mulher em período menstrual. E terceiro, o fato, apontou o IDEC, de que mecanismos automatizados tendem a considerar jargões da linguagem LGBT, vistos fora de contexto como desrespeitosos, como mais, entre aspas, tóxicos que aqueles utilizados por grupos supremacistas brancos, falhando no

reconhecimento de seu valor social. Especificamente em relação aos direitos do consumidor, o IDEC aponta para os potenciais efeitos negativos quanto ao dever de informação adequada. De acordo com o seu raciocínio, abro aspas, com a possível declaração da inconstitucionalidade do artigo 19 do marco civil, a preocupação é de que o consumidor tenha o seu direito afetado com o seu conteúdo sendo retirado indevidamente, o que não prejudica somente o exercício do direito básico da liberdade de expressão, como potencialmente suprime crime o direito à informação de interesse público, seja essa informação de cunho político ou cultural, exemplo relevante,

prossegue diretamente ligado ao exercício do direito do consumidor, está na publicação das suas opiniões e críticas social ou em sites de reclamações. As avaliações dos consumidores sobre produtos e serviços ganharam força. Hoje os consumidores de forma individualizada e a sociedade como um todo tem ganhado com essa troca de informações. É provável que diversos comentários, diz o instituto, sejam excluídos em virtude de notificações realizadas por empresas ofendidas, tendo em vista a dificuldade de moderação de conteúdo com a grande quantidade de notificações. A exclusão indevida de opiniões de consumidores afetaria não somente o direito de liberdade de

expressão do consumidor autor, como potencialmente afeitaria o direito à informação de milhares de outros consumidores. Com efeito, como efeito negativo específico, faço referência a Wikimia, legenda empresa responsável Wikipédia. Ministros definem responsabilização de empresas sobre conteúdo postado em redes sociais, aplicativos de mensagem 6.600.000 artigos em inglês, além de conteúdos em outros 300 idiomas, a plataforma tem o seu foco inegavelmente educacional. De acordo com as informações prestadas às autos, além de não oferir lucro, o sítio eletrônico se organiza em torno da moderação realizada pelos próprios usuários, os quais inquestionavelmente possuem maior condição de atestar a rigidez da

informação inserida, dada a natureza enciclopédica da plataforma, que abarca matérias dos mais variados campos do conhecimento científico. Trata-se de modelo de organização que potencializa aspecto já peculiar da plataforma em questão. Dado seu foco essencialmente acadêmico, potencializa-se, em tese, a liberdade de expressão em razão da denominada liberdade de cátedra, inerente à atividade educacional e objeto de especial atenção pelo constituinte de 88. Nessa conjuntura, ponderam os responsáveis da plataforma a sua peculiar dificuldade em moderar o conteúdo nela veiculado de modo direto, ou seja, sem o envolvimento da e a atuação da comunidade de autores coletivamente organizada, diz

a organização. E este é justamente o grande desafio que se apresenta aos provedores de aplicações que hospedam conteúdo criado por terceiros. Determinar o momento em que a análise de conteúdo deve ser feita e analisar se o conteúdo publicado viola ou não os direitos de outrem. Esse desafio é ainda maior para a Wikimdia, na Wikipedia, notadamente por ela adotar um sistema de autorregulação na produção do conteúdo disponibilizado, fundado na atuação dos colaboradores que integram a sua comunidade. Esse modelo de sucesso, diz ela, poderia ser inviabilizado com a atribuição da responsabilidade indiscriminada ao provedor de aplicação pelo

conteúdo de terceiros. Novamente se reforça. A Wikmídia é uma fundação sem fins lucrativos e não pode ela com a Wikimia impor aos seus editores e administradores a responsabilidade pela moderação, mas ao mesmo tempo alterar a autorregulação prejudicaria o modelo de operações atualmente adotado. Diz ela que se a inconstitucionalidade do artigo 19 do marco civil for declarada, a remoção ou não do conteúdo alegadamente lícito passaria a ser uma decisão centralizada nas mãos da própria Wikimdia, que teria que decidir com base em informações unilaterais fornecidas extrajudicialmente pelas partes, independentemente da matéria e da complexidade do tema. mas

principalmente alijando toda a comunidade da Wikipedia da tarefa de garantir a qualidade das informações disponibilizadas e a sua aderência às regras estipuladas. Ao forçar a centralização e transferência da tomada de decisões, estar se ia retirando a prerrogativa dos membros locais e experientes da comunidade exercerem essa retirada. Ocorre que são os membros das comunidades, os mais das comunidades locais os mais capazes e eficientes para corrigir eventuais erros, pois são fluentes no assunto, no idioma e nos costumes locais. Além de não ter ingerência sobre o conteúdo, a Wikedia não tem recursos financeiros para a contratação de uma

equipe especializada com experiência em todos os 322 idiomas diferentes dos conteúdos cobertos. Inevitavelmente, a qualidade da informação e em outros projetos de conhecimento livre ficaria comprometida. A declaração, diz ela, dessa inconstitucionalidade feriria de morte o modelo de produção e autorregulação descentralizada dos artigos disponibilizados pela pelo grupo. Note-se que no Brasil a Wikipedia possui atualmente 717 autorevisores, nove burocratas, 15 eliminadores e diversos administradores. Com uma equipe global de aproximadamente 700 funcionários no total, a empresa certamente não poderia dedicar uma equipe tão robusta e eficiente para o controle e moderação do conteúdo em português. Portanto, concluindo esse

tópico, com base nessa conjuntura de fatores, ratifico a maior adequação da alternativa descoordinada pelo estímulo às práticas do compliance, capazes de fornecer soluções procedimentais consideravelmente menos impos responsabilização de empresas sobre conteúdos postados em redes sociais, aplicativos de mensagens e objetivamente seus algoritmos. Passo assim a abordar o ponto de modo mais específico, concernente as obrigações procedimentais ao devido processo para a remoção do conteúdo e do dever de transparência na moderação. Ao estipular obrigações procedimentais para a própria plataforma, trabalha-se com esteio na previsão contida no artigo terº, inciso 6 do Marco Civil, segundo o qual a disciplina

da rede mundial de computadores no Brasil deve ter como princípio a responsabilização dos agentes de acordo com as suas atividades nos termos da lei. Isso porque, por óbvio, tais imposições recaem diretamente sobre a plataforma digital. O cenário é substancialmente distinto daquele verificado na tentativa de responsabilização das aplicações por atos de terceiro, frisando mais uma vez que nessa situação deixa-se de responsabilizar a plataforma pelo teor conteúdo expresso pelo terceiro ou pela não remoção em determinado caso concreto, descortinando-se a possibilidade de responsabilização por falha na observância da obrigação própria de natureza procedimental. Em reforço, vale realçar que

a abordagem proposta guarda maior consonância com as tentativas de promover a autorresponsabilidade das pessoas jurídicas a partir do sancionamento de condutas que lhes possam ser diretamente imputadas. Nessa conjuntura, as atenções se voltam ao adequado esquadrinhamento dos termos e das condições de uso estipulados pelas plataformas. A rigor, ao estabelecerem as regras da comunidade, esses termos se consubstanciam no próprio plano de integridade da empresa. Em razão dessa condição, a partir da adoção de um modelo de autorregulação regulada, tais termos e condições de uso devem ser submetidos ao crio, supervisão e constante monitoramento das instâncias reguladoras. Em contrapartida,

cabe a essas autoridades sinalizar para que os regulados, quanto aos seus objetos específicos de preocupação, a fim de que ao elaborarem as suas próprias normas, as empresas possam contemplar de modo mais adequado às suas peculiaridades tais pontos de atenção indicados. Nesse sentido, recordo ensinamento do professor Márcio Iório, segundo o qual a autorregulação regulada ou autorregulação constrangida com constrangimento estatal ou enforced self regulation é um termo, é um meio termo entre a estratégia de autorregulação propriamente dita e a do comando e controle. Ministro André, mais uma pergunta, por favor. Eh, sobre autorregulação regulada, Vossa Excelência fala

na submissão a uma instância reguladora. No caso brasileiro, qual seria na ótica de Vossa Excelência? Eu vou no final é que eu vou vou tentar. OK. Agradeço. Não necessariamente propor, mas talvez dá um direcionamento de qual instância. É, sim, entendi. Obrigado. Em que a empresa é obrigada a produzir um conjunto de normas que cubram uma determinada área de produção, área de preocupação do regulador, legenda ministro André Mendas a ele para ratificação, com possibilidade de que sejam reenviadas ao regulado para aprimoramentos. Após ratificação, suas eventuais violações são punidas com atuação como atuação direta do regulador com

atuação direta do regulador. O diferencial dessa estratégia para o de comando e controle está em que o regulado passa a ser regido por um regime jurídico específico, sem que o Estado seja obrigado a idealizar normas com pretensão de aplicação universal desconectadas das reais condições. Define responsabilização de empresas sobre conteúdos postados em redes sociais e aplicativos de mensagens. necessidade da criação de uma estrutura específica dotada de autonomia e suficiência de recursos operacionais, de pessoal, financeiro, logísticos, etc., revestida da autoridade para implementar e supervisionar o cumprimento do plano de conformidade da empresa. Quanto ao ponto, a doutrina

observa o seguinte: Além da característica da existência de normas escritas privadamente e ratificadas publicamente, outro elemento próprio, a autorregulação regulada ou autorregulação com constrangimento estatal da teoria responsiva, está em se exigir da empresa que internalize custos de fiscalização por intermédio da criação de departamento ou grupo de conformidade interno à empresa, com o objetivo de monitorar a observância das normas e recomendar ações disciplinares contra os infratores. O fracasso em reverter a situação de desconformidade por parte da empresa, de corrigir a atuação desconforme ou de implementar recomendações de punições disciplinares, resulta em comunicação compulsória por parte da

diretoria do compliance, a agência reguladora. Nesse diapasão, exige-se da instância regulatória que somente ratifique as regras de conduta empresarial que satisfaçam as políticas públicas governamentais. garanta que o departamento ou grupo de compliance da empresa tem independência na estrutura hierárquica societária. Ainda realize a averiguação dos livros de registro da atuação desse grupo, implemente fiscalizações pontuais e abra processos administrativos contra as empresas que tenham subvertido a atuação do grupo de compliance. Partindo dessa compreensão, segundo a qual se deve preservar e fortalecer o ecossistema adequado à adoção de mecanismos de autorregulação regulada por meio do estabelecimento de obrigações

procedimentais, passa-se a enfocar de modo mais pormenorizado, as alternativas regulatórias que poderiam ser empregadas pelo legislador, a fim de se estimular à adoção do de comportamentos por parte das plataformas digitais, aptos a lhes conferir maior integridade. Principio rememorando o parâmetro do novo marco legal alemão, que de acordo com Rony Vzofilização das plataformas digitais simplesmente por não remover conteúdos livremente. Ao invés disso, a plataforma se torna responsável na medida em que não adota procedimentos para notificação, remoção de conteúdo e direito de defesa. Ainda, segundo o mesmo articulista, a legislação alemã estabelece um um rol taxativo dos

conteúdos considerados manifestamente ilegal, a exemplo do que faz o artigo 21 do marco civil, os quais devem ser removidos em até 24 horas após a notificação. Trata-se de ilícitos tipicamente penalmente tipificados, como exemplo racismo. a possibilidade de remoção de outros conteúdos classificados como ilegais em até 7 dias após a devida notificação. Três, a possibilidade de adilação do prazo de 7 dias em caso de dúvidas, podendo nessas situação, podendo-se nessas situações submeter o caso a um órgão específico no sistema de autorregulação regulada. Quatro, a obrigação de elaboração de relatórios periódicos sobre o tratamento dos pedidos de

moderação recebidos. Cinco, a necessidade da criação de um órgão de autorregulação regulada, o qual deve ser chancelado lá no caso pelo Ministério da Justiça Alemão, que avaliará sua independência e experiência dos examinadores. Ainda no âmbito da experiência europeia, colhe-se a necessidade de publicidade e transparência quanto aos critérios e procedimentos adotados para a remoção do conteúdo, evitando-se práticas como o shadow bunny, segundo a qual se pode restringir o alcance de um usuário sem que ele perceba. O objetivo dessa prática é prejudicar o desempenho das publicações e da conta, sem informar o usuário sobre o bloqueio. Nessa

direção, rememoram-se os dados apresentados acima, disponibilizados pelas próprias plataformas, que indicam a os motivos pelos quais determinado conteúdo foi removido. dois, se a remoção ocorreu de forma automatizada, três, se dependeu de notificação. E quatro, se essa notificação foi judicial ou extrajudicial. Em outra vertente, uma experiência do dever de acontability, as plataformas devem ser capazes de identificar se determinado conteúdo foi objeto de impulsionamento em caso positivo, se essa amplificação foi patrocinada ou partiu de iniciativa direta da própria plataforma na tentativa de fornecer informações adequadas ao usuário, buscando uma maior conscientização As plataformas também devem rotular conteúdos

considerados sensíveis, de veracidade duvidosa, produzidos por inteligência artificial, classificados como propaganda comercial, etc. Quanto ao impacto causado pela aposição de rótulos nos conteúdos, citam-se os dados extraídos do relatório apresentado pela meta acerca da atuação do Facebook e do Instagram. durante o primeiro trimestre que antecedeu as eleições municipais de 2024 no Brasil. Abro aspas. Em média, 57% das pessoas que começaram a compartilhar conteúdos verificados não concluíram essa ação após receberem um aviso da meta de que os conteúdos haviam sido verificados, demonstrando o impacto dos esforços de rotulagem na redução da disseminação de de informações falsas em

ambas as plataformas. As plataformas devem atentar ainda para a possibilidade de se limitar o alcance de determinadas publicações mediante checagem de fatos e calibragem de algoritmos. Dois, coibir a utilização de contas não autênticas ou automatizadas para práticas nocivas. ainda impedir a monetização ou imposionamento de contas utilizadas para fins de prática de condutas e listas. também promover varreduras para a eliminação de contas não autênticas ou botes empregados para prática para práticas ilícitas, bem como adotar medidas técnicas para detecção e combate às fraudes e estabelecer protocolos para verificação de autenticidade das contas e do conteúdo nos casos

em que receba a denúncia. Senhor presidente, mais 5 minutos eu termino esse tópico. Tá ótimo. E fazemos o intervalo. Tá bem assim. Enfoca-se, com especial realce a obrigação procedimental de criação de um canal adequado para o recebimento e tratamento de denúncias, anônimas ou não, realizadas pelos próprios usuários, reportando condutas que estejam em desconformidade com a lei ou com os termos de e condições de uso estipulados. A doutrina do compliance identifica na rigidez desse mecanismo de comunicação de desconformidades, o slow blowing, um dos pontos centrais do êxito da política de integridade da empresa. Por fim, nos

casos em que admitida a remoção de conteúdos sem ordem judicial, é preciso assegurar a observância de protocolos que garantam um procedimento devido capaz de permitir ao usuário o acesso às motivações, à decisão que ensejou a exclusão, que essa exclusão seja feita preferencialmente por humano, uso excepcional de robôs e inteligência artificial no comando da exclusão. e que se possa recorrer da decisão da moderação e ainda se obtestiva e adequada por parte da plataforma, sem prejuízo de outros procedimentos que resguardem os direitos dos usuários. Nessa perspectiva, de um lado, entre responsabilizar as plataformas por ato de terceiro

e de outro, se estabelecer um regime, ministros definilização de empresas sobre conteúdos postados em redes sociais e aplicativos de mensagens. É mirar na fixação de padrões comportamentais voltados à atuação da própria plataforma ou ao invés dos usuários. responsabilizando-a pelo descumprimento de um dever de boa governança empresarial que lhe tenha sido diretamente imputado. Como acima demonstrado, ao seguir esse caminho, o leque de opções que se abre a vasto, capaz de abranger temas como mecanismos para maior transparência na moderação do conteúdo, procedimentos adequados para a sua, só que é para finalizando, procedimentos adequados. para a sua remoção

e protocolos de atuação capazes de robustecer a integridade no ambiente digital de forma geral. Assim, eu finalizo, senhor presidente, esse tópico, me colocando à disposição de Vossa Excelência. Muito bem. Eh, voltaremos então. Vossa Excelência acredita que consiga acabar o voto hoje? Acredito que sim, com um esforço. Eu acredito que sim, presidente. Muito bem. Eh, seria ótimo, se possível. Então, vou suspender a sessão e retomaremos após o intervalo. [Música] Tá. Obrigado. Declaro reaberta esta sessão extraordinária. Com a palavra, ministro Luis Carlos recursos extraordinários 1.037396 e 1.057 258. Primeiro da relatoria do eminente ministro Dias. Legenda, ministro

Edson Faquim, vice-presidente do STF. Senhor presidente, ministro Luís Roberto Barroso, encontra-se concluindo um compromisso portanto retomando a sessão e para a continuidade do voto em ambos os recursos extraordinários, com a palavra a sua excelência o ministro André Menonça. Agradeço, senhor presidente. Eh, certamente acho que teremos tempo de encerrar o voto hoje. E nesse momento passo a um tópico concernente uma distinção que reputo essencialmente necessária, que os casos responsabilização das plataformas não necessariamente significam casos de não responsabilização. Nesse sentido, em estudo elaborado para o tema 987, o professor Gustavo Binenembói enfoca especial atenção ao aspecto sempre

lembrado por aqueles que defendem a necessidade de um controle mais incisivo sobre as redes sociais. Diz ele, que embora a liberdade de expressão possua posição de destaque no sistema constitucional, as situações concretas de abuso dessa liberdade devem ser e efetivamente são passíveis de responsabilização a posterior, inclusive como forma de se evitar que o exercício das liberdades discursivas por alguns signifique a violação de direitos fundamentais de outros. O renomado professor fundamenta assertiva no reconhecimento pela constituição do direito à indenização, também na ausência de previsão expressa de qualquer imunidade constitucional direcionada às plataformas e na jurisprudência desta

Suprema Corte quanto à possibilidade de condenação reparatória nesses casos. Ocorre que com todas as vênas, o texto normativo do artigo 19, nele não há dele não há como se extrair uma norma de imunidade material absoluta. A toda evidência, o legislador concebeu o comando legal que se volta a destinatário específico, os provedores de aplicações de internet. Isso porque figurariam como meros intermediadores entre aquele que proferiu o discurso, os seus destinatários e aqueles eventualmente atingidos pela manifestação. Por óbvio, a ausência de responsabilização desse específico intermediário não afasta a responsabilidade ou a possibilidade de responsabilização do efetivo emissor

da manifestação eventualmente violadora de direito fundamental de titularidade de terceiras pessoas. O caso concreto subjacente ao tema 987 é exemplificativo do ponto que se busca aclarar. Veja-se que ao tempo em que se afastou a possibilidade de responsabilização da rede social no âmbito da qual perpetrada ofensa, o magistrado determinou a identificação específica dos dados particulares dos indivíduos envolvidos, possibilitando que a vítima pudesse buscar a indenização que perseguia de quem era o diretamente responsável. Por outro lado, ao reformar essa decisão, a turma recursal não apenas reconheceu a possibilidade de responsabilizar a plataforma social, como igualmente suprimiu a

obrigação de identificação dos indivíduos que efetivamente proferiram as manifestações ilistas. Nessa perspectiva, veja-se que não houve compartilhamento, mas assunção de responsabilidade, transferindo-a do real ofensor para o canal no qual se veiculou a ofensa. Portanto, a distinção que hora se busca sublinhar não é óbvia ou desimportante, devendo ser objeto da devida atenção. O artigo 19 não erige um sistema de imunidade material absoluta, tornando impassíveis de ulterior responsabilização as manifestações veiculadas na mídia digital. Em verdade, o que o dispositivo prevê é a ratificação da regra geral prevista no Código Civil, segundo a qual a solidariedade não se

presume, devendo estar expressamente prevista em lei. No presente caso, o legislador optou por expressamente afastá-la em lei. Ao ofendido, restará buscar a indenização pelo direito violado, diretamente em face do real ofensor. em sentido diametralmente oposto. Frise-se, a decisão judicial sob exame sequer adotou a lógica de solidariedade, promovendo na realidade legenda recurso extraordinário 1037396 e 10 57258. STF decide sobre responsabilidade de aplicativos e redes sociais. a responsabilização da plataforma não possa estar configurada. Como exemplo mais evidente, rememora-se a situação dos chamados perfis robôs. No caso desses perfis, não se afigura presente sequer o bem jurídico que

o dispositivo em análise visa expressamente tutelar, a liberdade de expressão. Por isso, não há que se cogitar da incidência da regra na espécie. Ademais, trata-se de situação de falha na prestação do serviço integralmente atribuída à plataforma, que falha na observância do dever que espontaneamente assumiu a autoimposição. Acerca da possibilidade de responsabilização do intermediário, recordam-se as conclusões alçadas pelo relator especial das Nações Unidas sobre a promoção da proteção do direito à liberdade de opinião e expressão. Frank Lahu, no informe AHRC 1727. O texto está em espanhol. Eu farei uma tradução livre nesse contexto. Os intermediários contribuem

de maneira destacada a que os usuários da internet desfrutem do seu direito à liberdade de expressão e tenham acesso à informação. Em vista da influência sem precedentes que exercem esses intermediários na maneira e no conteúdo do que circula pela internet, os estados, as nações têm procurado, cada vez com mais empenho, controlá-los e considerá-los juridicamente responsáveis se não impedem o acesso ao conteúdo que se considera ilegal. O relator especial põe de relevo, prossegue o informe que as medidas de censura nunca devem delegar-se a entidades privadas e que não deve considerar-se que os intermediários responsáveis por negar-se

a adotar medidas que vulnerem os direitos humanos das pessoas. também toda solicitação dirigida a intermediários para fins de se impedir o acesso a determinados conteúdos ou revelar informação privada com fins rigorosamente limitados, como, por exemplo, de administração da justiça penal, deverá ir precedida de uma ordem ditada por um tribunal ou um órgão competente que seja independente de qualquer qualquer influência indevida de tipo político, comercial ou outro tipo. ainda que os estados sejam os principais garantidores dos direitos humanos. O relator especial ressalta que as empresas também são responsáveis por respeitar esses direitos, o que significa que

devem atuar com a devida diligência para não vulnerar os direitos das pessoas. Assim, pois, o relator especial recomenda aos intermediários que toda restrição desses direitos seja precedida de uma intervenção judicial, seja transparente ante o usuário e quando proceda diante do público em geral, com respeito às medidas adotadas. advertir, por adiantado, aos usuários na medida do possível antes de aplicar as medidas restritivas e ainda devem reduzir estritamente ao mínimo os efeitos das restrições impostas aos conteúdos em questão. Por último, os usuários afetados devem dispor de reparações eficazes, incluída a possibilidade de recorrer mediante os procedimentos estabelecidos

pelo intermediário, pela empresa ou por uma ordem judicial competente. O relator especial elogia o trabalho levado a cabo pelas organizações e pessoas para determinar a situação mundial de dos obstáculos na linha de proteção ao direito à liberdade de expressão. Encoragem, em particular as empresas a revelar os detalhes sobre as solicitações de retirada de conteúdos e a acessibilidade aos sítios da web. Ademais, recomenda as empresas que estabeleçam condições de serviço claras e inequívocas, de conformidade com as normas e os princípios internacionais na matéria de direitos humanos e que examinem de forma permanente a repercussão dos seus

serviços e tecnologias nos direitos dos usuários à liberdade de expressão, assim como em na medida dos possíveis obstáculos aparecerem derivados do uso indevido. O relator considera que essa transparência contribuirá para promover a prestação de contas e o respeito aos direitos humanos. Nesse sentido, aponta a Convenção Interamericana dos Direitos Humanos, que em seu artigo 13 dispõe que toda pessoa tem direito à liberdade de pensamento e de expressão, e que esse direito compreende a liberdade de buscar, receber, difundir informações e ideias de toda a natureza, sem consideração de fronteiras verbalmente, fronteiras verbais ou por escrito ou, em

outra forma, impressa. ou artística, ou ainda por qualquer outro processo de sua escolha. Diz o item dois do dispositivo que o exercício do direito previsto no inciso precedente não pode estar sujeito à censura prévia, mas a responsabilidades ulteriores, as quais devem, diz o texto, ser expressamente fixadas em lei. mesma direção aponta a chamada declaração de manilha firmada por 111 organizações de proteção aos direitos humanos. Dentre os princípios elencados, destaco os seguintes que os intermediários nunca devem ser estritamente responsabilizados por hospedar conteúdos ilegais de terceiros, nem devem ser obrigados a monitorar conteúdos de maneira proativa, como

parte de um regime de responsabilidade de intermediários e que os intermediários também não devem ser obrigados a restringir os conteúdos. A menos que uma ordem determinando que o material em questão é ilegal, tenha sido emitida por uma autoridade judicial independente e imparcial. Ainda no âmbito das Nações Unidas, menciona-se documento mais recente de relatoria especial sobre liberdade de expressão, elaborado para o Conselho de Direitos Humanos, no qual mantém a recomendação segundo a qual, abro aspas, os estados apenas devem buscar restringir conteúdo, segundo uma ordem emanada por uma autoridade judicial independente e imparcial. e devido e de

acordo com o devido processo legal e padrões de legalidade, necessidade e legitimidade. A recomendação orienta ainda aos estados que devem eh evitar delegar a responsabilidade para empresas de adjudicar conteúdo ou o que faria prevalecer o juízo das empresas sobre os valores dos direitos humanos. em âmbito jurisprudencial. Aqui eu menciono um precedente anterior eh do STJ, apenas fazer referência ao número 1.193764 de relatoria da ministra Nancy Andrig, que trata também dessa questão pertinente à possível retirada de de conteúdos e responsabilização da ID decorrentes. Por essa ótica, em plena consonância com o valor da liberdade de expressão

e a necessária relação de causalidade exigida para que se promova a responsabilização de alguém, ainda que de modo objetivo, às plataformas digitais impõe-se o dever de identificação do usuário efetivamente perpetrador da ofensa a direito de titularidade de terceiro. Caso fale no cumprimento desse dever, deixando de agir com a devida diligência, dá ensejo a sua ulterior responsabilização, em análise, sempre circunstanciada pelas peculiaridades inerentes ao caso. Apenas a título de esclarecimento, registra-se que após a entrada em vigor do marco civil da internet, o STJ manteve tem mantido estável a sua jurisprudência nesse sentido, promoveu-se a atualização apenas

quanto ao momento a partir da qual a responsabilização dos provedores seria possível naquela última hipótese, de modo a assimilar o marco temporal previsto no marco civil da internet. Concernente agora o tópico A impossibilidade de remoção de perfis, contas e páginas pessoais, que não é a manifestação, são os perfis. No que concerne a remoção de perfis, o informe AHRC 1727, apresentado pelo relator especial das Nações Unidas sobre a promoção e proteção do direito à liberdade de opinião e de expressão, Frank Lahui, chega à seguinte conclusão: Ainda que as medidas de bloqueio, mas é a última e

filtragem, neguem o acesso aos usuários a determinados conteúdos da internet. Os estados também têm adotado medidas para interromper por completo o acesso à internet. O relator especial considera que a interrupção ao acesso do acesso aos usuários à internet, seja qual seja, a justificativa deduzida, inclusive por motivos de violação da legislação em matéria de direitos de propriedade intelectual, é uma medida desproporcional e, em consequência, uma violação ao artigo 19, parágrafo 3, do Pacto Internacional de Direito civis e políticos. O dispositivo em referência dispõe o seguinte, que ninguém poderá um ser molestado por suas opiniões, que toda

pessoa terá direito à liberdade de expressão e três, que o exercício do direito previsto no parágrafo 2º à liberdade de expressão, implicará deveres e responsabilidades especiais, consequentemente, poderá estar sujeito a certas restrições que devem, entretanto, estar previstas em lei, especificamente em relação à possibilidade de remoção de perfis, de contas ou páginas pessoais, porque vinculadas a indivíduos particularmente particularmente identificados, ensejando por meio de sua supressão a exclusão de um determinado espaço público digital. interditando de maneira prévia a sua faculdade de se manifestar, independentemente de eventual responsabilidade posterior no caso de ofensas verificadas e devidamente apuradas, compreendo

que a medida viola uma série de direitos e garantias fundamentais do cidadão. Como já tive oportunidade de afirmar na no julgamento da ADI 7261, da relatoria do ministro Luís Edson Faquim, julgada em 2023, penso que com base na premissa de que os direitos offline devem ser igualmente assegurados online, a possibilidade de suspensão definitiva ou temporária de perfis, contas ou canais mantidos em mídias sociais, sem previsão em qualquer diploma normativo editado pelo poder legislativo, afigura-se de modo inconstitucional. Isso porque os denominados direitos digitais dependem, como condição sinequanon, da preservação de uma existência online. Nesse particular, não

é demais rememorar que na sociedade contemporânea, o perfil, a conta ou o canal mantido em mídia social caracterizam como verdadeiro avatar do indivíduo. Em última análise, portanto, a manutenção de um perfil em aplicativo virtual pode ser equiparável a salvaguarda de uma personalidade digital. Ilustrativa no ponto, a compreensão desenvolvida desde o direito romano acerca da gênese da palavra persona, inicialmente vinculada ao universo de representação teatral, relacionada à ideia de uma personagem. e paulatinamente reestruturada até a noção de personalidade jurídica. Daí, por que se asseverar com esteio no guia interpretativo proposto que a preservação no plano virtual

dos direitos assegurados no mundo físico ou offline tem como pressuposto a manutenção de um perfil, conta ou canal criado em mídia social. progredindo no raciocínio, especificamente em direção ao escopo da norma em questão, me parece que a exemplo do que se passa no mundo fenomênico, o combate ao abuso do direito de se expressar, combate à desinformação, ao discurso de ódio não ensejam a exclusão do indivíduo do tecido social. Todo o atuar estatal antes se direciona a coibir o ilícito a partir da responsabilização a posterior, assegurando o direito ao devido processo legal ao infrator. Nessa ordem

de ideias, a par das necessárias inescapáveis adaptações a as idiossincrasias conformadoras de cada universo, penso que se deva, o quanto possível preservar a lógica, tal como no mundo real, de buscar repelir o comportamento desviante, no caso, a opinião ou a manifestação. Não, contudo, a própria pessoa do infrator. Dito de outro modo, dado aqui tratarmos de direito sancionador vale a máxima, segundo a qual, no âmbito do direito de punir do IUS puniende estatal, julga-se principalmente a conduta e não a pessoa do acusado. Sob tal enfoque, em última rácio, a supressão de perfis caracteriza hipótese de censura

prévia. Ao suspender o perfil de determinado usuário ou acesso aos serviços de toda uma plataforma digital em razão de produção sistemática de desinformação, por exemplo, busca-se impedir a veiculação de novas manifestações ante o risco de se consubstanciarem em novas transgressões ao ordenamento jurídico. dito de forma direta, para evitar nova manifestação que possa configurar um ilícito, tole-se a possibilidade de qualquer manifestação. Por tais razões, para além da impossibilidade de se responsabilizar a plataforma por discurso proferido por terceiros, notadamente nos casos em que não se consiga identificar violação direta aos seus termos de uso e condição, ou

a legislação de regência, ensejando situação de dúvida interpretativa. No caso dos perfis, entendo que a supressão de maneira autônoma somente pode ocorrer nos casos em que se tratar de perfil robô, de perfis comprovadamente falsos ou de perfis que a priori já estejam estabelecidos para a prática criminosa. A partir dessa colocação, volto ao velho papel para consignar um tópico bem curto, mas também importante sobre a legitimidade das plataformas para a defesa da liberdade de expressão e do acesso à informação. dos usuários. Como último aspecto a analisar, entendo necessário apontar que a fundamentação acima desenvolvida, sobretudo ao

reconhecer a melhor adequação da abordagem autorregulatória lastreada na eficácia horizontal dos direitos humanos, enseja o reconhecimento do direito das plataformas de exigirem em juízo a preservação da rigidez do ambiente informacional. por elas próprio, próprias arquitetado e gerenciado, o que inclui indubitavelmente a legitimidade processual para impugnar em nome próprio decisões de qualquer autoridade estatal que determinem a remoção de conteúdo específico. Isso porque, como reconhecido pela Corte Interamericana de Direitos Humanos, no caso Herrer Olhoa versus Costa Rica, do direito à liberdade de expressão, encartado no já citado artigo 13 do Pacto de São José da Costa Rica,

extraem-se duas dimensões, aquela mais conhecida de maneira individual e para além dela a salvaguarda de um direito de feição social, de reconhecimento. do direito à informação. Por tudo quanto exposto, não há como negar que, apesar das suas peculiaridades, as plataformas digitais se tornaram veículos de comunicação social, o que atrai as limitações à atual atuação do legislador ordinário, conforme previsto no artigo 220 da Constituição, que prevê a não possibilidade de qualquer forma de restrição a a veiculação da manifestação do pensamento, a criação e a expressão e a informação. Também no parágrafo primeiro, que nenhuma lei poderá

conter dispositivo que possa constituir embaraço à plena liberdade de informação jornalística em qualquer veículo de comunicação social. E parágrafo 2º que veda toda e qualquer forma de de censura de natureza política, ideológica e artística. Por consequência, as plataformas digitais têm legitimidade para pleitear, em nome próprio, a tutela jurisdicional necessária à preservação da livre manifestação dos seus usuários, garantindo-lhes o acesso à informação da forma mais abrangente, mantendo ainda a aplicação das regras da comunidade por elas mesmas estabelecidas, as quais devem sempre observar. os limites impostos pela lei e pela Constituição. Como decorrência dessa reconhecida legitimidade, impõe-se

a garantia em favor das plataformas responsáveis pelo cumprimento de determinações judiciais sobre a remoção de conteúdo específico, de que lhe seja franqueado o acesso à integralidade da decisão judicial a ser cumprida. Assim, em considerações finais, inauguro uma quarta posição em relação comparativa aos eminentes relatores e ao ministro presidente que já se pronunciaram. Para tanto, consigno em primeiro lugar que é a tentativa de regular o funcionamento da internet a rigor demanda alta especialização técnica e constante atualização e capacidade de adaptação, sob pena de rápida obsolescência dos regramentos estabelecidos. Em segundo lugar, como reconhecido a exaustão por

qualquer dos lados do debate público sobre o assunto, a internet virou um local que é, na maioria das vezes, muito mais frequentado do que qualquer espaço físico, de modo que às vezes gastamos mais tempo da nossa vida online do que na nossa realidade offline. E isso faz com que esse ambiente digital seja cada vez mais o locus preferencial da construção das nossas identidades públicas, da nossa personalidade a partir daquilo que escolhemos expor ao conhecimento dos nossos semelhantes. Nessa perspectiva, é preciso atentar que a tentativa de promover, por decisão judicial, a complexa regulação das redes cina

na regulamentação dos limites ao livre desenvolvimento da personalidade. Terceiro lugar, sobreelva-se a primazia que possuem os poderes eleitos para primeiro disciplinarem a matéria. Além de haver um evidente desacordo moral razoável sobre o assunto, põe-se em discussão os limites da liberdade de expressão, que é a viga mestra sobre a qual se alicerçam a ideia da democracia e do próprio estado democrático, bem como a própria construção da personalidade humana. Nessa perspectiva, a tarefa de regular as redes sociais ou ainda o espaço público atual deve ser feita pelos agentes que detém a outorga direta pelo povo para limitar

suas ações. Ninguém melhor do que os dirigentes investidos de legitimidade democrática direta para estabelecer as regras de utilização do agora do nosso tempo, dispondo sobre os limites de uso do único instrumento verdadeiramente essencial a qualquer regime democrático. A garantia em favor de todos de se expressar livremente, pouco importando se o fazem online ou offline. À luz dessas premissas, eu passo a consideração sobre o artigo 19 do marco civil da internet. Nesse ponto, à luz do que tudo quanto anteriormente direcionado, mencionado, identifico que o dispositivo impede a remoção de conteúdo de modo discricionário por parte das

empresas. Não há vedação ao estabelecimento, porém, de deveres procedimentais, aptos a garantir a integridade do ambiente digital, o que inclui a fiel observância das as disposições legais porventura aplicáveis. A rigor, a possibilidade do estabelecimento de deveres procedimentais é extraída da gama de princípios elencadas no próprio artigo terº do marco civil, como, por exemplo, o inciso 5, que prevê como princípio a preservação da estabilidade da segurança e da funcionalidade da rede por meio de medidas técnicas compatíveis com padrões internacionais e pelo estímulo ao uso de boas práticas. Nesse diapazão, no que concerne a remoção de conteúdo,

entendo que à luz das balizas constitucionalmente estabelecidas, o dispositivo é, em tese constitucional. Tal conclusão é corroborada sobretudo quando se analisa a questão de forma sistêmica em conjunto com as demais disposições legais, portanto, de igual hierarquia normativa, que já excepcionam da exigência de prévia decisão judicial um, os casos previstos no artigo 21 do Marco Civil da Internet, dois, as hipóteses em que se esteja em cheque direitos relativos à criança e ao adolescente, conforme previsões, inclusive de tipos penais no Estatuto da Criança e do Adolescente e mais recentemente a possibilidade de propaganda abusiva em relação ao

mercado de apostas, conforme dispõe o artigo 16, parágrafo 2º a 5º da Lei das Bets. A título ilustrativo, esses dispositivos prevêm a possibilidade de exclusão das divulgações e das campanhas irregulares após a notificação do Ministério da Fazenda. Prevê ainda a possibilidade de bloqueio dos sítios eletrônicos ou a exclusão dos aplicativos após a notificação do Ministério da Fazenda. prevê a possibilidade de exclusão no âmbito e nos limites técnicos dos seus serviços de aplicações após notificação do mesmo ministério e prevê que a notificação prevista nesses parágrafos deverá conter sob pena de nulidade identificação clara e específica do

conteúdo apontado como infringente. Palante da bastidão do universo de serviços e aplicações de internet abarcadas pelo artigo 19 do Marco Civil, entendo necessário conferir interpretação conforme a Constituição, ao aludido dispositivo, de modo a fixar as seguintes teses. Serviços de mensageria privada não podem ser equiparados à mídia social. Em relação a tais aplicações de internet, prevalece a proteção à intimidade, vida privada, sigilo das comunicações e proteção de dados. Portanto, não há que se falar em dever de monitoramento ou autorregulação na dois, é inconstitucional a remoção ou suspensão de perfis de usuários, exceto um, quando comprovadamente falsos,

seja porque relacionados à pessoa que efetivamente existe, mas que ao saber da falsidade denuncia com a devida da comprovação que não utiliza, não utiliza ou não criou aquele perfil. também falsos, porque relacionados à pessoa que sequer existe fora do universo digital, os chamados perfis robôs. Também só se admitiria a remoção de perfis quando o próprio perfil tem como objeto direto a prática de de atividade em si criminosa. Aqui faço apenas uma distinção. E no na avaliação de casos de corrupção, a a discussão doutrinária sobre a o quantitativo que deve ser objeto do perdimento dos bens,

ele passa por uma teoria que permite o desconto dos custos lícitos diretos havidos na atividade. Simplifico, se uma empresa é aberta para eh traficar drogas, a atividade dela em si é ilícita. Então, nesse caso, se admitiria o o bloqueio, o cancelamento do perfil. Mas se nós temos como é a situação da corrupção, onde a atividade em si a lista, o fornecimento de equipamentos, de materiais, construção de obras, mas há um ilícito na prática de uma atividade que em si era lícita. Eu permito que o infrator desconte os custos lícitos. se ele construiu a obra, por

exemplo, que ele efetue o desconto da do material da obra de pagamento de funcionários. Então eu dou um tratamento diferenciado. Aqui eu parto da mesma essência. Se o perfil tem como objeto o ilícito em si, eu elimino. Se o objeto do perfil em si não é a atividade ilícita, mas se pratica um ilícito no âmbito da manifestação, eu não autorizo, eu considero inconstitucional a suspensão ou remoção de perfis. Em terceiro lugar, as plataformas em geral, tais como mecanismos de busca ou marketplaces, tomover a identificação do usuário violador do direito de terceiro. Observado o cumprimento da

referida exigência, o particular diretamente responsável pela conduta ofensiva é quem deve ser efetivamente responsabilizado via ação judicial contra si promovida. Quatro. nos casos em que admitida a remoção de conteúdo sem ordem judicial, seja por expressa determinação legal ou conforme previsto nos termos ou condições de uso das plataformas, é preciso assegurar a observância de protocolos que assegurem um procedimento devido capaz de garantir a a possibilidade do usuário um ter acesso as motivações da decisão que ensejou a exclusão do conteúdo. Dois, que essa exclusão seja feita preferencialmente por ser humano, admitindo-se o uso excepcional de robôs e

inteligência artificial no comando da exclusão. Três, que se possa recorrer da decisão de moderação. Quatro, que se obtenha resposta tempestiva e adequada da plataforma. dentre outros aspectos inerentes aos princípios processuais fundamentais. Quinto item da tese aqui, a responsabilidade por atos de terceiros. Excetuados os casos expressamente autorizados em lei, as plataformas digitais não podem ser responsabilizadas pela ausência de remoção de conteúdo veiculado por terceiro. que eu incluo dentre desses conteúdos que já estão autorizados em lei, situações que envolvam interesses de crianças e adolescentes com base no EC e vários dispositivos a eles relacionados, como pornografia infantil,

qualquer coisa desse dessa natureza, as questões das bets, como já fiz referência, e a própria disposição do artigo 21 do marco civil da internet. Então, excetuados os casos autorizados em lei, as plataformas digitais não podem ser responsabilizadas diretamente pela ausência da remoção de conteúdo veiculado por terceiro, ainda que posteriormente venha o judiciário a determinar a a necessidade dessa remoção, aí incluídos os ilícitos relacionados à manifestação de opinião ou de pensamento. Ou seja, não é possível responsabilizar, à luz do que o tenho defendido, a responsabilidade direta da plataforma sem prévia determinação judicial, quando se está de

diante de ilícito relacionado à manifestação da opinião ou do pensamento. Agora vou falar da responsabilidade própria das plataformas. Ministro André, me permitiria uma pequena parte? Eh, se eu entendi bem, Vossa Excelência, em um momento do seu voto, eh, chega a equiparar as eh plataformas a veículos de comunicação social, inclusive fazendo referência ao artigo 226 seguintes. Eh, nós já decidimos inclusive a responsabilidade dos veículos de comunicação social por conteúdo de terceiros. Então, eh, Vossa Excelência equipara, mas não a esse ponto. É isso. Eu entendo que nesse caso específico não, nós não temos uma legislação específica. Nós

podemos até debater depois as outras hipóteses, mas, por exemplo, nós fizemos várias ressalvas de conteúdos que são eh enunciados ao vivo, que depois você precisa ter uma regulamentação, uma decisão específica para aquela retirada. No caso das plataformas, há uma lei específica, o artigo 19. Então, eu tô preservando a essência do 19. Não tô dizendo que é o melhor remédio. Aliás, eu proponho uma autorregulação regulada, onde eu tenha maiores mecanismos para depois oferir essa responsabilidade, não em função da remoção ou não remoção, mas do descumprimento dos próprios normativos que estão estabelecidos. Então, nesse caso específico, eu

mantenho o artigo 19. Não, perfeito. É que eu eu tinha, na verdade, uma compreensão até similar de Vossa Excelência, mas talvez se aproximando eh no mínimo eh as plataformas dos veículos de comunicação social toda extensão. me fecho ministro Zanin antecipando também, até porque haverá uma sequência de Mas a minha, o meu entendimento a priori é de que os marcos legais hoje estabelecidos são esses três que eu encontrei, né? responsabilidade própria. a possibilidade de responsabilização por conduta omissiva ou comissiva própria pelo descumprimento dos deveres procedimentais que lhe são impostos pela legislação, aí incluída a obrigação de

aplicação isonômica em relação a todos os usuários das regras de conduta estabelecidos por seus termos e condições de uso, os quais devem guardar conformidade com as disposições do Código de Defesa. do consumidor e com a legislação em geral. E B, a adoção de mecanismos de segurança digital para evitar que as plataformas sejam utilizadas para a prática de condutas e listas. Então, está correlacionado também com aquele listo em si mesmo, né? E por fim, sete, em observância ao devido processo legal, a decisão judicial que determinara a remoção de conteúdo, deve apresentar fundamentação específica e, ainda que

proferida em processo judicial sigiloso, deve ser acessível à plataforma responsável pelo seu cumprimento, facultada a possibilidade de impugnação. Depois eu faço uma análise breve dos casos concretos. Eh, no caso do ministro Dias Tofle, acompanha o ministro Diasfle, entendo que ali o Facebook ele descumpriu um dever próprio dele de uma vez advertido sobre um perfil falso, não remover esse perfil. Então isso tá abarcado quando eu falo aqui de perfis falsos ou perfis robôs. No caso do ministro eh Luiz Fuxs, eu eu divijo de sua excelência por entender que ali a responsabilidade é de quem fez a

manifestação, não da plataforma. Então, a as pessoas prejudicadas devem buscar junto à plataforma essa informação de quem são eh eh os que se manifestaram, uma vez desincumbindo-se a plataforma de fornecer os dados, ela estaria, vamos dizer assim, isenta da responsabilidade. E por fim, ministro Dino, à luz da pergunta de Vossa Excelência sobre qual seria esse órgão, essa não é uma pergunta simples de se responder. E, por exemplo, no caso da Alemanha, que eu que eu fiz referência, definiu-se dentro do Ministério da Justiça. Eu entendo que a autorregulação regulada e tive essa experiência na CGU e

com as empresas em relação às quais a União fez acordos de leniense, ficou estabelecida a obrigação de durante o período de execução dos dos acordos haver não só um programa de compliance que fosse aprovado pela CGU, como também durante a execução a CGU teria acesso e poderia fazer auditorias no cumprimento efetivo daquele programa de integridade. Legenda, ministros definem responsabilização de empresas sobre construção, construção, postados em redes sociais e aplicativos de mensagem. Eh, em verificando uma situação proceder uma determinação específica em relação às empresas. Eu penso que essa matéria, e é isso que eu proponho aqui,

fazendo um apelo aos poderes legislativo e executivo para que atualizem a legislação. Eu entendo que a legislação precisa ser aprimorada em vários aspectos e a elaborem a partir de políticas públicas relacionadas à temática em questão, mas propondo como marco essa autorregulação regulada, ou seja, como desenho essa sistemática. precisa ser um órgão independente. Se eu pudesse hoje olhar no que nós temos de instituições dentro eh eh de poder executivo, eu entendo que a controladoria, porque eu sei que ela já faz um trabalho de auditagem de programas de integridade, é uma instituição com corpo não só muito

qualificado, mas técnico e sério. Então, eu acho que essa é uma decisão. Eu faço como um apelo para que isso seja feito. Entendo que essa seria a melhor medida, porque daria, ao mesmo tempo uma possibilidade de padrões, uma possibilidade de adaptações conforme as evoluções e daria sempre, teria sempre a possibilidade de o judiciário funcionar como o equacionador de eventuais controvérsias. Então, é nesse sentido que eu faço esse apelo ao final do meu voto, de construção eh de uma alternativa que penso deve partir eh em adotando-se essa perspectiva do próprio poder executivo, né, se é para

se trabalhar numa questão de um órgão, mas também pode, logicamente eh eh ter uma perspectiva aí conforme a situação de uma iniciativa do legislativo. Senhor presidente, agradecendo a atenção de todos, eu quase que religiosamente concluo às 18 horas. religiosamente. Obrigado. Bem, eu só indago de Vossa Excelência, ministro André, se se o o voto eu eu pessoalmente gostaria de ler o voto inteiro, se Vossa Excelência puder disponibilizar, mas pelo menos as conclusões. Não, eu eu pedi, eu peço até desculpas por não disponibilizar antes, mas são como o voto era muito extenso e com várias várias vezes

eu tive que revisar e relendo, eh, mas eu pedi que a assessoria ainda, eu não sei se já chegou, mas que já assim que eles concluíssem lá os últimos ajustes ajustes, já passasse a Já receberam? Não, não, mas mas eu pedi essa e vai chegar com certeza. OK. que aí vou vou fazer uma tabela com as conclusões do ministro Tofol, do ministro Fux, minhas e de vossa excelência, que eu acho que é um uma bússola para a a sequência do julgamento. Eu vou organizar a pauta e aí voltamos e combinamos quando voltaremos com esse julgamento.

Apenas lembrando que na quarta-feira temos uma sessão extra manhã às 10 horas que vai compensar a do feriado da semana seguinte. OK. Com a palavra ministro Luís Roberto Barroso. 10 horas nós retomamos. Nós eh teremos a nossa pauta normal eh eu vou fazer e divulgar. OK. Mas após conversa com os relatores, sendo o que se apresentava para a sessão de hoje, declaro encerrada a sessão. [Música] Опа. เฮ [Música]