Decisão: Após a realização da sustentação oral, o julgamento foi suspenso

Decisão: Após a realização da sustentação oral, o julgamento foi suspenso. Falou, pelo amicus curiae Facebook Serviços Online do Brasil Ltda., a Dra. Patrícia Helena Marta Martins. Presidência do Ministro Luís Roberto Barroso. Plenário, 28.11.2024.

Decisão: Apregoado para julgamento em conjunto com o RE 1.037.396. Após a continuidade do voto do Ministro Dias Toffoli, Relator do citado recurso, o julgamento dos recursos extraordinários foi suspenso. Presidência do Ministro Luís Roberto Barroso. Plenário, 4.12.2024.

Decisão: Apregoado para julgamento em conjunto com o RE 1.037.396. Após o voto do Ministro Dias Toffoli, Relator do citado recurso, o julgamento dos recursos extraordinários foi suspenso. Presidência do Ministro Luís Roberto Barroso. Plenário, 5.12.2024.

Decisão: Após o voto do Ministro Luiz Fux (Relator), que negava provimento ao recurso extraordinário e propunha a fixação da seguinte tese (tema 533 da repercussão geral): 1. A disposição do art. 19 do Marco Civil da Internet (Lei Federal nº 12.965/2014) não exclui a possibilidade de responsabilização civil de provedores de aplicações de internet por conteúdos gerados por terceiros nos casos em que, tendo ciência inequívoca do cometimento de atos ilícitos, seja porquanto evidente, seja porque devidamente informados por qualquer meio idôneo, não procederem à remoção imediata do conteúdo. 2. Considera-se evidentemente ilícito (item 1) o conteúdo gerado por terceiro que veicule discurso de ódio, racismo, pedofilia, incitação à violência, apologia à abolição violenta do Estado Democrático de Direito e apologia ao Golpe de Estado. Nestas hipóteses específicas, há para as empresas provedoras um dever de monitoramento ativo, com vistas à preservação eficiente do Estado Democrático de Direito. 3. Nos casos de postagens ofensivas à honra, à imagem e à privacidade de particulares, a ciência inequívoca da ilicitude por parte das empresas provedoras, necessária à responsabilização civil, dependerá de sua prévia e fundamentada notificação pelos interessados, que poderá ser realizada por qualquer meio idôneo, cabendo às plataformas digitais o dever de disponibilizar meios eletrônicos eficientes, funcionais e sigilosos para o recebimento de denúncias e reclamações de seus usuários que se sintam lesados. 4. É presumido, de modo absoluto, o efetivo conhecimento da ilicitude do conteúdo produzido por terceiros por parte da empresa provedora de aplicações de internet, nos casos de postagens onerosamente impulsionadas; e do voto do Ministro Dias Toffoli, que acompanhava o Relator no mérito, negando provimento ao recurso, mas mantinha a redação da sua tese, proferida no julgamento do RE 1.037.396, de sua relatoria, pediu vista dos autos o Ministro Luís Roberto Barroso (Presidente). Plenário, 11.12.2024.

Decisão: Após o voto-vista do Ministro Luís Roberto Barroso (Presidente), que propunha a fixação da seguinte tese (tema 533 da repercussão geral): 1.​ O art. 19 da Lei nº 12.965/2014 (Marco Civil da Internet), que exige ordem judicial específica para a responsabilização civil de provedor de aplicações de internet por danos decorrentes de conteúdo gerado por terceiros, é parcialmente inconstitucional. Há um estado de omissão parcial que decorre do fato de que a regra geral do art. 19 não confere proteção suficiente a bens jurídicos constitucionais de alta relevância (proteção de direitos fundamentais e da democracia). 2. ​Enquanto não sobrevier legislação, em interpretação conforme à Constituição, a responsabilização civil de provedores de aplicações de internet deve se sujeitar ao seguinte regime: 2.1​ O regime de decisão judicial e retirada do art. 19 do Marco Civil da Internet aplica-se a alegações de ofensas e crimes contra a honra e outros ilícitos cíveis e conteúdos residuais. 2.2. ​O regime de notificação extrajudicial e retirada, do art. 21 do MCI, deve ser estendido para crimes (exceto crimes contra a honra). 2.3. ​No caso de anúncios e impulsionamentos, presume-se o conhecimento do ilícito desde a aprovação da publicidade pela plataforma, sendo possível a responsabilização independente de notificação, salvo quando a plataforma comprove que atuou diligentemente e em tempo razoável para indisponibilizar o conteúdo. 3. ​A responsabilidade civil nesses regimes é subjetiva. Em todo caso, os provedores não poderão ser responsabilizados civilmente quando houver dúvida razoável sobre a ilicitude dos conteúdos. 4. ​Os provedores de aplicações de internet deverão manter um sistema de notificações, definir um devido processo e publicar relatórios anuais de transparência em relação a notificações extrajudiciais e anúncios e impulsionamento. 5. ​Além disso, os provedores de aplicações de internet estão submetidos a um dever de cuidado de que decorre a obrigação de prevenir e mitigar riscos sistêmicos criados ou potencializados por suas atividades. As plataformas devem atuar proativamente para que estejam livres dos seguintes conteúdos extraordinariamente nocivos: (i) pornografia infantil e crimes graves contra crianças e adolescentes; (ii) induzimento, instigação ou auxílio a suicídio ou a automutilação; (iii) tráfico de pessoas; (iv) atos de terrorismo; (v) abolição violenta do Estado Democrático de Direito e golpe de Estado. A responsabilização nesses casos pressupõe uma falha sistêmica, e não meramente a ausência de remoção de um conteúdo. 6. ​Quanto ao dever de mitigação de riscos sistêmicos, caberá ao Congresso Nacional regular o tema, inclusive com definição de sanções e órgão regulador independente e autônomo, a ser criado, pediu vista dos autos o Ministro André Mendonça. Plenário, 18.12.2024.

Decisão: Após o início do voto-vista do Ministro André Mendonça, o julgamento foi suspenso. Presidência do Ministro Luís Roberto Barroso. Plenário, 4.6.2025.

Decisão: Após o voto-vista do Ministro André Mendonça, que negava provimento ao RE nº 1.037.396/SP (tema 987) e dava provimento ao RE nº 1.057.258/MG (tema 533) e, para fins de repercussão geral, concluía pela plena constitucionalidade do art. 19 do Marco Civil da Internet, a Lei nº 12.965/2014, e sugeria a fixação das seguintes teses: i. Serviços de mensageria privada não podem ser equiparados à mídia social. Em relação a tais aplicações de internet, prevalece a proteção à intimidade, vida privada, sigilo das comunicações e proteção de dados. Portanto, não há que se falar em dever de monitoramento ou autorregulação na espécie. ii. É inconstitucional a remoção ou a suspensão de perfis de usuários, exceto quando [a] comprovadamente falsos – seja porque (i) relacionados a pessoa que efetivamente existe, mas denuncia, com a devida comprovação, que não o utiliza ou criou; ou (ii) relacionados a pessoa que sequer existe fora do universo digital (perfil robô); ou [b] cujo objeto do perfil seja a prática de atividade em si criminosa. iii. As plataformas em geral, tais como mecanismos de busca, marketplaces etc., têm o dever de promover a identificação do usuário violador de direito de terceiro (art. 15 c/c art. 22 do MCI). Observado o cumprimento da referida exigência, o particular diretamente responsável pela conduta ofensiva é quem deve ser efetivamente responsabilizado via ação judicial contra si promovida. iv. Nos casos em que admitida a remoção de conteúdo sem ordem judicial (por expressa determinação legal ou conforme previsto nos Termos e Condições de Uso das plataformas), é preciso assegurar a observância de protocolos que assegurem um procedimento devido, capaz de garantir a possibilidade do usuário [a] ter acesso às motivações da decisão que ensejou a exclusão, [b] que essa exclusão seja feita preferencialmente por humano [uso excepcional de robôs e inteligência artificial no comando de exclusão]; [c] possa recorrer da decisão de moderação, [d] obtenha resposta tempestiva e adequada da plataforma, dentre outros aspectos inerentes aos princípios processuais fundamentais. v. Excetuados os casos expressamente autorizados em lei, as plataformas digitais não podem ser responsabilizadas pela ausência de remoção de conteúdo veiculado por terceiro, ainda que posteriormente qualificado como ofensivo pelo Poder Judiciário, aí incluídos os ilícitos relacionados à manifestação de opinião ou do pensamento. vi. Há possibilidade de responsabilização, por conduta omissiva ou comissiva própria, pelo descumprimento dos deveres procedimentais que lhe são impostos pela legislação, aí incluída [a] a obrigação de aplicação isonômica, em relação a todos os seus usuários, das regras de conduta estabelecidas pelos seus Termos e Condições de Uso, os quais devem guardar conformidade com as disposições do Código de Defesa do Consumidor e com a legislação em geral; e [b] a adoção de mecanismos de segurança digital aptos a evitar que as plataformas sejam utilizadas para a prática de condutas ilícitas. vii. Em observância ao devido processo legal, a decisão judicial que determinar a remoção de conteúdo [a] deve apresentar fundamentação específica, e, [b] ainda que proferida em processo judicial sigiloso, deve ser acessível à plataforma responsável pelo seu cumprimento, facultada a possibilidade de impugnação, fazendo apelo aos Poderes Legislativo e Executivo para que, ao atualizarem a legislação e a elaboração de políticas públicas relacionadas à temática em questão – regulação da internet no Brasil –, adotem estratégias centradas no modelo da autorregulação regulada, o julgamento foi suspenso. Presidência do Ministro Luís Roberto Barroso. Plenário, 5.6.2025.

Decisão: Após o voto do Ministro Flávio Dino, que negava provimento ao RE nº 1.037.396/SP (tema 987) e dava provimento ao RE nº 1.057.258/MG (tema 533) e, para fins de repercussão geral, sugeria a fixação da seguinte tese: 1. O provedor de aplicações de internet poderá ser responsabilizado civilmente nos termos do art. 21 da Lei nº 12.965/2014 (Marco Civil da Internet), pelos danos decorrentes de conteúdos gerados por terceiros, ressalvadas as disposições específicas da legislação eleitoral e os atos normativos expedidos pelo TSE. O regime do art. 19 da citada lei aplica-se exclusivamente a alegações de ofensas e crimes contra a honra. 2. São considerados atos dos próprios provedores de aplicação de internet, podendo haver responsabilidade civil, independente de prévia notificação judicial ou extrajudicial, nos termos do art. 927, caput, do Código Civil: A) Postagens de perfis com anonimização do usuário, vedada pelo art. 5°, IV, da Constituição Federal, que gere obstáculos à responsabilização, incluindo perfis falsos e chatbots (robôs); B) Ilicitudes veiculadas em anúncios pagos e postagens patrocinadas, ou mecanismos similares. 3. Na hipótese de configuração de falha sistêmica, os provedores podem ser responsabilizados civilmente nos termos do art. 14, § 1º, II, do Código de Defesa do Consumidor, pelos conteúdos criados por terceiros nos seguintes casos, em rol taxativo: A) Crimes contra crianças e adolescentes; B) Crime de induzimento, instigação ou auxílio ao suicídio ou à automutilação previsto no art. 122 do Código Penal; C) Crime de terrorismo, nos termos da Lei nº 13.260/2016; D) Fazer apologia ou instigar violência, ou grave ameaça, visando à prática dos crimes contra o Estado Democrático de Direito devidamente tipificados em lei. 3.1 Para fins da responsabilidade civil prevista neste item, considera-se falha sistêmica, imputável ao provedor de aplicações de internet, deixar de adotar adequadas medidas de segurança contra os conteúdos ilícitos anteriormente listados, configurando violação aos deveres específicos de prevenção e precaução, assim como do dever de cuidado necessário aos provedores citados. 3.2 Consideram-se adequadas as medidas que, conforme o estado da técnica, forneçam os níveis mais elevados de segurança para o tipo de atividade desempenhada pelo provedor. 3.3 A existência de conteúdo ilícito de forma atomizada e isolada não é, por si só, suficiente para configurar a responsabilidade civil de acordo com este item. Contudo, uma vez recebida notificação extrajudicial sobre a ilicitude, passará a incidir a regra estabelecida no artigo 21 da Lei nº 12.965/2014 (Marco Civil da Internet). 3.4 Em tais hipóteses, o autor do conteúdo poderá requerer judicialmente o seu restabelecimento, mediante demonstração da ausência de ilicitude. Ainda que o conteúdo seja restaurado por ordem judicial, não haverá imposição de indenização ao provedor. 4. Os provedores de aplicações de internet deverão editar autorregulação que abranja, necessariamente, um sistema de notificações, um devido processo e relatórios anuais de transparência em relação a notificações extrajudiciais, anúncios e impulsionamento. 4.1 Tais regras deverão ser publicadas e revisadas periodicamente, de forma transparente e acessível ao público. 4.2 As obrigações mencionadas neste item 4 serão monitoradas pela Procuradoria-Geral da República, até que sobrevenha lei específica regulando a autorregulação dos provedores de aplicação de internet, o julgamento foi suspenso. Ausente, justificadamente, a Ministra Cármen Lúcia. Presidência do Ministro Luís Roberto Barroso. Plenário, 11.6.2025 (Sessão Extraordinária).

Decisão: Em continuidade de julgamento, após o voto do Ministro Cristiano Zanin, que negava provimento ao RE nº 1.037.396/SP (tema 987) e dava provimento ao RE nº 1.057.258/MG (tema 533) e, para fins de repercussão geral, sugeria a fixação da seguinte tese: 1.​ O art. 19 da Lei nº 12.965/2014 (Marco Civil da Internet), que exige ordem judicial específica para a responsabilização civil de provedor de aplicações de internet por danos decorrentes de conteúdo gerado por terceiros, é parcialmente inconstitucional. Há um estado de omissão parcial que decorre do fato de que a regra geral do art. 19 não confere proteção suficiente a bens jurídicos constitucionais de alta relevância (proteção de direitos fundamentais e da democracia). 2. ​Enquanto não sobrevier legislação, em interpretação conforme à Constituição, a responsabilização civil de provedores de aplicações de internet deve se sujeitar ao seguinte regime, ressalvadas as disposições específicas da legislação eleitoral e os atos normativos expedidos pelo TSE: 2.1​ O regime de decisão judicial e retirada do art. 19 do Marco Civil da Internet aplica-se (i) aos provedores de aplicação intermediários de conteúdo gerado por terceiros considerados neutros; (ii) e, aos provedores de aplicação ativos, apenas nos casos de publicação, pelo usuário, de conteúdo não manifestamente criminoso. 2.2. ​O regime de notificação extrajudicial e retirada, do art. 21 do MCI, deve ser estendido aos provedores de aplicação intermediários que atuam ativamente na promoção e disseminação de conteúdo e, após serem notificados, deixam de remover conteúdo manifestamente criminoso. Considera-se observado o dever de cuidado quando, após a notificação, o provedor de aplicação executa mecanismos efetivos de prevenção e controle para checar a veracidade das alegações e mitigar danos. Caso se trate de conteúdo de ilicitude duvidosa ou que dependa de juízos de valor para aferir a sua ilicitude, considera-se cumprido o dever de cuidado se, adotados tais mecanismos, o provedor é capaz de demonstrar que não há evidente caráter ilícito do conteúdo e que deverá prevalecer, então, a livre manifestação do pensamento. Quando houver elementos objetivos que demonstrem que o conteúdo é ilícito, surge para os provedores de aplicação o dever de agir para excluí-lo. Esse dever abrange a publicação de conteúdos comprovadamente fraudulentos, como perfis falsos ou invasões de contas. 2.3. ​No caso de anúncios e impulsionamentos, presume-se o conhecimento do ilícito desde a aprovação da publicidade pela plataforma, sendo possível a responsabilização independente de notificação, salvo quando a plataforma comprove que atuou diligentemente e em tempo razoável para indisponibilizar o conteúdo. Também haverá presunção relativa de conhecimento, a ensejar a responsabilização civil, nos casos de danos provocados por chatbots (robôs). 3. ​A responsabilidade civil nesses regimes é subjetiva. Em todo caso, os provedores não poderão ser responsabilizados civilmente quando houver dúvida razoável sobre a ilicitude dos conteúdos. 4. Estão excluídos do âmbito de aplicação do regime específico previsto nos arts. 18 a 21 do Marco Civil da Internet os provedores de aplicação intermediários de fornecimento de produtos e serviços (Marketplaces e assemelhados). 5. ​Os provedores de aplicações de internet deverão manter um sistema de notificações, definir um devido processo e publicar relatórios anuais de transparência em relação a notificações extrajudiciais e anúncios e impulsionamento, além de promover ações de educação digital. 6. ​Além disso, os provedores de aplicações de internet estão submetidos a um dever de cuidado de que decorre a obrigação de prevenir e mitigar riscos sistêmicos criados ou potencializados por suas atividades, a ser cumprido por meio de mecanismos fidedignos de avaliação do conteúdo que conjuguem atos humanos e agentes de inteligência artificial. As plataformas devem atuar proativamente para que estejam livres dos seguintes conteúdos extraordinariamente nocivos: (i) pornografia infantil e crimes graves contra vulneráveis; (ii) induzimento, instigação ou auxílio a suicídio ou a automutilação; (iii) tráfico de pessoas; (iv) atos de terrorismo; (v) abolição violenta do Estado Democrático de Direito e golpe de Estado. A responsabilização nesses casos pressupõe uma falha sistêmica, e não meramente a ausência de remoção de um conteúdo. 7. Em casos de remoção de conteúdo pela plataforma em razão do cumprimento dos deveres inerentes ao item 6, o autor do conteúdo poderá requerer judicialmente o seu restabelecimento, mediante demonstração da ausência de ilicitude. Ainda que o conteúdo seja restaurado por ordem judicial, não haverá imposição de indenização ao provedor. 8. ​Quanto ao dever de mitigação de riscos sistêmicos, caberá ao Congresso Nacional regular o tema, inclusive com definição de sanções e órgão regulador independente e autônomo, a ser criado. 9. Os provedores de aplicação de internet que possuem papel ativo deverão criar ou indicar, no prazo de 180 dias, uma entidade de natureza privada que possa promover a autorregulação regulada, inclusive com a atribuição de desenvolver mecanismos de inteligência artificial destinados à remoção de conteúdos ilícitos das mais diversas formas e desenvolver e difundir ações de educação digital. 10. Para privilegiar a segurança jurídica, atribui-se efeitos prospectivos à interpretação proposta. Desse modo, para os casos posteriores à vigência da Lei n. 12.965/2014 e anteriores ao trânsito em julgado da presente decisão, deve ser aplicado o regime de imunidade originalmente definido pelo Marco Civil da Internet, que exceptua o modelo de exclusão após decisão judicial apenas nos casos de conteúdo íntimo de nudez ou atos sexuais e violação de direito autoral; e do voto do Ministro Gilmar Mendes, que também negava provimento ao RE nº 1.037.396/SP (tema 987) e dava provimento ao RE nº 1.057.258/MG (tema 533) e, para fins de repercussão geral, sugeria a fixação da seguinte tese: 1. É inconstitucional a interpretação do artigo 19 do Marco Civil da Internet (Lei nº 12.965/2014) que concede isenção absoluta de responsabilidade civil aos provedores que operam mediante alta interferência sobre a circulação de conteúdo de terceiros (provedor de aplicação para os efeitos desta tese), isto é, quando a plataforma adota sistemas de impulsionamento e recomendação de conteúdo baseados em perfilização, veiculação de anúncios, propaganda programática etc. 2. O regime tradicional de responsabilidade dependente de notificação judicial específica, previsto no artigo 19 do Marco Civil da Internet, aplica-se exclusivamente quando o conteúdo veiculado estiver diretamente relacionado: (REGIME RESIDUAL) 2.1. Ao exercício da liberdade de imprensa e do livre exercício de atividade jornalística, aos quais se aplicam o regime da Lei nº 13.188, de 11 de novembro de 2015, cf. ADI nº 5.418, Rel. Min. Dias Toffoli, Tribunal Pleno, julgado em 11/3/21, DJe de 24/5/21; 2.2. Disputas entre os particulares que possam configurar crimes contra a honra de ação penal privada exclusiva. 3. Presume-se o conhecimento da plataforma sobre o conteúdo ilícito, dispensando-se notificação prévia para fins de responsabilização civil na veiculação de anúncios ou qualquer tipo de impulsionamento pago, presumindo-se o conhecimento efetivo do conteúdo ilícito desde o momento da aprovação da publicidade para veiculação. (REGIME DE PRESUNÇÃO). 4. Nos demais casos de conteúdo ilícito não abrangidos pelas hipóteses dos itens 2 e 3 acima, aplicam-se os termos do artigo 21 do Marco Civil da Internet, de modo que os provedores respondem solidariamente pelos danos decorrentes de conteúdos gerados por terceiros quando, devidamente notificados pelo ofendido ou seu representante legal, preferencialmente pelos canais oficiais de atendimento da plataforma, deixarem de promover, em prazo razoável, as providências cabíveis para remoção ou bloqueio do conteúdo ilícito. (REGIME GERAL) 4.1. As plataformas devem empregar mecanismos técnicos capazes de estender decisões de remoção de conteúdo, decorrentes de ordem judicial ou notificação privada, para situações com conteúdos ilícitos idênticos aos já individualizados em ordem judicial ou notificação. A violação desse dever implica responsabilização: os provedores poderão responder por danos gerados por ausência de remoção de conteúdo idêntico, após ordem judicial ou notificação, nos termos já tratados. 5. Os provedores de aplicação serão solidariamente responsáveis quando não promoverem a indisponibilização imediata de conteúdos e contas, nos seguintes casos de crimes graves: (i) de condutas, informações e atos antidemocráticos caracterizadores de violação aos artigos 296, parágrafo único, 359-L, 359- M, 359-N, 359-P e 359-R do Código Penal; (ii) de divulgação ou compartilhamento de fatos notoriamente inverídicos ou gravemente descontextualizados que atinjam a integridade do processo eleitoral, inclusive os processos de votação, apuração e totalização de votos; (iii) de grave ameaça, direta e imediata, de violência ou incitação à violência contra a integridade física de membros e servidores da Justiça eleitoral e Ministério Público eleitoral ou contra a infraestrutura física do Poder Judiciário para restringir ou impedir o exercício dos poderes constitucionais ou a abolição violenta do Estado Democrático de Direito; (iv) de comportamento ou discurso de ódio, inclusive promoção de racismo, homofobia, ideologias nazistas, fascistas ou odiosas contra uma pessoa ou grupo por preconceito de origem, raça, sexo, cor, idade, religião e quaisquer outras formas de discriminação; (v) crimes de induzimento, instigação ou auxílio a suicídio ou a automutilação, nos termos do art. 122 do Código Penal; (vi) crimes de terrorismo, nos termos da Lei n. 13.260/2016; e (vii) crimes sexuais contra vulnerável, pornografia infantil e crimes graves contra crianças e adolescentes, nos termos dos arts. 217-A, 218, 218-A, 218-B, 218-C, do Código Penal, e arts. 240, 241-A, 241-C, 241-D, do Estatuto da Criança e do Adolescente. (REGIME ESPECIAL) 5.1. O provedor de aplicação não poderá ser solidariamente responsável quando a decisão de não indisponibilização imediata de conteúdos e contas decorrer de interpretação razoável da lei e conteúdo. 6. Os provedores de aplicações possuem os seguintes deveres procedimentais de mitigação de risco: 6.1. Relatório anual de transparência sobre práticas de moderação de conteúdo, incluindo: (i) os termos de uso do seu serviço, com informações sobre as restrições, políticas e processos de moderação de conteúdo e procedimentos de notificação e revisão; (ii) número de notificações recebidas envolvendo cada uma das espécies de conteúdo ilícito, categorizadas por tipo; (iii) medidas tomadas a partir das notificações; (iv) número de notificações tratadas por meio automatizados; (v) tempo médio gasto para adotar a medida; (vi) características gerais das equipes envolvidas na aplicação de termos e políticas de uso em relação a conteúdos gerados por terceiros, incluindo número de pessoas envolvidas na atividade, modelo de contratação, bem como estatísticas sobre seu idioma de trabalho, qualificação, indicativos de diversidade atributos demográficos e nacionalidade; (vii) Dever de indicação de representante legal para provedores de internet estrangeiros com número médio mensal de usuários no país igual ou superior a 10 milhões; e (viii) informações sobre o emprego de sistemas automatizados na aplicação de termos e políticas de uso próprios dos provedores, incluindo: a) taxa de detecção ativa de conteúdos identificados para remoção por sistemas automatizados, por tipo de conteúdo; e b) descrição dos tipos de ferramentas de detecção automatizadas envolvidas na garantia da aplicação adequada das políticas de conteúdo. 6.2. Dever de indicação de representante legal para provedores de internet estrangeiros com número médio mensal de usuários no país igual ou superior a 10 milhões. 6.3. Manter repositório de anúncios para acompanhamento, em tempo real, do conteúdo, dos valores, dos responsáveis pelo pagamento e das características dos grupos populacionais que compõem a audiência da publicidade contratada. 6.4. Sistema de notificações e canal de comunicação para usuários notificarem conteúdos potencialmente ilícitos, com a identificação do notificante, descrição e localização do conteúdo, justificativa fundamentada e declaração de boa-fé; 6.5. Na hipótese de exclusão, indisponibilização, redução de alcance ou sinalização de conteúdos - seja em decorrência de aplicação dos termos e políticas de uso ou de verificação de ilicitude - o provedor deverá notificar o usuário sobre a medida aplicada e a fundamentação - incluindo menção ao conteúdo considerado ilícito e à ilicitude verificada, caso aplicável. Além disso, deverá ser garantido o direito de o usuário pedir a revisão da decisão, o que deverá ser informado ao usuário no momento da notificação, o julgamento foi suspenso. Ausente, justificadamente, a Ministra Cármen Lúcia. Presidência do Ministro Luís Roberto Barroso. Plenário, 11.6.2025 (Sessão ordinária).

Decisão: Após o voto do Ministro Alexandre de Moraes, que negava provimento aos recursos extraordinários, acompanhando, no mérito, os Ministros Dias Toffoli (Relator do RE nº 1.037.396/SP, tema 987 da repercussão geral) e Luiz Fux (Relator do RE nº 1.057.258/MG, tema 533 da repercussão geral), o julgamento foi suspenso. Ausente, justificadamente, a Ministra Cármen Lúcia. Presidência do Ministro Luís Roberto Barroso. Plenário, 12.6.2025.

Decisão: Após o voto do Ministro Edson Fachin, que dava provimento ao RE 1.037.396/SP, tema 987 da repercussão geral, e ao RE 1.057.258/MG, tema 533 da repercussão geral, propondo a fixação da seguinte tese: Quando ofereçam apenas serviços de acesso, busca e armazenamento de dados sem interferir em seu conteúdo, os provedores de aplicação somente podem ser responsabilizados por conteúdos gerados por terceiros se, após ordem judicial específica, não tomarem providências para, no âmbito e nos limites técnicos de seu funcionamento e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente; e do voto da Ministra Cármen Lúcia, que negava provimento ao RE 1.037.396/SP e dava provimento ao RE 1.057.258/MG, o julgamento foi suspenso. Presidência do Ministro Luís Roberto Barroso. Plenário, 25.6.2025.

Decisão: O Tribunal, por maioria, apreciando o tema 533 da repercussão geral, deu provimento ao recurso extraordinário para reformar a decisão da Primeira Turma Recursal de Belo Horizonte/MG, afastando a condenação da empresa Google do Brasil ao pagamento de danos morais, vencidos os Ministros Luiz Fux (Relator), Dias Toffoli, Alexandre de Moraes e Nunes Marques. Em seguida, por maioria, foi fixada a seguinte tese: Reconhecimento da inconstitucionalidade parcial e progressiva do art. 19 do MCI 1. O art. 19 da Lei nº 12.965/2014 (Marco Civil da Internet), que exige ordem judicial específica para a responsabilização civil de provedor de aplicações de internet por danos decorrentes de conteúdo gerado por terceiros, é parcialmente inconstitucional. Há um estado de omissão parcial que decorre do fato de que a regra geral do art. 19 não confere proteção suficiente a bens jurídicos constitucionais de alta relevância (proteção de direitos fundamentais e da democracia). Interpretação do art. 19 do MCI 2. Enquanto não sobrevier nova legislação, o art. 19 do MCI deve ser interpretado de forma que os provedores de aplicação de internet estão sujeitos à responsabilização civil, ressalvada a aplicação das disposições específicas da legislação eleitoral e os atos normativos expedidos pelo TSE. 3. O provedor de aplicações de internet será responsabilizado civilmente, nos termos do art. 21 do MCI, pelos danos decorrentes de conteúdos gerados por terceiros em casos de crime ou atos ilícitos, sem prejuízo do dever de remoção do conteúdo. Aplica-se a mesma regra nos casos de contas denunciadas como inautênticas. 3.1. Nas hipóteses de crime contra a honra aplica-se o art. 19 do MCI, sem prejuízo da possibilidade de remoção por notificação extrajudicial. 3.2. Em se tratando de sucessivas replicações do fato ofensivo já reconhecido por decisão judicial, todos os provedores de redes sociais deverão remover as publicações com idênticos conteúdos, independentemente de novas decisões judiciais, a partir de notificação judicial ou extrajudicial. Presunção de responsabilidade 4. Fica estabelecida a presunção de responsabilidade dos provedores em caso de conteúdos ilícitos quando se tratar de (a) anúncios e impulsionamentos pagos; ou (b) rede artificial de distribuição (chatbot ou robôs). Nestas hipóteses, a responsabilização poderá se dar independentemente de notificação. Os provedores ficarão excluídos de responsabilidade se comprovarem que atuaram diligentemente e em tempo razoável para tornar indisponível o conteúdo. Dever de cuidado em caso de circulação massiva de conteúdos ilícitos graves 5. O provedor de aplicações de internet é responsável quando não promover a indisponibilização imediata de conteúdos que configurem as práticas de crimes graves previstas no seguinte rol taxativo: (a) condutas e atos antidemocráticos que se amoldem aos tipos previstos nos artigos 286, parágrafo único, 359-L, 359-M, 359-N, 359-P e 359-R do Código Penal; (b) crimes de terrorismo ou preparatórios de terrorismo, tipificados pela Lei nº 13.260/2016; (c) crimes de induzimento, instigação ou auxílio a suicídio ou a automutilação, nos termos do art. 122 do Código Penal; (d) incitação à discriminação em razão de raça, cor, etnia, religião, procedência nacional, sexualidade ou identidade de gênero (condutas homofóbicas e transfóbicas), passível de enquadramento nos arts. 20, 20-A, 20-B e 20-C da Lei nº 7.716, de 1989; (e) crimes praticados contra a mulher em razão da condição do sexo feminino, inclusive conteúdos que propagam ódio às mulheres (Lei nº 11.340/06; Lei nº 10.446/02; Lei nº 14.192/21; CP, art. 141, § 3º; art. 146-A; art. 147, § 1º; art. 147-A; e art. 147-B do CP); (f) crimes sexuais contra pessoas vulneráveis, pornografia infantil e crimes graves contra crianças e adolescentes, nos termos dos arts. 217-A, 218, 218-A, 218-B, 218-C, do Código Penal e dos arts. 240, 241-A, 241-C, 241-D do Estatuto da Criança e do Adolescente; g) tráfico de pessoas (CP, art. 149-A). 5.1 A responsabilidade dos provedores de aplicações de internet prevista neste item diz respeito à configuração de falha sistêmica. 5.2 Considera-se falha sistêmica, imputável ao provedor de aplicações de internet, deixar de adotar adequadas medidas de prevenção ou remoção dos conteúdos ilícitos anteriormente listados, configurando violação ao dever de atuar de forma responsável, transparente e cautelosa. 5.3. Consideram-se adequadas as medidas que, conforme o estado da técnica, forneçam os níveis mais elevados de segurança para o tipo de atividade desempenhada pelo provedor. 5.4. A existência de conteúdo ilícito de forma isolada, atomizada, não é, por si só, suficiente para ensejar a aplicação da responsabilidade civil do presente item. Contudo, nesta hipótese, incidirá o regime de responsabilidade previsto no art. 21 do MCI. 5.5. Nas hipóteses previstas neste item, o responsável pela publicação do conteúdo removido pelo provedor de aplicações de internet poderá requerer judicialmente o seu restabelecimento, mediante demonstração da ausência de ilicitude. Ainda que o conteúdo seja restaurado por ordem judicial, não haverá imposição de indenização ao provedor. Incidência do art. 19 6. Aplica-se o art. 19 do MCI ao (a) provedor de serviços de e-mail; (b) provedor de aplicações cuja finalidade primordial seja a realização de reuniões fechadas por vídeo ou voz; (c) provedor de serviços de mensageria instantânea (também chamadas de provedores de serviços de mensageria privada), exclusivamente no que diz respeito às comunicações interpessoais, resguardadas pelo sigilo das comunicações (art. 5º, inciso XII, da CF/88). Marketplaces 7. Os provedores de aplicações de internet que funcionarem como marketplaces respondem civilmente de acordo com o Código de Defesa do Consumidor (Lei nº 8.078/90). Deveres adicionais 8. Os provedores de aplicações de internet deverão editar autorregulação que abranja, necessariamente, sistema de notificações, devido processo e relatórios anuais de transparência em relação a notificações extrajudiciais, anúncios e impulsionamentos. 9. Deverão, igualmente, disponibilizar a usuários e a não usuários canais específicos de atendimento, preferencialmente eletrônicos, que sejam acessíveis e amplamente divulgados nas respectivas plataformas de maneira permanente. 10. Tais regras deverão ser publicadas e revisadas periodicamente, de forma transparente e acessível ao público. 11. Os provedores de aplicações de internet com atuação no Brasil devem constituir e manter sede e representante no país, cuja identificação e informações para contato deverão ser disponibilizadas e estar facilmente acessíveis nos respectivos sítios. Essa representação deve conferir ao representante, necessariamente pessoa jurídica com sede no país, plenos poderes para (a) responder perante as esferas administrativa e judicial; (b) prestar às autoridades competentes informações relativas ao funcionamento do provedor, às regras e aos procedimentos utilizados para moderação de conteúdo e para gestão das reclamações pelos sistemas internos; aos relatórios de transparência, monitoramento e gestão dos riscos sistêmicos; às regras para o perfilamento de usuários (quando for o caso), a veiculação de publicidade e o impulsionamento remunerado de conteúdos; (c) cumprir as determinações judiciais; e (d) responder e cumprir eventuais penalizações, multas e afetações financeiras em que o representado incorrer, especialmente por descumprimento de obrigações legais e judiciais. Natureza da responsabilidade 12. Não haverá responsabilidade objetiva na aplicação da tese aqui enunciada. Apelo ao legislador 13. Apela-se ao Congresso Nacional para que seja elaborada legislação capaz de sanar as deficiências do atual regime quanto à proteção de direitos fundamentais. Modulação dos efeitos temporais 14. Para preservar a segurança jurídica, ficam modulados os efeitos da presente decisão, que somente se aplicará prospectivamente, ressalvadas decisões transitadas em julgado. Ficaram parcialmente vencidos na tese os Ministros André Mendonça, Edson Fachin e Nunes Marques. Redigirá o acórdão o Ministro Luiz Fux (Relator). O Ministro Luís Roberto Barroso (Presidente) votou apenas na fixação da tese. Plenário, 26.6.2025.

EMENTA: RECURSO EXTRAORDINÁRIO COM REPERCUSSÃO GERAL. TEMA 533 DA SISTEMÁTICA DA REPERCUSSÃO GERAL. REGIME DE RESPONSABILIDADE CIVIL DAS EMPRESAS PROVEDORAS DE APLICAÇÕES DE INTERNET. PERÍODO ANTERIOR E POSTERIOR À ENTRADA EM VIGOR DO MARCO CIVIL DA INTERNET (LEI FEDERAL Nº 12.965/2014). ARTIGO 19. IMUNIDADE CIVIL RELATIVA A DANOS CAUSADOS POR CONTEÚDOS GERADOS POR TERCEIROS. REGRA QUE VISA O FOMENTO DO MERCADO DIGITAL E O EXERCÍCIO DA LIBERDADE DE EXPRESSÃO. INCONSTITUCIONALIDADE PARCIAL. NECESSIDADE DE INTERPRETAÇÃO CONFORME À CONSTITUIÇÃO. DIMENSÃO OBJETIVA DOS DIREITOS FUNDAMENTAIS DE QUE DECORRE PARA O ESTADO O DEVER DE PROTEÇÃO SUFICIENTE. NORMA EM ANÁLISE QUE NÃO PROTEGE SUFICIENTEMENTE OS DIREITOS PASSÍVEIS DE LESÃO EM MEIO DIGITAL. AUSÊNCIA DE ESTÍMULOS LEGAIS PARA A MODERAÇÃO ADEQUADA DE CONTEÚDOS. PRESERVAÇÃO DE DIREITOS QUE PASSA PELA CRIAÇÃO DE OBRIGAÇÕES ESPECÍFICAS DE MONITORAMENTO. PONDERAÇÃO DE VALORES QUE CONDUZ AO RECONHECIMENTO DA EXISTÊNCIA DE POSSIBILIDADE DE RESPONSABILIZAÇÃO EM CASOS DE NEGLIGÊNCIA. DEVER DE MONITORAMENTO ATIVO DE DISCURSOS DOTADOS DE ELEVADA LESIVIDADE SOCIAL. NEGLIGÊNCIA CUJA CONFIGURAÇÃO DEPENDE DE PRÉVIA NOTIFICAÇÃO PELO INTERESSADO NO CASO DE LESÃO A DIREITOS INDIVIDUAIS. PLENA COMPATIBILIDADE DO REGIME DELINEADO COM O DIREITO À LIBERDADE DE EXPRESSÃO, QUE NÃO SE PÕE NO SISTEMA COMO DIREITO ABSOLUTO. DISCURSOS DE ÓDIO, RACISMO, INICITAÇÃO À VIOLÊNCIA E DISCURSOS ANTIDEMOCRÁTICOS QUE NÃO ENCONTRAM AMPARO NA CONSTITUIÇÃO. AUSÊNCIA DE RISCO REAL DE EFEITO RESFRIADOR (CHILLING EFFECT) NO CASO. RECURSO EXTRAORDINÁRIO A QUE SE DÁ PROVIMENTO, COM FIXAÇÃO DE TESE.

1. A internet sistema constituído do conjunto de protocolos lógicos, estruturado em escala mundial para uso público e irrestrito, com a finalidade de possibilitar a comunicação de dados entre terminais por meio de diferentes redes (Lei 12.965/2014, art. 5º, I) , conquanto tenha surgido ainda na década 60 em decorrência de pesquisas com finalidades militares, se popularizou na década de 90, a partir do surgimento do primeiro navegador gráfico na World Wide Web (HINDMAN, Matthew. The Mith of Digital Democracy, New Jersey: Princeton University Press, 2009).

2. Os sítios eletrônicos típicos da década de 90 eram estáticos, à semelhança de jornais ou revistas eletrônicos, e os usuários da internet de então, apenas consumidores e expectadores, sendo certo que, a partir dos anos 2000, surgiram novas aplicações, que passaram a ter como característica a intensa interatividade e o apagamento da distinção entre criadores de conteúdo e usuários, dando ensejo às redes sociais, que constituem a marca distintiva da era da chamada Web 2.0.

3. A nova etapa evolutiva da internet trouxe a efetiva superação da tradicional comunicação do tipo um-para-muitos, realizada desde sempre pelos veículos de imprensa convencionais, para uma comunicação do tipo muitos-para-muitos.

4. O cenário inédito na história de possibilidade de difusão de informações em escala amplíssima e velocidade astronômica traz consigo diversos desafios para a sociedade e, por conseguinte, para o direito, na medida em que se multiplicam oportunidades para a vulneração de direitos individuais e coletivos.

5. A liberdade de expressão e os impactos dos avanços tecnológicos encerram questões jurídicas que não são novidades, do que é prova o célebre artigo escrito, ainda no final do século XIX, pelo então futuro justice da Suprema Corte norte-americana Louis Brandeis sobre o direito à privacidade em um mundo que aprendia a lidar com a realidade das câmeras fotográficas instantâneas e a imprensa de tabloides (BRANDEIS, Louis D.; WARREN, Samuel D. The Right to Privacy. Harvard Law Review 193, 195, 1890).

6. A Lei Federal nº 12.965/2014 (Marco Civil da Internet) resultou de processo deliberativo amplo, que contou com a participação da sociedade civil por meio de audiências públicas e de portal eletrônico destinado ao recebimento de sugestões de internautas, cujos objetivos centrais consistiam na promoção do direito de acesso à internet a todos e na promoção da inovação e do fomento à ampla difusão de novas tecnologias e modelos de uso e acesso. Estes propósitos foram, em boa medida, alcançados, passados 10 anos da entrada em vigor da lei.

7. O artigo 19 do Marco Civil da Internet, que exime as empresas provedoras de aplicações de internet de responsabilidade civil pelos conteúdos veiculados por seus usuários, é regra destinada ao fomento da inovação digital, pela diminuição dos custos impostos aos players deste mercado, e sua ratio reside na imunidade civil trazida no ano de 1996 pela Seção 230 do Communications Decency Act CDA norte-americano, cuja edição se deu como resposta do Congresso Estadunidense a uma decisão judicial da Suprema Corte do Estado de Nova York (Stratton Oakmont v. Prodigy Services Co.).

8. O sistema de responsabilidade civil que decorre de um senso de justiça primário, apreendido desde as civilizações mais antigas, segundo o qual aquele que causa um dano injusto a outrem deve repará-lo sofreu, ao longo do século XX, um giro solidarista, que implicou não apenas no deslocamento do núcleo do instituto do elemento culpa para a ideia de risco, mas também em uma profunda alteração na compreensão das funções que a responsabilidade civil exerce no ordenamento.

9. A responsabilidade civil, no direito contemporâneo, deve assumir, sem descurar de sua clássica função reparatória, um papel preponderantemente preventivo e precaucional, de indução de comportamentos meritórios e de dissuasão de condutas antijurídicas e danosas, sob pena perder parte de sua justificativa moral (ROSENWALD, Nelson. As Funções da Responsabilidade Civil, 4ª ed., São Paulo: Saraiva, 2022, p. 14).

10. À luz da análise econômica do direito, a essência do sistema de responsabilidade civil reside na criação de incentivos para que potenciais causadores invistam em segurança em um nível eficiente, mediante a internalização dos custos dos danos que sua falta de cuidado pode causar às vítimas (COOTER, Robert; ULEN, Thomas. Law and Economics, 6ª ed., Boston: Pearson, 2012, p. 190).

11. Os direitos fundamentais, porquanto surgidos no calor das chamadas revoluções liberais dos séculos XVII e XVIII, foram concebidos primeiramente a partir de sua dimensão subjetiva, relativa à defesa jurídica de cada cidadão individualmente considerado em face da ação potencialmente usurpadora do Estado, de sorte que da existência destes direitos decorreriam essencialmente deveres de abstenção para poder público (ANDRADE, José Carlos Vieira de. Os Direitos Fundamentais na Constituição Portuguesa de 1976, 5ª ed., Coimbra: Almedina, 2012, p. 51).

12. Ao longo do século XX, e sobretudo a partir do julgamento do Caso Lüth pelo Tribunal Constitucional Federal alemão, desenvolveu-se na doutrina a concepção de que os direitos fundamentais ostentam também uma dimensão objetiva, sendo mais que meros trunfos individuais em face do Estado, mas ao revés, a expressão mais elevada dos valores nucleares da ordem jurídica democrática e o elemento estruturante essencial da comunidade política fundada e regida pela Constituição (SARMENTO, Daniel. Direitos Fundamentais e Relações Privadas, 2ª ed., Rio de Janeiro: Lumen Iuris, 2006, p. 106).

13. O reconhecimento de que os direitos fundamentais incorporam os valores nucleares da comunidade política e, assim, a própria ratio essendi do Estado, exige a compreensão de que não basta que o poder público não os vulnere em sua atuação, sendo, antes, de rigor que o poder estatal seja manejado para a proteção e promoção eficiente destes direitos.

14. No plano internacional, a jurisprudência do Tribunal Constitucional Federal alemão passou a reconhecer que a ofensa aos direitos fundamentais pelo Estado pode se dar tanto na forma de excesso de atuação (Übermassverbot) quanto na forma omissiva, de um déficit de proteção (Untermassverbot) (MENDES, Gilmar Ferreira. Direitos Fundamentais e Controle de Constitucionalidade, 4ª ed., São Paulo: Saraiva, 2012, p. 122).

15. A proteção fornecida pelo Estado quando insuficiente ou deficiente, impõe ao Supremo Tribunal Federal, guardião da Constituição, declarar a omissão e ordenar a medida adequada para que os direitos fundamentais potencialmente vulnerados sejam efetivamente protegidos. Precedentes: ADO 26, Tribunal Pleno, Rel. Min. Celso de Mello, DJe 06/10/2020; MI 7.300, Tribunal Pleno, redator po acórdão Min. Gilmar Mendes, DJe 23/08/2021.

16. O volume colossal de conteúdos disponibilizados em todo o globo diariamente e a sua velocidade imensa de difusão potencial fazem com que a proteção suficiente dos direitos fundamentais passíveis de lesão em meio digital dependa necessariamente da imposição de obrigações de monitoramento às empresas provedoras de aplicações de internet, intermediárias da comunicação digital, premissa essencial que esteve presente nos debates havidos no Congresso Norte-Americano por ocasião da edição Seção 230 do Communications Decency Act CDA e se encontra subjacente a toda a regulamentação da matéria no Direito Europeu, tanto na Alemanha quanto em nível comunitário.

17. A medida da imposição de obrigações de monitoramento dos conteúdos disponibilizados em suas páginas às empresas provedoras de aplicações de internet há de ser definida com a devida ponderação, a fim de que não se sacrifiquem, de outra parte, a viabilidade das redes sociais ou a liberdade de expressão dos usuários. Nesse sentido, erige-se com destaque na doutrina a ideia de autorregulação regulada, enquanto método indireto de regulação estatal, de direito procedimentalizado, que tende a evitar os malefícios de uma intervenção governamental mais intensa (ABBOUD, Georges; CAMPOS, Ricardo. A Autorregulação Regulada como Modelo do Direito Proceduralziado, in ABBOUD, Georges; NERY JR., Nelson; CAMPOS, Ricardo (org.). Fake News e Regulação, 3ª ed., São Paulo: Thomson Reuters Brasil, 2021, pp. 135 e ss.).

18. A imunidade civil prevista no art. 19 do Marco Civil da Internet gera um quadro de evidente desproteção aos direitos fundamentais passíveis de lesão no ambiente digital, sendo, portanto, inconstitucional.

19. A proteção deficiente de direitos fundamentais in casu reside precipuamente na total ausência de estímulos legais para que as empresas provedoras moderem adequadamente conteúdos lesivos que terceiros veiculam em suas plataformas (DOUEK, Evelyn. The Siren Call of Content Moderation Formalism, in BOLLINGER, Lee C.; STONE, Geoffrey R. (org.). Social Media, Freedom of Speech and the Future of Our Democracy, New York: Oxford University Press, 2022).

20. O regime do art. 19 do Marco Civil da Internet se revela constitucionalmente insuficiente, máxime pelo fato de que os processos judiciais ostentam uma morosidade inerente e inevitável, que contrasta com a lesividade potencial de postagens ofensivas a direitos fundamentais, as quais têm a capacidade de correr o mundo e atingir milhões de usuários em poucas horas, gerando danos irreparáveis ou de dificílima reparação, razão pela qual não se pode lançar sobre os ombros do Poder Judiciário toda a expectativa social de controle em tempo real das violações a direitos fundamentais perpetradas em ambiente digital.

21. Um regime constitucionalmente adequado de responsabilidade civil das empresas provedoras de aplicações de internet deve levar em conta os custos sociais de disciplinas alternativas no confronto entre a economia digital e o direito fundamental à liberdade de expressão. Nesse sentido, resta de plano evidente a inadequação de um eventual regime de responsabilização objetiva das plataformas digitais por danos decorrentes de conteúdos gerados por seus usuários, à semelhança do que vige no Brasil para as relações de consumo, uma vez que, sob tal regime, seriam geradas externalidades proibitivas para estas empresas, dado o astronômico volume de conteúdos publicados diariamente.

22. A garantia constitucional de proteção ao consumidor (CF, art. 5º, XXXII) não exclui a possibilidade de instituição legal de regimes de responsabilidade diversos do vigente para as relações consumeristas em geral para a prestação de alguns serviços específicos, se referida instituição se der em nome da promoção de outros valores de idêntico status constitucional. Precedente: RE 636.331, Tribunal Pleno, Rel. Min. Gilmar Mendes, DJe 13/11/2017 - Tema 210 da sistemática da repercussão geral.

23. A atividade de moderação de conteúdos gera externalidades relevantes, conforme constatado pelo Digital Service Act - DSA (regulamentação geral da União Europeia sobre serviços digitais), que determina que os Estados da Comunidade não devem impor às plataformas digitais obrigações gerais de vigilância ou de curadoria ativa de fatos, podendo prever apenas obrigações de vigilância em casos específicos.

24. A dimensão objetiva dos direitos fundamentais previstos na Constituição impõe a existência da possibilidade de responsabilização civil das empresas provedoras de aplicações de internet nos casos em que, tendo ciência inequívoca do cometimento de ilicitudes por seus usuários, agem de modo negligente, deixando de realizar a devida moderação. Compete a este Supremo Tribunal Federal, enquanto órgão de cúpula do Poder Judiciário nacional, fixar alguns parâmetros mínimos para a configuração do inequívoco conhecimento da ilicitude, capaz de revelar a negligência dos provedores, à luz também de um juízo de ponderação, que leve em consideração a lesividade social de cada tipo de discurso ilícito.

25. Os danos individuais, que decorrem da vulneração de direitos da personalidade, como a honra, conquanto também relevantes para o ordenamento, têm obviamente alcance limitado e, por isso, comparativamente menor lesividade social, razão pela qual não se justifica a imposição de uma obrigação de vigilância às redes sociais a seu respeito. Nestes casos, portanto, aplica-se o art. 19 do MCI, sem prejuízo da possibilidade de remoção por notificação extrajudicial.

26. Diversamente, nos casos de discurso de ódio, racismo, pedofilia, incitação à violência, apologia à abolição violenta do Estado Democrático de Direito, apologia ao Golpe de Estado e nas demais hipóteses arroladas na tese de julgamento, dado seu elevado potencial lesivo a direitos coletivos, surge para as empresas provedoras de aplicações o dever de monitoramento ativo, que as conduza a empregar as medidas adequadas que, conforme o estado da técnica, forneçam os níveis mais elevados de segurança para o tipo de atividade desempenhada pelo provedor.

27. A responsabilidade dos provedores em caso de conteúdos ilícitos é presumida quando se tratar de (a) anúncios e impulsionamentos pagos; ou (b) rede artificial de distribuição (chatbot ou robôs). Nestas hipóteses, a responsabilização poderá se dar independentemente de notificação, ressalvada a comprovação de que os provedores atuaram diligentemente e em tempo razoável para tornar indisponível o conteúdo.

28. A garantia da liberdade de expressão se põe na ordem constitucional como um dos mais preciosos privilégios dos cidadãos em uma república fundada em bases democráticas (ADPF 187, Tribunal Pleno, Rel. Min. Celso de Mello, DJe 29/05/2014) e como condição sine qua non da livre participação política e, portanto, da própria democracia (ADI 4.451, Tribunal Pleno, Rel. Min. Alexandre de Moraes, DJe 06/03/2019).

29. A Suprema Corte norte-americana construiu, a partir do julgamento do caso Southeastern Promotions, Ltd. v. Conrad, em 1975, a doutrina dos fóruns públicos (public-forum doctrine) segundo a qual uma sociedade livre deve criar uma plêiade de fóruns públicos, nos quais se assegure, àqueles indivíduos que desejam se expressar, o direito de ter acesso aos lugares necessários para permitir a difusão da sua opinião entre as pessoas, notadamente aquelas áreas onde muitas delas se encontram.

30. A internet e as aplicações que marcam a chamada Web 2.0 (redes sociais) se tornaram, na sociedade moderna, tão ou mais importantes que os fóruns públicos tradicionais, como praças e avenidas, na função de arena para a livre expressão (SUNSTEIN, Cass. Republic.com 2.0. New Jersey: Princeton University Press, 2007, pp. 22/24).

31. A liberdade de expressão, para além de sua função instrumental, de viabilização do próprio regime democrático, ostenta uma razão de ser dita constitutiva, ligada à própria ideia de dignidade da pessoa humana, tanto dos cidadãos emissores dos discursos quanto dos receptores (DWORKIN, Ronald. O Direito da Liberdade: a Leitura Moral da Constituição Norte-Americana, São Paulo: Martins Fontes, 2019, p. 319).

32. A Constituição encampa a dimensão constitutiva da liberdade de expressão, ao afirmar serem livres a manifestação do pensamento e a expressão da atividade intelectual e artística (CF, art. 5º, IV e IX).

33. A função estruturante do regime democrático exercida pela liberdade de expressão não a torna, todavia, absoluta. Este direito pode sofrer limitações, desde que razoáveis, proporcionais e com vistas a prestigiar outros direitos e garantias de mesmo status jusfundamental (Precedente: MS 34.493 AgR, Primeira Turma, Rel. Min. Luiz Fux, DJe 16/05/2019).

34. O exercício da linguagem humana, que a Constituição reconhece como manifestação essencial da personalidade do cidadão em sua dignidade e como fundamento basilar da ordem democrática, não pode ser logicamente direcionado justamente à violação da dignidade da pessoa humana alheia ou à destruição do regime democrático.

35. Consectariamente, é vedado permitir que o mecanismo da democracia seja o Cavalo de Tróia por meio do qual os inimigos do regime democrático invadam a cidade e a queimem (LOEWENSTEIN, Karl. Militant Democracy and Fundamental Rights, I, in The American Political Science Review, v. 31, n. 3, Jun/1937, pp. 417-432).

36. Discursos de ódio, racismo, pedofilia, incitação à violência, apologia a atos antidemocráticos e demais hipóteses relacionadas na tese do presente julgamento não são manifestações protegidas pela liberdade de expressão constitucional e devem, por isso, ser reprimidas, pois visam a própria abolição da ordem constitucional. Precedente: HC 82.424, Tribunal Pleno, Redator para acórdão Min. Maurício Corrêa, DJ 19/03/2004 (Caso Ellwanger).

37. A possibilidade de responsabilização civil das plataformas digitais, que cria para as mesmas obrigações específicas de vigilância de conteúdos veiculados por terceiros em suas páginas, perfaz no máximo uma limitação indireta à liberdade de expressão dos usuários de redes sociais, a qual, todavia, se revela justa, razoável e proporcional quando direcionada à proteção eficiente do Estado Democrático de Direito e de outros direitos fundamentais, individuais e coletivos.

38. A imposição do regime de responsabilidade ora delineado não gera risco de resfriamento de discursos legítimos por receio de equívoco na aplicação da disciplina (chilling effect).

39. Os conteúdos gerados por terceiros são para as empresas provedoras de aplicações de internet mercadorias, commodities, cuja circulação lhes garante o lucro, de sorte que estas empresas tenderão sempre à adoção de um nível ótimo de moderação consentâneo com a legislação vigente, a fim de que haja a maximização de suas receitas.

40. Recurso extraordinário a que se dá provimento, a fim de reformar a decisão recorrida, vencido o Relator no julgamento do caso concreto.

41. Fixadas as seguintes teses vinculantes de repercussão geral:

Reconhecimento da inconstitucionalidade parcial e progressiva do art. 19 do MCI

1. O art. 19 da Lei nº 12.965/2014 (Marco Civil da Internet), que exige ordem judicial específica para a responsabilização civil de provedor de aplicações de internet por danos decorrentes de conteúdo gerado por terceiros, é parcialmente inconstitucional. Há um estado de omissão parcial que decorre do fato de que a regra geral do art. 19 não confere proteção suficiente a bens jurídicos constitucionais de alta relevância (proteção de direitos fundamentais e da democracia).

Interpretação do art. 19 do MCI

2. Enquanto não sobrevier nova legislação, o art. 19 do MCI deve ser interpretado de forma que os provedores de aplicação de internet estão sujeitos à responsabilização civil, ressalvada a aplicação das disposições específicas da legislação eleitoral e os atos normativos expedidos pelo TSE.

3. O provedor de aplicações de internet será responsabilizado civilmente, nos termos do art. 21 do MCI, pelos danos decorrentes de conteúdos gerados por terceiros em casos de crime ou atos ilícitos, sem prejuízo do dever de remoção do conteúdo. Aplica-se a mesma regra nos casos de contas denunciadas como inautênticas.

3.1. Nas hipóteses de crime contra a honra aplica-se o art. 19 do MCI, sem prejuízo da possibilidade de remoção por notificação extrajudicial.

3.2. Em se tratando de sucessivas replicações do fato ofensivo já reconhecido por decisão judicial, todos os provedores de redes sociais deverão remover as publicações com idênticos conteúdos, independentemente de novas decisões judiciais, a partir de notificação judicial ou extrajudicial.

Presunção de responsabilidade

4. Fica estabelecida a presunção de responsabilidade dos provedores em caso de conteúdos ilícitos quando se tratar de (a) anúncios e impulsionamentos pagos; ou (b) rede artificial de distribuição (chatbot ou robôs). Nestas hipóteses, a responsabilização poderá se dar independentemente de notificação. Os provedores ficarão excluídos de responsabilidade se comprovarem que atuaram diligentemente e em tempo razoável para tornar indisponível o conteúdo.

Dever de cuidado em caso de circulação massiva de conteúdos ilícitos graves

5. O provedor de aplicações de internet é responsável quando não promover a indisponibilização imediata de conteúdos que configurem as práticas de crimes graves previstas no seguinte rol taxativo: (a) condutas e atos antidemocráticos que se amoldem aos tipos previstos nos artigos 286, parágrafo único, 359- L, 359-M, 359-N, 359-P e 359-R do Código Penal; (b) crimes de terrorismo ou preparatórios de terrorismo, tipificados pela Lei nº 13.260/2016; (c) crimes de induzimento, instigação ou auxílio a suicídio ou a automutilação, nos termos do art. 122 do Código Penal; (d) incitação à discriminação em razão de raça, cor, etnia, religião, procedência nacional, sexualidade ou identidade de gênero (condutas homofóbicas e transfóbicas), passível de enquadramento nos arts. 20, 20-A, 20-B e 20-C da Lei nº 7.716, de 1989; (e) crimes praticados contra a mulher em razão da condição do sexo feminino, inclusive conteúdos que propagam ódio às mulheres (Lei nº 11.340/06; Lei nº 10.446/02; Lei nº 14.192/21; CP, art. 141, § 3º; art. 146-A; art. 147, § 1º; art. 147-A; e art. 147-B do CP); (f) crimes sexuais contra pessoas vulneráveis, pornografia infantil e crimes graves contra crianças e adolescentes, nos termos dos arts. 217-A, 218, 218-A, 218-B, 218- C, do Código Penal e dos arts. 240, 241-A, 241-C, 241-D do Estatuto da Criança e do Adolescente; g) tráfico de pessoas (CP, art. 149-A).

5.1 A responsabilidade dos provedores de aplicações de internet prevista neste item diz respeito à configuração de falha sistêmica.

5.2 Considera-se falha sistêmica, imputável ao provedor de aplicações de internet, deixar de adotar adequadas medidas de prevenção ou remoção dos conteúdos ilícitos anteriormente listados, configurando violação ao dever de atuar de forma responsável, transparente e cautelosa.

5.3. Consideram-se adequadas as medidas que, conforme o estado da técnica, forneçam os níveis mais elevados de segurança para o tipo de atividade desempenhada pelo provedor.

5.4. A existência de conteúdo ilícito de forma isolada, atomizada, não é, por si só, suficiente para ensejar a aplicação da responsabilidade civil do presente item. Contudo, nesta hipótese, incidirá o regime de responsabilidade previsto no art. 21 do MCI.

5.5. Nas hipóteses previstas neste item, o responsável pela publicação do conteúdo removido pelo provedor de aplicações de internet poderá requerer judicialmente o seu restabelecimento, mediante demonstração da ausência de ilicitude. Ainda que o conteúdo seja restaurado por ordem judicial, não haverá imposição de indenização ao provedor.

Incidência do art. 19

6. Aplica-se o art. 19 do MCI ao (a) provedor de serviços de e-mail; (b) provedor de aplicações cuja finalidade primordial seja a realização de reuniões fechadas por vídeo ou voz; (c) provedor de serviços de mensageria instantânea (também chamadas de provedores de serviços de mensageria privada), exclusivamente no que diz respeito às comunicações interpessoais, resguardadas pelo sigilo das comunicações (art. 5º, inciso XII, da CF/88).

Marketplaces

7. Os provedores de aplicações de internet que funcionarem como marketplaces respondem civilmente de acordo com o Código de Defesa do Consumidor (Lei nº 8.078/90).

Deveres adicionais

8. Os provedores de aplicações de internet deverão editar autorregulação que abranja, necessariamente, sistema de notificações, devido processo e relatórios anuais de transparência em relação a notificações extrajudiciais, anúncios e impulsionamentos.

9. Deverão, igualmente, disponibilizar a usuários e a não usuários canais específicos de atendimento, preferencialmente eletrônicos, que sejam acessíveis e amplamente divulgados nas respectivas plataformas de maneira permanente.

10. Tais regras deverão ser publicadas e revisadas periodicamente, de forma transparente e acessível ao público.

11. Os provedores de aplicações de internet com atuação no Brasil devem constituir e manter sede e representante no país, cuja identificação e informações para contato deverão ser disponibilizadas e estar facilmente acessíveis nos respectivos sítios. Essa representação deve conferir ao representante, necessariamente pessoa jurídica com sede no país, plenos poderes para (a) responder perante as esferas administrativa e judicial; (b) prestar às autoridades competentes informações relativas ao funcionamento do provedor, às regras e aos procedimentos utilizados para moderação de conteúdo e para gestão das reclamações pelos sistemas internos; aos relatórios de transparência, monitoramento e gestão dos riscos sistêmicos; às regras para o perfilamento de usuários (quando for o caso), a veiculação de publicidade e o impulsionamento remunerado de conteúdos; (c) cumprir as determinações judiciais; e (d) responder e cumprir eventuais penalizações, multas e afetações financeiras em que o representado incorrer, especialmente por descumprimento de obrigações legais e judiciais.

Natureza da responsabilidade

12. Não haverá responsabilidade objetiva na aplicação da tese aqui enunciada.

Apelo ao legislador

13. Apela-se ao Congresso Nacional para que seja elaborada legislação capaz de sanar as deficiências do atual regime quanto à proteção de direitos fundamentais.

Modulação dos efeitos temporais

14. Para preservar a segurança jurídica, ficam modulados os efeitos da presente decisão, que somente se aplicará prospectivamente, ressalvadas decisões transitadas em julgado.