A Apple retirou o Telegram de sua App Store por cerca de uma hora nesta semana, depois de encontrar material de abuso sexual infantil (CSAM) no aplicativo, e o restabeleceu assim que o conteúdo foi removido. Já o X, onde deepfakes gerados pelo Grok circularam por meses, nunca saiu do ar. O episódio escancara como as regras da App Store podem se dobrar quando o assunto é uma das maiores plataformas do mundo.
O que realmente aconteceu
O Telegram sumiu da App Store da Apple por cerca de uma hora nesta semana. Segundo a Apple, a remoção veio depois da descoberta de material de abuso sexual infantil (CSAM) no aplicativo, e o app foi restaurado assim que o conteúdo foi apagado, informou o The Verge. Não foi a primeira vez: a Apple já havia retirado o Telegram por uma violação semelhante em 2018. Já o X permaneceu na App Store mesmo depois que deepfakes gerados pelo Grok, que despiam digitalmente adultos e crianças, se espalharam pela plataforma no fim do ano passado. Segundo carta enviada pela Apple a senadores dos EUA, obtida pela NBC News e citada pelo The Verge, a empresa entrou em contato com as equipes do X e do Grok "depois de receber denúncias e acompanhar a cobertura da imprensa". A Apple concluiu que o X havia "resolvido substancialmente suas violações", mas avisou a equipe do Grok que precisaria fazer mais ajustes, "ou o aplicativo poderia ser removido".
Como chegamos aqui
O Telegram enfrenta pressão política há anos. Indonésia e Alemanha ameaçaram banir o app por conteúdo de terrorismo e discurso de ódio em 2017 e 2022. Autoridades francesas prenderam o fundador Pavel Durov em 2024, sob suspeita de cumplicidade em transações ilegais e CSAM, investigação que segue em aberto. A Rússia, no mês passado, acusou Durov de facilitar terrorismo, alegando que ele permite que espiões ucranianos usem o aplicativo. Desde então, o Telegram reforçou a moderação, encerrou recursos como a busca de usuários próximos e passou a cumprir mais ordens judiciais. Já o escândalo do Grok no X começou com uma atualização no fim de 2025 que permitia aos usuários editar imagens com a IA. O ex-primeiro-ministro do Reino Unido condenou o X, a União Europeia abriu uma investigação, e várias ações judiciais se seguiram, incluindo processos movidos por Ashley St. Clair e por um grupo de adolescentes contra a xAI.
Por que isso importa para você
Para os usuários, o episódio serve de lembrete de que a presença na App Store não é garantida, nem mesmo para plataformas com mais de 1 bilhão de usuários. Uma única violação de CSAM foi suficiente para tirar o Telegram do ar, enquanto uma crise de deepfakes que durou meses no X não teve o mesmo efeito. Para desenvolvedores, especialmente os de apps menores e sem peso político, a lição é que a aplicação das regras de moderação de conteúdo pode não ser uniforme. Apps de cripto e Web3 que dependem da App Store da Apple para distribuição devem notar que a pressão pública e política, não apenas a violação das políticas, parece influenciar os resultados. Quem desenvolve software de AR ou wearables que depende da aprovação das lojas de aplicativos deve acompanhar como esses gatekeepers equilibram tamanho, política e aplicação de regras de segurança daqui para frente.
A grande questão
Se a remoção de um app da loja depende, em parte, de peso político e não só da política em si, o que isso significa para a responsabilização das plataformas no futuro? A Apple aplica as regras de CSAM com rigor contra apps menores ou com menos influência política, mas deu ao X e ao Grok avisos privados e tempo para corrigir as violações, em vez de removê-los. Conforme mais aspectos do cotidiano, comunicação, pagamentos e, eventualmente, interfaces de realidade aumentada, passam pelas mãos de poucas lojas de aplicativos, quem decide quais violações são graves o suficiente para justificar uma remoção, e com base em quê?
O que observar
A investigação francesa sobre Pavel Durov segue aberta, sem data prevista para conclusão. As acusações de terrorismo da Rússia contra Durov também seguem pendentes. A Apple não informou se o Grok passará por nova revisão, depois de avisar a equipe de que o app ainda pode ser removido em caso de reincidência. Vale acompanhar qualquer decisão da UE sobre sua investigação envolvendo o X, além de como a Apple vai tratar futuros casos de CSAM em outros aplicativos, incluindo os voltados para AR e wearables, um setor que a bonuz acompanha de perto.
