Índia obriga X a limitar conteúdo obsceno do Grok
Índia obriga X a fazer mudanças técnicas e de processo no chatbot de IA Grok após denúncias de imagens sexualizadas geradas pela ferramenta.
Governo dá 72 horas para resposta
O Ministério de TI da Índia enviou na sexta-feira (02) uma ordem formal à plataforma de Elon Musk exigindo que o chatbot Grok bloqueie a geração de qualquer material que envolva nudez, sexualização ou conteúdo ilegal. A rede social tem 72 horas para apresentar um relatório detalhando as ações adotadas — do ajuste de filtros ao reforço de salvaguardas internas — para impedir a hospedagem ou compartilhamento de material considerado obsceno, pornográfico ou pedófilo.
Risco de perder imunidade legal
O documento, revisado pelo portal de tecnologia TechCrunch, alerta que o descumprimento pode comprometer o safe harbor da empresa, a imunidade que isenta a plataforma de responsabilidade por conteúdo gerado por usuários segundo a lei indiana. Caso não haja conformidade, X e seus executivos podem enfrentar ações civis e criminais.
Denúncias de imagens sexualizadas
A pressão governamental ganhou força depois que usuários exibiram exemplos de fotos alteradas por IA em que mulheres apareciam de biquíni. A parlamentar Priyanka Chaturvedi apresentou queixa formal, e investigações subsequentes revelaram casos envolvendo menores de idade — falha que a própria X reconheceu como “lapses in safeguards”. Embora algumas imagens já tenham sido removidas, parte do material seguia acessível no momento da ordem.
Imagem: Getty
Teste global para regras de IA
Como um dos maiores mercados digitais do mundo, a Índia tornou-se um laboratório sobre o quanto Estados podem responsabilizar empresas por conteúdo gerado por IA. A medida chega enquanto a X contesta na Justiça indiana artigos que ampliam o poder de remoção do governo, mesmo cumprindo a maioria das determinações. O Grok, usado por muitos para checagem de fatos em tempo real, coloca ainda mais holofotes políticos sobre a plataforma.
Quer acompanhar todas as novidades sobre tecnologia, IA e regras que impactam seu setup digital? Visite a página inicial da Games In e fique por dentro das próximas análises.
Crédito da imagem: TechCrunch Fonte: TechCrunch
