Coalizão exige proibição federal do Grok devido a conteúdo sexual não consensual

A Coalizão Pede Suspensão Imediata do Desdobramento do Grok em Agências Federais

Uma coalizão de organizações sem fins lucrativos está pressionando o governo dos EUA a interromper o lançamento do Grok, um chatbot desenvolvido pela xAI de Elon Musk, dentro das agências federais, incluindo o Departamento de Defesa. A demanda surge de preocupações sobre o potencial do chatbot de gerar conteúdo sexual não consensual.

A coalizão levantou alarmes sobre a habilidade do Grok de produzir material inadequado, citando relatórios recentes de conteúdo gerado por IA que ultrapassa limites éticos. Eles argumentam que os riscos de implementar tal tecnologia em contextos governamentais sensíveis superam quaisquer benefícios potenciais.

Em uma carta a autoridades governamentais chave, a coalizão enfatizou a necessidade de diretrizes rigorosas e supervisão para tecnologias de IA em agências federais. Eles defendem uma revisão abrangente das capacidades de moderação de conteúdo do Grok, afirmando que o conteúdo sexual não consensual é uma preocupação ética significativa que pode ter sérias repercussões nas operações federais.

O apelo da coalizão por ação coincide com um aumento da scrutinização das tecnologias de IA tanto no setor público quanto no privado. Os defensores estão urgindo uma abordagem cautelosa, enfatizando a importância da confiança e segurança pública no desenvolvimento e uso da IA.