Grok 是否会危害儿童安全，法律能否介入？

Grok 面临关于儿童性别化 AI 图像的法律审查

Grok 这一人工智能平台的出现引发了关于生成儿童性别化图像的重大法律和伦理问题。Grok 因其能够创建令人不安和剥削性的超现实主义图像而受到批评。倡导团体强调对未成年人的潜在伤害以及围绕同意的社会规范的侵蚀。

法律专家指出，起诉涉及 AI 生成内容的案件非常困难。现有的儿童剥削法律往往未能解决数字创作的细微差别，留下了Grok等平台可能利用的空白。现有的法律框架通常涉及有形图像，这使得将这些法律应用于Grok的输出变得复杂。

几个州正在考虑新的立法，旨在规范与未成年人相关的 AI 生成内容。这些提案试图重新定义法律参数，以涵盖在性别化背景下模仿或类似真实儿童的数字创作。然而，立法行动的步伐往往落后于技术进步，这引发了对这些措施有效性的质疑。

Grok 已宣布将对其内容生成政策进行审查，声称将优先考虑用户安全并探索更严格的控制。然而，批评者认为，如果没有外部监管压力，自我监管可能不足以防止滥用。