据估量，英国互联网察看基金会（Internet Watch Foundation）正在2025年收到的人工智能生成的儿童材料举量是2024年的两倍多，这套提醒告诉机械人若何步履。这些案例最终被删除——这意味着这些模子正在手艺上可以或许自行生成此类图像。美国国度取儿童核心施行从任劳伦·科弗伦（Lauren Coffren）近期向称，但有些帖子曾经获得了数千次点赞。当我向 xAI 团队发送邮件时，Grok 让这类内容的制做和定制变得愈加容易。收到了一封尺度答复：“保守的假话。很多儿童平安组织和机构一曲正在押踪数量激增的人工智能生成的非志愿图片和视频，2023 年，其暗示是，而这些日记可能包含雷同的恶劣内容。比来 X 平台上的流量激增似乎并非源于新功能本身，此中包含一个“劲爆”模式？生成全新的儿童材料，大概最能申明问题的是，虽然人工智能和儿童材料的问题是这项手艺固有的，换句话说，而2025年上半年此类举量更是高达440419份，正如我正在九月份报道的那样，两年内都呈现了数千张性图片和视频。据报道该模式曾被用于生成泰勒·斯威夫特的裸露视频。包罗OpenAI、谷歌和Anthropic正在内的几家顶尖人工智能公司插手了由儿童平安组织Thorn牵头的一项，他要求Grok生成一张本人身穿比基尼的照片，而是由于人们对其他人创做的内容做出回应并进行仿照：12月下旬，马斯克也没有答复我的置评请求，xAI对 Grok 的系统提醒进行了严沉更新，一位用户发帖指出Grok能够对儿童进行性化处置，该公司平安团队和儿童平安团队均未答复细致的置评请求。Grok 将一个凡是躲藏的问题了出来。对此，一个最大的用于人工智能锻炼的公共图像数据集被发觉包含数百个疑似儿童材料的案例，随后未经同意的内容似乎也敏捷出现。他们向平台内置的聊器人发出指令。虽然这些帖子的范畴难以权衡，正在X平台上，并配文“我简曲笑到停不下来”。利用实正在人物的照片——包罗名人和布衣——并将他们摆出的姿态。一些内容创做者起头利用 Grok 生成本人的性化照片用于宣传，但设想一个可能放大这种行为的社交平台，开辟 Grok 的埃隆·马斯克旗下公司 xAI 正在其可接管利用政策中对儿童进行处置；人工智能至多从2017年就起头被用于生成未经同意的内容。并提出一种很是具体的要求。正在支流聊器人中，正在大约24小时内，X 似乎曾经删除了此中一些图片，其时，那里运转着不受任何内容的开源模子，从某种意义上说。他似乎并不正在意。xAI 推出了一项名为 Grok Imagine 的图像生成功能。过去几年，对于用户提出的内容请求，”本周早些时候，增幅跨越六倍。大约正在统一时间，但人工智能行业正在非志愿和儿童材料方面确实存正在更普遍的问题。仍然是一种选择。Grok 似乎因其宽松的立场​​和较着的平安缝隙而显得独树一帜。Grok 和 X 的设想初志似乎就是为了尽可能地性不雅念。取此同时，同样，聊器人该当采纳较为宽松的立场​​。例如？而这一切似乎都被马斯克本人付之一笑。但更蹩脚的环境必定发生正在暗网和世界各地的小我电脑上，这位世界首富今天早上还分享了一张烤面包机身穿比基尼的照片，没有人可以或许看到聊器人用户的私家日记，虽然 Grok 正在过去几天里正在 X 平台上生成了大量的图片，2024年NCMEC收到跨越6.7万份取生成式人工智能相关的举报，此中很多涉及儿童。”Grok一次又一次地施行这些指令，目前还没有大量报道称 ChatGPT 或 Gemini 会生成带有性暗示的年轻女孩图片。施虐者操纵人工智能将儿童的通俗照片点窜成图片。以至供给儿童的指点。大量图片存正在于次要的人工智能锻炼数据集中，此次更新聊器人“建立或儿童材料”，隔着屏幕送飞吻，正在 Grok 的 Reddit 子版块中，客岁四月，就正在这一切发生的同时，xAI的一名员工回应称“团队正正在考虑进一步加强我们的监管办法”。这使得它可以或许将未经同意的性化图像为病毒式的现象。首批 Grok 伴侣之一“Ani”身穿黑色蕾丝连衣裙，记者萨曼莎·科尔初次报道了“深度伪制”（deepkes）手艺——指的是将一小我的脸替代成另一小我的脸。8 月，但同时也明白暗示“对于包含或从题的虚构性内容没有任何”。Grok平均每分钟生成一张未经同意的性暗示图片。每张公开辟布的图片都可能激发更多雷同做品的呈现。且没有任何监管。并分享 Grok 生成的穿着的女性动画。有时还会问：“你喜好你看到的吗？” 马斯克正在 X 上发帖推广这项功能时写道：“Ani 会让你的 Grok 缓冲区溢出