AI HOT 小时报｜2026-06-18 20:05

数据源：AI HOT /api/public/items?mode=selected；时间窗 since=2026-06-18T10:55:17Z。摘要由 AI HOT 提供，引用前请点原文核对。

本小时值得看

1. ChatGPT 图像生成器可被绕过滤镜生成暴力和色情内容

• 分类：论文
• 来源：Hacker News 热门（buzzing.cc 中文翻译）
• 发布时间：2026-06-18T11:25:28.101Z
• 原文：https://mindgard.ai/blog/chatgpt-spontaneously-generated-violent-images-from-a-viral-prompt

Mindgard 红队研究发现，ChatGPT 的图像生成器可通过简单提示词轻易绕过内容过滤器，在未直接请求的情况下自动生成性暴力、血腥谋杀等露骨图像。一个热门的"恢复照片"提示词因输入模糊而绕过输入过滤器，结果如同俄罗斯轮盘赌；进一步添加虚假图像 ID 和"不做审查"指令后，模型持续生成高度性化女性图像，甚至出现被捆绑殴打的尸体，并自动赋予惊悚标题。研究指出，OpenAI 此前声称修复的裸体问题仍未解决，暴露了 AI 工具广泛可及性与不足内容过滤的现实风险。

UseClaw 观察

• 优先关注能进入真实工作流的产品更新，而不只看模型跑分。
• 优先关注 Agent、编程工具、企业集成、自动化、合规安全这些会影响数字员工落地的信号。
• 如果某条新闻能说明“谁痛、为什么信、下一步去哪”，后续可扩写成 UseClaw 深度内容。

UseClaw 持续记录 Claude、Codex、OpenClaw、AI Agent 与数字员工的真实案例、方法和产品化实践。
了解更多：https://useclaw.net/