OpenAI 举报了一名在与 ChatGPT 聊天中透露奸杀前女友计划的佛罗里达男子。Darren Zhou 告诉 AI 机器人，“我打算在这个月底之前杀了她，如果我得不到她，谁也别想得到她。”Zhou 是一名被高盛解雇的分析师，他在 3 月开始与 ChatGPT 谈论分手的女友，描述了女友的爱好、常去的地方、对女友身边其他男人的嫉妒以及想复合的愿望。OpenAI 的政策规定，当公司检测到用户计划伤害他人时，一个小型团队会审查互动记录。严重的情况下可能会举报给执法部门。Zhou 的聊天提及了强奸、谋杀和谋杀后自杀。联邦探员于 5 月将其两个月的聊天记录转交给当地警方。警方检查了 Zhou 前女友的安全状况。他的前女友 21 岁，因 Zhou“反复无常、嫉妒心强且控制欲强”而与他分手，因为害怕而通过电话分手。警方于 5 月将其逮捕。他在县监狱待了两天后缴纳 10 万美元保释金后获释。他与检方达成认罪协议，于 8 月 13 日对三项指控认罪，被判处 8 年缓刑，缓刑期间须遵守一系列限制。
