家长必看：青少年版ChatGPT安全测试，未触发预警机制，存在情感依赖风险

非营利组织 sense media 在完成测试之后, 对青少年版给出了结论, 测试账号在谈及自杀这一话题、涉及自伤的内容以及进食障碍的问题的时候, 都没有在所述的一小时目标窗口内触发家长通知这一功能, 实际情况表明, 用户也实际没有收到相关的通知。

当前面向十三岁到十七岁这一年龄段的用户所提供的设置选项里面, 是包含家长控制措施的存在的, 同时也包括了潜在有害内容的限制机制, 还有危险话题的通知功能。

测试者用青少年的账号去进行了对话, 时间呢有的五分钟到一小时不等。研究者还提到, 这个系统在处理那些医疗建议或者是暴力的角色扮演请求的时候, 表现得并不够稳定。

在一些涉及自伤以及进食障碍的话题里面, 它也不是每次都会去建议用户去找专业的帮助。报告那边也认为, 系统那种像是在跟朋友一样互动的模式, 可能会带来让人产生情感依赖的风险。

报告里同时提到, 在测试期间, 系统拒绝了和未成年人一起玩色情的角色扮演。对于那个学习模式的具体检查也发现了情况, 就是说, 用户只要把请求开头的那个“@study”给删掉, 就能够退出这个模式了。然后呢, 要是点击那个写着“显示答案”的按钮的话, 也是会直接把答案给出来的。

Sense Media这家组织, 就先要求把这些存在的问题给解决掉, 之后再来向那些还没有被确认已经成年的用户开放使用。上面说的这些结果, 是来自该组织这一次做的测试工作, 可不能就凭这个就去认定每一个账号啊或者是每一种情况下的通知功能都会没用的。