OpenAI推出用户年龄预测功能 以保护未成年用户

财联社1月21日讯(编辑 刘蕊)美东时间周二,OpenAI 表示,已在其ChatGPT消费者计划中推出一款年龄预测模型,以帮助该公司识别属于18岁以下用户的账户。

ChatGPT上线年龄预测功能

OpenAI称,该模型基于账户层面的信号和行为层面的信号的组合,其中一些信号包括:使用模式随时间的变化、账户存在的时长、用户通常在一天中的活跃时间以及用户所申报的年龄。

近几个月来,OpenAI 已推出多项新的安全功能,以应对有关其如何保护用户(尤其是未成年人用户)的日益严格的审查。

目前,OpenAI以及其他科技企业正因其AI聊天机器人可能对儿童和青少年产生负面影响而受到美国联邦贸易委员会的调查。OpenAI还曾被卷入了几起“过失致死”诉讼案件,其中包括一起涉及一名青少年自杀身亡的案件。

OpenAI表示,如果其年龄预测模型显示用户未满18岁,ChatGPT 将自动启用保护措施,减少展示“敏感内容”(如描绘自残的图片)。

如果已成年用户的年龄被错误判定为未满18岁,他们将能够使用身份验证服务Persona来恢复完全访问权限。

AI正面临严格科技监管压力

目前,其他科技公司(如Roblox)也正在应用身份验证服务Persona,这些公司也和OpenAI类似,正面临着来自国会议员们的压力,要求其在平台上更好地保护儿童。

去年8月,OpenAI曾表示将推出家长控制功能,以帮助他们了解和引导青少年如何使用ChatGPT。次月,OpenAI推出了家长控制功能,并表示正在努力构建一个年龄预测系统。

该公司还在去年10 月召集了一个由八位专家组成的委员会,他们将提供有关人工智能如何影响用户心理健康、情绪和动机的见解。

OpenAI本周二表示,它将随着时间的推移继续提高其年龄预测模型的准确性。该模型将在未来几周内在欧盟推出,“以符合地区要求”。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平