近日，美国生成式人工智能领域的领军企业OpenAI在加拿大陷入一场激烈的舆论风波。事件的导火索是OpenAI未能及时向加拿大政府报告其人工智能模型ChatGPT平台用户存在暴力倾向，这一疏忽导致未能及时阻止一起恶性校园枪击事件的发生，该事件最终造成包括枪手在内的9人死亡，惨状令人痛心。
当地时间2月26日，OpenAI向加拿大政府作出多项郑重承诺，旨在全方位加强安全机制。该公司全球政策负责人安·奥利里透露，早在“几个月前”公司就已实施一系列政策变更。这些变更措施涵盖广泛，包括积极咨询“心理健康、行为和执法专家”，以此精准判断聊天机器人的对话何时构成可信风险。奥利里明确强调，依据增强后的安全机制，一旦发现被封禁的账户，OpenAI会立即将其转交给相关执法部门，确保潜在风险得到及时处理。此外，OpenAI还承诺与加拿大执法部门建立直接且高效的联系渠道。这意味着，一旦OpenAI担忧ChatGPT用户可能计划在现实世界中实施暴力行为，便能迅速通知警方，让执法部门得以第一时间介入，将危险扼杀在萌芽状态。
此前，OpenAI曾公开表示，未联系警方处理一个被其封禁的账户，而该账户属于一名涉嫌大规模枪击案的嫌疑人。当地时间2月10日，18岁的杰西·范·鲁特塞拉尔在加拿大不列颠哥伦比亚省的一个小镇持枪行凶，疯狂枪杀了8人后自杀身亡，这起悲剧震惊了整个加拿大社会。（央视新闻）
