加州、特拉华州总检察长警告OpenAI: 对伤害儿童的行为应当零容忍

IT之家9月6日消息，据外媒TechCrunch5日报道，美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯近日会见了OpenAI，并向公司发出公开信，表达自身对ChatGPT安全性的担忧，尤其是针对儿童和青少年的使用风险。

此次警告发出之前，邦塔与其他44位总检察长曾致信12家顶级AI公司。当时已有报告指出AI聊天机器人与儿童发生不当性互动。

邦塔和詹宁斯在信中写道：“自那封信发布以来，我们得知一名加州青少年在与OpenAI聊天机器人长时间互动后自杀身亡，同时康涅狄格州也发生了类似的杀人-自杀事件。现有的安全措施显然未能起作用。”

两位州官员目前正在调查OpenAI拟将自身重组为盈利机构的计划，以确保非营利使命不受影响。信中强调，这一使命包括“确保人工智能安全使用”，以及构建造福全人类、包括儿童的通用人工智能（AGI）。

信中还指出：“在追求利益之前，我们必须先确保有足够的安全措施防止伤害。我们一致认为，OpenAI以及整个行业在AI产品开发和部署的安全保障上仍远未达标。作为总检察长，保护公众安全是我们的核心任务。在就OpenAI资本重组计划继续沟通的同时，我们必须加快步伐，把安全作为这项强大技术未来发展的核心原则。”

IT之家从报道获悉，邦塔和詹宁斯要求OpenAI提供更多关于当前安全措施和治理的细节，并表示公司应在必要时立即采取补救行动。