纽约全美最严AI课堂禁令落地:60万学生禁用生成式AI与OpenAI网络安全峰会前瞻

2026年9月2日,纽约市市长佐赫兰·马姆达尼宣布,该市公立学校将在2026-2027学年实施为期一年的生成式人工智能管控禁令,覆盖学前班至八年级约60万名学生。这项政策成为全美范围内范围最广的校园AI管控措施。几乎同一时间,OpenAI宣布召集约300名安全领域负责人,计划于9月4日召开网络安全会议,筹备AI安全相关公告。AI治理从课堂到企业两端同时收紧,反映出技术进步速度已超越制度建设的步调。

纽约课堂AI禁令:从38个获准应用到全面暂停

纽约市拥有美国规模最大的公立学校系统,在校学生总数约90万人。此次禁令覆盖2-K学前班至八年级共60万学生,约占全市公立学校学生总数的三分之二。高中生不在全面禁止范围内,学校将制定针对高中阶段的AI使用指导方针。

禁令核心内容包括三个层面。第一,学生在升入高中之前不得在课堂场景下使用生成式AI工具,包括AI聊天机器人、AI辅导软件以及嵌入了生成式AI功能的教育应用。第二,纽约市教育局将停用或禁用38个此前获准使用的AI教育软件,涉及AI作业辅助、AI写作辅导和AI数学解题等类别。第三,教师不得使用AI工具批改作业,以保持人工评估对学生学习过程的真实反馈。

纽约市长马姆达尼在政策发布会上表示,此举旨在保护学生的批判性思维能力,以及改善学生与教师之间的关系。纽约市教育局长卡马尔·塞缪尔斯同步宣布将收紧数字设备使用规定,并在部分学校试点”无屏幕时间”课程。这一政策与纽约市教育局近年推进的”科技减负”方向一致——2025年纽约市已立法限制校内社交媒体使用。

OpenAI网络安全峰会:Astra模型与安全门槛

就在纽约课堂AI禁令发布的同一天,OpenAI于当地时间9月1日宣布其下一代AI模型Astra即将发布。Astra的特殊之处在于,它是OpenAI旗下首个达到其《准备框架》(Preparedness Framework)中”关键”(Critical)网络安全能力门槛的模型。根据OpenAI的定义,达到”关键”门槛意味着该模型能够在无需人类分步指导的情况下,在经过安全加固的真实关键基础设施系统中识别并开发零日漏洞利用程序。

OpenAI对Astra的网络安全功能采取了严格限制措施。在ExploitBench测试中,Astra的漏洞发现能力已接近专业渗透测试团队水平。OpenAI吸取了此前”AI越狱”事件的教训,将Astra的网络安全功能限定在授权测试环境中使用,不对公众开放。这一决策背后是美国供水系统接连遭遇疑似借助AI实施的网络攻击事件,以及OpenAI意外入侵Hugging Face平台的安全事件。

9月3日,据美媒Axios报道,OpenAI总裁格雷格·布罗克曼即将在9月4日召集约300名安全领域负责人召开会议。会议议程包括扩大关键基础设施和公共部门机构对OpenAI工具的使用权限,以及发布网络安全相关公告。这是OpenAI首次以安全为主题召集大规模行业会议。

外滩大会聚焦AI新经济:从技术到产业转化

在AI治理政策密集出台的背景下,2026 Inclusion·外滩大会将于9月9日至12日在上海黄浦世博园区举行。今年大会以”共创AI新经济”为主题,聚焦AI如何转化为新的生产力和经济机会。截至9月3日,观众报名人数已突破5万人,参展企业超过300家,海外嘉宾覆盖50余个国家和地区,国际参与度创历届新高。

本届大会设置1场主论坛和40余场见解论坛,汇聚600余位国内外学者、科学家、企业家及投资人。配套1.5万平方米主题科技展,涵盖AI大模型、智能算力、AI+产业融合、绿色智算等方向。同期举办2026年中国国际服务贸易交易会(服贸会),湖北携13家数字技术企业以”智汇荆楚·AI创未来”为主题亮相,展示AI大模型与智能算力、大数据与智能决策、AI+产业融合等成果。

AI治理走向分化:保护与创新的两难

纽约课堂AI禁令和OpenAI安全峰会代表了AI治理的两种路径:前者通过行政手段限制AI在特定场景的使用,后者通过技术标准和行业自律引导AI安全发展。两种路径背后是同一个核心矛盾——AI技术能力的增长速度远超制度响应速度。

纽约的禁令在执行层面面临挑战。38个被停用的AI教育软件中,部分已深度嵌入学校的教学管理系统,替换需要时间和经费。教师对AI批改作业的依赖程度不一,部分教师已将AI辅助批改纳入日常教学流程。禁令的有效性取决于替代方案的落地速度。

OpenAI的安全会议则面临另一个问题:Astra模型的”关键”网络安全能力如何界定使用边界。零日漏洞发现能力在防御端可用于安全加固,在攻击端则可能被恶意利用。OpenAI选择限制功能而非开放能力,这一决策与行业对AI安全分级管理的期待一致,但也引发关于AI安全标准制定权归属的讨论。

2026年9月1日实施的我国首个《顾客联络服务 人工与智能客户服务协同要求》国家标准,从客服场景切入AI治理,要求保障消费者”转人工”权利,解决AI客服”已读乱回”问题。中消协数据显示,2026年上半年售后服务投诉占总投诉的26.79%,其中AI客服相关问题突出。新国标从制度层面对AI应用场景划定了边界。

AI治理正从概念讨论进入实质落地阶段。纽约课堂禁令、OpenAI安全峰会、中国客服AI国标、外滩大会AI新经济主题——这些事件在同周密集出现,表明2026年下半年AI产业进入治理与产业化并行的新阶段。技术进步不会因管控而停滞,管控也不应因技术进步而缺位。关键在于找到适合不同场景的平衡点。

原创文章,作者:小编,如若转载,请注明出处:https://www.yunthe.com/niu-yue-quan-mei-zui-yan-ai-ke-tang-jin-ling-luo-di-60-wan/

(0)
小编小编
上一篇 1小时前
下一篇 23分钟前

相关推荐