随着OpenAI的ChatGPT于去年12月正式公开,由此引发的作弊问题已经引起学术界的广泛关注。全美各地的教学和学校董事会都开始认真思考,到底是该对AI写作工具张开怀抱、还是严厉制止。
教师们其实既忧心又兴奋,因为ChatGPT等聊天机器人确实能生成几乎任意格式、任意主题的文章。它能轻松创作一首莎士比亚十四行诗风格、但内容诙谐打趣的作品,也能就《了不起的盖茨比》中蓝色窗帘的象征意义写篇500字论文。大家甚至可以使用Quillbot这类工具来解释ChapGPT生成的文章,就如同一位贴心的“枪手”给用户讲解自己的创作思路。
当然,没人幻想ChatGPT能写出演说家级别的文案。但有评论说得好,“ChatGPT所知晓的一切,已经足够危险。”
除了学生论文这个狭窄的话题之外,也有一些教师对AI写作在增强学习体验方面的潜力感到兴奋,另一些教师则不太肯定该把这类工具引入课堂。目前,美国各地及互联网上关于ChatGPT的态度可以说是复杂多样。
纽约市禁止学生在校使用ChatGPT机器人
纽约市教育局明确禁止学生和老师在学苑网络及设备上使用ChatGPT,这似乎也是第一份反对在校内使用AI机器人的政策。据《华盛顿邮报》报道,尚不清楚学生能否在校外使用ChatGPT。
在一份写给《华盛顿邮报》的声明中,纽约市教育局发言人Jenna Lyle表示,“虽然这款工具有望为问题提供快速、简单的答案,但却可能阻止学生培养出批判性思维和解决问题的能力,而这种能力对于学业乃至整个人生都至关重要。”
相较于行动极快的纽约,其他各州及学区仍在纠结该制定怎样的应对之策。不过在部分学校,未等学区的官方意见出炉,教师自己已经在班内推行预防措施。
加利福尼亚州Pacifica Oceana高中的教师已经向学生发出警告,称不得使用AI写作软件完成作业。有部分老师在采访中表示,他们可能会要求学生上交“无法直接从AI处复制/粘贴的手写作业”。
为了阻止利用AI作弊,部分网站还创建了识别AI写作的工具,包括writer.com的AI内容检测器和反ChatGPT工具GPTZero。
“我用新年假期构建了GPTZero——一款能快速检测一篇文章是人工撰写还是ChatGPT生成的应用程序。”
值得一提的是,OpenAI自己也表示正在研究一种以数字方式为输出文本添加“水印”的方法,意味着文本中将保留机器人可以发现、但人类无法识别的AI生成线索。
拥抱潜力
在互联网上,特别是TikTok上,ChatGPT也引发了教师们的热烈争论。部分教育工作者认为,聊天机器人能为教师们创建课程规划和材料以简化作业完成流程。Dan Lewer在评论中写道,“请注意,我的观点是AI能帮助教师们更好地完成工作,而不是完全替他们完成工作。机器人取代不了好老师。”
TikTok上一另一位教师Tyler Tarver则认为,ChatGPT“能帮助教师更好地吸引和支持学生,针对不同水平的孩子准备教学材料。”为了证明自己的论断,Tarver用AI创建了部分课件脚本。Tarver还提到,“孩子们可以直接提交自己感兴趣的作业,比如为〈哈利波特与死亡圣器〉写一篇500字的文章。”除了对ChatGPT本身的认可,他还关注聊天机器人这种形式作为课堂工具的潜力。在他看来,聊天机器人可以帮助教师生成教学素材、也能作为学生们的辅助讨论工具。
当然,这些争论并没能达成共识——最终仍然是一部分教师表示乐观,另一部分仍在犹豫。从TikTok上的舆论风向来看,支持派的教师们主要是将ChatGPT视为一种类似于计算器和手机的纯工具——可以用来帮助学生完成作业,并不能直接替他们完成作业。
所以至少到目前,能否在课堂上使用AI写作工具还是由个别教师和学生的需求决定。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。