用chat破解ChatGPT,高校和AI斗智的这四个月

  从GPT-3到3.5,再到4——ChatGPT快速迭代的这几个月,高校对于学生用它完成作业的抵制态度悄悄转了向。近日,香港科技大学的一门课程鼓励学生在期中报告使用ChatGPT,并承诺给予额外加分。

  与此同时,教师和学生之间的“拉锯战”逐渐趋于平和。学生一开始热情满满,用着用着却发现ChatGPT生成的答案虽然看上去“卖相”不错,但细究下来可能不那么靠谱,比如部分内容为杜撰;教师中则分化出了不同的看法:有人坚持禁用ChatGPT,也有人提出与其禁用,不如观察它、使用它,用批判性思维去看待它。

  破解ChatGPT最有效的方法是反制它吗?有高校教授认为,ChatGPT就像是提供标准答案的培训机构,但人们总有方法跟它斗智斗勇,以前搜索引擎时代是这样,以后chat(聊天)时代还是这样,而“破解ChatGPT的最重要的方法就是chat”。

  1

  从禁用到鼓励,

  高校对ChatGPT态度转向

  ChatGPT是由美国人工智能实验室OpenAI开发的对话AI模型。于去年11月底推出后,ChatGPT的底层模型已经经过两次迭代,拥有极其出色的文本生成和对话交互能力。而对于很多学生来说,ChatGPT最大的用处莫过于输入一个问题,就能轻松得到看上去质量相当不错的作业、报告甚至论文。

  “这个写作水平,公务员写材料地位稳了。”“把课程小论文丢进ChatGPT改,没想到效果奇好,很多建议都很中肯,这样做真的会节省很多时间,作为助教帮助改课堂论文也得到了教授的认可。”网络上,学生如此描述他们使用ChatGPT的亲身体验。根据美国在线课程网站Study.com向一万名18岁以上的学生发起的调查,89%的学生表示自己会使用ChatGPT完成作业。

  但很快就有人发现,ChatGPT有时会“一本正经地胡说八道”。比如有人检索了ChatGPT生成的论文参考文献,结果发现绝大多数文献为杜撰。更值让教师们担心的是,当学生习惯了使用ChatGPT来完成学习任务,可能会对它产生依赖甚至用它作弊,进而丧失独立思考能力。

  为防止ChatGPT带来学术欺诈、剽窃的现象,高校、政府、学术期刊纷纷发布禁令。截至目前,美国、英国、法国、澳大利亚、印度均有多所大学明令禁止在论文和课程作业中使用ChatGPT,否则将以学术不端进行惩处。

  在美国,洛杉矶联合学区早在去年12月就成为首批封锁ChatGPT的地区之一,纽约市教育部也已宣布禁止在学校的设备和网络上使用ChatGPT。《自然》《科学》等国际知名学术期刊亦发表声明,完全禁止或严格限制使用ChatGPT等AI机器人撰写学术论文。

  不过,近来高校对ChatGPT的态度似乎有“破冰”的迹象。

  这种迹象最早可以追溯到已有多所高校对ChatGPT下达禁令的美国。2月,宾夕法尼亚大学沃顿商学院资深教授Ethan Mollick发文呼吁学生“在教学中拥抱ChatGPT”。专门研究创业与创新的Mollick认为,只有这样,才能让学生们经过事实核查从而能够很快理解AI的准确性和偏见问题。

  3月初,香港科技大学(下称“港科大”)宣布,由教师自行决定是否准许学生使用ChatGPT。这一决定很快有了执行者——当月14日,港科大一门课程鼓励学生在期中报告中使用ChatGPT,还给予额外加分。

  该学科负责人黄岳永表示,与其他香港高校禁止或限制使用ChatGPT等AI工具不同,港科大管理层希望鼓励大家“尽快去学”。他还表示,在评分时,更看重学生与ChatGPT互动时的辩证思维和反思能力。

  和高校教师对ChatGPT的态度相比,学生对ChatGPT的热情却在逐渐冷却。

  在他们看来,由于没有接入网络、数据库并不完整,ChatGPT往往在复杂的理论上“栽跟头”。但出现这一问题的时候,ChatGPT并不会坦诚地表示“我不知道”,而是会先编造一些答案。

  “我用它搜索论文,但它输出给我十几份不存在的文献。”有研究生在社交媒体上表示。因此,一位博士生在网上直言:“不要试图让ChatGPT给你写文献综述,因为复杂的理论它也不懂,最好自己给它解释一遍,而且还要防着他出现虚假文献、错误引用等问题。”

  2

  担心ChatGPT破坏学术公平,

  迫在眉睫还是杞人忧天?

  尽管存在种种瑕疵,ChatGPT的强大无可否认。根据美国医疗保健初创企业安西布尔健康公司研究人员发表的论文,ChatGPT在美国执业医师资格考试中得分率为52.4%-75%(60分即为通过考试)。此前,ChatGPT还通过了美国的司法考试以及商学院考试。

  一边是流利的对答和在某些标准考试中的完美表现,一边是极度缺乏常识、虚假信息信手拈来——当ChatGPT走入高校甚至学术界,伴随着对于学术公平、学生丧失学习积极性的担忧,教师群体之中渐渐分化出了几种不同的观点。

  上海大学文学院创意写作学科教授、博士生导师谭旭东一直注重培养学生的创意和主体性。他对南都记者表示,ChatGPT可能引发学术不端和诚信问题,“如果过分借重这种尚未完全成熟的人工智能技术,那至少对写作是一个伤害。”

  在首批禁止学生在学校网络和设备上访问ChatGPT的纽约,教师们采用了相当严格的惩罚措施。

  “在未经确认的情况下使用ChatGPT的后果与任何学术剽窃案件的后果相同,从重做作业、扣分,到向学院院长提交报告都有可能。”纽约大学文理学院副院长Jenni Quilter接受媒体采访时说。该校的古典学系主任David Levene也提到,除非得到他的明确许可,否则任何使用ChatGPT的行为都将被视为剽窃。

  当谈到国内高校该如何约束或是利用ChatGPT时,谭旭东直言应该禁止用ChatGPT写论文和研究报告。他指出,用ChatGPT写论文,尤其是写研究论文是“本末倒置”,因为以机器和技术替代人去思考、研究,本身就是不负责任的行为。

  但武汉大学校长张平文并不赞成高校禁止使用ChatGPT的做法。“年轻人有使用高科技获取知识的愿望,这是一纸禁令所无法阻挡的。”他在接受媒体采访时指出,“对待ChatGPT的使用态度应像治理洪水一样,堵不如疏”,更要训练学生的批判性思维,不要满足于算法推送的现成答案,同时加强大学人文教育,提高学生的人格养成和精神境界。

  还有一种观点认为,当下的ChatGPT存在着诸多能力上的限制,所以担心它破坏学术公平是杞人忧天。

  英国格拉斯哥大学博一在读的小段对此深有感触。在他看来,对于博士而言,ChatGPT能给学业带来的帮助“几乎可以说是没有”。

  小段日常的工作大部分是读文献、撰写文献综述,其中包括对研究方向、当前领域研究进度、研究态度的思考和批判,但ChatGPT并不能辅助这一点。“因为文献综述要基于大量的文献撰写,写的时候有一定的格式规范,而ChatGPT无法带文献引用,只能输出简单的文本。”他说,“它的数据库里面没有学术数据库的版权,所以文献综述这一块它肯定不行”,而且目前ChatGPT不能上传文档、文本输出有字数限制,并没有人们想得那么实用,“可能更适合本科生或者硕士生。”

  这些观点得到了华南理工大学法学院副教授叶竹盛的证实。他告诉南都记者,ChatGPT只能给学生提供基础性的信息检索的辅助,并且有些内容是经不起推敲的,高水平的学术论文写作只能由研究者自己来完成,ChatGPT无法完成深度内容的呈现。

  “ChatGPT可能会有一些基础性的错误。比如有一次我用寻找法律条文的方式测试ChatGPT,发现它完全无法详细精确地查找哪一部法律的哪一条是什么内容,并且可能会出现基础的知识类错误,然后它也可能会犯一些逻辑上的错误,比如说因果关系的错误或者倒因为果。”

  叶竹盛还指出,高水平的学者一眼就可以判断出来论文自身的水平怎么样,是不是言之有物、能不能站得住脚、有没有学术创新性,“这个不是ChatGPT能够取代得了的”。“ChatGPT并不能生成高水平学术性文章,因而不会对学术领域带来颠覆性影响,也就不用担心它破坏学术公平。”

  3

  “破解ChatGPT最重要的方法就是chat”

  每当一个变革性的新兴技术出现,其“双刃剑”效应似乎总让人们游走于拥抱它还是抵制它的两难境地。尤其在学校里,教师对学生的引导至关重要,如果只是“一禁了之”,忽视新兴技术给学术规范带来的挑战,或许会引发其他弊端。

  “学校作为一个科研和教学机构,体现出教育行业的反思和自我革命的要求,我觉得这个可能是更重要的事情,而不在于它禁止还是允许(使用新型AI技术)。” 中国传媒大学新闻传播学部副教授周逵如是说。

  他表示,虽然自己的课堂上还没有出现使用ChatGPT的行为,但他会对自己的教学模式做出调整,如在作业中让学生们提交问题而不是答案。“我觉得能问出好问题比找到好答案可能更重要。要看到ChatGPT到目前为止还不会提问,我觉得人类目前还可以保持住发问者的状态和尊严,至少从人文社科领域可以这么去考虑。”

  “它(ChatGPT)有点像给考生提供标准答案的培训机构,但是一般这种情况之下很容易被问出来。总是有方法去跟它斗智斗勇的,在以前搜索引擎时代是这样的,以后chat(聊天)时代还是这样的。”周逵笑称,“破解ChatGPT的最重要的方法就是chat。”

  前述宾夕法尼亚大学教授Mollick则已经在面向本科和硕士级别的创业和创新课程中,以三种不同的方式训练学生使用AI,甚至允许学生使用ChatGPT来写论文,不过他也给出了使用ChatGPT的限制,以帮助学生更好地认清ChatGPT的工具属性。这三种方式分别是向AI提供描述性词汇,在描述中增加一些限制和专业知识,以及“AI+人工”共同编辑——最后一种方式的教学效果明显优于前两者。

  香港大学禁用ChatGPT后,副校长何立仁曾对媒体表示此举是短期措施,但他于3月9日再次向师生重申相关政策不变,将持续到8月结束。对此,叶竹盛直白地表示不认同:“我觉得应该要接受这个技术,因为防是防不住的。对高校来说,当下最重要的是改变培养的重点和考核的重点,然后尽快应用ChatGPT学术反剽窃系统,这种系统可能才是当务之急。”

  相比高校选择禁止还是鼓励使用ChatGPT,周逵更担忧的是,现在大家都沉浸在技术爆炸的想象当中,社会对其负面影响却没有足够的应对方式。“我觉得学校不管禁止还是接纳,都可能需要在一个更超然的立场上去观察、做批判性思考。”

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论