华南师范大学从新一代人工智能教育的角度看ChatGPT202342页

从新一代人工智能教育的角度看ChatGPT谢作如 浙江省温州中学人工智能实验室中国电子学会现代教育技术分会上海人工智能实验室智能教育中心人工智能发展史上的几件大事•2015年的ImageNet-视觉识别准确率超过人眼•2016年的AlphaGo-战胜人类最后的智力壁垒•2022年的ChatGPT-2个月拥有1亿用户获得1亿用户需要多少时间？电话：75年手机：16年Twitter：5年苹果应用商店：2年Instagram：2年半TikTok：9个月我的ChatGPT测试记录•能够回答高二信息技术试卷（Python）•能够给出基本可以直接使用的Arduino代码•能够帮我调试代码（ Python）•能够给出很不错的建议（提案）•……ChatGPT的技术原理•是AIGC（内容生成）的代表•核心是Transformer模型（GPT）•引入“自注意机制”•使用人类反馈强化学习（RLHF）•……台湾大学李宏毅的解读从ChatGPT的开发商OpenAI官网公布的流程图中，大致可以了解到ChatGPT通过人类反馈强化学习“自我完善”的过程。借助MMEdu理解文字接龙模型训练计算机视觉-图像分类输入输出床前明月光，前明月光，疑明月光，疑是月光，疑是地文字接龙-自动作诗机输入是图像，输出是标签假设神经网络是一个由很多神秘阀门组成的巨大漏斗神经网络的原理•每一张图片（数据）都是一杯液体，流经这个巨大的漏斗，最终到达预设的出口；•每一次学习，都要不断调整每一个控制阀门；•每一次验证都是测试漏斗的可靠性；•……数据输入 表：历代GPT的发布时间，参数量以及训练量大量的文本数据训练是AI掌握语言的关键，ChatGPT真正做到了“读书破万卷，下笔如有神”。相关资料显示，ChatGPT的训练使用了约45TB的数据，其中包含了多达近1万亿个单词的文本内容，约等于1351万本牛津词典。截止到2021年的海量知识全部被它收入知识库。类似ChatGPT的语言模型•国外-谷歌（Bard）-基于对话应用语言模型（LaMDA）-苹果（Siri）-收购多家AI公司，期待内部 AI 峰会•国内-百度（文心一格）-京东（ ChatJD）-科大讯飞、阿里-yuanChat-……小结•ChatGPT的确让人震撼的；•ChatGPT不是OpenAI独有的；•ChatGPT是训练出来的；•……•就底层技术而言，ChatGPT