AI深度学习原理及操作
企管三乙 陈颖萱
在几十年前的过去，谁都无法想像AI的发展能到如此地步，从人工智慧、机器学习再到现在的深度学习。而2010年后再次兴起的反向传播演算法又将AI的发展往更高的领域推进，以及激励函数的应用也于深度学习领域起到很大的作用。透过函数数值的调整、图型的叠加所产生的各式模型，便可将其应用于图像、自然语言处理等领域当中。
在演讲中，我觉得特别有趣的部分是在讲解大型语言模型的基本单位-token的解释和自然语言生成的文字解码(decoding)部分。在英文，token的计算上会更偏向音节上的划分，但中文字体的复杂性就没办法套用英文的那种模式去进行token上的计算，因此如果是使用中文，向比如说Chat GPT这种大型语言模型提问的话，token数会比用英文提问还要多很多，这便导致费用上会有很大的差异。还有，我也没有想到在文字的decoding strategies上有那么多方式上的划分。的确，我们确实无法总是选择最高分的那一个字当作下一个字的选择，这会使重复性太过高，而这便延伸出了Top-K和Top-P这两种自然语言的生成方式，使AI在语言生成上的多元性会更加丰富。
其实现在许多的应用，都是拿已经预训练好的模型做微调，诚如刚刚有提到的反向传播演算法也是。但其实截至目前为止，由于这领域还太新，发展尚未成熟，还有很多部分的原理或定义是连现今的我们都还无法精确的解释或说明出来的，这好像令我更想要持续的关注此领域未来的发展，因为太无法想像究竟人工智慧到底能发展到多先进的地步。
纵使这学期也有同时在修习另一门人工智慧课程，稍微对今天的演讲内容有一丝概念。但我还是必须老实地说这星期的深度学习演讲并不是个能以轻松态度从中学习的演讲，而是即使已投入了百分之九十九的心力到最后可能只吸收进百分之六十，然后随著时间的流逝，关于其的记忆还会直线下滑的那种演讲，想当然耳，在心得的撰写上也非常吃力，但我还是依旧非常喜欢且珍惜此次的演讲机会。不光是获取了专业领域的知识，我好像也明白了当一个人在其热爱的领域进行钻研及发表时，是可以让他变成闪闪发光的。不确定我是否能在我此生找到我真正热爱的事物让我发了狂似的去了解，但在找到之前，我不会放弃在各种领域知识上的学习机会的。
校际生 简𬀩丞
今天的演讲请到了来自台湾大学电机系的徐有齐学长来介绍深度学习的原理与深度学习是如何操作的。
深度学习是机器学习的一个分支，是一种基于人工神经网络的机器学习方法，人工神经网络是一种多层级结构，由输入层（input layer）、隐藏层（hidden layer）、输出层（output layer）所建构而成。深度学习与机器学习的差异在于，机器学习使用演算法来剖析资料，而深度学习是以“层次性”为演算法的基础概念，透过模拟人脑的运作方式，创立人工神经网络，形成数学函数的集合，只要将输入的数值丢入其中，经过大量的训练过程，再经过复杂运算，就能有效处理非结构化资料，最终机器可得出比拟人类的行为判断。深度学习模型包含数百万到数十亿个参数，因此它们可以处理复杂的特征提取和模式识别任务。深度学习在多个领域中取得了巨大的成功，包括图像识别、语音识别、自然语言处理、机器翻译、自动驾驶、医学影像处理等。
学长用了一个简单的例子：利用图片辨识结合机器学习来辨别图片里面的动物是否为猫咪。首先，我们需要建立一个包含猫咪和其他动物图像的数据集，这些图像应该包括各种不同的猫咪和其他动物，以帮助模型学习区分它们。每个图像都应标有相应的标签，指示其中的动物是否是猫咪。再来就是机器学习的步骤，最终会得出一个数值，此数值会介于数字0到1之间，而我们人类要将此数值赋予意义，若此数值大于等于0.5，那么就代表机器认为照片里的动物是猫咪，反之，若此数值小于0.5，就代表机器认为不是猫咪。
整场演讲最让我印象深刻的部分是在实际演练的部分，是关于辨别数字0～9，首先学长已经有选定了机器学习适合的模型，第一次跑出的结果是以一张图来呈现的，我们希望达到的目标是斜对角以外的格子也就是辨识错误的数量降到最低，除此之外我们还可以看到准确率并没有很高且Loss的数字还蛮大的，表示此次预测结果并没有到非常好。接下来学长教我们更改参数，包括训练的次数(epoch)和训练资料的比数，以增加辨识的准确率，由于训练资料从50比增加到1000笔，训练次数也大幅的增加，最终准确率来到了百分之九十，学长说如果将全部共6000笔的资料让机器去学习，那么准确率可以高达百分之九十六。若没有机器学习的话，正常我们用猜的猜对数字的机率仅有0.1而已，可见机器学习是多么厉害。
这次的演讲虽然有些艰涩难懂，但是收获良多。
企管三乙 刘又祯
这次的演讲主题是有关AI深度学习的相关知识，演讲者请到大台大电机系的同学徐有齐，不过可能碍于我们不是本科系的学生，对一些专有名词或专业理论逻辑不熟悉，导致听的过程其实越来越吃力，注意力也很容易驱散，但我还是衷心地认为演讲者口条很好，而他也试著用浅显易懂的方式让大家更好的理解，在简报的制作上更是让人一目了然，且能很好的搭配叙述的内容，以下是一些我听到比较有印象的部分：
首先开宗明义，演讲者提到机器的学习是达成人工智慧最有用的办法，我也认为不管是人类或非人类，对于获得知识，都是要透过学习来达成的，各方面的搜集自己不了解的领域资讯，在内化成为自己的东西，可想而知AI也一样，这就进而导引出此次的主题“深度学习”，指的是可以指导电脑以人脑的思考方式处理资料，有所谓识别的功能，透过网路上图片、文字、声音等等资料的撷取借此产生准确的洞察和预测，可以用在诈骗预测、自动脸部辨识和数位助理等应用，我曾经也在网路上看到像是医院使用医学影像分析帮助病人侦测到癌细胞等实际案例。
另外有提到的是“梯度学习法”，虽然在那时没有很了解，但在上网查询研究了一下后，发现这是一个可以帮助找到机器学习的理想模型参数的一个办法，在训练模型的时候，我们的目标是让损失函数越小越好，因此通常会设计一个极限存在、连续图形、可以微分的损失函数，借此就可以透过微分的运算来找出最佳的模型参数。
这虽然看似学术性质很高也不在我的兴趣范围内，但基于上课提到和我的好奇心，使我想要了解这方面的概念，在学习的途中不免会遇到不是自己擅长的领域，我们应该要像这些机器一样，不断吸收外界资讯，再从中筛选出对自己有帮助或是未来趋势所及，跨领域以不在是甚么稀奇的事，逐渐变成现在学生的基本功，连AI都在讲求深度学习了，为甚么我们人类本身不用呢?
最后，在演讲时徐同学也不断提到，台湾在著手这方面的研究时，往往都需要倚靠国外的模型，因为我们没有自己的资料库，其实在这堂演讲课之前我不知道还有这样的事，资料库的大小和内容的丰富含量，也会有每个国家不一的状况，就好比贫富差距一般，尽管如此，数据库不足仍不是阻挡我们持续训练或是钻研人工智慧的理由，在现在大数据已是主流的时代，永不间断的学习才是生存的王道。
企管三乙 陈音璇
徐有齐学长的演讲深入探讨了深度学习的原理和实际操作，虽然他所讲述的内容跟大一自然课所听到的差不多，但在大一时没有深入的探讨一些东西，徐有齐学长都有为我们讲述，只是实作部分并没有让我们深度去体验，当时我们真的是拿自己的电脑，去跑一个分辨是狗还是猫的AI，很花费时间但也很有趣。
深度学习不仅仅是一门技术，更是一种对于人工智慧探索的重要方法。透过这次演讲以及大一的课程，我对于深度学习又有了更深入的理解，也更加确信它在未来将会引领著科技的发展，而在另一层面上，我更加宏观的发现程序员的伟大，他们的努力是在改变这个世界。
在演讲中，徐有齐学长讲解了深度学习的基本原理，深度学习模型的核心就是神经网络，它受到人类大脑结构的启发，通过多层次的神经元组成，实现了对于复杂模式的学习和识别，这种模仿人类大脑的方式使得深度学习在处理图像、语音、自然语言等方面可以取得了惊人的成就，只是要训练出来需要花费大量的时间以及金钱，可能需要好几台超级电脑才能完成，所以只有大公司才能著手开发这项技术，只是我认为小公司不代表就不能触碰人工智慧，他们可以运用网上免费的程式进行简单的开发，虽然不够智慧，但可以客服来回答简单的问题。
徐有齐学长还介绍了深度学习的实际操作，在实际应用中，我们需要选择适合的深度学习框架，并且了解数据的处理和特征提取方法，在训练模型时，我们需要关注过拟合问题，并且通过交叉验证等技术来确保模型的泛化能力，实际上操作并不难，只是因为我们站在巨人的肩膀上才这么认为，不得不佩服能想到这些方法的人们。
我认为人工智慧能在很多方面取得惊人的成就，像是老师在课堂中说到的自驾车，我想我能够畅想未来的道路通通都是自驾车，而自驾车系统统整在一个网路上，未来说不定能够大幅解少车祸的发生。
谢谢徐有齐学长的演讲让我更加深入地了解了深度学习的原理和应用，在这个数据驱动的时代，深度学习作为一个强大的工具，为我们提供了解决复杂问题的新途径，让我更加期待未来的发展。
企管三乙 吴雅竹
透过徐有齐对于机器学习的演讲了解到深度学习需要透过大量的计算、演练，才能训练出一个良好的模型。在现代生活中科技已是生活中不可或缺的，在科技进步时，AI模型已经成为许多领域的所需要的核心技术。透过他的解说后，我认为深度学习是一个极复杂、繁琐的一个过程。我们要设计模型需要:数据准备：建立模型、编译模型、训练模型、验证和调优、测试和部署。
深度学习的基本原理有→神经元和神经网络：通过权重和偏差的调整，神经网络可以学习复杂的模式；前向传播：神经网络通过前向传播计算输入数据的预测输出。每个神经元会对输入数据进行加权总和，然后通过激活函数产生输出；激活函数：激活函数引入了非线性因素，使得神经网络可以学习非线性关系；反向传播：反向传播是通过计算预测输出和真实输出之间的误差，然后将误差从输出层向后传播到隐藏层，来调整神经网络的权重和偏差；损失函数：损失函数用于度量预测输出与真实输出之间的差异。训练神经网络的目标是最小化损失函数的值。
设计模型需要将数学、统计学等融合到模型中，并将某领域知识结合，比如语言处理、金融预测、机器视觉等，能够帮助我们更好地透过问题设计出更有效的模型。设计模型需要具备良好的数据处理和分析能力。数据是训练AI模型的基本要件，有足够且良好的数据才能够训练出优秀的模型。另外，在演讲的过程中，了解到拥有数据是一件需要大量资金的事情，而台湾在于资金方面稍显不足，我认为我们能够多重视这个领域，毕竟未来生活一定会与其更加密不可分。
讲者在过程中有分享几个模型，并将其模型的演练过程分享给我们。透过这些模型我了解到透过机器学习，他们如何去过滤掉成千上万的数据，提供出我们所需要的结果，虽然其中必定会有误差，但我认为这已经使我们并未接触此领域的外行者，认为深度学习对于我们生活便利层面已有一定的影响。未来继续透过演练模型，定能解决更复杂的问题，使我们更加便利。
企管三乙 吴耘瑄
这次的演讲讲师从机器学习开始向我们介绍，然后慢慢地导向深度学习，有别于其他次的演讲，这次的讲师带来了更多实际操作上的教学，我觉得这是非常好的，也因为讲师在实际操作上的讲解，让我更明白他所要传达给我们的知识内容如何实践。
“深度学习”一种机器学习方法，其核心特点是使用多层神经网络来自动学习数据表示和模式，通常包含许多隐藏层，这样的多层结构有助于模型学习复杂的特征和关系。深度学习的目标是通过大数据和反向传播算法，调整神经网络的权重，以最小化预测输出和实际输出之间的误差，从而实现高效的数据分类、回归、语音识别、图像识别等应用。而深度学习和机器学习是相关但不同的概念，深度学习是机器学习的一个子集，它特点是使用深层神经网络，自动学习特征表示，并在处理大型数据集和复杂任务时取得卓越成果。
机器学习则更广泛，包括多种不同模型和学习方法。机器学习的应用也广泛的出现在我们的生活中，例如：影像辨识、脸部辨识、自然语言处理、语音合成。以上这些知识点都与我们的第一章——人工智慧，不谋而合，这让我在听这堂演讲的时候不会完全听不懂。不过比较可惜的是演讲到了最后面的时候，讲师开始讲解比较困难的程式，我理解的部分越来越少，这才理解老师在演讲开始前说的“我们可能没办法全部都听懂”，但如果是对这部分很感兴趣的人，我想他会在这个演讲里收获颇多的。
近几年“机器学习”一直频繁的出现在我的学习生涯中，我想这是因为机器学习未来将在各个行业和领域中得到广泛应用，包括医疗保健、交通、金融、能源、农业等。它将帮助解决各种复杂的问题，提高效率和创新。未来的机器学习系统将更具自主学习能力，能够不断适应新的数据和环境变化，而无需人为干预。这将使机器更具灵活性和适应性。除此之外，机器学习系统将实现更深层次的语义理解，不仅能够识别模式，还能理解背后的意义。这将有助于改善对话系统、自然语言处理和机器视觉等应用。所以学习这个领域对高科技企管的学生是必要的！
企管三乙 沈均茹
人工智慧包括了电脑视觉、语音辨识、语音合成、自然语言处理、判断能力、文字生成，而深度学习是人工智慧领域中的一个重要分支，它模仿人类大脑的运作方式，通过模拟人脑神经元之间的连接来学习和解决问题。这种技术已经在许多领域展现出惊人的成就，包括图像识别、语音识别、自然语言处理等。深度学习的核心是人工神经网络（Artificial Neural Networks，简称ANNs），以下将探讨其原理和实际操作。而徐有齐讲者也说到其实机器学习约等于深度学习
而深度学习的原理是由神经元和层次结构组成，神经元是深度学习的基本单元，它们就像我们人脑中的神经元，通过计算激发函数来处理输入数据。这些神经元组合形成层次结构，分为输入层、隐藏层和输出层，其中输入层接收原始数据，隐藏层处理信息，而输出层提供结果。接下来则是传播，也分为前向传播以及反向传播，向前就是信息在神经网络中通过前向传播进行传递，在数据通过各层神经元时对每个神经元对输入进行加权总和，再通过激发函数输出到下一层。而反向传播则是训练神经网络的关键。通过与实际结果进行比较，利用损失函数计算误差，然后向后调整每个神经元的权重和偏差，将误差降到最小，从而去改进预测结果。
而在实际操作中，最重要的就是数据准备，深度学习需要大量的数据进行训练。数据应该清洗、标记和准备好用于模型的训练，而徐有齐演讲者在演讲的开头讲到最近中研院的新闻，主要是在讨论中研院开发AI自答“我的国籍是中国” 测试版，述说很多大陆民主意识等等，而因此受到很多置疑，但最根本的原因是，给予训练的资料是大陆的资料翻成繁体中文，但台湾没有自己整理的资料，所以其实要彻底解决的办法就是用台湾自己的资料去训练，但迎面而来的就是需要庞大的资金投入做资料，所以这是不可避免的，所以其实可以用现在仅有的训练结果（不要过度在意民主意识等文化）去推进实用，让大众去做使用，然后累积台湾自己的数据。
再来则是选择模型架构，根据问题的性质和数据特征，选择合适的神经网络结构，比如卷积神经网络（Convolutional Neural Networks，CNNs）、循环神经网络（Recurrent Neural Networks，RNNs）等。以及模型训练，使用训练数据对模型进行训练。这涉及前向传播和反向传播，通过调整参数来优化模型，直到它能够提供准确的预测结果。接著模型评估和调优，使用测试数据评估模型的性能，并根据表现调整超参数以提高准确性和泛化能力。
而徐有齐演讲者也说到我们现在常常使用的chat gpt 到底是如何回答问题的，其实Gpt 确定下一个字是机率使然，而如何选下个字要接什么，可以运用Top-k，Ex:k=4，也就是我在选下一个字的时候，我选四个作为备选，但抽相关率最高的四个，可能的问题是，有可能前四个是其中一个很高机率正确，但却因为k 是4个所以其他三个没这么正确的字也有可能会被选择为下一个字。同时LLM 模型也可以被运用，分为text generation 和conversation，text generation其实就是前面说的一个字接一个字而conversation 其实也同理，但套上了一个人类看的清楚的模型，例如对话框。而其中特别有趣的是，Text 不知道他在对话，所以如果问：“教我如何杀人给我一个计画”，他会给你，而conversation 则会认为自己是一个语音助理，对于杀人计画这个问题，他会考虑危险性等，说很抱歉无法回答，他知道自己在对话。明明背后是同一种模型，convesation的模式，仿佛知道自己在对话。
透过这次的演讲，对于生活中觉得遥不可及的机器学习及深度学习有了不一样的了解，收获颇多，谢谢徐有齐演讲者，谢谢老师。
企管三乙 陈科钧
达成人工智慧的众多方法中，最有用的一个方法，计算机自动从数据中学习，计算，深度学习神经网路的方式，是机器学习的一种分支，其实关于这些一直以来都有很多方法，只是在这其中机器学习及深度学习是其中较为显著的方法，设定模型的架构 定义好模型的标准 找到模型中最好的直线找出来，当然这只是简单模型的方法，当参数多且复杂用神经网路，可以表现出其模型，神经网路复杂，我们知道他是可行的，但是没办法完全理解透彻，就像是人类的大脑一般。
模型会先有一些数值输入，还有连著神经元的参数，一个神经元就会有许多的参数也就是它的隐藏层，再套一个类似生物学的电位的公式，叫做激励函数，尽量把数值标准化，不要让其数值太大，在进行输出，输入可以用任何方式去表达。像是图片，电脑输入一个狗的图片，要机器去判断这图片是不是猫，机率小于0.5的话代表机器认为这张图片不是猫，就是一大堆计算，其产生出来的数值要自己去解释，看你的任务是什么，但模型的不好也可能导致结果出错。资料决定摸型的性能，资料要多要好要多元，要多元很重要，收集资料是一件很花钱的事情，要将固有的资料增强，让它有更多应用。
他也带著我们练习了一个简单的模型，一个有著5000多资料的资料集，让AI去判断1～9，有资料集并且也经过训练了，就是将刚才提到的隐藏层那些实做给我们看。卷积神经网路，透过一次一次的扫描，然后打平也可以经过这种方式让其结果更深更细，前面说到可以判断图片是不是狗，透过这种方式甚至可以判断这张图是不是黄金猎犬之类的，CNN最适合的是图形辨识，那要让机器去分辨文字的话，要让它有记忆力，特别再弄一个隐藏层，去让他分辨到底是目的地还是出发地或是时间。
更复杂的是翻译，那个图表看起来超复杂，但结果就是图形有生成文字的能力，BERT产生的向量可以区分歧异字，现在的模型透过训练可以区分出来喝苹果汁跟苹果手机的差别在哪里，它可以知道这个字是什么意思，可以省了很多力气，像是GPT就可以达成甚至可以预测下一个字，Tokens可以透过把不常见的字区分成几个合理的区块，再进行翻译，最大的限制就是显卡记忆体VRAM
企管三乙 张昶翔
经过演讲后，我自己也上网回家查了一些资料，我觉得现在的深度学习，作为机器学习的一个分支，已经在科学、工业和日常生活中取得了令人瞩目的成就。而且这个领域的深度学习模型，像是卷积神经网络和循环神经网络，已经在图像识别、语音识别、自然语言处理和许多其他领域取得了优秀的表现。这对于我们企管系又或者是资讯管理的方面，有很大很大的影响。
我觉得深度学习的原理非常精密，深度学习的核心思想是模拟神经系统的运作方式，是通过多层神经元的相互连接和权重调整，实现模式识别和学习。这种神经网络的结构使得机器能够自动从大量数据中学习和提取特征，并做出预测。深度学习的数学基础包括线性代数、微积分和概率论等，对于深入理解其运作原理非常有帮助。
再来是深度学习需要大量的数据和计算资源。一个成功的深度学习模型通常需要大量的标记数据来进行训练，这对于一些应用来说可能是一个挑战。此外，深度学习训练过程需要庞大的计算资源，包括高性能的GPU和TPU。这也意味著深度学习对于许多小型团队和个人来说可能不太容易实现，但随著科技进步，现在像是我们这样的学生也可以买得起高阶的家用型CPU和GPU了。
另外一点是我认为深度学习的强大能力让它非常值得投入。它已经在图像识别中取得了惊人的成功，像是在医学影像识别中，可以检测出疾病迹象，提高了医生的准确性。在自然语言处理中，深度学习模型已经实现了自动翻译、情感分析和文本生成等应用。这些应用不仅扩展了人工智能的应用范畴，还提供了更多便利和效率。
深度学习的发展也有助于开源社区的蓬勃发展。许多深度学习框架已经让深度学习更加可访问，并促使更多的研究人员和工程师参与其中。这个开源精神推动了深度学习技术的不断创新和改进。
此外深度学习也存在一些挑战。模型的可解释性是一个重要问题，因为深度学习模型通常被视为黑盒，难以理解它们的决策过程。另外，深度学习需要处理数据隐私和安全等问题，这也需要更多的研究和规范。
最后我认为，深度学习是一个令人兴奋且充满挑战的领域。它的应用范围广泛，对于改进我们的生活和工作方式有著潜在的影响。深度学习需要深入的理解和不断的实践，但它的潜力是巨大的，我们可以期待在未来看到更多令人惊叹的成就。无论我现在是一个学生，又或者是一位工程师，或者是对深度学习有兴趣的人，都非常值得去了解深度学习！
企管三乙 杨霓
首先感谢徐有齐讲师来到中原大学，为我们讲解深度学习的原理及实际操作，在这个AI崛起的年代，时常能听到深度学习一词，但不知道是什么的人还以为深度学习是现代人的一种学习方式呢! 深度学习常常被看作是通向真正人工智慧的重要一步，基于深度学习，AI研究者在语音、语义、视觉等各个领域都发展快速，解决了诸多现实难题，为社会带来许多价值。
深度学习常被用来统整经验、设计方案及历史纪录，未来可以运用在各种职业上，让生产变得更有效率、顺畅，虽然有种种局限，但在很多领域已然切切实实发挥作用，比如在语音识别、机器翻译等。在医疗领域，可对采集到上万个病例数据库的医学影像进行分析，供放射学和病理学方面训练，帮助医生做出更为精准高效的诊断，实现大规模应用。
不过，若碰到没有大量数据的领域，深度学习就会被限制，如在自动驾驶领域，正常驾驶很多的数据可以采集到，但有些非正常数据像事故方面却很难采集。在众多的人工智能技术中，深度学习是为我们所熟知的一种。当你拥有大量的数据和少量知识的时候，它是一种非常强大的技术。例如，人脸识别，但是这需要采集大量的图像来训练。在许多情况下，用于学习的数据库极为庞大，有时候需要千万甚至几亿数据。学习方法也有快慢之别，但是本质上来说，它不及人类大脑聪明。
那如何解决数据短缺的问题呢?第一种是有数据方面解决，借助更高效的数据标注工具帮助人快速获取更多标注数据、用对抗网络生成数据等；第二类是改善深度学习演算法，如迁移学习、少样本学习、无监督学习和弱监督学习等。
通过这次的演讲，让我更了解深度学习的运作方式，也想起在大一时，学校也有在线上让我们体验深度学习的过程，回想起来才发现，原来我们就是在做这件事情，从标记到反复实验，都是由我们亲手去做，直到AI给出正确的判断。虽然深度学习还不能够和人类的大脑一样能够融会贯通，这就是我们还可以努力的空间，无论是开发深度学习还是研究人类的大脑。
企管三乙 方俪蓁
我还记得在我小时候，那时的人工智慧逐渐被大众认识到，所以可以看到从那时起，就有不少以人工智慧为主题的电影与影集，也能从影视作品中得知较早期的人们对于人工智慧充满幻想、期待，但同时也对这个陌生、未知的科技感到害怕，所以会出现像机械公敌里拥有人工智慧的机器人占领世界，统治人类，再者，我们这个世代在成长的过程中，许多的师长多会灌输我们，我们将来不只有重复性高的工作会被机器人取代，甚至连许多需要技术性的专业工作都将有机会被取代，而我们将会被抢走许多好的工作机会。在这样的观念灌输下，使得我对于人工智慧的好感不怎么高。但当我进入大学且因为课程的关系而真正接触到人工智慧后，我发现其实比起担心人工智慧取代自己的工作机会，还不如运用人工智慧这项科技、工具来让自身有更好的做事效率，更甚至以此来创造工作机会呢？
在听完演讲后，虽然对于人工智慧中的深度学习、机器学习的原理不能算完全的理解，但至少在讲师用较浅显易懂的方式来讲解后，有了初步的理解，真的让人不得不佩服人工智慧神奇的运作与一路以来不断研发、进步的研发者。而在演讲中，讲师所提到的让人工智慧透过训练来以图片判别猫与狗的实验，我们在大一的自然与科技的课程中曾经实际训练过，但由于当时因为疫情严重，所以当时的教授只能透过网路课程来指导我们训练人工智慧，而因为网路的阻隔，所以当时其实进行得并不顺利，甚至有很多人不小心把资料给相反，因此有人训练出来的人工智慧会看著狗的照片说是猫，然后看著猫的照片说是狗。
没想到时隔一年，我能在此次的演讲中学到更详细，同时也让我了解到深度学习是透过多层次的神经网络，模拟了人类大脑的运作方式，使得机器可以自动地从大量数据中学习并做出预测，以及神经网络的结构和运作方式，以及反向传播等关键技术，它们共同构成了深度学习的基础。并透过不断调整权重和偏差，模型能够逐渐提升在训练数据上的准确度，实现对未知数据的准确预测。
企管三乙 朱芸靓
这周上课老师邀请到了台大的徐有齐学长来做演讲，其实我很意外，在我的认知里，通常会来学校演讲的都是出社会的大人，而学长还是学生又据说只比我们大一届，但他就已经去过很多学校演讲，真的是很令人敬佩。
学长分享的内容是深度学习，虽让上次的演讲人也有提到机器学习，但也只是介绍浅浅的内容，和这周学长讲的内容和方式非常不一样，我觉得学长演讲的方向是让我们认识电脑是怎么处理我们人类提供的资料，电脑运作的逻辑、运作程式的顺序，较为学术，最后也是有讲到偏应用方面。
学长有说目前我们在讲的机器学习(ML)，其实就是在讲深度学习(DL)，因为这是目前最广泛运用的领域，就像是讲到这个就一定会提到的自动驾驶。除此之外学长也有分享人工智慧目前发展出几大类方向：眼(电脑视觉、脸部辨识、影像辨识、物件辨识)、耳(语音辨识、语音分类)、口(语音合成、文字转语音)、读(自然语言处理、语意理解、雌性标注)、脑(判断能力、预测能力、学习能力、分析和辨识)、创造(图片生成、文字生成)。
我最有印像的还是学长提到一大堆数学公式的地方，我唯一记住的一个就是激励函数，为的就是要让电脑在做每一个阶段每一条运算的时候不要因为数字丑又大就计算到数值爆炸，虽然学长还有讲到很多很多公式，但对于数学渣渣的我来说真的记不住，老师也怕我们吸收不了，再用老师的话解释一遍给我们听。学长还有提到猫狗电脑辨识的部分，这个在大一科技与生活的那堂课上，苏金豆老师就有带我们操作过一遍，我觉得这部分也挺酷的，而且给越多资料，电脑预测的就愈准确，验证了学长在课堂上说的“资料要多、要好、要多元”。
这次讲座一开始我是非常集中注意力的听，也能吸收个7、8成，但渐渐的内容越来越学术、艰涩，我的吸收速度就跟不上学长分享的速度了，虽然因为专业不同的隔阂，让我觉得越听越难懂，但我还是很喜欢这次学长的分享，学长也很用心准备，有提供实体让我们操作的软体程式连结，可惜因为我没有信用卡，没办法实际操作到，不过学长有展示一小部分，还是蛮有趣的，整体来说我很喜欢学长的演讲，让我更认识了深度学习，我也不排斥这个领域，生活中遇到这类应用的话会愿意去了解、查询，谢谢老师的安排、也谢谢学长的分享！
企管三乙 梁慈恩
今天为我们带来演讲的是台大电机系的徐有齐，他是李宏毅老师的学生，同时也是阿柏教育的创办人之一，是AI领域的未来之星，今天介绍的是关于机器深度学习的原理与实际操作。
首先，在这科技爆炸的时代，资讯技术更新的非常之快，尤其在2023这个AI颠覆性的一年，现在回过头去看2022年的论文就好像看到上古时期的文章一样，早已过时。讲者由介绍什么是机器学习为开头，人工智慧AI ：是我们想达到的最终目标，包含了视觉CV（如：自驾车的发明与创新）、听觉（语音辨识系统、语音深层处理）、说（制作AI语音 Youtube影片）、自然语言处理（辨识理解文本内容）、判断预测分析辨识、影音生成。而机器学习ML，人工智慧的分支，现阶段我们可以达到人工智慧的方法，深度学习DL， 机器学习的分支，多层的类神经网路，现在可以说机器学习与深度学习差不多相同。
接下来介绍机器是如何进行学习的，有三个步骤：设计模型架构、定义好模型标准、根据定义优化模型，讲者跟我们介绍了一些函数模型及图表，介绍了他们的原理，由很多个模型重叠在一起会形成神经网路，资料输入后透过隐藏层的神经网路运算再数位化，例如：一张图片经过隐藏层运算数位化，数值元算出来落在0-1之间的机率，可以透过自己定义机率条件来进行辨识，例如数值大于0.5则为猫，反之为狗。
运算需要透过CPU或者是显卡，讲者介绍，CPU像是一位很强的运算者，而显卡则是有多位同时进行运算，所以显卡可以运算较庞大复杂的资料，也运算的比较快。
函数的种类也有非常多种，早期会在隐藏层使用激励函数来表示各个线段在无限远跟负无限的地方都是平的，会这样是为了不让运算过度负荷，而现在在隐藏层大多是使用ReLU ，再透过softmax 让成果机率化，使用softmax的条件是所有数值为正，数字都是0.1，全部加起来会等于1。
在资料的选择上，应该要多、要好、要多元，而在训练时跑的模型结果跟实际运行后的准确率可能会不一样，例如：自驾车、种族黑白脸部辨识率不同。
讲者也介绍了如何进行资料增强，可以运用在图像及音讯上让整个训练效果变好，在最后一节，还带我们实际进行操作，透过这堂演讲，让我对机器深度学习有了基本非常浅的认知，但也需要消化这些知识好一段时间，这个领域非常庞大，如何用自己的脚步跟上时代是非常重要的任务。
企管三乙 林政尧
人工智慧的分类有很多种，而现在发展到的自然语言学习，让他们也能像人类一样说话，而机器学习也是有一段过程的，先设计模型架构，然后根据标准更新参数。但是资料有可能会复杂起来，不是直线的标准，如果需要用一堆线段呈现，那就需要神经网路，调整X.Y函数再加上bias，重复上述动作，一个神经网路就这样出现了，那神经网路只是一个隐藏层，所以正常运作的话像是我将狗的图片做分析，但我今天要的答案是他是不是猫，那到最后跑出的数值可能呈现0.2，自己设定的数值是小于0.5就不是猫，所以这张图片不是猫，用一个图片转为数值的概念呈现。ReLU,Sigmo,softmax这些都是帮助资料的呈现，前两者可以让资料的数值不会过大或过小，而softmax使最后跑出来的资料能够以机率的方式呈现，所以比较可以解释最后的图片是不是正确的答案。
能够让机器看懂文字也是学习的一部分，就是把文字转化为固定长度的向量，但是文字可能会有不同的用法，比如台北可能被表达为目的地或出发地，也要让机器了解到我现在翻译这段文字必须正确的知道是哪个定义，所以有人想出办法就是把神经网路转向，然后再插入另外的隐藏层，如此一来就多一个判断。
BERT产生的向量可以区分歧异字，也是让机器可以分辨同一个文字但是不同位置不同意义的文字需要如何去辨别，他会知道整段文字，然后遮掉其中的文字，反复的训练就可以让机器知道该字的意义等。
GPT是现在使用的，而他也是需要透过学习来成长，人类负责的部分就是要让更多的资料给他吸收，一直重复一直重复，直到他学习好每一个答案，不过现在像chatgpt可能会有资料不足或资料停留在过去的资讯，所以他有时候会回答错误，像有齐同学分享的一样，要是机器没有学习到的资讯，他可能不会跟你说他不知道，他会胡乱搪塞答案给你，他只知道他要回答什么，假如他需要年份，他就会给你数字，但那不是实际答案，这都是需要再学习的。
非常感谢有齐同学的分享，说同学是因为年纪相近，但他其实已经是一个讲师了，真的很厉害，很佩服一个跟我年纪相仿的人，做著和我完全不一样的事情，讲得内容给人的感觉也超越我大部分听的演讲，甚至此内容还是偏枯燥，但我是完全专注在这个演讲的，讲述的方法还有解释上也是一清二楚，感谢老师给的机会，让我更了解平常在使用的Chatgpt等，更了解它，更容易的使用它。也知道它的不足，很喜欢这次的演讲，学习AI真的很有趣，跟上世界的脚步。
企管三乙 林泓岷
这次演讲请到了台湾大学电机系的徐有齐学长，此次演讲的内容非常深入，包括了深度学习、神经网路、激励函数、资料决定模型性能等，虽然由于内容 过于专业，听完演讲后对于大部分内容依然是一头雾水，但对于机器学习的原理及应用也有了基础的了解，也能充分理解为何人工智慧为目前最热门的项目。
有齐学长先说明了关于人工智慧产业的基础名词定义，什么是人工智慧?人工智慧是一个广泛的领域，目的使机器模仿人类智慧，包括理解语言、视觉感知、决策等。而什么又是机器学习? 机器学习是人工智慧的一个重要分支，它使机器能够从数据中学习，学习如何自动学习和改进，从而进行预测或决策。再来说明了类神经网路的定义以及解释其运作原理。类神经网路是种类似于大脑结构的模型，也是有了这样模拟大脑的系统，如今才能达到语音辨识、电脑视觉及与语言辨识等功能。
而谈到类神经网路就必须提到其中至关重要的激励函数，激励函数在神经网路中扮演关键角色，常见的激励函数包括Sigmoid、Softmax和ReLU。作用是将神经元输入的线性组合转换为非线性函数，使类神经网路能够学习到非线性关系，从而解决难度更高的问题，可以说激励函数直接影响了模型的性能。而除了激励函数外，资料也同样影响了模型的性能，有齐学长认为资料最为重要的便是质量、数量以及多元性，质量好的资料可以大幅提高模型的性能。而模型训练需要大量的资料，而且资料应该具有多元性，以便模型能够应付不同情境的决策。
其中最令我印象深刻的是实作课程，毕竟机器学习存在好一阵子了，我们应该如何创造属于自己的AI 一直是令人非常好奇的。除了实作外，有其学长还提到了机器学习的两种主要学习模式，监督学习与自监督学习。监督学习是机器学习中最常见的学习模式。模型中会有带有标记的数据，以取得更高的正确率。但由于需要人工标记，也就代表著需要非常庞大的人工成本。而自监督学习则不须事先标记资料，节省了大量的成本，但使用的情况较为特定，准确率也会受到影响。
最后学长提到了我们经常使用的生成式AI，先从语言模型的原理讲起，再来提到了实际运用可能会遇到的困难，包括台湾以及繁体中文的资料量不足，经常需要使用对岸的资料，从而衍生出的政治问题。学长也表达了自己的看法，而我认为确实没有必要为了政治立场而放弃使用这些资料，毕竟最终作决定的依然是人，我们大可以从相对中立的角度来面对。
企管三乙 彭彦荪
一开始听到这次的演讲主题是神经网路之后很害怕自己会听不懂，但徐老师会用各种小图表，配上解说去尽量的简单解释给我们听，让我觉得能稍微听懂一点点了，他的演讲和教学内容主要是帮助大家理解深度学习原理，还有给想要练习实际操作的人提供一些实用的方法指导。在他的演讲中，我们可以总结出一些关于深度学习的重要原理和实际操作的核心观点。
深度学习是一个强大的机器学习分支，主要核心是人工神经网络，深度学习的原理其实就是去模仿人脑的神经元结构，其中包括多层的神经元结构，每一层都具有不同的功能，这些层之间的权重被训练来捕捉数据的特征。深度学习的原理重点之一是训练神经网络，这通常是通过反向传播算法实现的，这是深度学习成功的关键，因为可以让模型学习复杂的模式和特征。徐老师有给我们看一张图就是在说有输入还有隐藏层跟输出，隐藏层就是由一个个神经网路去组成的网，他说输入放什么都可以，然后设定一个问题让这个问题去跑隐藏层，算出一个数值，例如都给他一张猫的图，去问这张图片是猫还是狗，跑出来如果大于等于0.5就是猫，小于0.5就是狗，隐藏层中每个圈圈的数值都是许多条线连起来之后加总，但数值不会超过前面的圈圈这样，给他学习更多资料多让这个模型练习准确率会越高。
徐老师介绍了自驾车的部分，虽然深度学习和自驾车技术的结合已经有很大的的进展，但自驾车技术还面临著挑战，其中之一是自驾车的安全性和可靠性。深度学习模型需要处理各种极端情况，如极端天气、不同道路状态和其他不确定因素，还有徐老师有说到像是白天准确率高，晚上就不行了。总的来说，神经网路和深度学习技术的发展为自驾车技术带来了新的可能性，让自驾车更具感知、决策和控制的能力。不过这一领域仍然面临著挑战，我们可以预期自驾车技术将继续发展，并在交通领域和其他应用中取得更多重要的成就！
徐老师说现在的许多应用，都是拿预先训练好的模型做微调，所以不用那么多训练资料让她长大，预先训练模型可以节省许多训练时间和资源，并在各种应用中实现卓越的性能，但是这种方法的应用会有数据安全与隐私的问题，还有法规的问题，所以徐老师说最好还是用自己的模型可以避免资料外流。透过这次演讲我更了解神经网路机器学习的实际应用与操作的知识，非常感谢徐老师！
企管三乙 简欣柔
听完徐有齐学长的演讲，我接触到了关于机器学习、神经网路、资料和算法的一些重要概念， 深度学习是人工智慧领域中的一个重要分支，通过神经网路模型的应用，它正在改变我们的 生活，为未来带来无限可能。学长提到机器学习是一个涵盖广泛的领域，它用于让机器具有学 习和改进的能力，而不需要明确的编程，在人工智慧广泛的大世代，机器学习有许多不同的应用，其中包括影像训练、语音训练、语音合成和自然语言处理，这些功能使我们能够建立智能系统，它们可以理解和回应我们的语言、声音和图像。
深度学习是机器学习的一个子领域，它关注如何训练深度神经网路模型；而神经网路是一种模拟人脑工作方式的数学模型，它由输入层、隐藏层和输出层组成，这些层之间的连接权重是通过训练过程中学习的，在深度学习中，我们通常有多个隐藏层，这就是为什么它被称为深度学习的原因。为了使深度学习模型能够执行任务，我们需要设计适当的模型架构，定义相关的标准，并使用反向传播演算法以及梯度下降法来更新模型的参数，这个过程需要大量的数据，数据资料不仅决定了模型的性能，而且还可以影响我们的社会和文化。
学长提到了台湾中研院因为经费不足而使用中国资料库造成两岸认同问题纷争的例子，这显示出资料的收集和使用可能引发各种争议和伦理问题，因此我们需要谨慎地处理这一议题。为了提高模型的性能，我们还可以使用资料增强技术，例如对原图进行旋转和平移，可以帮助模型更好的泛化。
徐有齐学长分享在深度学习中，有两种常见的神经网路架构，分别是卷积神经网路（CNN）和 循环神经网路（RNN）。CNN通常用于处理图像和影像数据，而RNN则用于处理序列数据，例如语音或文本，还有一种特殊的RNN称为长短期记忆（LSTM），它可以更好地处理长序列数据 ，并在自然语言处理等任务中表现出色。
学长现场操作把大量的模型利用程式码，加以更新模型参数来达到最佳学习效果，让我想起 大二时修的自然科学与人工智慧，老师提供我们一个资料夹，里面分别有各五十张猫狗的图片，让我们使用一个类似AI Playground的网站，导入各十张分别对应为猫跟狗的类别，从给定的资料图片进行训练，然后再从网路上找一张机器没看过的猫或狗的图片和其他动物的图片，丢给训练过的模型辨识，会得到百分比的结果，可以评估这个模型的好坏，如果想要结果更精确，可以丢入更大量猫狗图片来训练模型。
这场演讲让我对深度学习有了更全面的认识，也学习到了实际操作的方法，如果未来要往这个领域发展会有很大的帮助，希望将这些知识和技能运用到实际的问题中，创造出有价值的成果。
企管三乙 黄子翊
从近年来AI以极其快速的速度发展著，特别是生成式AI的出现，带给人类想像不到的变革，AI对于资讯的理解以指数的方式成长著，演讲开头讲者的一段话令我印象深刻，他说“2022年底的论文现在看起来就像是上古世纪的论文一样过时。”这令我马上理解了AI发展速度比想像中快得太多了。
演讲中介绍了从最早期的人工智慧到机器学习再到现在的深度学习有何区别，听完介绍发现这其实就是一连串复杂的数学公式最终成为机器学习的基础，但也发现其实这些数学公式并非新发明的东西，而是利用旧有的观念重新组合出全新的函数应用在机器学习上。
这次的演讲里介绍了非常的近代AI的原理以及使用的方法，大部分都很抽象难懂，但讲者也提到了这些方法的研究就交给专业的学者们研究就好，大部分的开发人员都是将已知的技术做延伸的应用及研究。
说到了AI就必须要提到ChatGPT等近期最流行的大型语言模型的出现，演讲中也帮我解惑了一部分对于这项新技术的疑问以及好奇，像是语言模型是如何理解文字并利用相对自然的句子加以回复使用者，以及为何部分时候所得到的回复并非正确的资讯，不过我相信在未来这些现有的问题应该都能获得改善，毕竟今天的AI和明天的AI也许又会是完全不同的面貌。
最后演讲提到了如何训练自己的AI以及应用，虽然演讲因为时间的缘故并没有办法听完，其实有点可惜，但还是深刻理解到了未来任何领域都免不了AI的加入，人们比起担心被AI取代，不如好好的花时间认识AI，思考如何有效的利用AI帮助提高效率。
企管三乙 黄子翊
徐有齐讲师的演讲给予我一个深刻的学习体验，不仅加深了对深度学习的理解，还激发了我对未来在人工智慧领域的职业发展的渴望。徐有齐讲师针对深度学习所拥有的丰富知识，及专业地讲解其中复杂的内容让我们理解，都令我惊艳。在这场演讲中，徐讲师融合了深度学习的原理和实际操作，为我提供了宝贵的知识和启发。
首先，演讲中徐讲师对深度学习的原理进行了详细而清晰的解释。他讲述了神经网络的基本结构、运作方式以及应用领域。这使我更好地理解了深度学习是如何模拟人类大脑的学习过程，并且能够自主地从大量数据中学习并做出预测。对于一个资管系的学生来说，这种基础知识对理解AI技术的核心原理十分重要，并为未来的工作和研究提供了坚实的基础。
徐讲师的操作示范也让我印象深刻。他展示了如何使用深度学习框架和工具来解决现实世界的问题，包括图像识别、自然语言处理等。这不仅将理论知识转化为实践，还激发了我开始回家实作的想法。这种实际操作的示范对我来说非常重要，因为它能够帮助我们将知识应用于解决现实问题，也对我未来的职业发展影响很大。
这场演讲也让我开始思考未来在AI领域的职业发展。深度学习技术的迅猛发展为我们提供了无限的机会，不仅可以应用在科学研究中，还可以应用于商业、医疗和其他领域。作为一位资讯管理学系的学生，我意识到AI技术对于数据管理和分析的重要性，这让我对未来的职业方向有了更清晰的憧憬。我希望能够深入研究深度学习，并在未来的工作中应用这些知识，帮助企业更好地处理和分析大数据，做出更明智的决策。
最后，这场演讲也强调了不断学习和自我提升的重要性。徐讲师的经历和对深度学习的热情激励了我，让我明白只有不断学习和追求卓越，才能在这个快速变化的领域中取得成功。我对自己的学习和职业生涯充满想像，并期待在AI领域取得更多的成绩。
企管三乙 廖榆婕
这次演讲学到了很多深度学习背后的应用，像是一开始的DNN、RNN再来Self-attention、BERT 到现今赫赫有名的ChatGPT；从DNN 开始，只要将1到9的数字输入进去，透过不断地整理运算分析，让准确率越来越精准，只要对角线皆是蓝色区块，就代表资料算得非常准确，每一个数字都有精准分析，但如果准确率略稍微不准的话，就是出现对角线没有太多蓝色区块的现象。
接下来 RNN 的模型虽然让 AI 可以有一定的记忆力，但是RNN太慢了，记忆力也不长，必须让它一个一个字的分析，耗费时间太长，例如像是拿例句I’M going to Taipei on Wednesday 分析，就必须让他一个一个字的输入再进行分析，而 Self-attention 的出现能一次性一起去做分析。现在的许多应用，都是拿已经预训练好的模型去做微调，就好比是现今大家所熟识的ChatGPT；当给ChatGPT一个答案，例如像是美国哪一年建国?1776。ChatGPT 就会自己记住，所以当人去问这个问题的时候，ChatGPT 就会分析整个句子，再将答案回答你，亦或者是当你输入今天天…..，ChatGPT就会分析下一个连接字大机率是什么。
对于我们现在来讲ChatGPT是一个非常新且厉害的AI，很多人一定都用过，不管是在文字翻译，或者是问他今天吃什么等等问题，都非常方便，我用过它最多次是在中文翻译英文的时候，不得不说，ChatGPT 在文字翻译上是十分厉害，用过它进行翻译的人，都会说很厉害。很谢谢这些厉害的人物，因为有他们这样每天的测试分析，让我们有更方便的AI。
企管三乙 翁珮媗
今天上课请来的讲者是台大徐有齐学长，在AI世界里，可能半年前的论文已经不值得一提，对于他们平均每一个礼拜就会有新的理论或者论文产生，并且近十年来AI才成熟，早在1990年就已经有教授提出只是当时太过超前，并且有许多说法跟派别，而AI可以称为机器学习或者深度学习，并且其中需要运用统计，机率，数据等多个系统才能成就出AI，将资料输入，经过隐藏层去分析，而输出为答案，大于0.5为错误的，小于0.5为正确的，而模型就是要去控制它的错误率，如果错误率太高则被淘汰，而激励函数不论是正值或负值的头尾都需要为平坦的直线，是为了避免让数值爆掉，并使用softmax 将数据输入进去呈现出来。
其中也提到中研院前阵子使用中国的系统，但对于AI 内行人的看法是相当惋惜，因为主要应用是拿来分析大众使用的资料，而不是定义国籍这类型的问题，并且台湾如果要重新制作不仅耗时还耗钱，如果先使用这套系统才能使民众先行操作，才能有大量的数据，假设有一张照片会有很多种模型由大至小，慢慢分析出来，GPT这类型的运用需要给机器灌入许多资料，像是维基百科这类型的资料库，并且大多AI系统还是以英文为主，相较于其他国家语言就没有表现的那么好，而台湾现在面临本土资料不足，即便使用中国的系统，系统也会回答偏向中国的人文历史，还有比较严重的事，有些资料未输入进系统，有时候会给出错误的答案，一样会回答问题，但带有错误又或者答非所问，这些都还要再将模型变得更好，许多工程师需要假设模型并且不断的将错误率拉低使系统呈现更趋于完善。
日常生活中有太多需要接触到AI的时候，好比打报告也是将每个个体字母拼接出来，或者扫地机器人则是以声控的方式去运作，在听演讲的时候，才明白原来生活中如此方便的人工智慧背后的模型极为复杂，光是一个小物件就需要经过很多种小模型支撑才能输出有效的output，隐藏层有许多小单元形成网状，才能结合出答案，这堂深层学习对我而言受益良多，学到了组织一个系统的奥妙。
企管三乙 陈柏蓉
今天老师邀请到徐有齐学长来向我们解说深度学习这个大领域，在我听到他只比我们大一岁时，却拥有这么多专业知识的当下，令我非常震惊，也非常佩服。
深度学习已经在各种领域取得了巨大成功，包括图像识别、语音辨识、自然语言处理、自动驾驶和许多其他应用。它之所以称为"深度"学习，是因为它的神经网络通常包含多个隐藏层，这使得模型能够学习到更复杂的特征和模式，进而提高了预测和分类的准确性。
学长一开始先讲述什么是机器学习，其实机器学习是一门人工智慧的分支学科，就是让计算机自动从败据中学习并进行预测或决策。它使用统计学、机率学和优化算法等方法，让机器能够自动学习和改进，并根据先前的经验和数据进行预测或决策。而深度学习其实就是机器学习的分支。
这时讲到了一个程式-BERT，令我印象非常深刻，它是一个迁移学习，是 Google 以无监督的方式利用大量无标注文本“炼成”的语言代表模型。当我们学会使用BERT就能用同个架构训练多种NLP任务，大大减少自己设计模型的architecture engineering 成本，投资报酬率非常高，不过，要训练好一个有1.1 亿参数的12层 BERT-BASE 得用16个TPU chips，要跑上整整4天，花费500镁。但BERT仍然是一个强大的语言代表模型，给它一段文本序列，它能回传一段相同长度且蕴含上下文资讯的 word repr.序列，对下游的NLP任务很有帮助！
另一个让我印象深刻的是Llama模型，Meta公司的母公司Facebook宣布推出开源人工智慧模型Llama的商业版本，这个版本被命名为Llama 2。这一举措引入了一个可商业使用的新时代，为新创企业和其他企业提供了在OpenAI、微软和Google等昂贵的专有软体之外的免费选择。如此一来身为学生的我们也可以使用，他不仅可以回答问题，也能进行语言翻译、代码生成，是一个多才多艺的语言模型！
很开心我可以在这堂课得到这么多新的知识，虽然在讲解程式的理解与运用的时候听的没有很懂，但看著台上学长滔滔不绝的讲述，也激起了我的兴趣，期待自己有一天也能将深度学习运用在生活中。
企管三乙 高伊葶
今天的讲解很高兴邀请家齐学长来教室跟大家分享，学长相当专业，不但是台大的学生，也是阿柏教育的共同创办人，如此年轻就能有专业的能力，让我感到十分敬佩。虽然我对于相当生涩，但在学长的介绍之下，尽管无法完全理解所有内容，依然觉得和学长学习到相当多以往未能接触到的知识。
而家齐学长在课堂中提到一位台大的李宏毅老师，因此让我基于好奇心，去找寻了相当多李教授的资讯，李教授是台大电机工程的教授，主要研究领域是机器学习、深度学习、语意理解、语音辨识，是一个相当知名的电脑科学家。李教授运用自己的背景知识，以拍摄YouTube的方式，让对于机器学习议题有兴趣的人，能用在线上学习这门学问。此外，教授能用浅显的乡民式语言、用学生熟悉的动画、漫画、游戏来图解，讲解复杂、难懂的技术。
而看到教授的报导，也连结到学长所说的话，AI 技术发展的速度非常非常快，是以‘周’为单位在改变，因此就算是去年的论文资料，就算是很久远之前的资讯了。而根据学长的分享，人工智慧试图将电脑训练为能像人类一样思考和学人工智慧被广泛应用，包含：电脑视觉、物件侦测、影像辨识、人脸辨识、语音辨识、语音分类、语言合成、文字转语音、自然语音处理、语意理解、词性标注等。
若提及深度学习，深度学习演算法是以人类大脑为模型的神经网路。而深度学习有深入层、隐藏层、输出层；根据我在网路上查到的资讯；输入层指的是，神经网络的第一层，它接收来自外部的数据作为模型的输入；而隐藏层指的是，深度学习网路有数百个隐藏图层，可用来从几个不同的角度分析问题。
在最后一堂课，学长介绍了Chat gpt 的应用、模型、收费等等。我认为十分贴近实用层面，毕竟现在这个议题讨论热度相当高，也越来越多人在使用，但是比较可惜的一点是台湾还有很多讯息是无法在此程式上面得到问题的，比如说：台湾的知名教授的资讯、特殊法律问题等等，因此在某些应用上，不能完全仰赖Chat gpt 。很荣幸能在星期一的早上听到这么不一样的演讲，虽然技术领域比较深，以企管系学生而言，会有一定难度，但至少在需要讨论时，我们必须能理解、解读、分析不同领域及不同背景的人说的话。
企管三乙 陈苑儒
本周的演讲，可以说是非常不友善我这个数学差逻辑又不好的人，过程中讲师大多是使用数学方程式进行讲解，我感受的到讲师很尽力的想呈现给我们它的运作模式与原理，也感受的到老师也努力换句话说“翻译”给大家听，但是很可惜的，我能吸收的知识还是有限，但三节课下来我还是有学到不少关于深度学习的相关新知。
其实一开始听到“深度学习”一词，我完全没有把它跟科技想在一起，后来才知道，深度学习其实是一种机器学习方法，它利用试图模仿人类大脑的运作方式，通过神经网络来处理复杂的任务。而且这些神经网络包含多个隐藏层，其中每个隐藏层都包含多个神经元。之后再通过大数据的训练，这些神经网络就可以自动学习从数据中提取特征和模式，而不需要人工去动手设计细节。
演讲中有提到CNN与RNN，我对CNN的一个特点深感印象深刻，就是它能够自动从数据中学习到特征，而无需手动设计特征提取器，因此CNN在图像分类、物体检测和图像生成等任务中表现出色。而演讲中提到RNN如何在自然语言处理中发挥关键作用也相当新奇，例如语言建模、机器翻译和语音识别。RNN能够捕捉到序列中的时间依赖性，可以更好地处理具有时间相关性的数据。有了如此强大的技术，使得我们能够更轻松地处理各种不同类型的图像数据，并且在不同领域中取得卓越的成果。
除了CNN和RNN以外，另一个让我印象深刻且感兴趣的议题，就是ChatGPT的运作原理，近几年来ChatGPT的出现，造成不论是科技业抑或是我们日常生活当中带来一大转变与惊奇，ChatGPT是一个基于人工智慧的自然语言处理工具，演讲时我得知ChatGPT居然不是通过硬性编程来执行特定任务的，这让我非常赞叹如今资讯科技的发达，相反的，它是通过大数据训练和自动学习。这种方法的一个优势是，ChatGPT能够应对各种不同的问题，而不需要每次都进行新的编程，可以根据上下文和用户的需求来生成合适的回答，因此它非常灵活和具备强大的适应力。
而其运作的一个关键概念是预训练。在预训练过程中，ChatGPT被暴露于大量的文本数据，并学习语言的结构、语法和语义。让它能够理解各种不同的语言表达方式，从而能够回应各种问题和指令。这个预训练的过程类似于让ChatGPT阅读了数百万本书和文章，使它获得了庞大的知识库。而他也被训练来执行特定的任务或回答特定领域的问题，就像是从书本学习的ChatGPT接受了一个特别的训练课程，以便更好地处理某个领域的问题，因而导致ChatGPT能够更好地适应与应用于不同的领域，像是现在已经发展于例如客服、自动回答系统或翻译工具等等方向了。
今天收获了许多革命性技术的原理，它们正在一步一步改变我们与机器互动的模式，也不断推动世纪的发展。我将会等著看未来深度学习原理做出更惊人的产物，盼望这个领域将继续为我们提供更多方便和效率，同时也能超越历史，再次写下一个新的里程碑。
企管三乙 陈亮吟
讲师一开始就有提到，2023年是AI颠覆性的一年，AI在这十多年来技术不断地在进步，且进展的速度非常快，甚至两至三周就会有所不同。而其实现在也不只有chatgpt这种模型，另外还有预测的模型、视觉的模型等，这些模型在许多地方都能使用到。
首先，讲师先向我们介绍机器学习的步骤，第一步是设计模型的架构，第二步是定义好模型的标准，第三步是根据标准更新参数。例如我们可以输入自己想要的资料在神经网络，像是把图片数字化，再算出机率，但要注意的是由于算出的是机率，因此不会是0或1。而模型产生出来的答案是自己要解释或定义的，因为电脑并不会帮忙解释答案的意义。讲师有实际用电脑操作模型训练给我们看，并且详细的解释给我们听，也有举很多不同的例子，使我们更能理解训练过程。
讲师也有提到，虽然RNN模型可以让AI有一定的记忆力，但RNN速度很慢，记忆力也不够长，因此出现了自注意力机制，自注意力机制能够平行处理所有输入和输出，比起RNN更有效率。
与之前的模型不同，BERT模型分成监督学习与自监督学习，监督学习是要给电脑问题，同时也需要给答案，而自监督学习则是不需要给答案，例如找一篇网路文章，随机抽掉一个字，问机器这个字的答案会是什么，这个训练不用任何资料的处理，但可以使机器学习到东西。现在很多的应用都是拿已经训练好的模型做微调，因此我们可以利用这些模型进行资料的处理。
也因为资料决定模型的性能，所以资料要多、要好、要多元，但其实搜集资料是很麻烦的事，因此必须将资料增强、训练资料，使资料能够抗杂讯，这样才能让同一笔资料更有效用。
透过讲师的讲解，让我们了解到了人工智慧、机器学习、深度学习的不同，且机器学习是人工智慧的分支学科，而深度学习则是机器学习的分支学科。
现在我们很常使用chatgpt翻译，以前是给一句话，翻译就单纯的只翻那一句话，但现在chatgpt是有能力理解内容，且能力变得更强，能够翻译的更准确。人类的语言是很难预测的，所以就算每次都问chatgpt相同的问题，答案可能也会有所不同。要驾驭大型语言模型其实是很复杂、困难的，不但要做很多训练，也需要很多人力，但从今年开始，已经可以不用做这么多训练了，因为出现了LLaMA。由此可知，科技的进步其实真的非常迅速，且不断地在进步，因此我们必须更加了解机器学习，慢慢学习，跟上时代。
虽然要理解演讲所有的内容较为困难，但这场演讲让我们学习到平常较少接触的领域，以及很多不一样的知识，也让我们更深入的了解机器学习，我觉得这场演讲很有趣，使我收获了许多。
企管三⼄ ⿈巧琳
感谢⽼师邀请厉害的讲师来分享有关深度学习的知识。这场演讲对我来说虽然有些困难，因为涉及太多关于资讯⼯程和资讯管理的相关应⽤，对于初学者的我⽽⾔确实有些吃⼒。但是，在⼤学⼀年级的科技与⽣活课程中，我已经初步了解了深度学习的内容，对我来说，这堂演讲就像是将脑海深处的记忆重新挖掘出来，帮助我更好地理解这个主题。
这次演讲让我重新回想起了我在课堂上学到的⼀些基本概念，例如神经网络、深度学习模型和数据预处理等。虽然我还有很多要学，但这次演讲为我提供了⼀个更深⼊了解深度学习的机会，这也激励我更深⼊地探索这个领域，或许在未来可以应⽤它来解决不同领域的问题。
在这次演讲中，我听到⼀个⾮常有趣的观点，它阐述了深度学习在图像辨识中的⼯作原理。深度学习会将⼀张图⽚细分成众多⼩拼图，把⼀个复杂的图像分解成更⼩、更容易处理的部分，然后通过不断的拆解和重新组合，逐步进⾏训练、逐步学习和优化每个部分，最终实现对整个图像的准确识别，使深度学习技术变得越来越精确。
在演讲中我也有听到讲师介绍Bert⾃然语意演算法，它是⼀种语⾔训练的模型，能帮助电脑更理解⼈类的语⾔，若应⽤在搜寻引擎⽅⾯，它能够仔细辨识搜寻字串的“每个字”，再根据前后字词的关系去读懂整个搜寻字串要表达的意思。⽽且与以往只择⼀⽐对前⼀或后⼀个字词不同的是，BERT演算法是将前、后字词都纳⼊判断语意的参考，所以能更精确判断使⽤者搜寻该字串的意图。
讲师在课堂有举例“台湾最⾼的⼭”要如何分解，⼀般的搜索引擎可能会将整个词组视为⼀个整体，但Bert不同，它会细分这个词组成“台湾”、“最⾼”和“⼭”，并根据这些单词之间的关系来理解整个词组的语义。这种精细的语义分解使Bert能够更准确地理解使⽤者的搜索意图，并提供相应的准确答案。BERT⾃然语意演算法代表了⾃然语⾔处理领域的⼀个重要⾥程碑，它为提升搜索引擎和语⾔处理技术带来了更多可能性。这项技术强调上下⽂的重要性，使搜索引擎能够更好地理解使⽤者的语⾔需求，提供更准确的结果。虽然这项技术⼗分新颖，如何训练和多语⾔处理的挑战，然是需要克服的问题。
企管三乙 廖若彤
今天演讲的内容是有一点深度的，感谢讲员和老师详细的为我们讲解其内容的意思！今日的演讲对我来说有点难度，经过吸收、内化，努力的把学习到的知识记录下来。首先先来概述一下人工智慧的发展，人工智慧是一个广泛的领域，使机器模拟人类智能的人力，在最早时期的应用是语音辨识，将辨识到的语言进行分类，接著衍伸出电脑视觉、影像识别、脸部辨识、物件侦测、文字转语音，再到后来的自然语言处理、语意理解等等的发展应用。这包括了机器学习、知识表示、自然语言处理、计算机视觉和专家系统的多个领域范围。
而深度学习 (设计-定义-更新优化) 是近年来快速发展的领域，不断有新的技术和新的应用被提出来，这是一好现象但同时也是造成难度的一项挑战，就是需要不断的革新，虽然很有可能会有新的发现与发展，但是与此同时是需要很大量的资金来支持发展的。
讲师所提到的深度学习是机器学习的一个分支，它的核心特质是深度神经网络，他们的基本单位是神经元，通过权重和激活函数连接所形成的神经网络，得以让讯息在不同层之间流动，进而进行模式辨别特征提取，而这些神经网络是由多个隐藏成所及合成的，用来处理不同的特征和模式，可以学习从大数据中所提取复杂的特征和模式。就像是讲师所提供的例子：猫与狗的照片辨别，对这个印象很深刻，因为在大一下的一堂课中做过这项测试，当时很好奇是如何辨别出来不同的目标的，而今日日在演讲中获得解答了！通过调整神经网络中的参数让机器可以学习适应输入的数据。借由前向传播和反向传播来学习，数据通过神经网络，由输入层向前传向输出层，产生预测，再透过计算梯度的方式，来调整网络的权重偏差，以达到最小化预测误差。
而深度模型的学习通常需要大量的数据来训练，可能在深度学习中会出现一些挑战，在经过大量的数据训练，并且有良好的表现，但在新数据加进来却表现不佳时，会出现过度拟合的现象，所以必须不断地调整模型参数来达到最佳的性能！虽然深度学习取得了很多的新发现与成功，但同时也面临许多的挑战，在使用人工智慧与深度学习的时候，同时也需要考虑到伦理和法律问题。今天的演讲收获颇多，谢谢讲员和老师。
企管三乙 张暄婕
本周的演讲请到了阿柏教育的讲师徐有齐来分享机器学习入门，如今大数据已广为存于我们生活当中，因此也经常听到深度学习这个概念。我本身也上了很多有关大数据的课程，目前在学习 Python 和其他语言，所以也对机器学习这方面有些兴趣，而这次讲者分享了还让我们明白了人工智慧、机器学习和深度学习之间的区别，让我对这个领域有了初步了解。
讲者首先让我们介绍了人工智慧、机器学习与深度学习的概念与他们之间的区别。AI是一个广泛的领域，旨在使计算机系统模拟或执行类似人类智慧的任务。包括了机器学习和深度学习、符号推理、专家系统、自然语言处理、机器 视觉和更多其他技术。他的目标是创建能够解决各种复杂问题和执行智能任务的系统，而不仅仅是通过学习从数据中做出预测。
机器学习是AI的一个子领域，它专注于让机器学习从数据中提取模式和知识，从而改进性能。这意味著机器学习算法可以从大量数据中学到东西，而不需要严格的编程。这对于垃圾邮件过滤、图像识别、推荐系统等应用非常有用。而深度学习是机器学习的一个分支，以神经网络为基础，通常应用在处理大型和复杂的数据上，例如图像识别和语音辨识，会需要大量的数据和计算资源，从而进行大量的参数调整和训练。这三者一起推动了现代科技的发展，并在许多领域带来了显著的进展。
讲者的演讲还包括了深度学习模型的设计。他强调了数据的重要性，并解释了 如何选择适当的损失函数和优化算法，也示范了设计深度学习模型的基本步 骤，这次也有实作过程，虽然因为信用卡问题我并没有参与到，但看著讲者一 步步介绍也有吸收不少。
另外这次演讲中，最令我印象深刻的是讲者徐有齐本人，当时听到与我们年龄相仿，但他已经在这个领域展露锋芒，不仅对深度学习有深刻的理解，还能够将复杂的技术以简单易懂的方式传达给台下聆听的各位。激励了我继续学习和探索这个令人兴奋的领域。而我也希望深入探索这个领域并取得一些成就，非常感谢演讲者的分享。
