BERT 课程笔记 1. 传统方案遇到的问题 BERT的核心在于Transformer,Transformer就类似seq2seq网络输入输出之间的网络结构. 传统的RNN网络:最大的问题,因为不能并行计算,所以往往深度不够. 传统的word2vec:同一个词一经训练词向量便确定了下来,缺乏适应不同语境的灵活性. 2. 注意力机制的作用 注意力机制的作用是能够体现句子中的重点词,而不是把所有词都同等看待.类似图右体现的关注热点区域. self-attention举例:两个句子中it的指代是不同的…

附录:学习笔记链接总结 MOOC课程学习笔记与实验: 第一周:计算机是如何工作的 第二周:操作系统是怎么工作的 -- 一个简单的时间片轮转多道程序内核代码及分析 第三周:构造一个简单的Linux系统MenuOs -- 跟踪分析Linux内核的启动过程 第四周:系统调用(上) -- 使用库函数API和C代码中嵌入汇编代码两种方式使用同一个系统调用 第五周:系统调用(下) -- 分析system_call中断处理过程 第六周:进程的描述与创建 -- 分析Linux内核创建一个新进程的过程 第七周:可…

一.c++11 lambda /* * File: main.cpp * Author: liangjie * * Created on 2013年11月23日, 下午12:02 */ #include <cstdlib> #include <iostream> using namespace std; /* * */ int main(int argc, char** argv) { string aa = "Hello World!"; , c = ; fo…

零.准备工作 这次的作业仍然是结对编程,我们队伍的成员为:梁杰.夏天晗.谢祖三.上次我们是选择了一个时间大家聚在一起进行编程,效果不错,所以这次我们还是决定采用这种方式.由于大家平时比较忙,这周六日我又有事,所以最后决定周五晚上大家一起进行编程. 周五晚上吃完饭,我们就开始了讨论. 这次最大的一个改变就是语言. 上次我们使用的是Python,是因为我和夏天晗对Python比较熟悉,并且夏天晗的第2次作业比较好,所以决定使用Python. 这次作业,因为我们三个都选了一门Ruby课程,也都想挑战一…

一.如何组织代码 因为这个代码比较简单,用函数就足够了,个人觉得没必要用类,杀鸡不必用牛刀. 代码有点长,主要是加了很多判断参数的部分. 提取了一个公共的递归函数. 用了不少全局变量,可能当做参数传入更好吧,不过这么小的程序就这样吧,当做参数还要打包再解析(否则传一大片参数太丑了),没必要. 二.单元测试.代码覆盖率 单元测试结果: 可以看到所有测试全部通过. 详细的测试内容可以去github里看letstest.py文件,我已经添加了注释. 代码覆盖率结果: 单元测试的代码覆盖率100%,ho…

一.官方网站 1. Java 官方网站 https://www.java.com/zh_CN/ 2. Spring 官方网站 http://spring.io/ 1. Spring Framework 2. Spring Boot 3. Spring Cloud 3. Tomcat http://tomcat.apache.org/ 4. Netty https://netty.io/ 二.相关网站…

在线课程: 当点击进入页面时,显示所有课程 def get(self, request): courses = Course.objects.select_related('category', 'teacher').\ only('title', 'category__name', 'teacher__name').filter(is_delete=False) return render(request, 'admin/course/courses_manage.html', locals(…

前端学习纲要 ※jQuery 参考 ※ 整理 Chrome 收藏夹的小技巧 ※ 解决 AJAX 跨域获取 cookie ※ 记一次 MyBatis 相关的 debug [1] 前端学习纲要: ♦ 第一阶段: web-project 的命名规范与文件的组织规范: HTML 的基本元素 -->  例如 h p ui ol li .. img 等 --> HTML 元素的属性: CSS 属性与值 --> 各种选择器 --> 盒子模型 --> inline 和 block 的区别(C…

一.stack的三种解释 stack有三种解释,我个人理解如下. 1.用户自定义的stack 用户自定义的stack就是一般意义上的后进先出队列,从名字上就能理解了,stack由下向上增长,有一个顶指针,一般来说有push,pop,top和isempty方法,具体的后面代码会展示. 2.程序的call stack 这个是程序运行时候的机制,我个人理解就是程序遇到一个call的时候,因为要跳转,所以需要把当前状态压栈.如果学过汇编的话可能好理解一点,简单说就是因为寄存器数量有限,所以每次只能保存当…

零.前言 这次的作业比较特殊,有两种做法.由于我对网页很熟悉,所以选择网页. 细节不赘述,下面写一下这次作业的几个亮点. 一.亮点 最大的亮点就是这个页面是纯客户端的,没有服务端.也就是说所有功能都是在本地完成. 简单介绍几个技术难点: 1.本地读文件 一般情况下读文件的过程是:上传文件到服务器——服务器读文件——服务器返回文件内容. 由于没有服务端,所以要在本地读文件,我用到了ActiveX,具体可以看readText()函数. 不夸张的说,80%写网站的人不会写js本地读文件. 2.网页端运…

一.变量作用域和生命周期 #include <cstdlib> #include <iostream> using namespace std; void try_change(int a){ a = ; } int main(int argc, char** argv) { ; try_change(a); cout<<a; ; } 二.堆和栈 #include <cstdlib> #include <iostream> using names…

我读的博客: C++11中值得关注的几大变化 C++11 中的线程.锁和条件变量 C++开发者都应该使用的10个C++11特性 开始使用C++11的9个理由 我的问题: 1.有一句话:“C++像难懂的文言文,JAVA像啰嗦的小说”.还有一句话“Life is short, you need Python!”.对于这两句话我个人很赞同,我想知道Python和C++的本质差距在哪里?我个人认为主要是性能.那么如果Python将来的性能可以赶上甚至超过C++(实际上目前的pypy在某种程度上已经可以做…

零.准备工作 队伍成员:梁杰,夏天晗,谢祖三. 周五晚上吃完饭,我们就开始了讨论. 这次的要求是写服务器,客户端以及游戏结果动态显示.很明显是三个部分,我们也就顺其自然, 一人一个部分.我负责服务器,夏天晗负责游戏结果显示,谢祖三负责客户端. 我们使用的语言是Python,Python简洁明了,写起来很流畅. 这次我们并没有像前两次一样大家一起编程,而是分配完任务之后大家分别完成最后再一起测试.主要考虑到实际开发中团队成员不可能每次都在一起开发,所以我们也想模拟一下“分布式开发”,深入感受一下.…

零.准备工作 这次的作业是结对编程,因为一些原因我们的队伍一共有三个人,成员为:梁杰.夏天晗.谢祖三.由于大家不在一个班,交流起来也不是特别方便,所以我们经过讨论决定三个人约一个时间在一起完成这次作业.考虑到每个人的空闲时间,我们最后决定在周六的上午完成,地点是我的宿舍.本来准备去自习室的,但是考虑到讨论的时候声音可能会比较大影响到其他同学学习,所以换成了自习室. 周六上午集合之后,我们就开始了讨论. 首先要解决的问题就是用什么语言来写.我和夏天晗使用的是Python,谢祖三使用的是JAVA.仔…

我的github博客大概是一年前创建的.现在已经想不起来当时是怎么接触到github的了,大概是从某一个网站看到的吧.注册完帐号以后很长一段时间都没有真正的去使用github,主要原因就是网站是英文的,提不起兴趣看. 后来自己写了一些东西,有点担心电脑出问题丢掉代码,就突然想到了github,想把代码放上去,这时候才开始真正的学习github. 学github不简单也不难,看了不少资料,甚至还看了一遍progit,基本上对github有了初步的了解.后面就是顺理成章的使用了,将自己的代码都放上去…

目录 lab1 静态.动态资源的区别lab2 部署phpMyadminlab3 部署wordpresslab4 编译安装php-Xcache加速器lab5 fcgi实现lamp lab1 静态.动态资源的区别 静态资源:原始形式与响应内容一致,在客户端浏览器执行 动态资源:原始形式通常为程序文件,需要在服务器端执行之后,将执行结果返回给客户端 1.首先来看看什么是静态页面 构建第一个静态页面   yum install httpd cd /var/www/html #进入网站默认路径 vim i…

原文发表于我的技术博客 我在慕课网的「React.js 入门与实战之开发适配PC端及移动端新闻头条平台」课程已经上线了,文章中是目前整个课程的大纲,以后此课程还会保持持续更新,此大纲文档也会保持更新,备查. 原文发表于我的技术博客 1. 课程简介 在此 React 入门与实战课程中,主要使用的课程结构是 React 基本概念与实战结合.课程从 React 的简介讲起,在正式开始学习 React 前将对目前火热的前端知识点进行了梳理,包括基础的 JS.ES5 / ES6.CSS.HTML5,也包含…

译者注:本文译自Scott H. Young的博客,Scott拥有超强的学习能力,曾在12个月内自学完成麻省理工学院计算机科学的33门课程.本文就是他个人对于这次MIT挑战的介绍和总结. 版权声明:本次翻译已经得到Scott本人授权,禁止任何形式的转载. --------------------------------------- 在接下来的12个月里,我将在不去上课的情况下,学完整个MIT四年分的计算机课程. 更新:MIT挑战现在已经结束了.我在2012年9月26日完成了挑战,距离开始时间2…

Elasticsearch,是目前行业中非常热门的一个技术.Elasticsearch是一种分布式的海量数据搜索与分析的技术,可以用于电商网站.门户网站.企业IT系统等各种场景下的搜索引擎,也可以用于对海量的数据进行近实时的数据分析.相较于Lucene来说,Elasticsearch天然的分布式特性,让其可以支持海量的.PB级的大数据搜索.相对于Spark Streaming.Storm等大数据实时计算引擎来说,Elasticsearch天生为分布式执行数据分析操作而生的架构,海量数据量级下的近…

上周三收到Coursera平台的群发邮件,大意是Coursera将在6月30号彻底关闭旧的课程平台,全面升级到新的课程平台上,一些旧的课程资源(课程视频.课程资料)将不再保存,如果你之前学习过相关的课程,或者有心仪的课程,Coursera建议你将这些课程资源下载下来备份. 说实话,自从Coursera这一两年逐渐进行“商业升级”以后,我已经很少在这个平台上学习公开课了,反而是edX的一些课程更吸引我,特别是课程质量,后者显得更用心很多.不过作为最早的MOOC平台Coursera,曾经诞生了很多经…

Firebird常用SQL 一.分页写法小例: 1 select first 10 templateid,code,name from template ; 2 select first 10 skip 10 templateid,code,name from template ; 3 select * from shop rows 1 to 10; --firebird2.0支持这种写法 二.show 1 show tables; 2  show table tablename; 三. D:\…

1. 用户调查 在选题的时候,我们面向北航所有本科在读本科生,发布了<北航信息平台用户调查>.此次问卷调查共回收有效问卷95份. 1.1 功能需求调查 调查其中一项是让同学们对平台功能进行选择,结果如图所示: 如上图,分数越高,表示该功能越受用户青睐.由于课程平均分.挂科率等数据需要和教务协商,我们决定优先实现资源共享功能. 1.2 用户行为调查 问题1:你是否需要一个平台,用于了解课程信息,并与其他同学交流? 问题2:如果这个平台上有课程相关的资源(如课件.考题.笔记等),你是否愿意以做出部…

从今天开始,我们将完成"公开课"课程的相关功能..... 1.把course-list.html复制到templates目录下 2.这个页面的头部.底部与之前定义的base.html模板是一样的,所以我们可以继承它,编辑course-list.html 3.在app.courses下新建urls.py文件,以后我们把课程相关的url都放在这个文件下 4.编辑项目根下的urls.py,把courses下面的urls.py包含进去 urlpatterns = [ ... #课程相关url配…

根据课程详情页面写一个获取数据模型的接口 目录的数据来自于课程计划表 右侧是课程的图片 需要写一个接口 获取课程相关的所有信息. 所以就需要一个模型类,里面包含了基本信息.图片信息.等各种详情页面的信息数据 新建模型类 定义接口 controller service CourseMarket的dao类 service调用 重启服务测试…

最近做了一些和gnn相关的工作,经常听到GCN 和 embedding 相关技术,感觉很是困惑,所以写下此博客,对相关知识进行索引和记录: 参考链接: https://www.toutiao.com/a6690680620642730510/ graph embedding 技术学习 如何理解 Graph Convolutional Network(GCN): https://www.zhihu.com/question/54504471/answer/332657604 卷积神经网络的卷积核:…

java学习也有6个月之久,记录下课程相关知识点,目前我还没有掌握,so仅作技术点记录 鉴于在.NET上我封装了一套开发框架,虽去年按.NET封装的思路自己也弄了个java开发框架,还是感觉对java上知之甚少,学习java的目的是也想搭建一套支持分布式.集群部署的框架 1. 高并发网络多线程,NIO+Reactor方案 2. 消息中间件,Kafka+zookeeper 支持动态扩容 3. 负载均衡,常用的是Nginx,更多的组合可以使用DNS+ (LVS/Nginx) 负债均衡 4. 缓存中间…

最新的Java架构师完整资料,完整视频+源码+文档. 每一套都是一百多个G的资料,无密. JAVA架构师全套课程 咕泡学院互联网架构师第一期 咕泡学院互联网架构师第二期 咕泡学院互联网架构师第三期 博学谷javaee在线就业2.0加薪课(价值15000) 开课吧2019廖雪峰JavaEE企业级分布式高级架构师完整版 享学课堂JAVA互联网架构师VIP 蚂蚁金服微服务互联网架构第一期-Java高端培训视频教程 蚂蚁金服微服务互联网架构第二期-Java高端培训视频教程 蚂蚁金服微服务互联网架构第三期…

课程介绍:        讲课内容涉及Java互联网技术工程框架.应用框架.        性能调优 (Tomcat Nginx JVM)         分布式框架(并发编程 Zookeeper Netty dubbo Redis)        微服务框架( Spring Cloud Docker虚拟化 微服务架构 )等知识点        预习资料+全程答疑+名师直播+课堂笔记        课后作业+作业批改+项目源码+阶段考试 课程目录:        ├─01.VIP课程-互联网工程…

考试第二部分:MySQL数据库 6.  MySQL中char和varchar的区别(1分) char是定长,varchar是变长. char的查询速度比varchar要快. 7.   MySQL中varchar(50)的50表示什什么意思?(1分) 是字符长度.一个中文,也是一个字符. 8. left join.right join以及inner join的区别?(2分) left join,表示左连接,以左表为基准,如果左表有不匹配的,显示为空 right join,表示右连接,以右表为基准,…

昨日内容回顾 第一部分:考试题(Python基础) 第二部分:路飞相关 1. 是否遇到bug?难解决的技术点?印象深刻的事? - orm操作费劲 - 最开始学习路由系统时候,匹配规则: 答案一: 有,但主要不是在技术上而是在业务上:在支付时:贝里.支付宝.满减.立减.折扣: 答案二: 编写API时,如果继承ModelViewSet相关的类之后,必须在静态字段中写:queryset class AuthView(ModelViewSet): queryset = models.xxx.all()…