Copy-On-Write 策略
Copy-On-Write 策略
|
操作系统在分配内存时,有一个很重要的策略叫写时复制(Copy-On-Write,COW),在现实情况中,内存通常是不够应用程序分配的,应用程序通常会申请超过自己需求的内存。在操作系统内部,COW 对进程 fork 也有加速作用。我们先从操作系统的 fork 操作来理解。当一个进程进行 fork 时,
Raft 详解
Raft 详解
|
共识算法Raft 是一种共识算法,共识算法是一种在分布式系统中非常重要的算法,他允许在一个节点集合中,即使某些节点挂了,对外的服务仍然还是一致的。最经典的模型是拜占庭问题,假设现在有几个将军和他们的军队围攻一个城市,这些将军必须通过传令兵来通信。他们需要对攻击还是撤退达成一致的决定,只有半数以上的军
MapReduce 详解
MapReduce 详解
|
前言MapReduce 作为谷歌三剑客之一,在分布式系统领域有非常重要的作用,他带来 Map-Reduce 的分布式任务处理框架推动了分布式系统的发展。对于 MapReduce,其可以简单概括为两个步骤,第一个是 Map,第二个是 Reduce。Map 的操作在于把原始巨大的任务打碎拆散,方便多个计
力扣 407 接雨水 II
力扣 407 接雨水 II
|
力扣 |
0 评论
题目描述给你一个 m x n 的矩阵,其中的值均为非负整数,代表二维高度图每个单元的高度,请计算图中形状最多能接多少体积的雨水。示例 1:输入: heightMap = [[1,4,3,1,3,2],[3,2,1,3,2,4],[2,3,3,2,3,1]]输出: 4解释: 下雨后,雨水将会被上图蓝色
经典互斥问题:面包店算法
经典互斥问题:面包店算法
|
介绍面包店算法是在多线程环境下无锁的互斥算法,能够保证在多线程的环境下,临界区同时至多只有一个线程进入。虽然算法回看起来并不难,但却是图灵奖得主 Lamport 最骄傲的成果之一。面包店算法要解决的本质是一个互斥问题,其是由 Dijkstra 提出的,另一个图灵奖得主。在计算机发展过程中,有相当多人
The Google File System 详解
The Google File System 详解
|
什么是 GFS?GFS 全称为 Google File System,是一个分布式的文件系统,GFS 实际上是部署在分布式的环境中,但是提供的文件服务好像就在单机上运行一样。程序员不需要知道分布式的任何细节,就像使用本地文件一样读取或写入在分布式环境上储存的文件。GFS 为大型数据密集型的应用提供了
归一化那些事
归一化那些事
|
归一化那些事为什么要归一化?在对神经网络训练的过程中,未归一化的数据可能会导致陡峭的优化曲面,导致其在优化参数的过程中对学习率敏感,从而难以收敛,也就难以训练。举个简单的例子,如果数据有两个特征维度,其中一个其值在 0-1 之间,另一个在 0-10000 之间,为了优化第一个特征,显然其学习率应该低
图神经网络:GCN
图神经网络:GCN
|
图神经网络:GCNGCN 基本原理在机器学习中,我们常用 MLP、CNN、RNN 等网络来对数据进行特征学习,这些网络对数据都有一个要求,那就是维度是确定的、是规则的,否则就无法进行学习。也就是说,这些网络的数据是在欧氏空间中的,它是一种向量空间,存在距离、角度等几何意义。但是图结构是一种非欧结构,
Attention 直观理解
Attention 直观理解
|
什么是 Attention?通常很多教程或教材会告诉你,Attention 就是一种注意力,它可以让你关注更应该关注的,而忽略那些不应该关注的,Attention 通常代表某种兴趣点或关联性,Attention 机制使得模型会更关注有关联性的特征。但是这种表达非常抽象,即使是用了比喻的方法,仍然不好
循环神经网络 RNN 简析
循环神经网络 RNN 简析
|
循环神经网络 RNN前言要看懂这篇文章需要你对机器学习有基本的了解,至少了解 MLP 的原理,本文并不是零基础文章。时序数据与模型时序数据指的是一系列带有时序关系的数据,例如一段文本,先出现哪个字后出现哪个字是有时序关系的,字词顺序颠倒会导致意义不同,时序数据指的就是这一类数据点前后存在相关性的数据