-
![[bigdata-025] ubuntu 14.04 下用virtualbox安装ghost xp](/uploads/allimg/c200810/159E9C63aV0-1PD.gif)
[bigdata-025] ubuntu 14.04 下用virtualbox安装ghost xp
所属栏目：[大数据] 日期：2020-12-30 热度：55
市面上的各种ghost的iso很多。这里只说关键点 1.? 用xp ghost镜像启动，选择dos 2. 在dos执行 pq，进行分区 ??? 2.1 首先，选择建立一个“主要分割磁区”，这一点千万不要错，设置为C盘。文件格式根据xp ghost 指定的格式来，现在一般是ntfs。大概，4g就行了[详细]
-
[bigdata-026] 大数据principle No.1 “只有干净数据才能进入存
所属栏目：[大数据] 日期：2020-12-30 热度：93
这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，性能很爽。 3. 但是，如果你试图用大数据eco做[详细]
-
[bigdata-026] 大数据principle No.1~No.4
所属栏目：[大数据] 日期：2020-12-30 热度：63
Principle No.1 只有干净的数据才能进入存储。 这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，[详细]
-
大数据处理算法一：BitMap算法
所属栏目：[大数据] 日期：2020-12-30 热度：68
腾讯面试题：给20亿个不重复的unsigned int的整数，没排过序的，然后再给一个数，如何快速判断这个数是否在那40亿个数当中并且所耗内存尽可能的少？ ?解析:bitmap算法就好办多了 ?所谓bitmap，就是用每一位来存放某种状态，适用于大规模数据，但数据状态又不[详细]
-
大数据处理算法二：Bloom Filter算法
所属栏目：[大数据] 日期：2020-12-30 热度：65
百度面试题：给定a、b两个文件，各存放50亿个url，每个url各占64字节，内存限制是4G，让你找出a、b文件共同的url？ Bloom?Filter 是由 Bloom 在 1970 年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不[详细]
-
企业BI系统应用的切入点及五大策略
所属栏目：[大数据] 日期：2020-12-26 热度：194
从技术的角度来看，BI的技术正在走向成熟，处于一个发展的阶段，但它促使了BI的应用在成本方面开始逐步的降低，越来越多的企业在BI应用方面取得了成功。从实施的角度来出发，实施商业智能系统是一项复杂的系统工程，整个项目涉及企业管理，运作管理，信息系[详细]
-
挖掘隐式启动Activity可能存在的坑
所属栏目：[大数据] 日期：2020-12-26 热度：184
今日科技快讯 很早之前，谷歌母公司Alphabet的董事长施密特就曾经表示，在中国市场，谷歌需要寻找到一个商业伙伴来开展自身的一些业务。而 近日有消息传出，谷歌和网易正在进行合作磋商，很可能是成立合资公司，在国内推出针对中国市场的Google Play应用商店[详细]
-
pyhive 连接 Hive 时错误
所属栏目：[大数据] 日期：2020-12-26 热度：72
一、User: xx is not allowed to impersonate xxx' 解决办法：修改 core-site.xml 文件，加入下面的内容后重启 hadoop 。 property namehadoop.proxyuser.xx.hosts/name value*/value/propertyproperty namehadoop.proxyuser.xx.groups/name value*/value/pr[详细]
-
分布式基础通信协议：paxos、totem 和 gossip（转载）
所属栏目：[大数据] 日期：2020-12-26 热度：53
背景： 在分布式中，最难解决的一个问题就是多个节点间数据同步问题。为了解决这样的问题，涌现出了各种奇思妙想。只有在解决了如何进行信息同步的基础之上才衍生出形形色色的应用。这里开始介绍几种分布式通信协议。 简单即有效——totem协议: totem协议也[详细]
-
Hive 导入 parquet 格式数据
所属栏目：[大数据] 日期：2020-12-26 热度：72
Hive 导入 parquet 数据步骤如下： 查看 parquet 文件的格式 构造建表语句 倒入数据 一、查看 parquet 内容和结构 下载地址 社区工具 GitHub 地址 命令 查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parque[详细]
-
Presto 常用配置及操作
所属栏目：[大数据] 日期：2020-12-26 热度：189
一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。 推荐阅读 Presto实现原理和美团的使用实践 二、安装 2.1[详细]
-
大数据的技术生态概述（转载）
所属栏目：[大数据] 日期：2020-12-26 热度：56
如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？ 大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各[详细]
-
九种常见的数据分析模型
所属栏目：[大数据] 日期：2020-12-26 热度：138
1. 漏斗分析模型 漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。 运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程步骤转化率的[详细]
-
大数据领域常用技术栈
所属栏目：[大数据] 日期：2020-12-26 热度：146
提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的发[详细]
-
Databricks说的Lakehouse是什么？
所属栏目：[大数据] 日期：2020-12-26 热度：171
? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。 数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代末问世以来[详细]
-
《Speed-BI云平台-基于Excel数据源的技巧应用：区域销售收入分析
所属栏目：[大数据] 日期：2020-12-26 热度：188
对于刚接触speed-BI的朋友们，一些看似很简单很琐碎的动作，当没有小窍门和智能化的操作就会使得工作量变大，时间耗起来真要命。本次课就将围绕speed-BI常用的功能进行串讲，还有特别的小技巧一并教授，成为speed-BI的技巧王！ ? 课程应用： 本次课程以销售[详细]
-
[bigdata-042]从头搭建 spring+mvc+boot+tomcat
所属栏目：[大数据] 日期：2020-12-26 热度：51
1. 需求 1.1 在spring.io下载一个spring mvc的demo，能运行成功。 1.2 按照自己的理解，重写这个例子，并做适当修改，运行成功。 1.3 将这个例子打包成war包，放到tomcat运行成功。 2. 在spring.ip下载spring mvc并运行 2.1 spring的例子在 http://spring.io[详细]
-
[bigdata-043] tomcat的一些资料和文档试用（ 未整理）
所属栏目：[大数据] 日期：2020-12-26 热度：73
1. tomcat的官网在这里 http://tomcat.apache.org/whichversion.html 2. tomcat的版本跟jdk相关。jdk1.8已经广泛使用，选择tomcat 9优先。 3. 下载tomcat 9 3.1 首先要阅读文档 https://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-9/v9.0.0.M17/REA[详细]
-
[bigdata-044] CDH的官方文档部分翻译（未整理且未完成）
所属栏目：[大数据] 日期：2020-12-26 热度：187
1. cloudera官网 http://www.cloudera.com/ 2. cloudera文档 http://www.cloudera.com/documentation.html 3. 文档分为三个部分 ? 3.1 cloudera enterprise: cdh,cloudera manger,search,impala,spark。 ? 3.2 cloudera director: 安装指南，配置，以及使用c[详细]
-
慧眼云：基于云计算和大数据分析的主动防御实践
所属栏目：[大数据] 日期：2020-12-26 热度：154
http://www.csdn.net/article/1970-01-01/2825623 不论IT如何变迁，网络安全始终是不过时的话题。但不同环境的网络安全有不同的内涵，当前全产业转型“互联网+”，云计算、大数据和移动互联网技术的普及应用，极大地改变了IT架构，网络边界越来越模糊，同时[详细]
-
[bigdata-045] redis故障处理 #34;Can#39;t save in backg
所属栏目：[大数据] 日期：2020-12-26 热度：133
发现官网出错了。经过检查，发现连接不到redis。检查redis的log，发现错误 Can't save in background: fork: Cannot allocate memory 搜索相关资料，这里说的比较详细 http://www.cnblogs.com/qq78292959/p/3994341.html http://blog.csdn.net/zqz_zqz/artic[详细]
-
[bigdata-046] eclipse+spring开发web然后部署到tomcat
所属栏目：[大数据] 日期：2020-12-26 热度：176
1. 用eclipse开发spring，需要使用相关的ide 2. spring官网的ide https://spring.io/tools/eclipse 3. spring的tool suite https://spring.io/tools/sts 这个是专用开发spring的。 选择 https://spring.io/tools/sts/all 这里的linux64版本。 4. 在eclipse e[详细]
-
大数据分析与处理
所属栏目：[大数据] 日期：2020-12-26 热度：53
? ? 一、大数据分析与处理 1.文件批处理 ??????以MapReduce、Hive为典型代表，批处理模式解决了传统的数据仓库无法处理海量数据的难题。通过批处理计算引擎，使得海量数据分析成为可能。没有批处理引擎的诞生，也就没有今天风风火火的大数据。 ??????数据通[详细]
-
nyoj517 最小公倍数 （大数）
所属栏目：[大数据] 日期：2020-12-26 热度：151
描述 为什么1小时有60分钟，而不是100分钟呢？这是历史上的习惯导致。 但也并非纯粹的偶然：60是个优秀的数字，它的因子比较多。 事实上，它是1至6的每个数字的倍数。即1,2,3,4,5,6都是可以除尽60。 我们希望寻找到能除尽1至n的的每个数字的最小整数m. 输入[详细]
-
撇开技术，初识实时数据处理
所属栏目：[大数据] 日期：2020-12-26 热度：86
hello！艾瑞巴蒂！ 今天俺给大家换换心情，撇开技术，聊聊实时数据处理的前世今生。 曾经有那么几年的光阴，整个业界（大数据）言必称Hadoop，撩个妹不懂点Hadoop都被人看不起。 当然，hadoop在海量数据处理上绝对是毫无争辩的霸主： 比如 百度用户短时间对[详细]
