大数据_站长网

打包带走！史上最全的大数据分析和制作工具

所属栏目：[大数据] 日期：2020-12-31 热度：77

来源：数之联大数据（ID：unionbigdata）工欲善其事，必先利其器。作为在大数据领域摸爬滚打叱咤风云的伙计们，也应当有一些实用工具来辅助工作日常。下面是小编精心整理的一些经检测非常实用的工具及网站，呈给大家~~ 数据可视化工具说到数据呈现，必然[详细]
媒体|郑宇：用大数据预测雾霾是如何做到的？

所属栏目：[大数据] 日期：2020-12-31 热度：125

（本文由澎湃新闻授权转载。） ? 全球范围里，有超过半数的人类居住在城市之中，城市化的进程也从未停止过。面对越来越庞大的城市，许多事情已经超出了控制：拥堵的交通，严重的空气污染，让人烦躁的噪音等等。 ? 没有人真正了解城市中到底发生了什么，也没[详细]
25、Power Query-日期与时间数据处理

所属栏目：[大数据] 日期：2020-12-31 热度：194

本节知识点：Power Query-日期与时间数据处理日期与时间数据处理功能位置（同样在“转换”和“添加列”菜单中都存在）：这里重点讲解一下某些知识点。比如年限：意思是当前系统日期减去选中列的日期，结果以“天时分秒毫秒”方式显示。月份下面的“一个[详细]
数据意识崛起，从企业应用看BI软件的未来发展

所属栏目：[大数据] 日期：2020-12-31 热度：164

前阵子，和一群企业CIO聊天，希望从甲方角度看看对BI产品的看法。在问及一些成熟企业为何不上BI项目时，大家纷纷表示目前还处于观望状态。提及BI，大家都觉得有些飘忽，和大数据一样，听着高大上，能真正实现落地的并没有多少，性价比甚至不如一个报表工具[详细]
宋慧庆|广告系统中的大数据处理

所属栏目：[大数据] 日期：2020-12-31 热度：85

宋慧庆，时趣互动移动广告架构师十余年互联网老司机，具有多年互联网广告系统研发经验，负责研发个性化动态创意系统，用户画像标签系统以及大数据治理；对编程语言有浓厚的兴趣。什么是大数据？从具备4V（Volume，Velocity，Variety，Value）特征的大量[详细]
[bigdata-023] pymongo 3.4和mongodb 2.x的安全机制导致的用户认

所属栏目：[大数据] 日期：2020-12-30 热度：70

#!/usr/bin/env python3#! coding:utf-8 -*-import pymongo"""python3.4.0 + mongo 2.4.14"""client = pymongo.MongoClient('114.55.239.66')client.tzdb1.authenticate("tzuser1","user1688",mechanism='MONGODB-CR')db = client["tzdb1"]devsycredit = db[[详细]
大数求和问题（C++版本）

所属栏目：[大数据] 日期：2020-12-30 热度：108

大数求和其实是个纯模拟，我们小学2年级老师就我们通过列竖式求加法，从个位开始加，进位+1，唯一需要值得注意的是我们求出来的结果要为有效值，即00001=1,0000=0 #include iostream#include stringusing namespace std;string nAB(string A,string B);strin[详细]
[bigdata-024] 在centos 6.5上手工安装mongodb 3.2.5

所属栏目：[大数据] 日期：2020-12-30 热度：61

1. 操作系统 centos 6.5 2. 删除旧版本 kill xxxx yum erase mongodb.x86_64 rm /etc/mongod.conf rm /init/mongo* rm /init.d/mongo* locate mongo 删除全部mongo的相关文件 updatedb -U / 3. 下载mongo http://downloads.mongodb.org/linux/mongodb-linux-[详细]
大数幂运算

所属栏目：[大数据] 日期：2020-12-30 热度：138

还是纯模拟，只可意会，不可言传，回到4年级，然后自己体会 #include stdio.h#include string.husing namespace std;#define MAX 40001int s[MAX];int nbit;void Init();void EXP(int nb,int ne);void vout(int x);int main(){ int base,exp; while(~scanf("[详细]
414. Third Maximum Number

所属栏目：[大数据] 日期：2020-12-30 热度：108

Given a non-empty array of integers,return the third maximum number in this array. If it does not exist,return the maximum number. The time complexity must be in O(n). Example 1: Input : [3,2,1] Output : 1 Explanation : The third maximum i[详细]
[bigdata-025] ubuntu 14.04 下用virtualbox安装ghost xp

所属栏目：[大数据] 日期：2020-12-30 热度：55

市面上的各种ghost的iso很多。这里只说关键点 1.? 用xp ghost镜像启动，选择dos 2. 在dos执行 pq，进行分区 ??? 2.1 首先，选择建立一个“主要分割磁区”，这一点千万不要错，设置为C盘。文件格式根据xp ghost 指定的格式来，现在一般是ntfs。大概，4g就行了[详细]
[bigdata-026] 大数据principle No.1 “只有干净数据才能进入存

所属栏目：[大数据] 日期：2020-12-30 热度：93

这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，性能很爽。 3. 但是，如果你试图用大数据eco做[详细]
[bigdata-026] 大数据principle No.1~No.4

所属栏目：[大数据] 日期：2020-12-30 热度：63

Principle No.1 只有干净的数据才能进入存储。这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，[详细]
大数据处理算法一：BitMap算法

所属栏目：[大数据] 日期：2020-12-30 热度：68

腾讯面试题：给20亿个不重复的unsigned int的整数，没排过序的，然后再给一个数，如何快速判断这个数是否在那40亿个数当中并且所耗内存尽可能的少？ ?解析:bitmap算法就好办多了 ?所谓bitmap，就是用每一位来存放某种状态，适用于大规模数据，但数据状态又不[详细]
大数据处理算法二：Bloom Filter算法

所属栏目：[大数据] 日期：2020-12-30 热度：65

百度面试题：给定a、b两个文件，各存放50亿个url，每个url各占64字节，内存限制是4G，让你找出a、b文件共同的url？ Bloom?Filter 是由 Bloom 在 1970 年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不[详细]
企业BI系统应用的切入点及五大策略

所属栏目：[大数据] 日期：2020-12-26 热度：194

从技术的角度来看，BI的技术正在走向成熟，处于一个发展的阶段，但它促使了BI的应用在成本方面开始逐步的降低，越来越多的企业在BI应用方面取得了成功。从实施的角度来出发，实施商业智能系统是一项复杂的系统工程，整个项目涉及企业管理，运作管理，信息系[详细]
挖掘隐式启动Activity可能存在的坑

所属栏目：[大数据] 日期：2020-12-26 热度：184

今日科技快讯很早之前，谷歌母公司Alphabet的董事长施密特就曾经表示，在中国市场，谷歌需要寻找到一个商业伙伴来开展自身的一些业务。而近日有消息传出，谷歌和网易正在进行合作磋商，很可能是成立合资公司，在国内推出针对中国市场的Google Play应用商店[详细]
pyhive 连接 Hive 时错误

所属栏目：[大数据] 日期：2020-12-26 热度：72

一、User: xx is not allowed to impersonate xxx' 解决办法：修改 core-site.xml 文件，加入下面的内容后重启 hadoop 。 property namehadoop.proxyuser.xx.hosts/name value*/value/propertyproperty namehadoop.proxyuser.xx.groups/name value*/value/pr[详细]
分布式基础通信协议：paxos、totem 和 gossip（转载）

所属栏目：[大数据] 日期：2020-12-26 热度：53

背景：在分布式中，最难解决的一个问题就是多个节点间数据同步问题。为了解决这样的问题，涌现出了各种奇思妙想。只有在解决了如何进行信息同步的基础之上才衍生出形形色色的应用。这里开始介绍几种分布式通信协议。简单即有效——totem协议: totem协议也[详细]
Hive 导入 parquet 格式数据

所属栏目：[大数据] 日期：2020-12-26 热度：72

Hive 导入 parquet 数据步骤如下：查看 parquet 文件的格式构造建表语句倒入数据一、查看 parquet 内容和结构下载地址社区工具 GitHub 地址命令查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parque[详细]
Presto 常用配置及操作

所属栏目：[大数据] 日期：2020-12-26 热度：189

一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。推荐阅读 Presto实现原理和美团的使用实践二、安装 2.1[详细]
大数据的技术生态概述（转载）

所属栏目：[大数据] 日期：2020-12-26 热度：56

如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各[详细]
九种常见的数据分析模型

所属栏目：[大数据] 日期：2020-12-26 热度：138

1. 漏斗分析模型漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程步骤转化率的[详细]
大数据领域常用技术栈

所属栏目：[大数据] 日期：2020-12-26 热度：146

提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的发[详细]
Databricks说的Lakehouse是什么？

所属栏目：[大数据] 日期：2020-12-26 热度：171

? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代末问世以来[详细]

8773

296