-
文本挖掘:情感分析详细步骤(基础+源码)
所属栏目:[大数据] 日期:2021-02-18 热度:163
副标题#e# 词典型情感分析大致有以下几个步骤: 训练数据集、neg/pos情感词典、分词+数据清洗清洗(一、二、三级清洗步骤)、计算情感得分、模型评价 (1)在分析过程中,难免会产生很多中间变量,它们会占用大量内存。书中提到通常会将所有的临时中间变量[详细]
-
DB、ETL、DW、OLAP、DM、BI关系结构图
所属栏目:[大数据] 日期:2021-02-06 热度:101
(1)DB/Database/数据库——这里一般指的就是OLTP数据库,在线事物数据库,用来支持生产的,比如超市的买卖系统。DB保留的是数据信息的最新状态,只有一个状态!比如,每天早上起床洗脸照镜子,看到的就是当时的状态,至于之前的每天的状态,不会出现的你[详细]
-
R语言-数据处理
所属栏目:[大数据] 日期:2021-02-06 热度:148
Reading Data 读取表格数据的函数read.table()以及read.csv() readLines()用于逐行读取文本文件 source()读取R代码的重要函数 dget()用来读取R代码文件 load()和unserialize()用于把二进制对象读入R Writing Data write.table() writeLines() dump() dput([详细]
-
简单粗暴的“大数据“解决方案
所属栏目:[大数据] 日期:2021-02-06 热度:100
这里说“大数据”确实有点哗众取宠,但确确实实是解决一些大数据量的情况。比如常用的布隆过滤器(BloomFilter)、常用的文本相似比较算法SimHash等,这里介绍的都是看上去是简单粗暴的方法,但当你深入了解后你就会发现什么叫简约而不简单,掌握这些常用的[详细]
-
连续属性离散化
所属栏目:[大数据] 日期:2021-02-06 热度:145
副标题#e# 1. 离散化技术分类 连续属性的离散化方法也可以被称为分箱法,即将一组连续的值根据一定的规则分别放到其术语的集合中。 离散化技术可以根据如何对数据进行离散化加以分类,可以根据是否使用类信息或根据进行方向(即自顶向下或自底向上)分类。 如[详细]
-
【重!磅!干!货
所属栏目:[大数据] 日期:2021-02-06 热度:149
副标题#e# 查看之前文章请点击右上角 ,关注并且 查看历史消息 ,还可以在文章最后评论留言。谢谢您的支持! 回复【文本挖掘】或者【点击阅读原文】获取链接与代码附录 一、 功能概述 ? ? ? ?关键词词频网络图是以股票论坛、 个股新闻、研究报告三个网站作[详细]
-
51Nod-1116-K进制下的大数
所属栏目:[大数据] 日期:2021-02-06 热度:168
ACM模版 描述 题解 这里我们通过样例可以发现 A1A 的数位和是21,刚好是 K-1 的倍数,所以我们不妨多举几组数据测试一下,发现竟然都符合这个规律( ̄┰ ̄*),那么AC就不远了。 可是这里需要强调的是,K的最小值,如果K清一色的都是从2开始枚举,那么不用想[详细]
-
开源ETL工具kettle系列之常见问题
所属栏目:[大数据] 日期:2021-02-06 热度:65
副标题#e# 摘要 本文主要介绍使用kettle设计一些ETL任务时一些常见问题,这些问题大部分都不在官方FAQ上,你可以在kettle的论坛上找到一些问题的答案 问题 Join 我得到A 数据流(不管是基于文件或数据库),A包含field1,field2,field3 字段,然后我还有一个[详细]
-
开源ETL工具kettle系列之在应用程序中集成
所属栏目:[大数据] 日期:2021-02-06 热度:125
副标题#e# 摘要 本文主要讨论如何在你自己的Java应用程序中集成Kettle 集成 如果你需要在自己的Java应用程序中集成Kettle,一般来说有两种应用需求,一种是通过纯设计器来设计ETL转换任务,然后保存成某种格式,比如xml或者在数据库中都可以,然后自己调用程[详细]
-
开源ETL工具kettle系列之增量更新设计
所属栏目:[大数据] 日期:2021-02-06 热度:107
副标题#e# 前言 ETL中增量更新是一个比较依赖与工具和设计方法的过程,Kettle中主要提供Insert / Update 步骤,Delete 步骤和Database Lookup 步骤来支持增量更新,增量更新的设计方法也是根据应用场景来选取的,虽然本文讨论的是Kettle的实现方式,但也许[详细]
-
开源ETL工具kettle系列之动态转换
所属栏目:[大数据] 日期:2021-02-06 热度:139
副标题#e# 摘要 本文主要讨论使用Kettle来设计一些较为复杂和动态的转换可能使用到的一些技巧,这些技巧可能会让你在使用Kettle的时候更加容易的设计更强大的ETL任务。 动态参数的传递 Kettle 在处理运行时输入参数可以使用JavaScript 来实现,大部分工作只[详细]
-
开源ETL工具kettle系列之建立缓慢增长维
所属栏目:[大数据] 日期:2021-02-06 热度:94
副标题#e# 摘要 本文主要介绍使用kettle 来建立一个Type 2的Slowly Changing Dimension 以及其中一些细节问题 Kettle 简介 Kettle 是一个强大的,元数据驱动的ETL工具被设计用来填补商业和IT之前的差距,将你公司的数据变成可增长的利润. 我们先来看看Kettl[详细]
-
互联网金融之量化投资深度文本挖掘——附源码文档
所属栏目:[大数据] 日期:2021-02-06 热度:69
副标题#e# ?? 【重!磅!干!货[详细]
-
hdu1042 N!(大数)
所属栏目:[大数据] 日期:2021-02-06 热度:155
N! Time Limit: 10000/5000 MS (Java/Others)????Memory Limit: 262144/262144 K (Java/Others) Total Submission(s): 75069????Accepted Submission(s): 21870 Problem Description Given an integer N(0 ≤ N ≤ 10000),your task is to calculate N! ?[详细]
-
桑文锋:深入浅出大数据分析(PPT)
所属栏目:[大数据] 日期:2021-02-05 热度:110
导读 在DTCC 2016中国数据库技术大会“大数据创业”专场,Sensors Data CEO 桑文锋分享了主题为《深入浅出大数据分析》的演讲,作为一名资深大数据牛人,从大数据思维讲起,深入浅出剖析数据驱动的理念,常用的数据分析方法,推荐的思路,多维数据分析技术[详细]
-
文本相识度算法(余弦相似性、简单共有词、编辑距离、SimHash、
所属栏目:[大数据] 日期:2021-02-05 热度:135
文本相似度计算在信息检索、数据挖掘、机器翻译、文档复制检测等领域有着广泛的应用。 比如舆论控制,我们假设你开发了一个微博网站,并且已经把世界上骂人的句子都已经收录进了数据库,那么当一个用户发微博时会先跟骂人句子的数据库进行比较,如果符合里[详细]
-
余弦计算相似度度量
所属栏目:[大数据] 日期:2021-02-05 热度:121
余弦计算相似度度量 相似度度量(Similarity),即计算个体间的相似程度,相似度度量的值越小,说明个体间相似度越小,相似度的值越大说明个体差异越大。 对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何,一个好的做法就是将这些文本[详细]
-
大数运算和大数类
所属栏目:[大数据] 日期:2021-02-05 热度:193
1、首先看一个小问题: 整型数组、字符型数组、vector在未初始化的情况下: int main(){int data[5];char c[5];vectorint v(5);vectorchar v1(5);vectorint v2;cout "int[]:";for (int i = 0; i 5; i++){cout data[i] " ";}cout endl endl;cout "char[]:";[详细]
-
数据处理之——plyr
所属栏目:[大数据] 日期:2021-02-05 热度:179
本文主要介绍如何利用R中的plyr包对数据进行处理。plyr是R中做数据处理和加工的包,它可以用来做类似EXCEL数据透视表的操作。 split-apply-combine split-apply-combine是plyr包的基本思想,首先把大的数据集按照一定的规则对数据进行拆分(split),然后对每[详细]
-
金融行业的BI应用分析
所属栏目:[大数据] 日期:2021-02-05 热度:184
商业智能是一种提高企业智能化的手段,它可以满足企业发展的需要、提高企业的竞争力。同时,对于提高金融行业的风险管理、提升对外服务的质量都能够起到关键性的作用。 在市场竞争和银行业务转型期间,商业智能对于业务以及内部管理水平的提升起到了重要的[详细]
-
HDOJ -- 1002 大数A+B
所属栏目:[大数据] 日期:2021-02-05 热度:54
A + B Problem II Time Limit: 2000/1000 MS (Java/Others)????Memory Limit: 65536/32768 K (Java/Others) Problem Description I have a very simple problem for you. Given two integers A and B,your job is to calculate the Sum of A + B. ? Input[详细]
-
HDU 1402及51 nod1028 大数乘法 V2(FFT 快速傅里叶变换)
所属栏目:[大数据] 日期:2021-02-05 热度:116
1028?大数乘法?V2 基准时间限制:2?秒 空间限制:131072?KB 分值:?80? 难度:5级算法题 ?收藏 ?关注 给出2个大整数A,B,计算A*B的结果。 Input 第1行:大数A第2行:大数B(A,B的长度?=?100000,A,B?=?0) Output 输出A?*?B Input示例 123456234567 Output示[详细]
-
白帽笔记 | 我的“一日一洞”高效漏洞挖掘之旅
所属栏目:[大数据] 日期:2021-02-05 热度:125
作者:Shubham Shah,澳大利亚安全研究人员,专注于程序开发、渗透测试和黑客技术。2016年初被安全媒体评为10大著名“漏洞赏金猎人”之一。本文原名《高效漏洞挖掘:120天120个漏洞》 2016年初,我就给自己设定了一个目标:在这一年中,平均每天挖掘出一个[详细]
-
Disucz 插件漏洞挖掘
所属栏目:[大数据] 日期:2021-02-05 热度:119
副标题#e# 前言 Discuz 是北京康盛新创科技有限责任公司推出的一套通用的社区论坛软件系统。自2001年6月面世以来,Discuz!已拥有15年以上的应用历史和200多万网站用户案例,是全球成熟度最高、覆盖率最大的论坛软件系统之一。 来自第三方漏洞平台Discuz的查[详细]
-
技术分享 | 从白盒审计角度挖掘逻辑漏洞
所属栏目:[大数据] 日期:2021-02-05 热度:154
0x01 背景 ? ? ? 通常来讲,扫描器难以发现逻辑类漏洞,所以企业和安全研究者都比较重视这方面的漏洞。 ? ? ? 最近国外漏洞披露平台hackerone上,一位白帽子发现Uber一修改任意账户密码的逻辑漏洞,获得了$10000美元的奖励。 ? ? ? 所以如何通过代码审计来[详细]

浙公网安备 33038102330469号