您的位置  > 互联网

数据搜集开始,的三个关键步骤和解决方案的利弊

1 简介

在企业竞争日益激烈的今天,尽快了解公司线上业务运营情况并做出紧急调整,直接决定了项目能否尽快占领市场、储存、加工。 根据不同业务类型,数据一致性,准海量数据处理

1 简介

在企业竞争日益激烈的今天,尽快了解公司线上业务运营情况并做出紧急调整,直接决定了项目能否尽快占领市场、储存、加工。 根据不同的业务类型,数据的一致性、准确性、实时性将决定数据处理系统的成败,从而影响项目的命运。 本文将从数据采集的介绍开始,然后根据不同的业务类型指出相应的解决方案。

权衡各种选择的利弊。

2数据收集

本文讨论的重点是关系数据库解决方案以及解决方案的比较,但在此之前,先对数据收集进行简要介绍。 为了了解后续情况,收集业务数据有两种选择。 服务器自动发送,服务

客户端记录日志并由数据采集系统的客户端进行采集和发送。 为了减少

对于业务之间的耦合,我们会采用第二种方案,即业务相关的服务以特定的格式记录日志,并由客户端收集。 在业务相关的服务中,我们只需要按照特定的格式添加日志写入接口即可。

3数据存储

对于海量数据的处理,数据存储在后续的应用和维护中占据着核心地位。

设计良好的存储模型和设计不合理的模型在资源消耗上存在巨大差异,针对具体问题设计合理的解决方案可以收到事半功倍的效果。

当业务规模较小、业务类型单一时(比如一些初创游戏公司),需要关注的主要数据是部分游戏的在线、登录、退出、付费次数等。 ,反映了项目的重要特征。 (当这些特性的性能很低时,如果不是服务器问题,公司管理者应该担心项目的未来)。 这些数据需要极高的一致性,

最好记录详细信息(详细信息通常由提供业务支持的相关系统维护)。 对于此类数据,需要为每个业务逻辑开发一个标识符。 当数据被收集时,(数据处理)服务器会用这个标识符来区分数据,但不需要维护时间关系。

NOSQL 的想法

“NoSQ 是一个经常用来描述 Web 开发人员越来越多地使用非关系数据库的术语。”[3]

随着公司业务类型的多元化和业务的深入,越来越多的项目浮出水面,尤其是无线项目。 由于此类项目往往是用户下载客户端后直接由客户端提供,因此仅限于分发。 由于制造商对产品发布的限制,不方便因数据收集需要频繁修改产品。 以及业务的深度

投资也将带来越来越详细的数据要求。 在这种情况下,类似的事情

为每个业务逻辑识别关键操作数据的方法将变得非常低维护(想象一下游戏中的所有道具、所有任务和所有 NPC < 是

执行数据收集以产生结果的行为需要创建

(有了一定的识别,系统开发人员和维护人员就会不知所措)。 这个时候,本地数据将会以几何速度增长。 正如[1]中所述,“这些数据的读写操作大部分都是基于主键的,并且不需要基于RDBM的复杂功能,但是为了维护这些数据