混合框架：Apache Spark - 特点：同时支持批处理和流处理，提供内存计算和优化机制。- 优势：速度快，支持多种任务类型，生态系统完善。- 局限：流处理采用微批架构，对延迟要求高的场景可能不适用。 仅批处理框架：Apache Samza - 特点：与Apache Kafka紧密集成，适用于流处理工作负载。
五种大数据处理架构大数据是收集、整理、处理大容量数据集，并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力或存... 五种大数据处理架构大数据是收集、整理、处理大容量数据集，并从中获得见解所需的非传统战略和技术的总称。
大数据处理框架有：Hadoop、Spark、Storm、Flink等。Hadoop是Apache软件基金会所开发的分布式系统基础架构，能够处理大量数据的存储和计算问题。它提供了分布式文件系统，能够存储大量的数据，并且可以通过MapReduce编程模型处理大数据。
和Lambda类似，改架构是针对Lambda的优化。05 Unifield架构 以上的种种架构都围绕海量数据处理为主，Unifield架构则将机器学习和数据处理揉为一体，在流处理层新增了机器学习层。优点：提供了一套数据分析和机器学习结合的架构方案，解决了机器学习如何与数据平台进行结合的问题。
大数据处理工具有很多，主要包括以下几种： Hadoop Hadoop是一个由Apache基金会所开发的分布式系统基础架构，能利用集群的威力进行高速运算和存储。Hadoop的核心是HDFS，它是一个分布式文件系统，能够存储大量的数据，并且可以在多个节点上进行分布式处理。它是大数据处理中常用的工具之一。
常见的大数据处理工具有Hadoop、Spark、Apache Flink、Kafka和Storm等。 **Hadoop**：Hadoop是一个分布式计算框架，它允许用户存储和处理大规模数据集。Hadoop提供了HDFS（分布式文件系统）和MapReduce（分布式计算模型）两个核心组件，使得用户可以以一种可扩展和容错的方式处理数据。
Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、 Admaster等等。
Sqoop Sqoop是一个在Hadoop和联系数据库服务器之间传送数据的东西，便利大量数据的导入导出工作，其支持多种类型的数据存储软件。Sqoop的中心功能为数据的导入和导出。导入数据：从诸如MySQL、SQL Server和Oracle等联系数据库将数据导入到Hadoop下的HDFS、Hive和HBase等数据存储体系。
大数据分析工具有很多，主要包括以下几种： Hadoop Hadoop是一个允许在廉价硬件上运行大规模数据集的开源软件框架。它提供了分布式文件系统（HDFS），能够存储大量数据并允许在集群上进行并行处理。此外，Hadoop还提供了MapReduce编程模型，用于处理大规模数据集。
Hadoop - 数据处理的超级引擎 Hadoop，作为大数据处理的基石，以其卓越的特性脱颖而出。它是一个分布式计算框架，以其可靠性、高效性和可扩展性著称。Hadoop假设硬件和存储可能存在故障，因此通过维护多个数据副本来应对，确保即使有节点失效，也能迅速恢复。
1、数据处理的三种方法是：数据清洗、数据转换、数据分析。数据清洗 数据清洗是指对原始数据进行筛选、过滤和修正，以使其符合分析的要求。原始数据中可能存在着错误、缺失、重复、异常值等问题，这些问题都会影响数据的质量和分析的结果。因此，数据清洗是数据分析的第一步，也是最关键的一步。
2、列表法：是将实验所获得的数据用表格的形式进行排列的数据处理方法。列表法的作用有两种：一是记录实验数据，二是能显示出物理量间的对应关系。图示法：是用图象来表示物理规律的一种实验数据处理方法。一般来讲，一个物理规律可以用三种方式来表述：文字表述、解析函数关系表述、图象表示。
3、数据转换的三种主要方法是：数据标准化、数据归一化、和数据离散化。首先，数据标准化是一种常见的数据转换方法，它通过调整数据的尺度来使其符合标准正态分布，即均值为0，标准差为1。这种方法在处理多种不同尺度的特征时特别有用，因为它可以消除尺度差异对数据分析结果的影响。
4、一）数据的光滑 为了减少测量数据的统计涨落影响及地面偶然因素的影响，对原始测量数据进行光滑处理。消除随机影响。放射性测量数据光滑，最常用的光滑方法是多项式拟合移动法。
5、一般在数据分析前有特定的场景以及目的，有时可以根据分析目的进行选择分析方法，从而更快的进行数据分析。比如一组数据想要研究不同性别对于商场满意度是否有差异。也许可以使用方差、t检验、卡方检验等方法，但是具体选择哪种方法要根据数据类型以及结构来决定。在分析前我们需要选定分析方法以及对数据进行简单处理。
离线处理 离线处理方式已经相当成熟，它适用于量庞大且较长时间保存的数据。在离线处理过程中，大量数据可以进行批量运算，使得我们的查询能够快速响应得到结果。商业中比较常见的，就是使用HDFS技术对数据进行储存，然后使用MapReduce对数据进行批量化理，然后将处理好的数据进行存储或者展示。
大数据处理数据的方法：通过程序对采集到的原始数据进行预处理，比如清洗，格式整理，滤除脏数据等，并梳理成点击流行模型数据。将预处理之后的数据导入到数据库中相应的库和表中。根据开发elt分析语句，得出各种统计结果。将分析所得的数据进行数据可视化，一般通过图标进行展示。
图处理模式（Graph Processing）：针对数据之间的关系进行计算，通常以图的形式表示数据之间的联系，能够解决一些复杂的问题，如社交网络分析、路径规划、推荐系统等。这四种计算模式通常都需要在大规模分布式计算框架中实现，如Hadoop、Spark、Storm、Flink等，以应对大数据量的处理需求。
应用大数据平台，可以统一管理金融企业内部多源异构数据和外部征信数据，更好地完善风控体系。内部可保证数据的完整性与安全性，外部可控制用户风险。（3） 决策支持。通过大数据分析方法改善经营决策，为管理层提供可靠的数据支撑，从而使经营决策更高效、敏捷、精准。（4） 服务创新。
大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用（大数据检索、大数据可视化、大数据应用、大数据安全等）。数据采集如何从大数据中采集出有用的信息已经是大数据发展的关键因素之一。
1、小数位归一化 （Decimal Place Normalization）在数字数据表中，小数位归一化是基础的调整，Excel等工具默认保留两位小数，但可以通过设置统一整个表中的精度。这种归一化简单直观，但对数据类型的要求较高。
2、几种数据标准化的方法 （1）标准化 标准化 是一种最为常见的量纲化处理方式。其计算公式为：此种处理方式会让数据呈现出一种特征，即数据的平均值一定为0，标准差一定是1。针对数据进行了压缩大小处理，同时还让数据具有特殊特征（平均值为0标准差为1）。
3、数据标准化的方法有很多种，常用的有“最小—最大标准化”、“Z-score标准化”和“按小数定标标准化”等。经过上述标准化处理，原始数据均转换为无量纲化指标测评值，即各指标值都处于同一个数量级别上，可以进行综合测评分析。Min-max 标准化min-max标准化方法是对原始数据进行线性变换。
4、方法一：规范化方法 也叫离差标准化，是对原始数据的线性变换，使结果映射到[0，1]区间。方法二：正规化方法 这种方法基于原始数据的均值（mean）和标准差（standard deviation）进行数据的标准化。将A的原始值x使用z-score标准化到x’。
5、数据标准化处理方法为指标一致化处理和无量纲化处理。
6、其中最典型的就是数据的归一化处理，即将数据统一映射到[0，1]区间上，常见的数据归一化的方法有： min-max标准化（Min-max normalization）也叫离差标准化，是对原始数据的线性变换，使结果落到[0，1]区间，转换函数如下： 其中max为样本数据的最大值，min为样本数据的最小值。
