大数据建模流程之任务分析

大数据建模流程之任务分析上一篇文章我们简单阐述了,大多数研究者在进行大数据分析时,所存在的逻辑问题,并简明扼要的对大数据建模流程进行了说明,那么为了使大家更加清晰每一个步骤的具体内容,我们将每一个模块展开分析。详细阐述流程中具体要做的工作内容?一.宏观角度无论是大数据还是人工智能技术,其实都是需求或者项目主题的实现手段,商业上希望技术能够将产品向商品转化,或者对市场进行科学的分析,从而引导公司决策更符合市场需求;科研上希望技术能够进行多学课融合,使得科研结果更具有说服力,亦或者是技术本身的创新与变革,使得科技文明不断发展。由此

大家好,又见面了,我是你们的朋友全栈君。

上一篇文章我们简单阐述了,大多数研究者在进行大数据分析时,所存在的逻辑问题,并简明扼要的对大数据建模流程进行了说明,那么为了使大家更加清晰每一个步骤的具体内容,我们将每一个模块展开分析。详细阐述流程中具体要做的工作内容?
一.宏观角度
无论是大数据还是人工智能技术,其实都是需求或者项目主题的实现手段,商业上希望技术能够将产品向商品转化,或者对市场进行科学的分析,从而引导公司决策更符合市场需求;科研上希望技术能够进行多学课融合,使得科研结果更具有说服力,亦或者是技术本身的创新与变革,使得科技文明不断发展。由此看来,无论是商业界还是科研界,技术的核心作用是更为科学合理的解决实际问题。所以科研主题和业务需求是决定宏观方向和最终结果的地基。所以,需求的重要性决定了产品的价值。
下图清晰的阐述了目前流行的相关数据职业与需求的关系。
在这里插入图片描述
二.微观角度
当一个主题或者业务需求确定之后,我们需要做的第一个工作是尽可能的全面的去解析业务需求(主题),也就是大数据建模的第一步任务分析。Madge老师将从以下几个方面为大家一一说明:
1.准备工作
对于不同的主题或者业务需求所属的行业环境是不一样的,很多数据研究者是需要对业务所需要的环境有所了解的。但是,要是为了一次业务去学习一个行业这是不现实的,所以从以往文献中快速提取可用信息便是数据建模师必备的能力。除此之外,一个资深的数据建模师,有非常强的数据敏感度,当大量的数据出现在面前时候,凭借这种超强的数据敏感度和知识提取能力,是完全可以看出数据所呈现的就基本特征和可能的潜在关系。所以,资深的大数据建模师或者AI能够涉猎的领域非常广泛。
所以,当拿一个主题,首要的第一个任务就是通过各种方式了解行业背景,以及业务常识,方法有很多,如果具备我上述的能力的话,直接通过文献提取重要信息结合市场需求扩展即可。
2.任务分析
当行业背景或者主题的环境了解全面之后,就进入了最为重要的一步,就是任务分析,小编之前说过,任务分析越全面整体脉络也就越清晰,从而架构越完整,模型更容易搭建。那么任务分析对的内容是什么呢?我们用一张图说明。
在这里插入图片描述
根据上图我们能够观察到,任务分析大致分为了五个部分,至于第一部分任务描述,小编这里就不详细描述了。我们详细阐述一下:任务拆分,任务定类,确定任务环境。
为了能够更直观的反应各个步骤我们设立这样一个简单的项目场景,
例:已知过去20年某一个GDP,我们来预测未来五年该城市GDP的走向。
(当然,这里我们只是用这个例子做一步骤引导。切不可当成一个完整的项目去看。)
首先,我们知道这是一个研究一个城市经济发展状况的案例,所以要进行经济环境的基本描述,另外补充国民经济的相关常识,这些我们就不在赘述。
2.1任务拆分
当一个任务被指定或者一个主题被提出,我们不难发现他们所需要处理的问题并不只是一个。我们需要考虑该任务所包含的子问题的需要解决。当然,这就去取决于建模师对问题的认知和业务常识了,所以这一步份往往需要参考文献,或者同专业领域的专家进行合作。
例如:就研究GDP而言,就有可能存在以下子问题。
A.整体市场大环境的评估,属于稳定期,飞速发展时期,还是动荡时期等。
B.该城市的人口结构以及人口增长进行预测分析。
C.该城市的产业结构变动
D.该城市的GDP的变化
以上我们只是简单的罗列出几条,当然任务拆分由于角度不同会长产生很多子问题,有很多时候我们只选择我们需求的角度详细分析即可。但是,一定要能够说明单个子问题产生的原因。
例如,一个城市的GDP一定是受市场经济状况,社会是否稳定,或者是否出现不可抗因素等影响的。因此,对大环境的评估将是一个很重要的问题。当然有些时候我们也可以假定是稳定期,这取决于你自己的需求和所处的环境。
2.2任务定类
当子问题确定之后,对问题进行定类是十分重要的。定类主要考虑的是子问题的类别,是分类,回归,关联关系等?当然还要分析是有监督还是无监督?至于问题的类别,有时间我们会详细阐述。
例如:在上述例子中,我们的子问题对应的类别可以这样评定。
在这里插入图片描述
2.3 确定任务环境
确定任务环境主要是指数据环境。
第一:要先确定你所选择的子任务是作为假设还是具体的分析对象;
第二:确定你的数据集是文本,语音,图像还是数值;
第三:对单个子问题进行背景描述。
2.4 梳理逻辑
将以上任务分析总结一个逻辑框架,进行整理。

推荐大家关注公众号,有很多有意思的的知识,可免费领取学习资料哦
在这里插入图片描述

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/135828.html原文链接:https://javaforall.net

(0)
上一篇 2022年6月4日 下午3:16
下一篇 2022年6月4日 下午3:16


相关推荐

  • Excel 8000401a 错误 及解决办法[通俗易懂]

    Excel 8000401a 错误 及解决办法[通俗易懂]“/”应用程序中的服务器错误。——————————————————————————–检索COM类工厂中CLSID为{00024500-0000-0000-C000-000000000046}的组件时失败,原因是出现以下错误:8000401a。说明:执行当前Web请求期…

    2022年7月25日
    14
  • 第 2 章 马尔可夫决策过程

    第 2 章 马尔可夫决策过程策略评估智能体与环境之间的交互 智能体得到环境的状态后 它会采取动作 并把这个采取的动作返还给环境 环境得到智能体的动作后 它会进入下一个状态 把下一个状态传给智能体 1 马尔可夫奖励过程马尔可夫奖励过程 Markovreward MRP 是马尔可夫链加上奖励函数 在马尔可夫奖励过程中 状态转移矩阵和状态都与马尔可夫链一样 只是多了奖励函数 rewardfuncti 奖励函数 R 是一个期望 表示当我们到达某一个状态的时候 可以获得多大的奖励 这里另外定义了折扣因子

    2026年3月17日
    3
  • Azkaban简介

    Azkaban简介一 Azkaban 概论 1 1Azkaban 是什么 1 Azkaban 是由 Linkedin 公司推出的一个批量工作流任务调度器 2 主要用于在一个工作流内以一个特定的顺序运行一组工作和流程 它的配置是通过简单的 key value 对的方式 3 通过配置中的 dependencies 来设置依赖关系 这个依赖关系必须是无环的 否则会被视为无效的工作流 4 Azkaban 使用 job 配置文件建立任务之间的依赖关系 并提供一个易于使用的 web 用户界面维护和跟踪你的工作流 1 2 为什么需要工作流调度

    2025年7月24日
    9
  • Java 数据库进度条_java进度条

    Java 数据库进度条_java进度条练习 JProgressBar 结合 Timer 使用 代码如下 packageluoji importjava awt importjava awt event importjavax swing importjava util Timer importjava util TimerTask publicclassN staticJProgr

    2026年3月20日
    2
  • java 并发数_并发数和TPS的理解

    java 并发数_并发数和TPS的理解并发数可以理解为 单位时间内同时在线的人数 而这个数值是可以一直增大的 但是 TPS 就不一样了 TPS 受限于机器的硬件资源 最常见的就是 CPUload 当并发数在增大 CPUload 也会上升 一般当 load 到达 1 时 满载 也代表着 TPS 到达一个顶峰 如果并发数继续增大 那么 TPS 的曲线会下降 所以 如果用图来描述上述过程的话 并发数是一条直线 TPS 是一条抛物线 当 load 未满载时呈现上升 满载

    2026年3月17日
    2
  • 基于遗传算法的函数极值求取_遗传算法计算二元函数最大值

    基于遗传算法的函数极值求取_遗传算法计算二元函数最大值前面在《遗传算法通识》中介绍了基本原理,这里结合实例,看看遗传算法是怎样解决实际问题的。有一个函数:f(x)=x+10sin5x+7cos4xf(x)=x+10\sin5x+7\cos4x求其在区间[-10,10]之间的最大值。下面是该函数的图像:在本例中,我们可以把x作为个体的染色体,函数值f(x)作为其适应度值,适应度越大,个体越优秀,最大的适应度就是我们要求的最大值。

    2025年11月7日
    6

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号