NeroKamin
V2EX  ›  Hadoop

请教一下 Hadoop 在生产环境可以通过 Docker 安装吗?

  •  
  •   NeroKamin · Mar 4, 2024 · 2605 views
    This topic created in 842 days ago, the information mentioned may be changed or developed.
    背景:新入职的一家传统公司,开发运维的活都要自己干。领导不懂技术,今年定下的目标是要在公司内搞一个大数据平台,指定要部署一套 Hadoop 集群,让我来负责。我感觉按目前公司的业务来说根本用不到,基本上属于是绩效工程,我自己也对这方面没有太多研究。很早以前接触过一点 Hadoop ,印象就是安装配置挺麻烦的,所以我想来请教下在生产环境上能否使用 Docker 来简化 Hadoop 的安装配置,是否有什么坑?
    12 replies    2024-03-12 14:40:46 +08:00
    cutiechi
        1
    cutiechi  
       Mar 4, 2024
    太可以了,现在政府的底层都是在 k8s 上了
    NeroKamin
        2
    NeroKamin  
    OP
       Mar 4, 2024 via iPhone
    @superchijinpeng 没有 k8s 环境,弄 k8s 感觉更复杂了。我想直接用 docker compose ,但这样是不是就和 hadoop 伪分布式集群差不多了,组件都跑在一个机器节点上了
    cus
        3
    cus  
       Mar 4, 2024 via iPhone
    单机就没有任何必要布集群了
    cus
        4
    cus  
       Mar 4, 2024 via iPhone
    可以看看阿里云的 lindorm ,我们之前的场景 lindorm 成本和自建接近。
    NeroKamin
        5
    NeroKamin  
    OP
       Mar 4, 2024
    @cus 绩效工程,领导要啥就只能做啥,打工人没有拍板的权力。领导要 Hadoop 就得上 Hadoop ,领导要 Docker 就得用 Docker 。
    其实我主要是想问在不引入 k8s 、docker swarm 等的情况下有没有比较好的方案编排这些组件,并且不是单机集群
    luckybearops
        6
    luckybearops  
       Mar 5, 2024   ❤️ 1
    我的理解,应该是有 ansible 编排的 hadoop 集群,可以去 GitHub 找找
    kneo
        7
    kneo  
       Mar 5, 2024 via Android
    能。生产环境常用。当然坑很多,说有一百个坑都不为过。你想一个都不踩是不可能的。该踩的都得踩一遍,都是经验,就别想着避坑了。
    ispong
        8
    ispong  
       Mar 5, 2024
    合作一下? 😊
    ispong
        9
    ispong  
       Mar 5, 2024
    NeroKamin
        10
    NeroKamin  
    OP
       Mar 5, 2024 via iPhone
    @ispong 这是啥?你们公司的产品吗
    NeroKamin
        11
    NeroKamin  
    OP
       Mar 5, 2024
    @kneo #7 能分享一下经验吗
    ispong
        12
    ispong  
       Mar 12, 2024
    @NeroKamin 是的, 4 月份推广. 应该对你有所帮助,感觉我们可以合作
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1105 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 23:16 · PVG 07:16 · LAX 16:16 · JFK 19:16
    ♥ Do have faith in what you're doing.